【论文阅读笔记】Deepr: A Convolutional Net for Medical Records

Phuoc Nguyen, Truyen Tran, Nilmini Wickramasinghe, SvethaVenkatesh 2016

本文提出一种端到端的深度学习系统，使用CNN自动从医疗数据中提取特征并预测未来的医疗风险。

I.         Introduction

Electronic medical records (EMRs)记录了病人的诊疗记录，以EMR为核心预测病人情况的核心问题就是病人的表示，这属于特征工程的范畴。EMR是具有时间戳的序列数据，包含诊断编码，诊断过程编码，实验室化验，文本简述。同一个病人两次不同的看病记录时间间隔是随机的。现有的预测模型主要通过人工提取特征，费时费力，且忽略了EMR之间的关联。本文提出的模型使用CNN自动提取特征。

Deepr的灵感来源于CNN用于自然语言处理。它是一个多层结构，最关键的操作是底层将EMR转换短语组成的句子，句子由代表时间间隔的特殊短语分隔。

 

II.      Background

EMR包含病人人口学信息和病人看病的序列信息，其中住院信息包含入院时间、出院时间、化验、诊断结果（diagnoses）、诊断过程（procedures）、开药（medications）、病情描述（cinicalnarratives）。其中diagnoses、pocedures和medications是离散数据。如diagnoses由ICD-10编码，pocedures由CPT (Current ProceduralTerminology)或 ICHI (InternationalClassification of Health Interventions)编码。

 

III.     Deepr:A DEEP NETFOR MEDICAL RECORDS

（1）    总体结构

分层结构：最底层完成EMR序列化为句子(sentence)，中间层将词(word)嵌入欧拉空间，顶层使用CNN识别小的 localmotifs，local motifs经过Relu非线性化后进行Max-Pooling池化形成EMR级别的特征，最后使用线性分类器进行预测。过程如下：

由于CNN是监督学习，需要标签，但如有些新病人没有标签，文中通过Word2Vec解决。

(2)Sequencing EMR

      文章主要关注diagnosesand treatments (which involve clinical procedures and medications)。使用ICD-10、CPT和自己新创的词（如TRANSFER表示转院、RAREWORD表示不常见的词）完成EMR序列化。

(3)CNN

首先将词转化为连续的向量，文章没有使用one-hot，而是word embedding减少复杂度。卷积层由不同filter卷积的结果经过池化层得到全局的sentence-level向量。最后使用线性单元进行分类。

I.         实现

数据使用澳大利亚一个大型私立医院July 2011 – December 2015的数据。