电子病历存储着有关医院患者的宝贵信息，但是它们通常是分散且无组织的，这使得很难使用AI系统以省时省力的方式对他们进行分析。幸运的是，纽约大学和普林斯顿大学的研究人员已经开发了评估临床记录（即症状描述，诊断原因和放射学结果）并自动分配风险评分以表明患者未来30年的框架。 。在几天之内再次入院。他们声称相关的代码和模型参数已在Github上发布，其性能很容易超出基线。 “准确预测再入院率具有非常重要的临床意义，这体现在两个方面：效率提高和减轻ICU医生的负担。”该论文的作者写道。 “一项估计认为，重新录取的经济负担为179亿美元，可避免的录取比例为76％。”正如研究人员在Arxiv.org上的预发表论文（“ ClinicalBERT：临床病历建模和重新访问预测”）中指出的那样，临床病历通常使用缩写和术语，并且通常非常冗长，因此没有对AI系统设计的小挑战。为了克服它，他们使用一种自然语言处理方法-Google的“变压器双向编码器表示法”，即BERT，通过组合全局的大跨度信息来捕获相距较远的单词之间的交互作用，从而实现了短距离传输在句子中。接触。在预处理步骤中，每个临床记录将表示为“亚单位”的集合。或“子字单元”从文本中提取。从由这些单元组成的多个序列中，ClinicalBERT可以识别出哪些单元与哪个序列相关联。它还可以从与序列相对应的变量中了解子单元的位置，并在每个序列的前面插入一个用于分类任务的特殊单元。为了训练ClinicalBERT，研究小组收集了临床记录的语料库，并隐藏了15％的输入单元，以迫使模型预测隐藏单元和任意两个给定的句子是否连续。然后，使用“多参数智能监控和重症监护（MIMIC-III）”。是一个电子健康记录数据集，其中包括来自38,597名患者的58,976例医院就诊的超过200万条记录。研究人员利用这些数据对该系统进行了微调，以适应临床预测的任务。根据作者的报告，通过一个由30对医学术语组成的测试样本来评估医学术语的相似性，发现ClinicalBERT获得了很高的相关评分，表明其标记成功捕获了医学概念术语。相似之处。他们说，与心脏有关的概念（如心肌梗塞，心房颤动和心肌）非常接近，肾衰竭和肾衰竭也是如此。在一个单独的实验中，研究小组声称，在MIMIC-III语料库中，从涉及34,560名连续48或72小时病历的患者的数据中，该模型可与仅关注出院数据摘要的模型进行比较。与之相比，ClinicalBERT显示，预测未来30天再入院的效果有所改善，召回率相对提高了15％。此外，他们表示，随着入院时间的延长和临床笔记数量的增加，该系统在语言建模任务中的性能开始优于原始的BERT模型。 “ ClinicalBERT可以帮助护理人员做出明智的决定，并在必要时提前进行干预。”研究人员写道。 “其输出...是可追溯的，可以理解临床记录中的哪些信息与当前的预测结果相关，并且还可以轻松地扩展到其他任务，例如诊断预测，死亡风险评估或住院评估等。