出院小结问答评测基准(EHRNoteQA)

原名:EHRNoteQA: An LLM Benchmark for Real-World Clinical Practice Using Discharge Summaries。

发布时间
2024-04-03
数据集规模
962 个问答对,对应 962 名患者、1,659 份出院小结
更新日期
2026-10-25
所属话题
医疗工作流程 › 病历问答与推理

概述

EHRNoteQA 由韩国科学技术院等机构的研究者发布,托管在 PhysioNet。数据含 962 道多项选择题,对应 962 名不同患者的 1,659 份出院小结,小结取自 MIMIC-IV 2008—2019 年的住院。题目按出院小结长度分两档,Level 1 有 529 名患者,Level 2 有 433 名患者。题目、答案和干扰项先由大语言模型生成,再由三名临床医生逐条审改。

医生接诊复诊患者时,常要在多份既往出院小结里查找治疗经过和检查结果。这份数据可用于评估模型在真实出院小结上回答临床问题的能力。题目按治疗、评估、病因、检查结果等 10 类主题归类,可分主题比较表现。

对人工智能学习的帮助

题目依据的出院小结来自真实住院,属于 1.0 临床真实一层。初始 1,000 题经医生删去 38 题、改写 206 题,能学到 3.0 专家判断。每题五个选项和标准答案构成判分规则,属于 4.0 任务环境,可按选择题或开放式问答评测。题目先由模型生成,题型与措辞可能带有生成模型的倾向。数据只含出院小结,不含放射报告与病程记录。

记录形态

项目 内容
规模 962 个问答对,对应 962 名患者、1,659 份出院小结
记录来源 诊疗过程
记录单位 问答对
时间轴 纵向,每题对应一名患者的 1—3 份出院小结,跨度 2008—2019 年
结局 无结局字段
专家标注 有,大语言模型生成后经三名临床医生逐条审改
任务环境 有,每题五个选项与参考答案,未给固定划分或评测脚本

数据结构

表:EHRNoteQA.jsonl。

字段 含义 类型或取值
category 数据难度等级 Level1/Level2
num_notes 该患者在 MIMIC-IV 中的出院小结份数 1、2 或 3
clinician 审核修改数据的医生匿名代号 a、b 或 c
question 问答题目 文本
choice_A 五个选项之一,另有 choice_B 至 choice_E 文本
answer 正确选项 A、B、C、D 或 E

样例

表:EHRNoteQA.jsonl。

合成样例,非真实记录。

难度档 出院小结份数 审核医生代号 题目 正确选项
Level1 1 a What antibiotic was the patient discharged on? C
Level1 2 b Why was the patient readmitted during the second stay? A
Level2 3 c How did the patient's creatinine change across the three admissions? E

获取

项目 内容
许可 PhysioNet Credentialed Health Data License 1.5.0
商用 未列明
申请 须为 PhysioNet 认证用户、完成 CITI 培训并签数据使用协议
中国可用性 未写地域限制,须成为 PhysioNet 认证用户

质量与局限

项目 内容
维护方口径 大语言模型生成问答后由三名临床医生逐条审改。初始 1,000 题删去 38 题、改写 206 题
已知局限 只收 1—3 份出院小结,分两档。未含放射报告、病程记录等其他文书

所属话题

出处

https://physionet.org/content/ehr-notes-qa-llms/1.0.1/;https://physionet.org/content/ehr-notes-qa-llms/view-license/1.0.1/。

审校:数巨有谱真实数据研究团队|编辑:数巨有谱AI团队