真实世界数据研究专区 · 数据集
出院小结问答评测基准(EHRNoteQA)
原名:EHRNoteQA: An LLM Benchmark for Real-World Clinical Practice Using Discharge Summaries。
概述
EHRNoteQA 由韩国科学技术院等机构的研究者发布,托管在 PhysioNet。数据含 962 道多项选择题,对应 962 名不同患者的 1,659 份出院小结,小结取自 MIMIC-IV 2008—2019 年的住院。题目按出院小结长度分两档,Level 1 有 529 名患者,Level 2 有 433 名患者。题目、答案和干扰项先由大语言模型生成,再由三名临床医生逐条审改。
医生接诊复诊患者时,常要在多份既往出院小结里查找治疗经过和检查结果。这份数据可用于评估模型在真实出院小结上回答临床问题的能力。题目按治疗、评估、病因、检查结果等 10 类主题归类,可分主题比较表现。
对人工智能学习的帮助
题目依据的出院小结来自真实住院,属于 1.0 临床真实一层。初始 1,000 题经医生删去 38 题、改写 206 题,能学到 3.0 专家判断。每题五个选项和标准答案构成判分规则,属于 4.0 任务环境,可按选择题或开放式问答评测。题目先由模型生成,题型与措辞可能带有生成模型的倾向。数据只含出院小结,不含放射报告与病程记录。
记录形态
| 项目 | 内容 |
|---|---|
| 规模 | 962 个问答对,对应 962 名患者、1,659 份出院小结 |
| 记录来源 | 诊疗过程 |
| 记录单位 | 问答对 |
| 时间轴 | 纵向,每题对应一名患者的 1—3 份出院小结,跨度 2008—2019 年 |
| 结局 | 无结局字段 |
| 专家标注 | 有,大语言模型生成后经三名临床医生逐条审改 |
| 任务环境 | 有,每题五个选项与参考答案,未给固定划分或评测脚本 |
数据结构
表:EHRNoteQA.jsonl。
| 字段 | 含义 | 类型或取值 |
|---|---|---|
category |
数据难度等级 | Level1/Level2 |
num_notes |
该患者在 MIMIC-IV 中的出院小结份数 | 1、2 或 3 |
clinician |
审核修改数据的医生匿名代号 | a、b 或 c |
question |
问答题目 | 文本 |
choice_A |
五个选项之一,另有 choice_B 至 choice_E | 文本 |
answer |
正确选项 | A、B、C、D 或 E |
样例
表:EHRNoteQA.jsonl。
合成样例,非真实记录。
| 难度档 | 出院小结份数 | 审核医生代号 | 题目 | 正确选项 |
|---|---|---|---|---|
| Level1 | 1 | a | What antibiotic was the patient discharged on? | C |
| Level1 | 2 | b | Why was the patient readmitted during the second stay? | A |
| Level2 | 3 | c | How did the patient's creatinine change across the three admissions? | E |
获取
| 项目 | 内容 |
|---|---|
| 许可 | PhysioNet Credentialed Health Data License 1.5.0 |
| 商用 | 未列明 |
| 申请 | 须为 PhysioNet 认证用户、完成 CITI 培训并签数据使用协议 |
| 中国可用性 | 未写地域限制,须成为 PhysioNet 认证用户 |
质量与局限
| 项目 | 内容 |
|---|---|
| 维护方口径 | 大语言模型生成问答后由三名临床医生逐条审改。初始 1,000 题删去 38 题、改写 206 题 |
| 已知局限 | 只收 1—3 份出院小结,分两档。未含放射报告、病程记录等其他文书 |
所属话题
- 医疗工作流程 › 病历问答与推理
出处
https://physionet.org/content/ehr-notes-qa-llms/1.0.1/;https://physionet.org/content/ehr-notes-qa-llms/view-license/1.0.1/。
审校:数巨有谱真实数据研究团队|编辑:数巨有谱AI团队