真实世界数据研究专区 · 数据集
MedNLI 临床自然语言推理数据集
原名:MedNLI - A Natural Language Inference Dataset For The Clinical Domain v1.0.0。
概述
MedNLI 由 IBM Almaden 研究院的研究者构建,现托管于 PhysioNet。前提句抽自 MIMIC-III 已故患者去标识病历的既往史段落,假设句由医生撰写,并标为蕴含、矛盾或中立。全库共 14,049 个句对,来自 4,683 个前提句。训练、验证、测试分别为 11,232、1,395、1,422 对,三个子集的前提句互不重叠。
自然语言推理要判断一句话能否从另一句话推出。临床病历里同一事实有多种写法,检验数值与“肌酐升高”这类概括之间就需要推理。这份数据可用于评价模型在临床语境下的推理能力。它也可用于研究通用领域的推理模型迁移到临床文本后的表现。
对人工智能学习的帮助
假设句与推理标签由临床医生编写,能学到 3.0 专家判断。模型可以从中学习临床缩写、检验数值与诊断概括之间的蕴含和矛盾关系。试点阶段两名放射科医师在 552 对上的一致性 Cohen’s κ 为 0.78。每个句对只有一份标注,部分前提句带有去标识留下的痕迹。句对脱离了完整病历和时间顺序,也没有结局信息,不能用来学习病程。
记录形态
| 项目 | 内容 |
|---|---|
| 规模 | 14,049 个句对,来自 4,683 个前提句 |
| 记录语言 | 英语 |
| 记录来源 | 诊疗过程 |
| 记录单位 | 前提与假设句对 |
| 时间轴 | 单次,每条为一句前提与一句医生编写的假设 |
| 结局 | 无结局字段 |
| 专家标注 | 有,四名临床医生编写假设句并标注推理标签 |
| 任务环境 | 有,固定训练、验证、测试划分 |
数据结构
表:mli_train_v1.jsonl。
| 字段 | 含义 | 类型或取值 |
|---|---|---|
gold_label |
推理标签 | entailment、contradiction 或 neutral |
sentence1 |
前提句,取自既往病史段落 | 文本 |
sentence2 |
假设句,由医生撰写 | 文本 |
sentence1_parse |
前提句的成分句法分析 | Stanford parser 输出 |
sentence2_parse |
假设句的成分句法分析 | Stanford parser 输出 |
sentence1_binary_parse |
前提句的二叉句法分析 | Stanford parser 输出 |
sentence2_binary_parse |
假设句的二叉句法分析 | Stanford parser 输出 |
样例
表:mli_train_v1.jsonl。
合成样例,非真实记录。
| 前提句 | 假设句 | 推理标签 |
|---|---|---|
| Patient has type II diabetes | Patient suffers from a chronic condition | entailment |
| Patient has type II diabetes | Patient has hypertension | neutral |
| Patient has type II diabetes | The patient's insulin levels are normal without any medications | contradiction |
获取
| 项目 | 内容 |
|---|---|
| 许可 | PhysioNet Credentialed Health Data License 1.5.0 |
| 商用 | 未列明 |
| 申请 | 须通过凭证审核、完成 CITI 培训并签数据使用协议 |
| 中国可用性 | 未写国别限制,个人须过凭证审核,不得共享访问 |
质量与局限
| 项目 | 内容 |
|---|---|
| 维护方口径 | 医生撰写假设句并标注推理关系。试点阶段一致性 Cohen’s κ=0.78 |
| 已知局限 | 每个句对只有一份标注。部分前提句带去标识化伪影。测试集金标签已隐去 |
所属话题
- 医疗工作流程 › 病历问答与推理
出处
https://physionet.org/content/mednli/1.0.0/;https://jgc128.github.io/mednli/;https://aclanthology.org/D18-1187.pdf;https://physionet.org/about/faqs/;https://physionet.org/content/mednli/view-license/1.0.0/。
审校:数巨有谱真实数据研究团队|编辑:数巨有谱AI团队