真实世界数据研究专区 · 数据集
BedsideBench 临床问答基准
原名:BedsideBench v1.0.0。
概述
这份基准由 Doximity 公司发布,公开在 GitHub 与 Hugging Face。它含 500 个临床问答病例,分属 10 个子基准,每个 50 例。公开训练集 250 例,测试集留出不公开。每例给出问题和带正负分值的评分细则。
临床问答模型要回答药物安全、指南依从、诊断安全等床旁问题。这份基准把这类问题按子基准整理,可用于比较不同模型的回答质量。部分病例故意含错误前提或虚构实体,可用于检验模型能否识别。
对人工智能学习的帮助
病例为合成或去标识改写的问答题,不是患者记录,不属于 1.0 临床真实一层。它属于 4.0 任务环境,每例有评分细则,并公开评审提示、计分公式、汇总规则与置信区间方法。模型能从正负分细则中学习哪些要点必须答到、哪些错误会被扣分。细则的编写者与资质未列明,得分不能证明模型可安全用于临床。细则反映编写时的诊疗标准,会随指南更新而过时。
记录形态
| 项目 | 内容 |
|---|---|
| 规模 | 500 例,公开训练集 250 例 |
| 记录来源 | 合成数据 |
| 记录单位 | 临床问题 |
| 时间轴 | 不适用,题库无个体患者记录 |
| 结局 | 不适用 |
| 任务环境 | 有,固定划分、评分细则、大语言模型评审提示与参考评分脚本 |
数据结构
表:case JSON(data/{benchmark}/)。
| 字段 | 含义 | 类型或取值 |
|---|---|---|
case_id |
病例的稳定标识 | README 未注明类型 |
benchmark |
所属子基准名 | 10 个之一,如 drug_safety |
grading_method |
评分方法 | points_rubric 或 f1_weighted_rubric |
prompt |
发给模型的问题 | 文本 |
rubric_items |
评分细则条目 | 列表,含 item_id、text、points |
item_id |
细则条目编号 | {md5(prompt)}_{index} |
text |
细则描述 | 文本 |
points |
细则分值,正项为应答要点,负项为错误 | 带符号,+3 至 -3 |
获取
| 项目 | 内容 |
|---|---|
| 许可 | CC BY-NC-SA 4.0 |
| 商用 | 否 |
| 申请 | 公开下载 |
质量与局限
| 项目 | 内容 |
|---|---|
| 维护方口径 | 每例附带正负分值的评分细则。公开评审提示、计分公式与置信区间方法 |
| 已知局限 | 仅用于评测,不得用于诊疗。部分病例故意含错误前提或虚构实体。评分细则会随指南变化而过时 |
所属话题
- 医疗工作流程 › 病历问答与推理
出处
https://github.com/doximity/bedside-bench;https://github.com/doximity/bedside-bench/blob/master/CITATION.cff;https://github.com/doximity/bedside-bench/blob/master/LICENSE;https://huggingface.co/datasets/doximity/bedside-bench;https://github.com/doximity/bedside-bench/blob/master/DISCLAIMER.md;https://raw.githubusercontent.com/doximity/bedside-bench/master/README.md;https://raw.githubusercontent.com/doximity/bedside-bench/master/LICENSE;https://raw.githubusercontent.com/doximity/bedside-bench/master/DISCLAIMER.md。
审校:数巨有谱真实数据研究团队|编辑:数巨有谱AI团队