投稿准备 · 2026/10/20
算法论文把人工标注当真值,标注不确定性怎样说明?
保留人工标签分歧及仲裁链,限定AI性能相对于何种参考标准。
医学影像AI论文把人工标注称为“真值”,容易让读者误以为每张图像只有一个无争议答案。实际任务中,病灶边缘、轻微征象或分级界限可能让有经验的阅片者也产生分歧。模型与某份标签不一致,未必全是模型错误;同样,模型与共识标签一致,也不证明判断没有不确定性。投稿时应把标签来源、独立判读和争议处理写成可追溯流程。
定义标注任务与参考标准
先说明标签是患者级诊断、检查级结果、图像级类别,还是像素级病灶轮廓;每类标签依据什么资料产生。影像报告提取、病理结果、随访结局和专家阅片不是同一种参考标准,时间窗口也可能不同。列出每位标注者的专业背景、培训、是否知道临床信息及模型输出,以及判读所用图像和工具版本。CLAIM 2024建议用“参考标准”表述模型评估所对照的依据,避免把人工标注天然称为确定真值。
保留最初的独立意见
如果两名或多名标注者参与,说明是每张图都双人判读,还是只有抽样复核。保存各自原始标签,再报告整体和关键亚组的一致性;不能只保留讨论后的统一标签。分割任务可比较边界重叠,分类任务可列分歧交叉表;具体一致性指标应符合标签类型。对于少见或边界病例,给出被仲裁的数量和比例,而不是笼统写“分歧经讨论解决”。原始影像AI研究显示,专家标签噪声和分歧会影响模型评估的解释。
仲裁规则写在结果之前
说明争议是由第三位专家、集体会议、补充检查还是随访信息决定,仲裁者看到哪些资料。若把原有诊断标签与新共识标签混用,训练集和测试集应分别列明规则。测试集标签不宜为了适配模型预测而事后改写;确需更正时,保存变更理由和模型评估前后的结果。对没有足够证据裁决的病例,可以保留“不确定”标签或按预先规则排除,并报告数量,不能悄悄归入阴性。
性能结果要显示参考标准的边界
报告模型相对于最终参考标准的主要指标,同时说明参考标准形成过程中有多少初始分歧。若可能,可在独立阅片者标签和共识标签下分别检查关键指标,观察结论是否依赖某位阅片者。对病灶检测或分割,应说明每个病灶如何匹配、边界差异怎样计分。若参考标准来自病历文本自动抽取,抽样人工核查误标率,并说明与实际图像征象之间可能存在的偏差。
提交前抽一例标签被修改的图像,追到初始判读、仲裁记录、最终测试标签和模型计分。这条路径应说明性能表究竟在比较模型输出与哪种参考证据。
参考信息:CLAIM 2024医学影像AI报告清单;STARD-AI诊断准确性报告指南;医学影像专家标签噪声原始研究。