← 全部指南

专家数据

专家示范数据应该如何审核

专家示范需要呈现具备相关经验的人如何处理明确任务 审核时既要确认经验与任务是否匹配 也要检查工作过程及关键决策的证据 仅有专家标签不足以说明数据质量

让专业经验与任务范围匹配

先定义任务所需技能再选择参与者 仓库迁移 安全问题分诊与财务表格审核所需的证据和评审方式不同 应记录与任务相关的经验范围 同时避免暴露不必要的个人信息

明确示范过程中允许查阅什么 区分闭卷任务与允许使用文档 同事建议或工具的任务 否则两条看似合理的示范可能具有完全不同的信息边界

在关键动作处记录决策依据

采集可观察动作 工具结果及关键选择的简要说明 避免在任务完成后补写冗长推理并将其包装为实时记录 后补标注应明确标识

在自拟迁移示例中 专家可能因记录丢失而否定某种转换方式 有价值的信息是未满足的约束 被否定的产物与修正方法 笼统描述专家遵循最佳实践无法保留这一决策

采集前先确定审核标准

审核维度需要检查的证据
任务完成结果产物与约定验收检查
决策依据作出决策时可获得的观察信息
工具使用动作记录及对应工具响应
纠错恢复发现的问题 修正动作与后续状态
审核状态审核结论 分歧与处理记录

保留有意义的审核分歧

两位审核者可能偏好不同但都有效的解法 应区分风格分歧与正确性分歧 保留原始结论及复核记录 如果任务允许多种有效结果 审核标准就不应只接受作者偏好的路径

可以通过校准批次识别模糊标准 再扩大采集 修订标准时保留版本记录 并一致地处理同类样本 避免只在个别结果不符合预期时悄悄修改标签

索取可审核的 Demo 交付包

有用的 Demo 应包含任务说明 示范过程 结果产物和审核记录 并区分观察所得 标注所得与缺失信息 Efflora 的公开预览用于展示交付结构 商业样本访问方式及专家参与范围需按项目约定