先写问题,再启动程序
实验记录首先说明要检查的判断、目标对象和成功条件。一次正常运行只能证明该次执行完成,不能自动推出方法在其他参数或输入上同样有效。
如果要比较两种方法,应预先约定相同的数据划分、查询口径和资源预算。成功、失败、超时与主动放弃分别记录。
让配置与输出一起保存
下面是一份记录格式示例。字段值需要由实际实验填写,不能把示例中的计划次数当作已完成次数。
experiment:
question: "填写待检验问题"
code_revision: "填写代码版本"
seed: 42
trials_planned: 100
result:
trials_completed: 0
successes: 0
failures: 0
timeouts: 0此外,保留依赖版本、运行命令、数据来源、输出文件校验值和日志。涉及真实密钥时,不能因为追求复现就把秘密写入公开记录。
把结论限制在证据能支持的范围
开发阶段调过参数的样本,与事先冻结协议后的独立评估,应明确区分。报告成功率时给出实际分母;尚未完成的实验写成待验证事项。
一份好的记录,应让未来的自己知道:做了什么、看到了什么、还有什么不知道。
