运行档案 / T1:val / 10-01 13:40
G23 验收
先看终选决定,再沿节点查看方法、代码改动和对话证据。
终选程序?按该运行锁定的规则最终选出的程序;可能是候选节点,也可能由护栏回退到基线。
n2
本运行目标 53.26(种子 0 单次)
节点?搜索树里的每个候选程序。
56
已打分 35
官网分?官网 P2 返回的真实分数。
—
还没有提交或还没有分数
大模型调用次数?各角色(调研员、工程师、分析员、审查员)调用大模型的次数。
155
分析员 44、工程师 50、调研员 56、审查员 5
实际结果与评分依据
搜索目标、护栏和诊断分开阅读。不同真值分片或 seed 的同名尺子保留各自记录。
| 尺子 | 用途 | 分数 | 评分上下文 |
|---|---|---|---|
| X3 | 搜索目标复测 | 47.6 | 真值 B 半 / 3 个 seed均值 |
| proxy | 搜索目标复测 | 56.1 | 真值 B 半 / 3 个 seed均值 |
| proxy2 | 搜索目标复测 | 56.1 | 真值 B 半 / 3 个 seed均值 |
| X1 | 终检诊断 | 46.8 | 全部真值 / 1 个 seed单次 |
来历?终选程序从种子程序一步步改过来的路径,每一步都写了改了什么、分数变了多少。
括号里的分差只表示变化方向,不代表统计显著性。
seed heart_jcf_peri
搜索目标分 53.10 · proxy 56.23 · proxy2 56.23 · X3 46.85 · 3 次复测均分 53.26
审查意见?审查员(Reviewer)检查程序是否越界读取、写死目标或钻评分器漏洞后的意见。 通过 seed (human-written, locked)
搜索树?每个点是一个节点,连线从父节点指向子节点;颜色表示结果。
蓝色粗线是来历路径;鼠标停在点上看节点,点一下打开节点页。
已打分?程序正常跑完并拿到分数。程序报错?候选程序运行时出错。格式不合格?输出文件不符合提交格式(基因、细胞数、坐标等)。没有改动?这次会话没有对代码做任何修改。被中断?因重启或大模型接口故障中断,不计入搜索。
搜索分数的变化?横轴是从运行开始算起的分钟数,纵轴是到那时为止最好的搜索目标分。
全部节点与对话(56)
| 节点 | 父节点 | 操作?种子:人写的起点;改进:在父节点上改;草稿:从头写;修复:修父节点的报错。 | 状态 | 搜索目标分?搜索用来比较节点的分数(各把尺子按权重合成,种子 0 单次)。 | 比父节点?这个节点的分数减去它父节点的分数;正数是变好。 | proxy?替代题:用手头已知阶段造的本地考题,T1 是用 E8.5 预测 E9.5。 | proxy2?两输入替代题:官方 E8.5 + 外部 Qiu E9.0 预测 E9.5,给需要两个时间点的方法一个公平分数。 | X3?用外部公开数据造的同类型题。 | 3 次复测?换 3 个随机种子各跑一次取平均 ± 标准差,比单次分更稳。 | 审查 | 用时?从运行开始到结束(或到现在)的挂钟时间。 | 方法说明?节点程序自带的 METHOD.md:这个程序做了什么、为什么。 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| n1 | — | 种子 | 已打分 | 50.0 | — | 50.0 | 50.0 | 50.0 | 49.7 | 通过 | 不到 1 分 | seed copy_last |
| n2 | — | 种子 | 已打分 | 53.1 | — | 56.2 | 56.2 | 46.8 | 53.3 | 通过 | 不到 1 分 | seed heart_jcf_peri |
| n3 | — | 种子 | 已打分 | 46.9 | — | 50.0 | 50.0 | 40.5 | 46.6 | 通过 | 不到 1 分 | seed pseudobulk_shift |
| n4 | n2 | 改进 | 没有改动 | — | — | — | — | — | — | 未审查 | 不到 1 分 | fake-plan-4 |
| n5 | n1 | 改进 | 已打分 | 52.7 | +2.7 | 55.6 | 55.6 | 46.8 | 52.9 | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x2.0, edge x0.3 (fake Engineer, node 5) |
| n6 | n3 | 改进 | 格式不合格 | — | — | — | — | — | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.8, edge x0.2 (fake Engineer, node 6) |
| n7 | n2 | 改进 | 已打分 | 53.2 | +0.1 | 56.3 | 56.3 | 46.8 | 52.8 | 通过 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.6, edge x0.1 (fake Engineer, node 7) |
| n8 | n3 | 改进 | 被中断 | — | — | — | — | — | — | 未审查 | 不到 1 分 | — |
| n9 | n5 | 改进 | 被中断 | — | — | — | — | — | — | 未审查 | 不到 1 分 | — |
| n10 | n7 | 改进 | 被中断 | — | — | — | — | — | — | 未审查 | 不到 1 分 | — |
| n11 | n2 | 改进 | 已打分 | 52.9 | -0.2 | 56.0 | 56.0 | 46.8 | 53.0 | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.7, edge x0.4 (fake Engineer, node 11) |
| n12 | n5 | 改进 | 没有改动 | — | — | — | — | — | — | 未审查 | 不到 1 分 | fake-plan-12 |
| n13 | n2 | 改进 | 已打分 | 52.7 | -0.4 | 55.6 | 55.6 | 46.8 | 52.8 | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.3, edge x0.2 (fake Engineer, node 13) |
| n14 | n11 | 改进 | 格式不合格 | — | — | — | — | — | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x2.0, edge x0.1 (fake Engineer, node 14) |
| n15 | n7 | 改进 | 已打分 | 52.7 | -0.5 | 55.6 | 55.6 | 46.8 | 52.9 | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.8, edge x0.35 (fake Engineer, node 15) |
| n16 | n14 | 修复 | 已打分 | 53.1 | — | 56.2 | 56.2 | 46.8 | 53.3 | 通过 | 1 分 | heart_jcf_peri reweighting, heart x1.6, edge x0.25 (fake Engineer, node 16) |
| n17 | n2 | 改进 | 已打分 | 52.7 | -0.4 | 55.6 | 55.6 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.4, edge x0.15 (fake Engineer, node 17) |
| n18 | n7 | 改进 | 程序报错 | — | — | — | — | — | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.2, edge x0.4 (fake Engineer, node 18) |
| n19 | n14 | 修复 | 已打分 | 52.9 | — | 55.9 | 55.9 | 46.8 | 53.0 | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.9, edge x0.3 (fake Engineer, node 19) |
| n20 | n16 | 改进 | 没有改动 | — | — | — | — | — | — | 未审查 | 不到 1 分 | fake-plan-20 |
| n21 | n2 | 改进 | 已打分 | 52.8 | -0.3 | 55.7 | 55.7 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.5, edge x0.1 (fake Engineer, node 21) |
| n22 | n7 | 改进 | 格式不合格 | — | — | — | — | — | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.3, edge x0.35 (fake Engineer, node 22) |
| n23 | n16 | 改进 | 已打分 | 53.0 | -0.1 | 56.0 | 56.0 | 46.8 | 52.9 | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x2.0, edge x0.25 (fake Engineer, node 23) |
| n24 | n19 | 改进 | 已打分 | 53.0 | +0.1 | 56.1 | 56.1 | 46.8 | 53.1 | 通过 | 1 分 | heart_jcf_peri reweighting, heart x1.8, edge x0.15 (fake Engineer, node 24) |
| n25 | n2 | 改进 | 已打分 | 52.6 | -0.5 | 55.5 | 55.5 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.6, edge x0.4 (fake Engineer, node 25) |
| n26 | n23 | 改进 | 程序报错 | — | — | — | — | — | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.4, edge x0.3 (fake Engineer, node 26) |
| n27 | n24 | 改进 | 已打分 | 52.9 | -0.2 | 55.9 | 55.9 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.2, edge x0.2 (fake Engineer, node 27) |
| n28 | n7 | 改进 | 没有改动 | — | — | — | — | — | — | 未审查 | 不到 1 分 | fake-plan-28 |
| n29 | — | 草稿 | 已打分 | 52.7 | — | 55.6 | 55.6 | 46.8 | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.7, edge x0.35 (fake Engineer, node 29) |
| n30 | n2 | 改进 | 格式不合格 | — | — | — | — | — | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.5, edge x0.25 (fake Engineer, node 30) |
| n31 | n2 | 改进 | 已打分 | 52.6 | -0.5 | 55.4 | 55.4 | 46.8 | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.3, edge x0.15 (fake Engineer, node 31) |
| n32 | n7 | 改进 | 已打分 | 52.7 | -0.5 | 55.6 | 55.6 | 46.8 | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x2.0, edge x0.4 (fake Engineer, node 32) |
| n33 | n24 | 改进 | 已打分 | 52.6 | -0.5 | 55.5 | 55.5 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.8, edge x0.3 (fake Engineer, node 33) |
| n34 | n16 | 改进 | 程序报错 | — | — | — | — | — | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.6, edge x0.2 (fake Engineer, node 34) |
| n35 | n2 | 改进 | 已打分 | 52.9 | -0.2 | 55.9 | 55.9 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.4, edge x0.1 (fake Engineer, node 35) |
| n36 | n34 | 修复 | 已打分 | 52.4 | — | 55.2 | 55.2 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.2, edge x0.35 (fake Engineer, node 36) |
| n37 | n16 | 改进 | 已打分 | 53.1 | -0.0 | 56.2 | 56.2 | 46.8 | 53.0 | 通过 | 1 分 | heart_jcf_peri reweighting, heart x1.9, edge x0.25 (fake Engineer, node 37) |
| n38 | n24 | 改进 | 格式不合格 | — | — | — | — | — | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.7, edge x0.15 (fake Engineer, node 38) |
| n39 | n15 | 改进 | 已打分 | 52.8 | +0.1 | 55.8 | 55.8 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.5, edge x0.4 (fake Engineer, node 39) |
| n40 | n24 | 改进 | 已打分 | 52.5 | -0.5 | 55.3 | 55.3 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.3, edge x0.3 (fake Engineer, node 40) |
| n41 | — | 草稿 | 已打分 | 52.6 | — | 55.5 | 55.5 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x2.0, edge x0.2 (fake Engineer, node 41) |
| n42 | n37 | 改进 | 程序报错 | — | — | — | — | — | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.8, edge x0.1 (fake Engineer, node 42) |
| n43 | n38 | 修复 | 已打分 | 52.7 | — | 55.6 | 55.6 | 46.8 | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.6, edge x0.35 (fake Engineer, node 43) |
| n44 | n37 | 改进 | 没有改动 | — | — | — | — | — | — | 未审查 | 不到 1 分 | fake-plan-44 |
| n45 | n16 | 改进 | 已打分 | 52.7 | -0.4 | 55.6 | 55.6 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.2, edge x0.15 (fake Engineer, node 45) |
| n46 | n2 | 改进 | 格式不合格 | — | — | — | — | — | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.9, edge x0.4 (fake Engineer, node 46) |
| n47 | n37 | 改进 | 已打分 | 53.3 | +0.2 | 56.5 | 56.5 | 46.8 | 53.1 | 通过 | 1 分 | heart_jcf_peri reweighting, heart x1.7, edge x0.3 (fake Engineer, node 47) |
| n48 | n2 | 改进 | 已打分 | 52.9 | -0.2 | 56.0 | 56.0 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.5, edge x0.2 (fake Engineer, node 48) |
| n49 | n16 | 改进 | 已打分 | 52.8 | -0.3 | 55.7 | 55.7 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.3, edge x0.1 (fake Engineer, node 49) |
| n50 | n47 | 改进 | 程序报错 | — | — | — | — | — | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x2.0, edge x0.35 (fake Engineer, node 50) |
| n51 | n46 | 修复 | 已打分 | 53.0 | — | 56.1 | 56.1 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.8, edge x0.25 (fake Engineer, node 51) |
| n52 | n47 | 改进 | 没有改动 | — | — | — | — | — | — | 未审查 | 不到 1 分 | fake-plan-52 |
| n53 | n37 | 改进 | 已打分 | 52.3 | -0.7 | 55.1 | 55.1 | 46.8 | — | 未审查 | 1 分 | heart_jcf_peri reweighting, heart x1.4, edge x0.4 (fake Engineer, node 53) |
| n54 | n47 | 改进 | 格式不合格 | — | — | — | — | — | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.2, edge x0.3 (fake Engineer, node 54) |
| n55 | n16 | 改进 | 已打分 | 52.5 | -0.6 | 55.4 | 55.4 | 46.8 | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.9, edge x0.2 (fake Engineer, node 55) |
| n56 | n54 | 修复 | 已打分 | 52.9 | — | 56.0 | 56.0 | 46.8 | — | 未审查 | 不到 1 分 | heart_jcf_peri reweighting, heart x1.7, edge x0.1 (fake Engineer, node 56) |
资源消耗与失败情况
格式不合格 7 没有改动 6 程序报错 5 被中断 3
| 角色?调研员写计划、工程师改代码、分析员解读分数、审查员检查作弊。 | 大模型调用次数 | 失败 | 总用时 | 输入 token 数?输入 / 输出(含思考)的 token 数,来自接口返回的用量。 | 输出 token |
|---|---|---|---|---|---|
| 分析员 | 44 | 0 | 不到 1 分 | 924 | 220 |
| 工程师 | 50 | 0 | 4 分 | 2,512 | 608 |
| 调研员 | 56 | 6 | 1 分 | 850 | 200 |
| 审查员 | 5 | 0 | 不到 1 分 | 60 | 15 |
运行配置与来源
| 运行?一次完整的自动搜索或 Agent 会话,有自己的锁定配置和证据包。 | 20261001-134009-search-t1-g23-fake 10-01 13:40 · 自动搜索 · T1:val · G23 验收 · fake |
|---|---|
| 题目?比赛的哪道题、哪个阶段,例如 T1:val 是第 1 题的验证阶段。 | T1:val |
| 方式?自动搜索:ERA 式搜索树,多个节点不断改进程序;单 Agent:一个 Agent 会话从头做到尾。 | 自动搜索 测试 |
| 搜索目标?这次运行用哪几把尺子、按什么权重合成分数来比较节点;目标不同的运行,最佳分不能直接比。 | proxy+proxy2+X3 等权;终检 X1 |
| 状态 | 已结束 |
| 开始 / 结束 | 10-01 13:40 / 10-01 13:58 |
| 用时 | 18 分 / 预算 33 分 |
| 所在副本?运行目录所在的代码副本(Spark 上 ~/vec 下的哪个目录)。 | g23_wt |
| 目的?这次运行为了回答什么问题,写在配置文件里。 | [回填] TEST ONLY (G23 acceptance): fake LLM backend, real execution + scoring on the DGX Spark, detached unit. Exercises: objective = proxy + proxy2 + X3 (equal weights), truth halves A/B, holdout X1; provider-error injection (breaker), per-node cleanup + disk watermark, memory admission (small capacity -> waits), watchdog restart (the main loop hangs once) -> systemd restart -> resume with the tamper ch |
出处?这次运行用的代码、配置、数据和模型的指纹,靠它们可以原样找回并复现。
| 代码版本?运行锁定时代码仓库的 git 提交号;带 +dirty 表示当时有未提交的改动。 | e8d2570dc26d3e72d3a62f4efe30f0afeced8ed7 代码有未提交改动 |
|---|---|
| 版本标签?可提交运行在锁定的提交上打的 git 标签 run/<运行编号>,以后能原样找回代码。 | — |
| 配置文件 | agent/configs/search_t1_g23_fake.yaml 配置指纹 268e74bc1f969ec9 |
| 锁定指纹?启动时把配置、代码、提示词等全部锁定后算出的总指纹。 | 47be42e21bb00d6e 锁定格式 v7 |
| 运行专用代码副本?启动时为这次运行单独检出的一份只读代码;运行全程只读它,不受主副本更新影响。 | 没有(这次运行早于运行专用代码副本功能,读的是启动时的代码副本) |
| 打分口径指纹?打分器、数据视图、种子等合起来的指纹;指纹相同,分数才能直接比较。 | cb5e01b153b197bf |
| 数据视图指纹?程序能看到的输入数据文件的指纹,按视图汇总成一个短指纹。 | final:22 个文件,指纹 edb68fc794d79881 proxy:18 个文件,指纹 166d21c45cc35ede proxy2:20 个文件,指纹 3a64c6f141374179 test:38 个文件,指纹 f706ad2858ee7264 |
| 大模型?每个角色用的大模型;括号里是接口实际报告的模型名。 | 分析员:fake (接口报告 fake) 工程师:fake (接口报告 fake) 调研员:fake (接口报告 fake) 审查员:fake (接口报告 fake) |
| 运行目录 | /home/spark-longxinyang/vec/g23_wt/agent/runs/20261001-134009-search-t1-g23-fake 主机 spark-ad3f |
| 提交账本?notes/changelogs/submissions.tsv:每次上传官网的记录和返回的官网分。 | 这次运行没有提交过官网 |
| 迭代报告?运行结束后自动生成的中文复盘报告(notes/reports/runs)。 | 还没有迭代报告 |