Virtual Embryo Challenge更新于 10-03 18:47(北京时间) / 每 5 分钟更新

运行档案 / T1:val / 10-01 14:56

G23 验收

先看终选决定,再沿节点查看方法、代码改动和对话证据。

已选出最终候选

以实际终选程序为结果;搜索中曾达到的最高分与最终交付分开记录。

与其他运行比较
终选程序?按该运行锁定的规则最终选出的程序;可能是候选节点,也可能由护栏回退到基线。
n2
本运行目标 43.94(种子 0 单次)
节点?搜索树里的每个候选程序。
3
已打分 3
官网分?官网 P2 返回的真实分数。
—
还没有提交或还没有分数
大模型调用次数?各角色(调研员、工程师、分析员、审查员)调用大模型的次数。
0

实际结果与评分依据

搜索目标、护栏和诊断分开阅读。不同真值分片或 seed 的同名尺子保留各自记录。

尺子用途分数评分上下文
X3搜索目标复测47.7真值 B 半 / 3 个 seed均值
proxy搜索目标复测56.6真值 B 半 / 3 个 seed均值
proxy2搜索目标复测27.5真值 B 半 / 3 个 seed均值
X1终检诊断46.8全部真值 / 1 个 seed单次

来历?终选程序从种子程序一步步改过来的路径,每一步都写了改了什么、分数变了多少。

括号里的分差只表示变化方向,不代表统计显著性。

n2 种子 终选程序
seed heart_jcf_peri
搜索目标分 43.50 · proxy 56.23 · proxy2 27.43 · X3 46.85 · 3 次复测均分 43.94
审查意见?审查员(Reviewer)检查程序是否越界读取、写死目标或钻评分器漏洞后的意见。 通过 seed (human-written, locked)

搜索树?每个点是一个节点,连线从父节点指向子节点;颜色表示结果。

蓝色粗线是来历路径;鼠标停在点上看节点,点一下打开节点页。

n1 种子,已打分,42.491n2 种子,已打分,43.502n3 种子,已打分,39.343终选
已打分?程序正常跑完并拿到分数。
搜索分数的变化?横轴是从运行开始算起的分钟数,纵轴是到那时为止最好的搜索目标分。
42.54343.54444.500.511.52从开始算起的分钟数20261001-145651-search-t1-g23-fake-followup20261001-145651-search-t1-g23-fake-followup:2 分钟 43.50
全部节点与对话(3)
节点父节点操作?种子:人写的起点;改进:在父节点上改;草稿:从头写;修复:修父节点的报错。状态搜索目标分?搜索用来比较节点的分数(各把尺子按权重合成,种子 0 单次)。比父节点?这个节点的分数减去它父节点的分数;正数是变好。proxy?替代题:用手头已知阶段造的本地考题,T1 是用 E8.5 预测 E9.5。proxy2?两输入替代题:官方 E8.5 + 外部 Qiu E9.0 预测 E9.5,给需要两个时间点的方法一个公平分数。X3?用外部公开数据造的同类型题。3 次复测?换 3 个随机种子各跑一次取平均 ± 标准差,比单次分更稳。审查用时?从运行开始到结束(或到现在)的挂钟时间。方法说明?节点程序自带的 METHOD.md:这个程序做了什么、为什么。
n1—种子已打分42.5—50.027.450.042.5通过不到 1 分seed copy_last
n2—种子已打分43.5—56.227.446.843.9通过不到 1 分seed heart_jcf_peri
n3—种子已打分39.3—50.027.440.539.4通过不到 1 分seed pseudobulk_shift
资源消耗与失败情况

没有失败节点

角色?调研员写计划、工程师改代码、分析员解读分数、审查员检查作弊。大模型调用次数失败总用时输入 token 数?输入 / 输出(含思考)的 token 数,来自接口返回的用量。输出 token
没有大模型调用记录
运行配置与来源
运行?一次完整的自动搜索或 Agent 会话,有自己的锁定配置和证据包。20261001-145651-search-t1-g23-fake-followup
10-01 14:56 · 自动搜索 · T1:val · G23 验收 · fake-followup
题目?比赛的哪道题、哪个阶段,例如 T1:val 是第 1 题的验证阶段。T1:val
方式?自动搜索:ERA 式搜索树,多个节点不断改进程序;单 Agent:一个 Agent 会话从头做到尾。自动搜索 测试
搜索目标?这次运行用哪几把尺子、按什么权重合成分数来比较节点;目标不同的运行,最佳分不能直接比。proxy+proxy2+X3 等权;终检 X1
状态已结束
开始 / 结束10-01 14:56 / 10-01 15:00
用时3 分 / 预算 24 分
所在副本?运行目录所在的代码副本(Spark 上 ~/vec 下的哪个目录)。g23_wt
目的?这次运行为了回答什么问题,写在配置文件里。[回填] TEST ONLY (G23 follow-ups): fake backend on the Spark. Scattered provider errors (every other LLM call between 150 and 450 s) must trip the rate breaker; the run must keep opening nodes until now + p80 node time > deadline - final reserve, and start the final selection when the last node is done (or at deadline - final reserve). harness.py launch --config agent/configs/search_t1_g23_fake_followup.

出处?这次运行用的代码、配置、数据和模型的指纹,靠它们可以原样找回并复现。

代码版本?运行锁定时代码仓库的 git 提交号;带 +dirty 表示当时有未提交的改动。a47b1afbd57f0a9d9e4ba69ff145ead3816d69e0 代码有未提交改动
版本标签?可提交运行在锁定的提交上打的 git 标签 run/<运行编号>,以后能原样找回代码。—
配置文件agent/configs/search_t1_g23_fake_followup.yaml
配置指纹 d1a51b155d83216a
锁定指纹?启动时把配置、代码、提示词等全部锁定后算出的总指纹。8ff053293911d6aa 锁定格式 v7
运行专用代码副本?启动时为这次运行单独检出的一份只读代码;运行全程只读它,不受主副本更新影响。没有(这次运行早于运行专用代码副本功能,读的是启动时的代码副本)
打分口径指纹?打分器、数据视图、种子等合起来的指纹;指纹相同,分数才能直接比较。3c65ac0d77849967
数据视图指纹?程序能看到的输入数据文件的指纹,按视图汇总成一个短指纹。final:22 个文件,指纹 edb68fc794d79881
proxy:18 个文件,指纹 166d21c45cc35ede
proxy2:20 个文件,指纹 3a64c6f141374179
test:38 个文件,指纹 f706ad2858ee7264
大模型?每个角色用的大模型;括号里是接口实际报告的模型名。分析员:fake (接口报告 fake)
工程师:fake (接口报告 fake)
调研员:fake (接口报告 fake)
审查员:fake (接口报告 fake)
运行目录/home/spark-longxinyang/vec/g23_wt/agent/runs/20261001-145651-search-t1-g23-fake-followup 主机 spark-ad3f
提交账本?notes/changelogs/submissions.tsv:每次上传官网的记录和返回的官网分。这次运行没有提交过官网
迭代报告?运行结束后自动生成的中文复盘报告(notes/reports/runs)。还没有迭代报告