不改权重:程序记忆怎么进化,内部知识怎么被藏起来

2026-09-22 · 每日调研 · 主线两篇均来自 arXiv cs.AI recent(2026-09-21 列表)

生产里的 frontier 模型经常是冻住的:外部 API 改不了权重,自托管也不值得为一条工作流去微调。本周 cs.AI recent 里两篇新方法把这件事拆开了。Designer-RSI 说明,围着冻住的模型改一份自然语言技能库,加上保守的回放门,就能在没有人工标签的用户流量上持续变强。PIR 说明,同一类模型的输出不能告诉你它是不会,还是不肯说。前一篇管「技能文件该怎么进化」,后一篇管「评测和卸载不能只看答案」。

结论:文档里抄出来的技能,冷启动时打不赢「没有技能」。技能要在流量上同时做两件事——给反复漏掉的子任务补新技能,再按失败史改旧技能——而且只接受「修好失败、不打坏已有成功」的改动。与此同时,模型答错不等于它不认识正确答案;内部识别方向可以把「藏着」和「真卸掉了」分开,但白盒探针挡不住专门来混淆激活的对抗训练。

核心论文解读

1. Designer-RSI:技能库是学习对象,模型不是

Designer-RSI: Evolving Procedural Memory from User Traffic for Agentic Graphic Design(Hongyang Du, Lan Yan, Christian Flores, Asim Kadav)
arXiv:2609.22086 · 2026-09-18 · cs.AI recent

专业平面设计没有可执行的成功预言机。一条 brief 要几十个互相依赖的工具调用,终端分数分不清是哪一步错了;风格、层级又只能被自动评分器部分抓住。作者因此不改模型,改模型外面的程序记忆:一份自然语言技能库,每条技能介于「单次工具调用」和「整条轨迹」之间,具体到能指导执行,又一般到能迁移。冻住的 frontier 模型通过 230 多个工具操作 Photoshop / Illustrator / InDesign 的等价物。权重、工具、渲染器、评分器都固定,只有 SKILL.md 在变。

进化沿两条轴走,提案和准入分开:

(不存在输掉的 prompt) ∧ (存在赢下的 prompt)

重写必须修好失败,同时不打坏已有成功。这是生产里回归的不对称成本,不是「平均分涨了就合并」。

臂完整度对 Base 胜率读法
Base(无技能)69.08—对照
文档冷启动 76 条68.6246.4%没写进流量的技能,不比没有强
只改写69.0248.6%单轴接近噪声
只加新技能69.7949.4%单轴接近噪声
两轴一起(76→139)74.0458.5%(p=0.025)相对冷启动 +5.42;交互项 +3.85

五轮、1,406 条不重叠 brief、1,869 条自动评分轨迹,没有人工奖励标签。200 条留出的人类 brief 固定不动,所以每轮加减技能都对着同一靶子。Claude-Sonnet-4 上 GenEval2 执行成功率从 72.7% 到 99.3%,生成质量另计 +11.99。四个设计基准上,相对无技能 agent 的胜率:Sonnet-4 为 61.8%,Opus-4.6 为 67.6%。完整度阈值 τ=0.9 处,相对 Base 最大 +13 个百分点。审美分几乎不动(65.92→66.53)。检索让 prompt token 比 Base 多约 28%,但进化后的库比冷启动更省(436.6k/5167 vs 445.2k/5298),因为少了纠正性重试。骨干还包括 Qwen3.6-27B。动态上也说得通:第 1 轮几乎全是修补,缺口还没攒够 3 次;第 2–3 轮铸造高峰;覆盖饱和后回到加深。

注意:作者自己写了边界。自然语言技能描述得了偏好流程,但模型有强默认策略时,检索注入不一定被执行。精细几何操作同时受感知和自动验证限制;长流程在多步执行里会丢保真。回放门只对评测过的 case 局部成立,拒绝已观察到的回归,不等于在全量用户分布上单调变好。GenEval2 的 72.7%→99.3% 是执行成功率,不要和审美或「设计变好了」混读。过筛依据是新方法,不是公开代码星数。

一句话:可迁移的不是 Photoshop agent,是这条准入规则——绝对分不进门,上游状态冻住,成对比较,且必须「有赢、无输」。文档技能冷启动打不赢空技能,是比胜率数字更硬的结果。

2. PIR:答错的模型和不会的模型,输出可以一模一样

A Lie Detector Test for Language Models: Reading Knowledge a Model Won't Reveal(Hiskias Dingeto)
arXiv:2609.21996 · 2026-09-18 · cs.AI recent

能力评测默认模型在尽力答。这个假设会失败:sandbagging、密码锁定、电路打断,都可以让输出和「从来不会」无法区分。卸载也一样——想确认危险知识是没了,还是只是不说。行为解决不了这个问题,所以要读内部状态。

已有真值探针多半要监督、要标注真值语料,或要另一个诚实模型,而且主要测陈述句真伪,没有拿来分开「藏着」和「擦掉」。PIR 借用法医的隐蔽信息测试:把真细节和合理诱饵一起给人看,认得出的那一项反应更强。模型内部的做法是:题目和选项一起送入,读每个选项最后一个 token 的残差流 x_j。在模型自己答对的题集 K 上拟合识别方向,层用题目不交的交叉验证选出:

w = mean( x_correct − mean(x_distractors) )
r_j = 
recognized = argmax r_j

诱饵提供对比,所以不需要外部真值语料,也不需要另一个诚实参考模型。摘要里的 reference-free 是这个意思,不是「完全无标签」:K 的正确选项下标来自模型在诚实条件下自己答对的题。

八个模型、五个家族(Gemma、Qwen、Llama、Mistral、Phi),恢复被识别答案的平衡准确率 0.70–0.87,高于未知题基线 0.28–0.40,也高于 0.25 的随机。提示欺骗、训练出的 sandbagging、外部密码锁定和电路打断检查点上,识别仍在 0.85–0.93。藏着已知答案时识别保持高;卸载把知识拿掉后,识别掉到「这题从来不会」的水平,RMU 最彻底。同一读数因此能分开「不肯答」和「不能答」。沿识别方向做转向会改变答案,匹配的输出方向对照则不会,所以这个方向是模型在用的,不是旁路相关。自由生成时,候选从模型自己的采样里重建,不再依赖题目给好的选项。分歧检测器用模型自己的 base checkpoint 校准,比较「内部认出的答案」和「实际输出」。

注意:这是审计信号,不是对故意混淆激活的模型的防御。论文写明,白盒对手可以优化激活绕过潜空间探针;专门训练来混淆识别方向的模型可以打败 PIR。卸载把识别压到未知基线,作者不声称权重永远不能被重新学回来。过筛依据是新方法。没有公开代码链接。

一句话:输出相同的两种失败——藏着,和真不会——在识别方向上分开。探针给出的是「它认出了哪个选项」,不是一个欺骗布尔值。对抗训练可以关掉这个读数。

相关工作

工作id点和今天主线的关系
AutoViewMem2609.21940把长期对话记忆在写入时拆成低重叠的语义视图,而不是检索时再路由。LoCoMo / PersonaMem,Qwen3-8B 与 14B记忆对象是事实和偏好,不是可执行流程。和 Designer-RSI 互补:一个解语义混杂,一个解程序覆盖
LogicTrack2609.21492把 CoT 每步自动形式化,用定理证明器审计;Solver-Based Backtracking Reward 做步进打分。8 个推理基准、7 个 LLM审的是轨迹逻辑,不是内部是否认出答案。结果对、中间步假,是另一类「表面正确」
On Emergent Capabilities and Model Merging2609.24504同日晚交。两边都有的涌现能力,合并后大体保留;单任务 oracle 的加权合并到不了联合训练的审计能力;只有一边有的涌现,被稀释得比伴随的训练能力更快权重算术不能凭空造出超加的涌现。Designer-RSI 的超加发生在技能文本上,不在权重上
1% of Tokens Can Be Enough2609.24432稀疏 on-policy 蒸馏不只看 token 有没有用,还看梯度估计的信噪比(IER)。0.1%–1% token 预算可打平或超过全量 OPD。代码:IER-OPD同日另一条「少监督」线。和技能进化相反:它改的是学生权重,而且只在梯度可靠的 token 上改

我的判断

两篇合成一条操作规则:冻住的模型上,该进化的是外部程序,该审计的是内部识别,两者都不能用「它刚才说了什么」代替。

可执行的下一步很小,不必复现 230 工具的设计 agent。挑一批已有技能:用无技能臂做对照,冻住同一批上游上下文,只看「失败是否被修好、已有成功是否被打坏」。文档技能若打不赢空技能,就不要默认注入。内部识别探针留到有权重的模型上再做,而且默认它会被对抗训练绕过。

数据源:arXiv cs.AI / cs.CL recent(show=25,原 show=20 被 arXiv 拒绝);arXiv API(2026-09-20 至 2026-09-22);论文 HTML。Papers with Code 首页超时,未计入。二级检索 site:arxiv.org LLM reasoning 2026 用于同周旁证,主结论不依赖它。筛选:新方法。无星数>500 的代码仓库进入主线。