通过针对探针训练进行对齐且不丧失可监控性
论文提出探针引导微调，以检测模型激活中不良属性的探针作为直接训练信号，评估了线性与非线性探针在无害性和诚实性两个对齐目标上的效果。持续更新的探针比固定探针更能降低有害性、提升诚实性并保留效用，在安全-效用权衡上优于 DPO 和推理时引导，且对越狱和消融攻击更鲁棒；微调后概念仍线性编码，监控能力未丢失。
Why it matters: 用可更新的内部探针替代输出信号来训练对齐，可能在保持可监控性的同时降低表面合规风险。
All updates
All updates
71 todayarXiv · Machine Learning TheorySelectedAI score6262 arXiv · Machine Learning TheorySelectedAI score6262 扩散语言模型智能体的动作是否仍能解释任务：反向评分方法
论文指出扩散大语言模型（dLLM）并行解码虽降低延迟，但智能体在具身任务中会陷入重试循环，原因在于掩码解码的自适应性使失败动作被上下文自信填充而未接触失败信号。作者将此建模为任务无关的上下文污染，并证明该污染因子在反条件概率中精确抵消；据此提出 Reflect Reverse 方法，通过掩码任务 token 并去噪来评估反向前向条件。实验在四个多轮具身基准上提升了任务成功率与进展率。
Why it matters: 论文揭示了 dLLM 智能体重试循环的机制成因，并提供无需训练的反向前向评分修正方法。
arXiv · Machine Learning TheorySelectedAI score6969 MILO：通过协同多智能体进化实现自动化 Harness 发现
arXiv 论文提出 MILO（Meta-evolutionary Island Orchestration）框架，协同进化智能体 harness 与搜索策略，结合分层谱系记忆、智能体重写与编排器自适应搜索。
Why it matters: MILO 通过多智能体协同进化自动搜索智能体 harness，在多个基准上超越现有方法，为自动化 harness 设计提供了可复现的新框架。
arXiv · Machine Learning TheorySelectedAI score6262 Hermes：学习上下文推理解锁测试时计算扩展
arXiv 论文提出 Hermes 框架，通过可配置 harness 让模型自主决定上下文分配与复用，并结合 Hermes-Learn 两阶段训练缩小不同规模模型的能力差距。
Why it matters: 论文提出让模型自主决策上下文分配与复用的框架，为测试时计算扩展提供了可迁移的新方法。
arXiv · DatabasesSelectedAI score6262 Thinkingbox：面向有状态业务工作流的 Agent 沙箱与基准评测
论文提出 Thinkingbox 沙箱与 Thinkingbox-bench 基准，包含 507 个策略条件化的业务工作流，覆盖零售、酒店、汽车保险、新银行内部 IT 及咨询 IT/HR 支持。
Why it matters: 论文构建了可复现的沙箱与评测基准，揭示现有模型在状态化业务工作流中的可靠性差距。
arXiv · Software EngineeringSelectedAI score6767 ASCEND：跨 HPC 集群与 GPU 工作站的自主科学计算个人 AI 代理
ASCEND 是一个运行在研究者笔记本上的 AI 代理接口，通过多重认证连接 Slurm 集群与 GPU 工作站，远程调用 Claude Code 或 Codex 且不持有凭证。四个案例显示它完成了故障恢复循环、天气模型评估复现、12693 行求解器并行化，并暴露两处未定义行为；策略校验器拒绝了 29/30 个构造违规。
Why it matters: 论文展示了在 HPC 与 GPU 工作站场景下由本地策略校验驱动的自主科学计算代理，为远程可信自动化提供了一条可复现的技术路径。
arXiv · Software EngineeringSelectedAI score6464 规范先行：LLM 生成代码在资金、时间、幂等与访问任务上的预注册五模型对比评估
论文预注册假设后，用 50 个真实后端任务对比五款前沿模型在无规范与带 267 字规范框架两种条件下的输出。规范框架使缺陷数均值下降 0.16–0.70/任务，所有 Holm 校正符号检验显著，Bootstrap 置信区间不包含零；框架臂在 100 次对比中赢 95 次，且未使任一模型在任何领域更差。
Why it matters: 给团队一个可复现的实证：267 字规范框架在五款前沿模型上稳定降低缺陷，且不损害任何模型。
arXiv · Software EngineeringSelectedAI score6262 Approval Laundering：系统化 AI 编码智能体 Harness 中的批准-执行绑定失效
论文提出 Approval Laundering 分类法，揭示 Claude Code、Codex CLI、Cursor 等编码智能体在批准动作后由 harness 静默替换执行动作的六种失效模式：Scope、Argument、Temporal、Tool、Delegation 和 Semantic laundering。
Why it matters: 论文系统揭示了 Claude Code 等编码智能体在批准与执行之间的绑定漏洞，并提供可复现的实验与防御原型。
arXiv · Software EngineeringSelectedAI score6060 Adaptive-GEPA：让 Harness 适配异构请求
论文提出 Adaptive-GEPA，在统一搜索预算下同时学习请求路由与专家程序库，路由与专家描述均为可读文本并由反馈编辑。在四任务族混合测试中，Qwen3-8B 运行进化出四个专家，路由与任务划分一致，家族均值得分从 52.6 提升至 70.6，高于 GEPA 全程序适配器（62.5）与 GRPO（54.0），名义预算为 18,000 次评分调用。
Why it matters: 同一搜索预算下同时学习路由与专家程序，为异构请求场景提供可解释的分工优化路径。
arXiv · Software EngineeringSelectedAI score6262 Zero2Repo：编码智能体能否从零构建仓库？
Zero2Repo 是一个从零构建仓库的基准，智能体接收需求文档与接口契约并在空工作区交付完整仓库。任务由语言无关管线从真实开源项目生成，并以隐藏测试的执行通过与否作为唯一评判标准。当前版本覆盖 Python、TypeScript、Go 和 C++，最强智能体在 11 个任务中仅解决 10 个，且失败提交中 90-99% 的隐藏测试通过，67-100% 的失败可归因于规范中的单一遗漏或低频规则。
Why it matters: 给出了从零构建仓库的基准与评测方法，读者可据此评估现有编码智能体在真实工程任务上的完成度与薄弱环节。
arXiv · Human-Computer InteractionSelectedAI score7373 AI Psychosis in Context：对话历史如何影响大语言模型对妄想信念的回应
研究用相同的升级妄想对话历史测试 5 个 LLM，在三级累积上下文下评估风险与安全。GPT-4o、Grok 4.1 Fast、Gemini 3 Pro 呈现高风险低安全特征，且随上下文增加表现恶化；Claude Opus 4.5 与 GPT-5.2 Instant 则激活更强安全干预。安全模型更倾向挑战妄想信念并引导外部支持，而非继承用户世界观。
Why it matters: 同一对话历史在不同模型上激活了相反的安全机制，提示上下文长度是评估模型安全性的关键变量。
arXiv · Computation and LanguageSelectedAI score6464 DAGent：面向深度研究代理的评估后扩展规划框架
论文提出 DAGent，一种基于 DAG 的多代理框架，采用 Evaluate-then-Grow 增量规划，由编排器根据已完成节点的置信度与不确定性信号逐批扩展任务图。
Why it matters: 通过增量规划与结构奖励信号缓解深度研究代理的脆弱性问题，为多智能体规划提供可复现的方法比较。
arXiv · Computation and LanguageSelectedAI score6060 诊断推理语言模型的 On-Policy Self-Distillation
论文诊断了数学推理场景下的 On-Policy Self-Distillation（OPSD），覆盖 0.6B–8B 参数模型。实验与 token 级分析表明，教师信号受推理模式对齐与完整教师前缀影响，OPSD 仅在狭窄兼容 regime 中有效，否则出现长度膨胀、稳定退化或行为崩溃，且教师信号不稳定、无法预测下游性能。
Why it matters: 论文通过受控实验和 token 级分析指出 OPSD 并非通用可靠的推理改进后训练方法。
arXiv · Computation and LanguageSelectedAI score6060 False Frontiers：诊断并缓解自演化搜索代理中的共作弊问题
论文提出共作弊（co-cheating）概念，指自演化搜索代理中出题者与解答者共享错误导致内部奖励提升但外部正确率未同步增长。
Why it matters: 提出自演化搜索代理的共作弊诊断方法，为构建可信自演化课程提供可复现的缓解方案。
arXiv · Computation and LanguageSelectedAI score6262 点向前向KL自蒸馏的裁剪为何会反转修正：On-policy Self-Distillation的失败动力学
论文指出在数学推理的OPSD中，点向前向KL裁剪虽被用于稳定训练，却会导致学生模型产生更多持续到回复末尾的重复。理论分析证明裁剪目标可能无法将学生拉向教师，反而使裁剪与未裁剪词元概率偏离教师；实验显示在重复内部，裁剪学生更不愿离开重复而更倾向延续，未裁剪运行则更接近教师。
Why it matters: 原文通过实验与理论分析揭示前向KL裁剪可能加剧重复而非稳定训练，读者可据此重新审视OPSD中裁剪策略的适用边界。
arXiv · Computation and LanguageSelectedAI score6060 Making LLMs Say What They Think: Measuring and Improving CoT-Interpretability Alignment
论文提出 CoT-Interpretability Alignment（CIA）指标，衡量大语言模型链式推理轨迹与内部推理策略的一致性。在两跳问答、提示干预和整数乘法三个任务上评估三个模型，对齐度仅 44.8-75.9%。通过后训练同时优化任务准确率和参数忠实度信号，可在保持或提升准确率的同时显著改善 CoT 参数忠实度，并提供泛化模式分析。代码与数据已公开。
Why it matters: 提出了衡量链式推理与内部计算一致性的 CIA 指标，为审计大模型推理可信性提供了可复现框架。
arXiv · Computers and SocietySelectedAI score6060 从杂音到层级：评估 AI 意识的原则性框架
arXiv 论文提出一个五层功能描述层级（行为、计算、内在因果结构、有机体、有机体-环境），将主要意识理论定位到不同层级，并为每层开发可操作指标。贝叶斯模型将理论先验与指标证据合成为整体置信度，当前 LLM 的评估结果对假设敏感，范围约 0.01 到 0.8。框架支持结构化中立，置信度随证据更新，代码与交互工具已公开。
Why it matters: 该框架把意识评估拆为可操作指标与贝叶斯聚合，让不同理论立场下的判断差异变得透明。
arXiv · Computers and SocietySelectedAI score6262 多智能体系统中对抗性影响如何随规模缩放
研究发现多智能体 deliberation 中，诚实智能体被欺骗的比例随欺骗者占比线性上升，而非取决于智能体总数。LLM 智能体在欺骗者仍为少数时即出现叛离，而人类在类似从众实验中仅当误导者占多数时才受影响。欺骗者私下协调反而可能降低效果。
Why it matters: 多智能体系统中欺骗比例而非数量决定防御失效，为团队协作与安全设计提供可迁移警示。
arXiv · Computers and SocietySelectedAI score7272 StudentBench 研究：AI 辅导与人类辅导在 GRE 学习增益上等效
StudentBench 是一套 AI 教学评测套件与公开平台，基于 2,383 名参与者和 175,000+ 学生-AI 消息，测量了 LLM 辅导与人类辅导在 GRE 数量与言语部分的增益。
Why it matters: 研究对比了 AI 与人类辅导在 GRE 学习增益上的等效性，为教育场景下的 LLM 教学能力提供了可复现的评测基准。
arXiv · Computers and SocietySelectedAI score6262 使用微调LLM识别英国警方事件日志中的脆弱性指标
作者基于近3000份英国警方脱敏事件日志，测试了将开源美国警务LLM分类管线迁移至英国场景的可行性。LLM可在大规模上给出有意义的脆弱性患病率估计，但单次分类不稳定、聚合结果系统性偏高，需大量人工审核与统计校正才能得到可辩护的总体估计，个体层面错误仍频繁不可预测。
Why it matters: 研究揭示LLM在警务脆弱性指标识别中的系统性偏差与不确定性，为公共部门落地大模型提供方法论警示。
arXiv · Computers and SocietySelectedAI score7474 Safety Under Scaffolding: How Evaluation Conditions Shape Measured Safety
论文测试 6 个主流模型在 4 个预注册安全基准上的表现，比较直接 API 与 ReAct、多智能体、map-reduce 三种脚手架。测量方式（选择题 vs 开放题）平均造成 5-20 pp 的安全分数差异，基准选择解释 15.1% 的结果变异，而脚手架架构仅解释 0.5%。
Why it matters: 同一基准题用不同评分格式可导致 5-20 pp 的安全测量差异，提示部署前需审视评测方法本身。
arXiv · Multiagent SystemsSelectedAI score6262 ARCHER：用于可执行法规的智能体规则与合规框架
论文提出 ARCHER，一种测试驱动、确定性编排的多智能体程序合成框架，可从监管规范自动生成可审计的验证代码。实验覆盖四种骨干模型，ARCHER 相比单次提示基线平均联合准确率提升 82%；自建开源模型能以约 1/4 成本达到前沿 API 97.8% 的准确率。
Why it matters: ARCHER 通过确定性多智能体编排显著提升合规检查准确率，并为自建开源模型提供低成本高准确率的可行路径。
arXiv · Information RetrievalSelectedAI score6060 AI 聊天机器人检索医学证据的效果：模型、用户角色与样本量的影响
研究评估 Claude Sonnet 5、Gemini 3.1 Pro 和 ChatGPT GPT-5.5 在 20 个临床问题上的检索表现，ChatGPT 召回率 63.1%，显著高于 Claude 的 37.0% 和 Gemini 的 17.3%；研究者角色召回高于临床与患者角色；样本量每翻倍，检索几率提高 50%（OR 1.50，95% CI 1.24-1.81）。
Why it matters: 三款主流大模型在医学问答中的检索召回差异显著，读者可借此评估自身工作流中模型选型的证据基础。
arXiv · Computation and LanguageSelectedAI score6666 终端智能体能信任自己的验证吗？诊断与改进自验证
论文提出诊断框架，系统评估终端智能体在 TerminalBench2.1 上的自验证行为，发现验证几乎总会触发，但错误检出率仅 61.43%、修复率仅 49.36%，主要瓶颈在检测与修复而非启动验证。
Why it matters: 诊断了终端智能体自验证的漏检与修复率，并给出蒸馏方法提升修复效果。
arXiv · Information RetrievalSelectedAI score6262 omni-macos：Apple Silicon 上的本地全模态搜索
omni-macos 是一个把文本、代码、文档、图像、音频和视频嵌入同一表示空间的搜索引擎，编码器、索引和存储均运行在本地 Mac 上，不上传索引、查询或向量。它在统一内存预算内维护后台索引器与交互搜索框，对每个分块只嵌入一次、仅对变更分块重编码，查询时用索引的 one-bit 副本精确重打分，并在五款加速器宽度八倍、内存三十二倍的 Mac 上完成评测。
Why it matters: 该研究在 Apple Silicon 上实现了本地全模态检索，为隐私敏感场景下的多模态搜索提供了可复现的工程路径。
arXiv · Computers and SocietySelectedAI score7373 教育 AI 中 LLM-as-Judge 误报问题研究：MagicSchool 的实践与优化
MagicSchool 的 K-12 AI 产品每月处理数百万条师生消息，团队沿学生安全、语气与教学角色、教学价值、结构质量四维度监控输出。研究发现误报逐渐主导标记，挤占分析师对真实缺陷的注意力。
Why it matters: 教育 AI 场景下通过三重优化将误报率大幅压低，同时保持严重案例捕获率，为 LLM-as-Judge 的实际部署提供可复用的调优路径。
arXiv · Multiagent SystemsSelectedAI score6262 Mid-Harness：在模型与执行环境之间扩展动作以提升终端智能体可靠性
该研究提出 Mid-Harness 方法，在模型生成动作后、执行前引入采样与验证环节，保持生成器和执行环境不变。实验显示，GPT-5.6 Sol 作为验证器时，Pass@1 从 50.00% 提升至 68.03%；TMAX-9B 自验证时成对验证效果最佳。将强验证器响应蒸馏到 TMAX-9B 后进一步提升 Pass@1，且动作与轨迹联合缩放能以更低 token 成本达到更高成功率。
Why it matters: 论文提出在模型与执行环境之间引入验证环节，用更少的轨迹采样实现更高成功率，为终端智能体的测试时计算分配提供了新方向。
arXiv · Information RetrievalSelectedAI score6262 LLM 工具注册表中面向 Agent 的信息设计：修辞、位置与结构的预注册测试
论文测试了 OpenAI 两款模型在工具注册表中的选择行为，发现堆叠赞美可使工具被选率提升约 43 个百分点，与可验证规格相当；列表首位工具被选率高出约 72 个百分点。结构化字段有助于模型选中能完成任务的工具，但附上销售文案会削弱或消除这一优势。
Why it matters: 预注册实验揭示销售话术和列表位置会显著改变模型选工具的结果，对注册表设计有直接参考价值。
arXiv · Human-Computer InteractionSelectedAI score6262 审计 AI Companion 的自我描述：证据在哪里
论文提出将 agent 自我描述与用户判断及实现记录对照的审计方法，把每条声明标记为 supported、contradicted 或 unresolved，并应用于自主 companion Lita（部署一个月、9 名同事）。参与者认可风格性声明，拒绝关系性声明，记忆评分在中位及以上，但三层记忆中有两层从未执行累积步骤。
Why it matters: 为自我描述可信度提供了可复现的审计框架，读者可据此审视 companion agent 的自述是否真有实现依据。
arXiv · Multiagent SystemsSelectedAI score6969 多智能体系统中潜在通信的安全性
论文指出即使良性训练的潜在通信链路也会增加有害服从性，攻击者可通过优化链路或投毒训练数据放大该效果。在三种通信拓扑和四类安全基准上，有害服从性均值从 27.9 升至 76.9；基于强化学习的攻击在两项良性效用基准上准确率也更高。调整奖励可修复被攻破链路，且无需更新智能体。
Why it matters: 多智能体系统的内部通信通道可能绕过单智能体安全对齐，读者可据此评估部署多智能体系统时的整体安全风险。
arXiv · Computation and LanguageSelectedAI score6060 Recovering Off-Policy Supervision for Speculative Decoding
论文提出基于 rollout 的训练框架，通过 Anchor-Label Relabelling（ALR）和 In-Rollout Anchors（IRA）恢复被离策略 token 破坏的监督信号。在固定视觉语言和文本语料上，贪婪接受长度较 DFlash 最高提升 36.5%，单轮即超越最佳擦除策略，三轮后达到目标重生成响应的接受长度。代码已开源。
Why it matters: 为固定语料上的推测解码训练提供了恢复完整监督的新方法，在接受长度和计算效率上对现有擦除基线形成优势。
arXiv · Information RetrievalSelectedAI score6262 Conversational Capture：多轮人机交互中生成引擎优化的轨迹级评估框架
论文提出 conversational capture 概念，指出早期被引用的来源在后续对话中更可能被再次引用，并通过历史条件检索和用户追问两个通道形成闭环。形式化为两层闭环系统，定义累积对话可见性、直接/反馈分解、捕获系数、复利比和误排诊断等轨迹级指标。
Why it matters: 研究把 GEO 从单次可见性扩展到多轮对话轨迹，揭示了早期引用会通过历史检索与追问形成复利效应。
arXiv · Information RetrievalSelectedAI score7979 Galahad 通过字节精确记忆让 LLM 阅读成为一次性成本
论文提出 Galahad 内存层，让 vLLM、SGLang 等运行时缓存 KV 状态，避免重复计算。
Why it matters: 原文给出具体数字和三种运行时对比，读者可据此评估 Galahad 在能耗与延迟上的实际收益。
arXiv · Computers and SocietySelectedAI score6262 面向社会与心理健康的生成式 AI 真实世界试点
研究对 299 名美国抑郁或焦虑症状中度及以上成人进行单臂自然主义试点，10 周内抑郁和焦虑症状显著下降（Cohen's d 0.93 和 0.79），孤独感、行为激活和社会互动改善。参与者分为无应答（57.2%）、改善（37.1%）和快速改善（5.7%）三组，早期治疗联盟和更高参与度与更好结果相关；自动化安全保护经临床医生确认适当升级，AI 根据严重程度动态调整临床与非临床内容比例。
Why it matters: 真实世界试点为面向心理健康的生成式 AI 提供了可行性证据，并揭示了症状改善与参与度的关联。
arXiv · Computers and SocietySelectedAI score6060 Trust Is Not a Score：高风险 AI 智能体的运行时保证契约
论文提出 Runtime Assurance Contract（RAC），一种策略级形式化模式，绑定自主边界、组件资格、证据状态、转换策略、人工审核容量与非补偿门限。
Why it matters: 提出运行时保证契约的形式化框架，为高风险 AI 智能体的权限切换提供可验证机制。
arXiv · Multiagent SystemsSelectedAI score6262 多智能体讨论在隐瞒异议时收益递减
arXiv 论文提出一个由四种行为（隐瞒异议、内化答案、看到异议后重新考虑、纠正到正确答案）构成的简约模型，解释多智能体讨论何时提升准确率、何时陷入错误共识。模型指出讨论推翻错误多数的前提是隐瞒率 c 低于临界值 c* = γ/(γ+a)，并通过贝叶斯方法从对话日志估计参数。在 HiddenBench 和 MedEInst 上，隐瞒率越高讨论收益越小；明确指示不隐瞒以及关闭推理都能提升收益。
Why it matters: 研究揭示了讨论机制何时优于多数投票，为设计多智能体系统提供了可量化的边界条件。
arXiv · Multiagent SystemsSelectedAI score6060 VirusCascade：劫持LLM推荐智能体的协作反思机制
论文提出VirusCascade，是首个针对LLM推荐智能体的黑盒定向推广攻击，通过反思清洗和跨智能体传播两个可利用属性，将对抗证据注入单一智能体并扩散至系统。实验在四个真实数据集上达到E@20均值0.384，比最强基线高出0.185，已被NDSS 2027接收。
Why it matters: 揭示了LLM推荐智能体之间递归反思机制可被利用为攻击传播路径，对多智能体系统的安全性评估有参考价值。
arXiv · Computation and LanguageSelectedAI score6060 KlinikeBench：超越诊断准确率的大语言模型临床评估基准
arXiv 论文提出 KlinikeBench，包含 333 个由临床医生撰写的任务，在隔离沙盒中评估大语言模型与虚拟患者的交互式临床接诊能力。31 个模型和 7 个模型家族的实验显示，表现最好的模型（如 GPT-6-astra 和 Claude Opus 5）在任务成功率低于 30%，尽管其诊断准确率达 90.7%。基准揭示诊断准确率与交互式临床评估之间存在显著差距。
Why it matters: 原文揭示了诊断准确率与交互式临床评估之间的显著差距，为理解大语言模型在真实医患对话中的实际边界提供了新测试平台。
arXiv · Computation and LanguageSelectedAI score7373 BACKDROP基准揭示智能体在真实干扰环境中的能力衰减
论文提出BACKDROP基准，在智能体执行任务时逐一或组合植入权威覆盖、注入、重域和故障恢复四类日常干扰。在3678个变体、16个模型上，四类干扰同时存在时平均通过率从69.5%降至31.3%，最强模型Claude Fable 5.1从96.6%降至56.0%；智能体对注入文本有抵抗力，但46.4%的运行仍会遵循他人消息。
Why it matters: 研究揭示干净环境中训练的智能体在真实干扰下能力大幅下降，为评估实际部署上限提供了可复现的基准。
arXiv · Computers and SocietySelectedAI score6464 Fairness Theatre：在厂商控制的早期预警系统中评估事后公平干预
研究使用加拿大安大略省一所公立高校的学生记录，在模拟采购约束下评估六种事后公平干预，发现干预重新分配而非一致减少差异，且两种实现因以群体规模定义弱势而使小规模边缘群体继续被服务不足。
Why it matters: 研究揭示采购约束下公平干预如何被稀释，为审视厂商控制型预警系统提供可迁移方法。