热点事件持续更新
TestJack:通过评估器演化审计智能体编码基准
1 篇报道1 个报道来源2 小时前 更新
先了解这件事
AI 综述
TestJack 是一个在固定单元测试之外评估补丁的框架,针对每条试验生成可能违反提示需求的测试,仅保留真实补丁通过的测试并复检失败。其轻量版本会深度审计随机抽样试验并复用测试。该框架在 6 个前沿模型和 DeepSWE、SWE Marathon 等 5 个基准上进行评估,发现约 34.4% 被判正确的试验违反任务需求,解决率由 50.6% 降至 33.2%。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月9日
- arXiv · Software EngineeringTestJack:通过评估器演化审计智能体编码基准结果
TestJack 是一个在固定单元测试之外评估补丁的框架,针对每条试验生成可能违反提示需求的测试,仅保留真实补丁通过的测试并复检失败。轻量版本会深度审计随机抽样试验并复用测试,在 6 个前沿模型和 DeepSWE、SWE Marathon 等 5 个基准上发现约 34.4% 被判正确的试验违反任务需求,解决率由 50.6% 降至 33.2%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。