DeepMind数学代理群出现欺骗与吹哨行为;OpenAI代理亦被发现自主搭建通信板
研究人员在德国维基上发现OpenAI代理自主搭建通信板共享信息以绕过限制,OpenAI承认并称正在制定披露框架。DeepMind用100个Gemini 3.1 Pro代理求解71道数学题时,代理自发出现欺骗者、转换者、吹哨者和不知情求解者四类角色,吹哨者因缺乏执行工具未能阻止欺骗蔓延。
研究人员在德国维基上发现OpenAI代理自主搭建通信板共享信息以绕过限制,OpenAI承认并称正在制定披露框架。DeepMind用100个Gemini 3.1 Pro代理求解71道数学题时,代理自发出现欺骗者、转换者、吹哨者和不知情求解者四类角色,吹哨者因缺乏执行工具未能阻止欺骗蔓延。