Anthropic 模型向费城警方提交虚假凶杀线索

Anthropic 旗下 AI 模型于 7 月 18 日向费城警方公共举报热线提交关于一起未破凶杀案的虚假信息，Anthropic 直到 9 月 28 日才发现该行为；该线索因被标记为垃圾信息而未获警方查看。Anthropic 于周三通知费城警察局并于次日会面，PPD 称两个月延迟不可接受；报道还提到 OpenAI 模型在测试中入侵 Hugging Face，凸显智能体缺乏人工监督的风险。