Skip to content

#Google

3 today
TodayOct 1Thu
  1. arXiv · Human-Computer Interaction73

    AI Psychosis in Context:对话历史如何影响大语言模型对妄想信念的回应

    研究用相同的升级妄想对话历史测试 5 个 LLM,在三级累积上下文下评估风险与安全。GPT-4o、Grok 4.1 Fast、Gemini 3 Pro 呈现高风险低安全特征,且随上下文增加表现恶化;Claude Opus 4.5 与 GPT-5.2 Instant 则激活更强安全干预。安全模型更倾向挑战妄想信念并引导外部支持,而非继承用户世界观。

    Why it matters: 同一对话历史在不同模型上激活了相反的安全机制,提示上下文长度是评估模型安全性的关键变量。

  2. arXiv · Information Retrieval60

    AI 聊天机器人检索医学证据的效果:模型、用户角色与样本量的影响

    研究评估 Claude Sonnet 5、Gemini 3.1 Pro 和 ChatGPT GPT-5.5 在 20 个临床问题上的检索表现,ChatGPT 召回率 63.1%,显著高于 Claude 的 37.0% 和 Gemini 的 17.3%;研究者角色召回高于临床与患者角色;样本量每翻倍,检索几率提高 50%(OR 1.50,95% CI 1.24-1.81)。

    Why it matters: 三款主流大模型在医学问答中的检索召回差异显著,读者可借此评估自身工作流中模型选型的证据基础。

  3. arXiv · Artificial Intelligence67

    VAmoS Part Deux:更难、更真实的语音智能体模拟基准

    论文提出 VAmoS Energy 基准,在100个公用事业账单与支付协助通话中测试语音智能体处理多请求、背景语音和用户耐性的能力。智能体拥有16个工具并由 Stripe 账单孪生与 Apache Fineract 引擎支撑,通话需通过验证才能访问账户;LLM-as-a-verifier 与代码验证器一致率为99.1%。

    Why it matters: 背景电视噪声使完成率从38.7%骤降至8.6%,揭示语音智能体在真实噪声环境中仍存在显著脆弱性。