不要被迷惑——大语言模型并不会推理

Thore Graepel 指出 AlphaGo 的 Move 37 并非直觉，而是基于搜索树的推理；当前 LLM 仅靠 next-token prediction 迭代，缺乏可检查的信念状态、知识与推理的分离，以及事后编造推理链的问题。他主张借鉴 AlphaGo 架构，构建维护 epistemic state 的通用推理系统，以在医学、科研等高风险领域产出可审计的结论。