Thore Graepel撰文称LLMs并不具备真正的推理能力
Get the story
Thore Graepel在MIT Technology Review撰文指出,当前大语言模型并不具备真正的推理能力。他以AlphaGo的Move 37为例,认为那并非直觉,而是基于搜索树的推理;而LLM仅依赖next-token prediction迭代,缺乏可检查的信念状态、知识与推理的分离,且存在事后编造推理链的问题。他主张借鉴AlphaGo架构,构建维护epistemic state的通用推理系统,以便在医学、科研等高风险领域产出可审计的结论。
Generated from reports · updated 4 hr ago
Timeline
Follow the coverage from different angles.
- MIT Technology Review · AI不要被迷惑——大语言模型并不会推理
Thore Graepel 指出 AlphaGo 的 Move 37 并非直觉,而是基于搜索树的推理;当前 LLM 仅靠 next-token prediction 迭代,缺乏可检查的信念状态、知识与推理的分离,以及事后编造推理链的问题。他主张借鉴 AlphaGo 架构,构建维护 epistemic state 的通用推理系统,以在医学、科研等高风险领域产出可审计的结论。
Heat trend
Current heat 9·Comparable peak 9(Oct 2)·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.