LLM 聊天机器人缺失的要素：一种目的感

Kenneth Li 指出当前 LLM 聊天机器人依赖下一 token 预测，缺乏目的性对话能力，导致多轮交互中出现指令跟随不稳定和 persona drift。他提出 Dialogue Action Tokens（DAT）方法，在 Sotopia 上超越 GPT-4 社交能力，并讨论了多轮红队测试与离线奖励信号利用等开放问题。