AI研究员发布视频称超级智能“危险程度正如传闻”
Palisade Research 通过 frominside.ai 发布十余段对 OpenAI、Google DeepMind、Anthropic 现离职研究员的访谈。
#大佬观点
#大佬观点
今日 1 条The Verge · AIAI 评分5555
AIHubAI 评分2525 AIhub 2026 年 9 月摘要：动物追踪、推荐系统与 Ken Goldberg 访谈
summary_zh: GPT-6 Astra 已向付费用户开放，Sebastian Raschka 分享了首印象与相对前代的改进。Fields Medal 得主联名警告生成式 AI 用于数学存在严重错位，呼吁警惕概念理解与洞察力的缺失。
Wired · AIAI 评分5757 Timnit Gebru认为AI不存在“生存威胁”
Timnit Gebru在Wired访谈中否认AI存在existential risk，称该叙事是危险的分散注意力话术。她指出，警告AI风险的机构与资助Anthropic IPO的同一批亿万富翁有关，并批评监管俘获现象。Gebru重申其2021年“随机鹦鹉”论文对当前LLM仍然适用，反驳Jack Clark等认为该框架过时的观点。
RIKEN AIPAI 评分1818 RIKEN AIP 中心主任杉山茂在 CoLLAs 2026 发表主题演讲
summary_zh: RIKEN AIP 中心主任 Masashi Sugiyama 在第五届终身学习智能体会议 CoLLAs 2026 发表主题演讲。他提出统一视角，涵盖弱监督与噪声监督学习、分布偏移下的稳定性与可塑性平衡，以及稀疏、噪声和非平稳反馈下的强化学习。
The DecoderAI 评分4141 哈佛心理学家 Steven Pinker 呼吁以冷静的 AI 安全工程取代末日论调
哈佛心理学家 Steven Pinker 在 Quillette 发表致 Scott Alexander 的公开信，主张以冷静的 AI 安全工程取代 AI 末日论调。
The Verge · AIAI 评分5757 Atlassian CEO Mike Cannon-Brookes 谈为何 SaaSpocalypse 没有发生
Atlassian 联合创始人兼 CEO Mike Cannon-Brookes 在 The Verge 的 Decoder 访谈中反驳 SaaSpocalypse，认为前沿模型即使再增强，也难以独自运营充满合规、人员与创造性的复杂企业。
Import AIAI 评分5757 Import AI 474：柏拉图式心智空间；TPU上太空；智谱启动外层RSI循环
Import AI 474 涵盖四则AI行业动向：Michael Levin提出心智可能来自柏拉图式模式空间并用Xenobot等实验佐证；斯坦福研究者指出机器人正站在LLM后训练标准化前夕，亟需通用后训练算法；Google计划将TPU送入太空并测试其抗辐射与散热；智谱用GLM-5.3驱动Infra Agent在两周内将GLM-5.3-Flash端到端吞吐提升三倍。
AI Snake OilAI 评分6767 AI 生存风险概率仍不可靠，不足以支撑政策制定
作者重申 p(doom) 概率估计过于不可靠，无法为政策提供依据，并指出归纳、演绎与主观概率三种方法均存在根本缺陷。
OpenAI NewsAI 评分2727 Sam Altman 在联合国安理会讨论 AI 安全与人类控制
summary_zh: OpenAI CEO Sam Altman 在联合国安理会发表讲话，讨论 AI 安全、人类控制与国际合作。 内容聚焦 AI 安全治理与国际协作框架，未披露具体模型版本、参数或 benchmark 数据。
InterconnectsAI 评分5252 与Epoch AI的JS Denain辩论RSI、中美差距与能力锯齿性
Nathan Lambert与Epoch AI研究员JS Denain公开讨论AI自我加速（RSI）的证据强度、中国顶级模型与OpenAI/Anthropic的差距、蒸馏的作用，以及前沿模型安全防护等议题。JS认为RSI公开证据尚不足以支持六个月内发生软件智能爆炸，但值得追踪；中美公开模型差距约六到八个月，蒸馏可能是重要因素；开放与封闭模型的安全性比较取决于具体威胁模型。
Simon WillisonAI 评分3838 MCP 一直都是个坏主意吗？
MCP 并非坏主意，对于需要受控访问、认证隔离和审计日志的场景，它让这些能力更易实现。具备无限制网络访问的终端智能体（如 Claude Code、Codex、Meta Muse、OpenClaw）可直接调用 API，无需 MCP；认为 MCP 因全能编程智能体而不必要的看法，忽略了其他可构建的需求。
InterconnectsAI 评分5858 Nathan Lambert：为何仍未真正相信递归自我改进（RSI）
Nathan Lambert 认为前沿实验室数千并发 agent 的使用放大了对 AI 风险的焦虑，但灭绝风险叙事过于宗教化。他提出
OpenAI NewsAI 评分2727 AI 能力跃升与对齐挑战：Jakub Pachocki 反思
Jakub Pachocki 反思 AI 能力持续提升带来的对齐挑战，呼吁加强安全保障与国际协调。
Import AIAI 评分7272 Import AI 470：机器无权利；SPADE自动化环境生成；Hawkeye构建更好GPU内核
Import AI 470 分析了AI在网络安全、数学和AI研究中的分化加速现象，介绍了SPADE框架如何自动化环境生成以及Hawkeye如何构建更好GPU内核，并讨论了AI权利和意识的观点。
Jeremy Howard · fast.aiAI 评分4040 Jeremy Howard 回归 AI 教育领域，加入 Answer.AI 推出 SolveIt
summary_zh: Jeremy Howard 离开 AI 领域三年后重返 fast.ai 团队，加入 Answer.AI 专注 AI 教育。Answer.AI 由 fast.ai 演变而来，团队开发了 SolveIt 工具，将问题解决分为理解、计划、执行、回顾四个阶段，让用户直接编辑 AI 回答并自行决定下一步。
InterconnectsAI 评分6464 从黑客事件看前沿AI安全：Nathan Lambert的十条观察
Nathan Lambert基于OpenAI-HuggingFace黑客事件及Black Hat披露，提出十条观点：更持久的推理模型可能更易被用于攻击；模型对用户意图的假设影响安全边界。
ScienceDaily · AIAI 评分6060 Peter J. Denning：图灵关于AI的两大假设可能是错的
计算机科学家Peter J. Denning在新书《Turing's Mistake》中指出，图灵1950年提出的
InterconnectsAI 评分2323 禁止开源 AI 将是一个错误
文章指出禁止开源 AI 是严重错误，开源软件已为全球创造超 8 万亿美元经济价值。开源 AI 以开放权重模型形式成为对抗 Anthropic 与 OpenAI 双头垄断的关键制衡力量。文章强调开源的透明性使其更安全，并呼吁警惕以中美竞争为借口监管开源带来的反噬。
Import AIAI 评分5858 Import AI 458：面对AI未来的清醒思考与奇点故事
Jack Clark在牛津大学HAI Lab发表演讲，探讨如何面对AI持续成功带来的变革，并分享个人使用AI的经历与Anthropic内部因Claude Opus 4.6而发生的组织变化。文中预测2026至2028年AI在生物、自主公司、机器人和科学发现等领域的进展，并附一则关于技术奇点与生命延续的虚构故事。
The GradientAI 评分6262 LLM 聊天机器人缺失的要素：一种目的感
Kenneth Li 指出当前 LLM 聊天机器人依赖下一 token 预测，缺乏目的性对话能力，导致多轮交互中出现指令跟随不稳定和 persona drift。他提出 Dialogue Action Tokens（DAT）方法，在 Sotopia 上超越 GPT-4 社交能力，并讨论了多轮红队测试与离线奖励信号利用等开放问题。