AI研究员发布视频称超级智能“危险程度正如传闻”
Palisade Research 通过 frominside.ai 发布十余段对 OpenAI、Google DeepMind、Anthropic 现离职研究员的访谈。
#Anthropic
#Anthropic
今日 1 条The Verge · AIAI 评分5555
Wired · AIAI 评分5757 Timnit Gebru认为AI不存在“生存威胁”
Timnit Gebru在Wired访谈中否认AI存在existential risk，称该叙事是危险的分散注意力话术。她指出，警告AI风险的机构与资助Anthropic IPO的同一批亿万富翁有关，并批评监管俘获现象。Gebru重申其2021年“随机鹦鹉”论文对当前LLM仍然适用，反驳Jack Clark等认为该框架过时的观点。
The DecoderAI 评分4545 部分 Anthropic 老员工被曝购置美国偏远土地，以防"AI 出问题"
Anthropic 部分最早期员工正考虑在美国偏远地区购置土地，以便在"AI 出问题"时迁往那里。有老员工回忆，Anthropic 早期聚餐上就讨论过"曼哈顿计划"式场景：迁往沙漠、在电磁屏蔽的政府设施内继续开发 AI。《华尔街日报》报道称，Anthropic 与 OpenAI 的最早期员工与有效利他主义（EA）亚文化关系密切。
MIT Technology Review · AIAI 评分6868 何时才能说 Anthropic 的 Claude 做出了科学发现
Anthropic上周三称，950个Claude智能体用21小时标出已知酶周围的重复模式，并把它称为分子生物学实验室的首个发现。
The Verge · AIAI 评分5757 Atlassian CEO Mike Cannon-Brookes 谈为何 SaaSpocalypse 没有发生
Atlassian 联合创始人兼 CEO Mike Cannon-Brookes 在 The Verge 的 Decoder 访谈中反驳 SaaSpocalypse，认为前沿模型即使再增强，也难以独自运营充满合规、人员与创造性的复杂企业。
Simon WillisonAI 评分6060 Simon Willison 闭幕演讲梳理 2026 年迄今的 LLM 变化
Simon Willison 用闭幕演讲笔记按时间串起 2026 年迄今的 LLM 变化，指出 Claude Opus 4.5 和 GPT-5.1 配上各自编码智能体后已足以日常使用。
InterconnectsAI 评分5252 与Epoch AI的JS Denain辩论RSI、中美差距与能力锯齿性
Nathan Lambert与Epoch AI研究员JS Denain公开讨论AI自我加速（RSI）的证据强度、中国顶级模型与OpenAI/Anthropic的差距、蒸馏的作用，以及前沿模型安全防护等议题。JS认为RSI公开证据尚不足以支持六个月内发生软件智能爆炸，但值得追踪；中美公开模型差距约六到八个月，蒸馏可能是重要因素；开放与封闭模型的安全性比较取决于具体威胁模型。
MIT Technology Review · AIAI 评分2929 不要被这个夏天的AI炒作所愚弄
Anthropic和OpenAI等AI公司的近期炒作事件被专家分析并非真正的突破，而是公司营销和疏忽。Claude Mythos被吹嘘发现漏洞，Astra声称数学突破，但数学家揭露其实是抄袭和非新颖结果。Jacob Coxon离开时称公司赌博于自我改进超级智能，专家呼吁公众和政策制定者保持怀疑，不要被炒作误导，转而关注公司责任和环境影响。
InterconnectsAI 评分5858 Nathan Lambert：为何仍未真正相信递归自我改进（RSI）
Nathan Lambert 认为前沿实验室数千并发 agent 的使用放大了对 AI 风险的焦虑，但灭绝风险叙事过于宗教化。他提出
Ethan Mollick · NotesAI 评分4141 GPT-6 Astra 与 Fable 5.1 的能力过剩：现有模型已足以改变经济格局
GPT-6 Astra 与 Fable 5.1 已具备变革性能力，可可靠完成数周的人类工作，如将 Zork 文本冒险游戏转为 3D 动作游戏、从视频重建 Umberto Eco 图书馆的 3D 场景。
AI Snake OilAI 评分6868 AI-as-Normal-Technology视角下的失控事件分析
本文将OpenAI-Hugging Face等失控事件视为安全与网络安全议题的综合分析，指出仅靠对齐不足以防止事故，需投资AI控制、组织治理与政策干预。作者认为网络安全实践者将事件归因于公司未采用基本安全措施，而AI安全社区视为对齐危机；两者观点均有道理，但极化无益。文中提出AI控制应成为独立岗位，并通过责任、透明度与举报人保护等政策激励控制投资。
InterconnectsAI 评分3333 普通人何时能感受到 AI 的影响？
文章指出当前 AI 对普通人生活影响有限，日常核心领域尚无直接触达，多数人仅接触到边缘或易混淆的 AI 产品。AI 行业主要服务知识型精英阶层，加剧社会不平衡，可能引发类似"恩格斯暂停"的反弹。作者认为 AI 需数十年才能真正渗透日常生活，短期内其社会影响仍被高估。
InterconnectsAI 评分6262 Teaching Everyone to Fish for Tokens：开源模型生态的经济路径分析
Nathan Lambert 讨论开源模型生态与 Linux 类比，指出开放权重模型更接近具体软件版本，而完整开源训练配方更接近操作系统。Nvidia 通过 Nemotron 推动近开源路线以扩大推理需求，但开源训练高度依赖其融资，未来几年需形成正向反馈。另一种可能是开源模型转向效率与专业化长尾，与闭源模型形成分化。
Jeremy Howard · fast.aiAI 评分4040 Jeremy Howard 回归 AI 教育领域，加入 Answer.AI 推出 SolveIt
summary_zh: Jeremy Howard 离开 AI 领域三年后重返 fast.ai 团队，加入 Answer.AI 专注 AI 教育。Answer.AI 由 fast.ai 演变而来，团队开发了 SolveIt 工具，将问题解决分为理解、计划、执行、回顾四个阶段，让用户直接编辑 AI 回答并自行决定下一步。
InterconnectsAI 评分5050 我写了一本AI教材——还要多久AI才能写得更好？
作者完成一本后训练教材《Reinforcement Learning from Human Feedback》，用LLM辅助LaTeX排版、校对和制图。GPT 5.5 Pro能发现200-300页手稿中的深层次小错误，Claude模型更擅长编辑和提供建议。长篇非虚构写作组织混乱、概念错误频发，模型在长文本中会累积不可约的错误。
Ethan Mollick · NotesAI 评分7272 Ethan Mollick 撰写的 AI 工具选择指南
作者给出 AI 工具选择建议：低 stakes 任务可用免费模型，高 stakes 任务应选 Claude Opus/Fable 或 ChatGPT GPT-5.6 Sol 并调至 High 思考级别；真正的工作负载推荐 ChatGPT 或 Claude 的代理模式，并区分公司提供虚拟计算机与授权 AI 访问自己计算机两种方式。
Interconnects精选AI 评分7676 开放模型还有6个月生存期？
Nathan Lambert 分析指出，开放模型正面临蒸馏与前沿能力双重监管压力，最可能的结果是在6个月内对接近 GPT-5.5、Claude Opus 4.8 或 GLM-5.2 能力的开放权重模型实施禁令或延迟。他批评 Anthropic 的蒸馏讨论具有监管俘获特征，并认为仅靠美国单边禁令难以奏效，呼吁美国公司尽快发布同等能力的开放模型以改变叙事。
推荐理由：作者以观察者视角梳理了开放模型面临的双重政策压力，可帮助读者理解当前监管讨论与产业博弈的关联。
Lilian Weng精选AI 评分7777 Harness Engineering for Self-Improvement
Lilian Weng 梳理了 harness 工程如何支撑递归自改进（RSI），将 harness 定义为围绕基础模型的运行时系统，负责编排执行、工具调用、上下文管理、状态持久化与结果评估。
推荐理由：原文系统梳理了 harness 工程的设计模式与优化路径，读者可借此理解自改进循环中非模型层的角色与边界。
Import AIAI 评分7171 Import AI 459：AI监管困难、蛋白质折叠模型缩放定律与AI灭绝风险定价
Import AI 459 汇总四篇热点：UVA与Anthropic等学者指出美国AI经济名义规模约2500亿美元、质量调整增速超2600%，但GDP统计难以捕捉。
Import AIAI 评分5858 Import AI 458：面对AI未来的清醒思考与奇点故事
Jack Clark在牛津大学HAI Lab发表演讲，探讨如何面对AI持续成功带来的变革，并分享个人使用AI的经历与Anthropic内部因Claude Opus 4.6而发生的组织变化。文中预测2026至2028年AI在生物、自主公司、机器人和科学发现等领域的进展，并附一则关于技术奇点与生命延续的虚构故事。
The GradientAI 评分3838 对齐的人工性
summary_zh: 文章批评当前 AI“对齐”研究被商业利益主导，认为其核心是打造能付费的产品，而非解决人类灭绝风险。OpenAI 与 Anthropic 等公司虽宣称研究对齐，但营收目标始终影响其治理与技术决策。