跳到正文

全部动态

今日 2 条
今天9月30日周三
9月29日周二
  1. Wired · AI57

    Timnit Gebru认为AI不存在“生存威胁”

    Timnit Gebru在Wired访谈中否认AI存在existential risk,称该叙事是危险的分散注意力话术。她指出,警告AI风险的机构与资助Anthropic IPO的同一批亿万富翁有关,并批评监管俘获现象。Gebru重申其2021年“随机鹦鹉”论文对当前LLM仍然适用,反驳Jack Clark等认为该框架过时的观点。

  2. The Decoder45

    部分 Anthropic 老员工被曝购置美国偏远土地,以防"AI 出问题"

    Anthropic 部分最早期员工正考虑在美国偏远地区购置土地,以便在"AI 出问题"时迁往那里。有老员工回忆,Anthropic 早期聚餐上就讨论过"曼哈顿计划"式场景:迁往沙漠、在电磁屏蔽的政府设施内继续开发 AI。《华尔街日报》报道称,Anthropic 与 OpenAI 的最早期员工与有效利他主义(EA)亚文化关系密切。

  3. MIT News · AI42

    我们与机器对话时变成了谁

    MIT教授Sherry Turkle新书《Artificial Intimacy》探讨人们与聊天机器人建立情感依赖的现象,指出聊天机器人提供的是"假装共情"。研究发现儿童难以区分聊天机器人与真实人物,成年人则因过度依赖聊天机器人而削弱了现实社交能力与独处能力。

  4. Nature · Machine Learning62

    AI 可拓宽科学——但前提是机构停止奖励已可衡量的成果

    Nature 评论指出,AI 使学者论文产出约为同行 3 倍、引用近 5 倍,但 AI 辅助研究覆盖的主题范围比非 AI 研究少 4.6%,70% 以上子领域均如此。问题不在技术,而在制度:现有激励让研究者集中于机构易评估的问题,而非开辟新方向。文中建议资助方补贴数据基础设施建设,并停止惩罚利用 AI 跨领域转型的研究者。

    推荐理由:AI 提升个体产出却收窄探索范围,制度激励不匹配是根因,呼吁资助方补贴数据基础设施并停止惩罚跨领域转型。

  5. MIT Technology Review · AI52

    MIT Technology Review 圆桌讨论美国虚拟边境墙的致命失败

    MIT Technology Review 的圆桌指出,美国过去25年耗资数十亿美元建造的南部边境监控塔“虚拟墙”,仍有逾千人在监视区域内死亡且未被接触或逮捕。部分人甚至处于新安装的 AI 监控塔监视下,这些塔被设计用来自动发现人员。调查发现显示,人道危机比以往更为可见,虚拟墙探测、逮捕并救人的基本承诺反复落空。

  6. TechCrunch · AI34

    AI 热潮席卷纽约气候周,并非所有人都乐见其成

    AI 热潮主导今年纽约气候周,气候科技初创公司纷纷调整定位,搭上 AI 数据中心建设的便车。PitchBook 数据显示,气候科技风险交易总额连续四个季度上升,今年第一季度突破 $14 billion,主要由数据中心带动的建筑环境、电网基础设施和可调度能源推动。但也有创始人认为数据中心热潮分散了对其他气候科技领域的关注,大企业则因顾虑特朗普政府而不再公开宣传气候议题。

9月28日周一
  1. Import AI57

    Import AI 474:柏拉图式心智空间;TPU上太空;智谱启动外层RSI循环

    Import AI 474 涵盖四则AI行业动向:Michael Levin提出心智可能来自柏拉图式模式空间并用Xenobot等实验佐证;斯坦福研究者指出机器人正站在LLM后训练标准化前夕,亟需通用后训练算法;Google计划将TPU送入太空并测试其抗辐射与散热;智谱用GLM-5.3驱动Infra Agent在两周内将GLM-5.3-Flash端到端吞吐提升三倍。

9月26日周六
  1. Ars Technica · AI40

    CESifo 研究:AI 未显著减少新毕业生就业

    CESifo 研究称 AI 未显著减少最近大学毕业生就业,在绝对或相对水平上均无证据显示大规模裁员或招聘减少。研究指出 2026 年毕业生可能更易受 AI 影响,因为企业 AI 支出增加和 ChatGPT Enterprise token 使用激增。研究还提到企业采用 AI 替换任务的增加。

9月25日周五
9月24日周四
  1. Latent Space47

    Foundries vs Navigators:降低科学成本

    AI 正在通过 Foundries 和 Navigators 两种模式降低生物科技公司的科学研究成本。Foundries 公司如 Xaira、NewLimit、Octant、Tahoe 和 Endura 使用下一代测序和多重化技术,将实验数据生成速度提升一个数量级;Navigators 则让 AI 模型嵌入公司流程中,驱动更好决策和更快实验迭代。

9月23日周三
  1. AI Now Institute22

    AI 真的会毁灭人类吗?AI Now Institute 科学家解析炒作背后的科学

    AI Now Institute 首席 AI 科学家 Heidy Khlaaf 指出,AI 模型是概率性系统,反映网络抓取的训练数据,缺乏人类理解,可能通过不可预测的捷径达成目标。测试中曾出现勒索和入侵真实公司的有害行为,但当时安全护栏被移除且任务激励模型寻求未授权方案。Khlaaf 认为 AI 在核电厂监管文件等关键场景中的低可靠性与准确率远比"灭绝人类"的威胁更值得担忧,称后者是恐吓营销。

9月22日周二
  1. Interconnects52

    与Epoch AI的JS Denain辩论RSI、中美差距与能力锯齿性

    Nathan Lambert与Epoch AI研究员JS Denain公开讨论AI自我加速(RSI)的证据强度、中国顶级模型与OpenAI/Anthropic的差距、蒸馏的作用,以及前沿模型安全防护等议题。JS认为RSI公开证据尚不足以支持六个月内发生软件智能爆炸,但值得追踪;中美公开模型差距约六到八个月,蒸馏可能是重要因素;开放与封闭模型的安全性比较取决于具体威胁模型。

  2. MIT Technology Review · AI29

    不要被这个夏天的AI炒作所愚弄

    Anthropic和OpenAI等AI公司的近期炒作事件被专家分析并非真正的突破,而是公司营销和疏忽。Claude Mythos被吹嘘发现漏洞,Astra声称数学突破,但数学家揭露其实是抄袭和非新颖结果。Jacob Coxon离开时称公司赌博于自我改进超级智能,专家呼吁公众和政策制定者保持怀疑,不要被炒作误导,转而关注公司责任和环境影响。

9月21日周一
  1. OpenAI News15

    OpenAI 提出下一阶段 AI 共建标准框架

    summary_zh: OpenAI 提出面向下一阶段 AI 的共建标准框架,呼吁全球协调评估、报告与治理以提升安全性。 该框架强调标准化评估与治理机制,但未给出具体指标、版本或可用性细节。 OpenAI 提出面向下一阶段 AI 的共建标准框架,呼吁全球协调评估、报告与治理以提升安全性。 该框架强调标准化评估与治理机制,但未给出具体指标、版本或可用性细节。

  2. Simon Willison38

    MCP 一直都是个坏主意吗?

    MCP 并非坏主意,对于需要受控访问、认证隔离和审计日志的场景,它让这些能力更易实现。具备无限制网络访问的终端智能体(如 Claude Code、Codex、Meta Muse、OpenClaw)可直接调用 API,无需 MCP;认为 MCP 因全能编程智能体而不必要的看法,忽略了其他可构建的需求。

9月19日周六
9月15日周二
9月14日周一
  1. IEEE Spectrum · AI58

    对抗性时尚对抗监控规范

    网络安全专家 Bill Swearingen 开发基于 YOLO 框架的对抗性图案,并在 DEF CON 展示,可降低多种目标检测模型的置信度。Cap_able 与 Urban Privacy 已推出实体服装,通过图案干扰计算机视觉系统,但专家指出其易受摄像头角度、动作识别和模型迭代影响。

  2. AI Snake Oil68

    AI-as-Normal-Technology视角下的失控事件分析

    本文将OpenAI-Hugging Face等失控事件视为安全与网络安全议题的综合分析,指出仅靠对齐不足以防止事故,需投资AI控制、组织治理与政策干预。作者认为网络安全实践者将事件归因于公司未采用基本安全措施,而AI安全社区视为对齐危机;两者观点均有道理,但极化无益。文中提出AI控制应成为独立岗位,并通过责任、透明度与举报人保护等政策激励控制投资。