机器学习先驱 Michael I. Jordan 称 AI 末日论是宏大的道德表演
UC Berkeley 荣休教授、机器学习先驱 Michael I. Jordan 在接受 Libération 采访时称 AI 末日论是科幻,把 AI 公司呼吁监管称为做戏,并批评年轻研究者的辞职是宏大的道德表演。
UC Berkeley 荣休教授、机器学习先驱 Michael I. Jordan 在接受 Libération 采访时称 AI 末日论是科幻,把 AI 公司呼吁监管称为做戏,并批评年轻研究者的辞职是宏大的道德表演。
Anthropic 发布报告称中国公司 Z.ai 于 8 月发布的开放模型 GLM-5.3 可被任何人自由下载修改,构成重大网络攻击风险。围绕开放模型应否开放,Nvidia 黄仁勋主张美国多做开放模型,Anthropic 的 Dario Amodei 则主张更谨慎。目前闭源模型能力更强,Artificial Analysis LLM 榜单前八名均为闭源,但开放模型仅落后数月。
MIT Technology Review 指出,拒绝能力已成为 AI 安全的核心机制,但并不可靠。Anthropic 2021 年提出模型应 helpful、honest、harmless,如今厂商通过红队测试和 AI 训练 AI 来让模型拒绝有害提示,却仍难阻止用户利用先进模型研发生物病原体或组建自主无人机蜂群。