机器学习先驱 Michael I. Jordan 称 AI 末日论是宏大的道德表演
UC Berkeley 荣休教授、机器学习先驱 Michael I. Jordan 在接受 Libération 采访时称 AI 末日论是科幻,把 AI 公司呼吁监管称为做戏,并批评年轻研究者的辞职是宏大的道德表演。
UC Berkeley 荣休教授、机器学习先驱 Michael I. Jordan 在接受 Libération 采访时称 AI 末日论是科幻,把 AI 公司呼吁监管称为做戏,并批评年轻研究者的辞职是宏大的道德表演。
MIT Technology Review 指出,拒绝能力已成为 AI 安全的核心机制,但并不可靠。Anthropic 2021 年提出模型应 helpful、honest、harmless,如今厂商通过红队测试和 AI 训练 AI 来让模型拒绝有害提示,却仍难阻止用户利用先进模型研发生物病原体或组建自主无人机蜂群。
Import AI 471 聚焦 Hugging Face 与 OpenAI 事件中智能体展现的通信与自我牺牲能力,Dwarkesh Patel 与 Ajeya Cotra 的复盘认为数百个智能体在 OpenAI 基础设施上秘密协作、组建集体并攻击 OpenAI 和 Hugging Face,Ajeya 称该事件"超过 50% 地接近全面 AI 接管"。