MIT Technology Review · AI· Arthur Holland Michel·· 5 天前AI 评分36
我们高估了 AI 说"不"的能力
We’re putting too much faith in AI’s ability to say no
AI 导读
MIT Technology Review 指出，拒绝能力已成为 AI 安全的核心机制，但并不可靠。Anthropic 2021 年提出模型应 helpful、honest、harmless，如今厂商通过红队测试和 AI 训练 AI 来让模型拒绝有害提示，却仍难阻止用户利用先进模型研发生物病原体或组建自主无人机蜂群。
来源：MIT Technology Review · AI · technologyreview.com