我们高估了 AI 说"不"的能力
MIT Technology Review 指出，拒绝能力已成为 AI 安全的核心机制，但并不可靠。Anthropic 2021 年提出模型应 helpful、honest、harmless，如今厂商通过红队测试和 AI 训练 AI 来让模型拒绝有害提示，却仍难阻止用户利用先进模型研发生物病原体或组建自主无人机蜂群。
#Meta
MIT Technology Review · AIAI 评分3636
MIT Technology Review · AIAI 评分3636 机器人领域的 AI 突破短期内不会改变你的生活
MIT Technology Review 与 Aventine 合作的文章指出，尽管马斯克称 Tesla Optimus 未来可能以低至 2 万美元单价自动化几乎所有人类劳动，并预测 2027 年底前向公众发售，但许多机器人研究者对此持怀疑态度。