我们高估了 AI 说"不"的能力
MIT Technology Review 指出，拒绝能力已成为 AI 安全的核心机制，但并不可靠。Anthropic 2021 年提出模型应 helpful、honest、harmless，如今厂商通过红队测试和 AI 训练 AI 来让模型拒绝有害提示，却仍难阻止用户利用先进模型研发生物病原体或组建自主无人机蜂群。
#DeepSeek
MIT Technology Review · AIAI 评分3636
Import AIAI 评分3232 Import AI 474：柏拉图式心智空间、太空中的 TPU、智谱启动外层 RSI 循环
Import AI 474 讨论了 Michael Levin 提出的"柏拉图式心智空间"假说，认为心智是非物理模式，身体与机器只是其进入物理世界的接口。同期内容还涉及在太空部署 TPU，以及智谱（Zhipu）启动一个外层 RSI 循环。