跳到正文
今天10月14日周三1 条
10月9日周五
  1. MIT Technology Review · AI36

    我们高估了 AI 说"不"的能力

    MIT Technology Review 指出,拒绝能力已成为 AI 安全的核心机制,但并不可靠。Anthropic 2021 年提出模型应 helpful、honest、harmless,如今厂商通过红队测试和 AI 训练 AI 来让模型拒绝有害提示,却仍难阻止用户利用先进模型研发生物病原体或组建自主无人机蜂群。

8月31日周一