跳到正文
今天10月14日周三1 条
10月13日周二
  1. MIT Technology Review · AI34

    开放模型利大于弊吗?Anthropic 称 GLM-5.3 存在重大网络攻击风险引发争论

    Anthropic 发布报告称中国公司 Z.ai 于 8 月发布的开放模型 GLM-5.3 可被任何人自由下载修改,构成重大网络攻击风险。围绕开放模型应否开放,Nvidia 黄仁勋主张美国多做开放模型,Anthropic 的 Dario Amodei 则主张更谨慎。目前闭源模型能力更强,Artificial Analysis LLM 榜单前八名均为闭源,但开放模型仅落后数月。

10月9日周五
  1. MIT Technology Review · AI36

    我们高估了 AI 说"不"的能力

    MIT Technology Review 指出,拒绝能力已成为 AI 安全的核心机制,但并不可靠。Anthropic 2021 年提出模型应 helpful、honest、harmless,如今厂商通过红队测试和 AI 训练 AI 来让模型拒绝有害提示,却仍难阻止用户利用先进模型研发生物病原体或组建自主无人机蜂群。