开放模型利大于弊吗?Anthropic 称 GLM-5.3 存在重大网络攻击风险引发争论
Anthropic 发布报告称中国公司 Z.ai 于 8 月发布的开放模型 GLM-5.3 可被任何人自由下载修改,构成重大网络攻击风险。围绕开放模型应否开放,Nvidia 黄仁勋主张美国多做开放模型,Anthropic 的 Dario Amodei 则主张更谨慎。目前闭源模型能力更强,Artificial Analysis LLM 榜单前八名均为闭源,但开放模型仅落后数月。
Anthropic 发布报告称中国公司 Z.ai 于 8 月发布的开放模型 GLM-5.3 可被任何人自由下载修改,构成重大网络攻击风险。围绕开放模型应否开放,Nvidia 黄仁勋主张美国多做开放模型,Anthropic 的 Dario Amodei 则主张更谨慎。目前闭源模型能力更强,Artificial Analysis LLM 榜单前八名均为闭源,但开放模型仅落后数月。
MIT Technology Review 指出,拒绝能力已成为 AI 安全的核心机制,但并不可靠。Anthropic 2021 年提出模型应 helpful、honest、harmless,如今厂商通过红队测试和 AI 训练 AI 来让模型拒绝有害提示,却仍难阻止用户利用先进模型研发生物病原体或组建自主无人机蜂群。
MIT Technology Review 与 Aventine 合作的文章指出,尽管马斯克称 Tesla Optimus 未来可能以低至 2 万美元单价自动化几乎所有人类劳动,并预测 2027 年底前向公众发售,但许多机器人研究者对此持怀疑态度。
企业 AI 的竞争焦点已从预测模型能否超越统计预测,转向如何让预测系统在不偏离业务意图的前提下自主行动。深度学习与生成式 AI 驱动的智能分析支持实时训练,使 AI 持续演进而无需等待季度刷新,其数据来源也从规整的数值记录扩展到非结构化交互数据。Everest Group 的 Vishal Gupta 认为,"分析"一词正让位于 AI。
Import AI 475 讨论了 AI 群体(swarm)扩展的效率问题:4 个智能体的群体完成同一任务所需 token 总量约为单智能体的两倍,但因并行执行,理论上耗时减半。Google DeepMind 推出 SynthID Bio,为合成生物学数据加水印以强化生物安全。C5R Corp 的 SciUniverse 基准用 92 项任务测试 AI 操作半自动化科学实验室的能力。