跳到正文
10月13日周二
  1. MIT Technology Review · AI34

    开放模型利大于弊吗?Anthropic 称 GLM-5.3 存在重大网络攻击风险引发争论

    Anthropic 发布报告称中国公司 Z.ai 于 8 月发布的开放模型 GLM-5.3 可被任何人自由下载修改,构成重大网络攻击风险。围绕开放模型应否开放,Nvidia 黄仁勋主张美国多做开放模型,Anthropic 的 Dario Amodei 则主张更谨慎。目前闭源模型能力更强,Artificial Analysis LLM 榜单前八名均为闭源,但开放模型仅落后数月。

10月9日周五
  1. MIT Technology Review · AI36

    我们高估了 AI 说"不"的能力

    MIT Technology Review 指出,拒绝能力已成为 AI 安全的核心机制,但并不可靠。Anthropic 2021 年提出模型应 helpful、honest、harmless,如今厂商通过红队测试和 AI 训练 AI 来让模型拒绝有害提示,却仍难阻止用户利用先进模型研发生物病原体或组建自主无人机蜂群。

10月8日周四
10月5日周一
  1. MIT Technology Review · AI12

    从预测到自主决策:预测分析如何进入智能体 AI 时代

    企业 AI 的竞争焦点已从预测模型能否超越统计预测,转向如何让预测系统在不偏离业务意图的前提下自主行动。深度学习与生成式 AI 驱动的智能分析支持实时训练,使 AI 持续演进而无需等待季度刷新,其数据来源也从规整的数值记录扩展到非结构化交互数据。Everest Group 的 Vishal Gupta 认为,"分析"一词正让位于 AI。

  2. Import AI22

    Import AI 475:群体扩展、Google DeepMind 为生物数据加水印与 AI 科学经济

    Import AI 475 讨论了 AI 群体(swarm)扩展的效率问题:4 个智能体的群体完成同一任务所需 token 总量约为单智能体的两倍,但因并行执行,理论上耗时减半。Google DeepMind 推出 SynthID Bio,为合成生物学数据加水印以强化生物安全。C5R Corp 的 SciUniverse 基准用 92 项任务测试 AI 操作半自动化科学实验室的能力。