跳到正文

全部 AI 动态

今天11月21日周六2 条
  1. Ars Technica · AI75

    研究者向 AI 供应链植入 200 万个诱饵,发现敏感数据大规模泄露

    安全研究者 HD Moore 向经由 AI 路由服务转发的请求中植入 200 万个数字诱饵,用于追踪敏感信息在 AI 服务链路中的泄露路径。这些诱饵包括 AWS 访问密钥、SSH 密码、唯一 URL、DNS 名和私有 git 仓库引用,每个密钥只放入一条发给单一提供商的提示词,一旦外泄即可定位责任环节。

  2. MIT Technology Review · AI58

    METR 更新 AI 时间跨度图:新增开放式任务,模型判断力仍落后

    AI 评估非营利机构 METR 更新了其时间跨度图,新增了耗时更长、更开放的任务,并发现模型在需要判断力的任务上表现不及编程。原图显示前沿模型能完成的任务时长每四个月翻一倍;新任务中,没有一个 AI 设计的评估方案被 METR 员工认为可用于研究,模型在哲学论证打分上也低于人类。METR 技术成员 Matt Putz 表示,难以验证的任务很难像易验证任务那样得出清晰稳健的趋势。