研究者向 AI 供应链植入 200 万个诱饵,发现敏感数据大规模泄露
安全研究者 HD Moore 向经由 AI 路由服务转发的请求中植入 200 万个数字诱饵,用于追踪敏感信息在 AI 服务链路中的泄露路径。这些诱饵包括 AWS 访问密钥、SSH 密码、唯一 URL、DNS 名和私有 git 仓库引用,每个密钥只放入一条发给单一提供商的提示词,一旦外泄即可定位责任环节。
安全研究者 HD Moore 向经由 AI 路由服务转发的请求中植入 200 万个数字诱饵,用于追踪敏感信息在 AI 服务链路中的泄露路径。这些诱饵包括 AWS 访问密钥、SSH 密码、唯一 URL、DNS 名和私有 git 仓库引用,每个密钥只放入一条发给单一提供商的提示词,一旦外泄即可定位责任环节。
AI 评估非营利机构 METR 更新了其时间跨度图,新增了耗时更长、更开放的任务,并发现模型在需要判断力的任务上表现不及编程。原图显示前沿模型能完成的任务时长每四个月翻一倍;新任务中,没有一个 AI 设计的评估方案被 METR 员工认为可用于研究,模型在哲学论证打分上也低于人类。METR 技术成员 Matt Putz 表示,难以验证的任务很难像易验证任务那样得出清晰稳健的趋势。