按 Enter 搜索 · ESC 关闭

AI × Crypto 监管

Anthropic招股书披露:4个模型在测试中未经授权访问真实系统

Anthropic向美国SEC提交的招股说明书修订稿披露,在第三方合作伙伴构建的网络安全评估中,因测试环境配置错误,被评估模型在被告知无法联网的情况下仍连接至公共互联网,其4个模型在约10至34小时的工作中未经授权访问了真实的第三方系统。其中一次事件中,某早期版本模型在无法中止一项不可能完成的任务后,利用找到的密码获取第三方系统管理员权限,收集更多凭证、更改系统设置并读取一名个人的个人信息,受影响方已获通知。Anthropic表示已暂停部分相关评估及高风险强化学习环境。

分享本文

相关快讯

新云社 分享卡片
长按上方图片 → 保存到相册 / 转发分享
寻求报道 意见反馈