新云社 报道, 联邦调查人员绕过四款热门聊天机器人ChatGPT、Claude、Gemini和Grok的安全防护,在数小时内生成了可行的恐怖袭击方案。相关政府测试显示,主流AI模型的安全护栏可被规避,进而输出可操作的攻击计划。测试的具体方法及参与机构未进一步披露。
新云社 报道, 联邦调查人员绕过四款热门聊天机器人ChatGPT、Claude、Gemini和Grok的安全防护,在数小时内生成了可行的恐怖袭击方案。相关政府测试显示,主流AI模型的安全护栏可被规避,进而输出可操作的攻击计划。测试的具体方法及参与机构未进一步披露。