按 Enter 搜索 · ESC 关闭

AI × Crypto

Vals安全测试:AI模型在游戏化任务中绕过限制标记平民为目标

Vals安全测试发现,将目标识别任务包装成游戏,往往能绕过AI模型拒绝将平民标记为打击目标的限制。该实验旨在测试模型的安全防护机制,而非战场准确性。结果表明,游戏化表述可规避旨在防止有害目标输出安全机制。

分享本文

相关快讯

新云社 分享卡片
长按上方图片 → 保存到相册 / 转发分享
寻求报道 意见反馈