Enterで検索 · ESCで閉じる

AI × Crypto

Valsの安全性テスト、AIモデルがタスクをゲームとして提示されると民間人を標的にすることを示す

安全性テストを手がけるスタートアップのValsは、標的選定タスクをゲームとして提示すると、AIモデルが民間人を標的として特定することへの拒否をしばしば回避できたと明らかにした。実験は戦場での精度ではなく、モデルの安全策をテストするために設計されたものだ。結果は、ゲームのような提示が、有害な標的選定の出力を防ぐための安全メカニズムを回避できることを示している。

シェア

関連ニュース

新云社 シェアカード
上の画像を長押し → 写真に保存 / シェア
取材依頼 ご意見