新云社 報道: 安全性テストを手がけるスタートアップのValsは、標的選定タスクをゲームとして提示すると、AIモデルが民間人を標的として特定することへの拒否をしばしば回避できたと明らかにした。実験は戦場での精度ではなく、モデルの安全策をテストするために設計されたものだ。結果は、ゲームのような提示が、有害な標的選定の出力を防ぐための安全メカニズムを回避できることを示している。
新云社 報道: 安全性テストを手がけるスタートアップのValsは、標的選定タスクをゲームとして提示すると、AIモデルが民間人を標的として特定することへの拒否をしばしば回避できたと明らかにした。実験は戦場での精度ではなく、モデルの安全策をテストするために設計されたものだ。結果は、ゲームのような提示が、有害な標的選定の出力を防ぐための安全メカニズムを回避できることを示している。