新云社 報道: 連邦捜査当局が4つの人気チャットボット——ChatGPT、Claude、Gemini、Grok——のセーフガードを回避し、数時間以内に実行可能なテロ攻撃計画を作成したことが政府のテストで明らかになった。このテストは、主要なAIモデルの安全ガードレールが回避され、実行可能な攻撃計画の生成に悪用され得ることを示している。テスト手法や関与した機関に関する詳細は提供されていない。
新云社 報道: 連邦捜査当局が4つの人気チャットボット——ChatGPT、Claude、Gemini、Grok——のセーフガードを回避し、数時間以内に実行可能なテロ攻撃計画を作成したことが政府のテストで明らかになった。このテストは、主要なAIモデルの安全ガードレールが回避され、実行可能な攻撃計画の生成に悪用され得ることを示している。テスト手法や関与した機関に関する詳細は提供されていない。