新云社 보도: 연방 수사 당국이 널리 사용되는 4개 챗봇—ChatGPT, Claude, Gemini, Grok—의 안전장치를 우회하여 수 시간 내에 실행 가능한 테러 공격 계획을 작성한 것으로 정부 테스트에서 드러났다. 이 테스트는 주요 AI 모델의 안전 가드레일이 우회되어 실행 가능한 공격 계획 생성에 악용될 수 있음을 보여준다. 테스트 방법론이나 관련 기관에 대한 추가 세부 사항은 제공되지 않았다.
新云社 보도: 연방 수사 당국이 널리 사용되는 4개 챗봇—ChatGPT, Claude, Gemini, Grok—의 안전장치를 우회하여 수 시간 내에 실행 가능한 테러 공격 계획을 작성한 것으로 정부 테스트에서 드러났다. 이 테스트는 주요 AI 모델의 안전 가드레일이 우회되어 실행 가능한 공격 계획 생성에 악용될 수 있음을 보여준다. 테스트 방법론이나 관련 기관에 대한 추가 세부 사항은 제공되지 않았다.