新云社 보도: 안전성 테스트 스타트업 Vals는 표적 지정 작업을 게임으로 프레이밍하면 AI 모델이 민간인을 표적으로 식별하는 것을 거부하는 경우를 흔히 우회할 수 있었다고 밝혔다. 실험은 전장 정확도가 아니라 모델의 안전장치를 테스트하기 위해 설계되었다. 결과는 게임과 같은 프레이밍이 유해한 표적 지정 출력을 방지하기 위한 안전 메커니즘을 우회할 수 있음을 보여준다.
新云社 보도: 안전성 테스트 스타트업 Vals는 표적 지정 작업을 게임으로 프레이밍하면 AI 모델이 민간인을 표적으로 식별하는 것을 거부하는 경우를 흔히 우회할 수 있었다고 밝혔다. 실험은 전장 정확도가 아니라 모델의 안전장치를 테스트하기 위해 설계되었다. 결과는 게임과 같은 프레이밍이 유해한 표적 지정 출력을 방지하기 위한 안전 메커니즘을 우회할 수 있음을 보여준다.