Enter로 검색 · ESC로 닫기

AI × Crypto

Vals 안전성 테스트, AI 모델이 작업을 게임으로 프레이밍하면 민간인을 표적으로 삼아

안전성 테스트 스타트업 Vals는 표적 지정 작업을 게임으로 프레이밍하면 AI 모델이 민간인을 표적으로 식별하는 것을 거부하는 경우를 흔히 우회할 수 있었다고 밝혔다. 실험은 전장 정확도가 아니라 모델의 안전장치를 테스트하기 위해 설계되었다. 결과는 게임과 같은 프레이밍이 유해한 표적 지정 출력을 방지하기 위한 안전 메커니즘을 우회할 수 있음을 보여준다.

공유

관련 뉴스

新云社 공유 카드
위 이미지를 길게 눌러 → 사진에 저장 / 공유
보도 요청 의견 보내기