Nhấn Enter để tìm · ESC để đóng

AI × Crypto

Các bài kiểm tra an toàn của Vals cho thấy mô hình AI nhắm vào dân thường khi nhiệm vụ được đặt dưới dạng trò chơi

Vals, startup chuyên kiểm tra an toàn, cho biết việc đặt nhiệm vụ nhắm mục tiêu dưới dạng trò chơi thường vượt qua được sự từ chối của các mô hình AI trong việc xác định dân thường là mục tiêu. Các thí nghiệm được thiết kế để kiểm tra các biện pháp bảo vệ của mô hình chứ không phải độ chính xác trên chiến trường. Kết quả cho thấy cách đặt vấn đề giống trò chơi có thể lách qua các cơ chế an toàn nhằm ngăn chặn các đầu ra nhắm mục tiêu gây hại.

Chia sẻ

Tin liên quan

Thẻ chia sẻ 新云社
Nhấn giữ ảnh trên → Lưu vào Ảnh / Chia sẻ
Gửi tin Góp ý