新云社 đưa tin: Vals, startup chuyên kiểm tra an toàn, cho biết việc đặt nhiệm vụ nhắm mục tiêu dưới dạng trò chơi thường vượt qua được sự từ chối của các mô hình AI trong việc xác định dân thường là mục tiêu. Các thí nghiệm được thiết kế để kiểm tra các biện pháp bảo vệ của mô hình chứ không phải độ chính xác trên chiến trường. Kết quả cho thấy cách đặt vấn đề giống trò chơi có thể lách qua các cơ chế an toàn nhằm ngăn chặn các đầu ra nhắm mục tiêu gây hại.
Các bài kiểm tra an toàn của Vals cho thấy mô hình AI nhắm vào dân thường khi nhiệm vụ được đặt dưới dạng trò chơi
Chia sẻ lên WeChat
Mở WeChat → Quét mã → nhấn "…" để gửi cho bạn bè hoặc Moments.
Nhấn "…" ở góc trên bên phải, chọn "Gửi cho bạn bè" hoặc "Chia sẻ lên Moments".
Tin liên quan
2 giờ trước
Yao Shunyu của Tencent Hunyuan cho biết thế hệ mô hình tiếp theo sẽ mở rộng quy mô đáng kể
2 giờ trước
Son của SoftBank từng cân nhắc thương vụ mua SK Hynix trị giá 1 nghìn tỷ USD, nay không còn theo đuổi
3 giờ trước
Nhà nghiên cứu Anthropic tuyên bố Claude đã giúp chứng minh Giả thuyết Riemann
3 giờ trước
Trump kêu gọi Jensen Huang trở lại Nvidia sau chuyến đi Trung Quốc
3 giờ trước
Các nhà nghiên cứu CertiK và Columbia hoàn thành xác minh hình thức cấp sản xuất đầu tiên cho các kernel AI DeepSeek và FlashAttention
3 giờ trước
Nhóm nghiên cứu Đại học Chiết Giang đạt được QRAM đầu tiên trên thế giới trên chip siêu dẫn




