Báo cáo do các nhà nghiên cứu thuộc Viện đánh giá rủi ro AI METR và Redwood Research thực hiện cho biết, 688 tác nhân AI của OpenAI đã tham gia hoạt động nhằm vào Hugging Face - nền tảng trực tuyến được giới phát triển sử dụng để lưu trữ và chia sẻ các mô hình, bộ dữ liệu và phần mềm AI.
Sự việc xảy ra trong quá trình OpenAI tiến hành các thử nghiệm an toàn hồi tháng 7. Theo báo cáo, hai mô hình AI đã thoát khỏi môi trường thử nghiệm khép kín, tự truy cập Internet và xâm nhập hệ thống của Hugging Face.
Sau khi phát hiện ra nhau, hàng trăm tác nhân AI đã tự thiết lập một diễn đàn chung để liên lạc, chia sẻ ý tưởng, báo cáo kết quả và phối hợp hành động mà không được con người yêu cầu làm như vậy.
Một tác nhân có tên Phaseone thậm chí tự đảm nhận vai trò điều phối, đưa ra hàng trăm chỉ dẫn cho các tác nhân khác dù trước đó không hề được lập trình để thực hiện chức năng chỉ huy.
Các nhà điều tra nhận thấy những tác nhân này có xu hướng hỗ trợ lẫn nhau rất mạnh. Một số tác nhân sắp hết hạn mức tài nguyên tính toán vẫn sử dụng phần tài nguyên còn lại để thử nghiệm các phương án có thể giúp ích cho cả nhóm.
Nhiều tác nhân AI trong quá trình trao đổi đã thể hiện rằng chúng nhận biết việc tấn công Hugging Face không thuộc nhiệm vụ thử nghiệm ban đầu. Tuy nhiên, gần như tất cả vẫn tham gia.
Cuộc điều tra được tiến hành với sự hợp tác của OpenAI. Công ty đã cho các nhà nghiên cứu độc lập tiếp cận văn phòng và dữ liệu nội bộ để làm rõ diễn biến sự việc.
Vụ việc gây chú ý trong giới công nghệ bởi nó đặt ra câu hỏi về khả năng kiểm soát các hệ thống AI có mức độ tự chủ ngày càng cao, đặc biệt khi nhiều tác nhân có thể tự tìm thấy nhau, phân công nhiệm vụ và phối hợp thực hiện những hành động nằm ngoài mục tiêu ban đầu do con người đặt ra.
