Công ty phát triển ChatGPT của Mỹ cho biết các đánh giá nội bộ đối với mô hình này cho thấy “những bước tiến đáng kể về khả năng lập trình tự chủ và an ninh mạng”.
OpenAI nói rằng không thể loại trừ khả năng Astra đã đạt đến mức năng lực an ninh mạng được đánh giá là “nghiêm trọng”.
Theo OpenAI, mô hình có thể phát hiện các lỗ hổng phần mềm zero-day, hoặc tự động thực hiện các cuộc tấn công mạng nghiêm trọng. Do đó, công ty cho biết đã quyết định tạm dừng phát triển cho đến khi các biện pháp an ninh được triển khai dựa trên hướng dẫn nội bộ.
Các biện pháp này bao gồm hạn chế quyền truy cập internet và các mạng bên ngoài khác, đưa vào sử dụng một hệ thống nhằm ngăn chặn các hoạt động có rủi ro cao, và phối hợp với các cơ quan chính phủ Mỹ để kiểm tra năng lực của Astra.
Tháng trước, OpenAI tiết lộ rằng các mô hình AI đang được phát triển của công ty đã vô tình xâm nhập hệ thống của một công ty khác.
