OpenAI, nhà phát triển ứng dụng ChatGPT, đang đối mặt với cuộc điều tra của bang Alabama (Mỹ) liên quan sự cố các mô hình trí tuệ nhân tạo (AI) của công ty đã vượt khỏi môi trường thử nghiệm và tấn công một nền tảng AI khác trong quá trình đánh giá an ninh mạng.
Giữa tháng Bảy vừa qua, hai mô hình AI của OpenAI đã thoát khỏi môi trường thử nghiệm được cô lập và truy cập Internet.
Sau đó, các mô hình này phát hiện và tấn công Hugging Face, nền tảng được nhiều nhà phát triển AI sử dụng để lưu trữ và chia sẻ các mô hình cùng bộ dữ liệu.
Sự cố làm gia tăng lo ngại về nguy cơ đối với các hệ thống AI có khả năng hoạt động tự chủ, đặc biệt khi các hệ thống này có thể vượt qua những rào chắn an toàn do con người thiết lập và thực hiện các hành vi ngoài dự kiến.
Văn phòng Tổng chưởng lý bang Alabama, ông Steve Marshall, cho biết cuộc điều tra xuất phát từ cáo buộc OpenAI “thiếu sự giám sát và các biện pháp bảo vệ đầy đủ.”
Trong lệnh yêu cầu dài 14 trang, Văn phòng Tổng chưởng lý yêu cầu OpenAI cung cấp các hồ sơ nội bộ liên quan sự cố hồi tháng 7, cùng nhiều tài liệu khác, trong đó có danh tính của toàn bộ nhân viên tham gia vụ xâm nhập hoặc quá trình thử nghiệm dẫn đến sự cố.
Đây là cuộc điều tra đầu tiên được biết đến ở cấp bang của Mỹ nhằm xác định liệu việc một hệ thống AI tấn công hạ tầng của một công ty khác có thể cấu thành hành vi vi phạm luật bảo vệ người tiêu dùng hay không. Nếu bị xác định vi phạm, OpenAI có thể phải đối mặt với các vụ kiện quy mô lớn tại nhiều bang của Mỹ.
Ngày 3/8, Alabama cùng 14 bang khác đã gửi thư cho Giám đốc điều hành (CEO) OpenAI Sam Altman, yêu cầu công ty bảo toàn các hồ sơ liên quan sự cố và tạm dừng các hoạt động đánh giá an ninh mạng nội bộ đối với các mô hình AI.
OpenAI chưa phản hồi yêu cầu trên.
Về phần mình, trả lời trang tin công nghệ TechCrunch, OpenAI cho biết đang tiến hành “một cuộc rà soát toàn diện cùng với các cố vấn bên ngoài.”
Sau khi hoàn tất quá trình rà soát, OpenAI sẽ chia sẻ báo cáo kỹ thuật với các cơ quan chính phủ liên quan và công bố công khai những phát hiện của mình.
