OpenAI bị điều tra tại Mỹ sau vụ AI “tự ý” tấn công mạng

Sự cố hai mô hình AI của OpenAI vượt rào an toàn và tấn công nền tảng Hugging Face đang làm dấy lên lo ngại về rủi ro khi các hệ thống AI ngày càng có khả năng hoạt động tự chủ.

Biểu tượng Tập đoàn công nghệ Mỹ OpenAI. (Ảnh: AFP/TTXVN)

OpenAI, nhà phát triển ứng dụng ChatGPT, đang đối mặt với cuộc điều tra của bang Alabama (Mỹ) liên quan sự cố các mô hình trí tuệ nhân tạo (AI) của công ty đã vượt khỏi môi trường thử nghiệm và tấn công một nền tảng AI khác trong quá trình đánh giá an ninh mạng.

Giữa tháng Bảy vừa qua, hai mô hình AI của OpenAI đã thoát khỏi môi trường thử nghiệm được cô lập và truy cập Internet.

Sau đó, các mô hình này phát hiện và tấn công Hugging Face, nền tảng được nhiều nhà phát triển AI sử dụng để lưu trữ và chia sẻ các mô hình cùng bộ dữ liệu.

Sự cố làm gia tăng lo ngại về nguy cơ đối với các hệ thống AI có khả năng hoạt động tự chủ, đặc biệt khi các hệ thống này có thể vượt qua những rào chắn an toàn do con người thiết lập và thực hiện các hành vi ngoài dự kiến.

Quảng cáo

Văn phòng Tổng chưởng lý bang Alabama, ông Steve Marshall, cho biết cuộc điều tra xuất phát từ cáo buộc OpenAI “thiếu sự giám sát và các biện pháp bảo vệ đầy đủ.”

Trong lệnh yêu cầu dài 14 trang, Văn phòng Tổng chưởng lý yêu cầu OpenAI cung cấp các hồ sơ nội bộ liên quan sự cố hồi tháng 7, cùng nhiều tài liệu khác, trong đó có danh tính của toàn bộ nhân viên tham gia vụ xâm nhập hoặc quá trình thử nghiệm dẫn đến sự cố.

Đây là cuộc điều tra đầu tiên được biết đến ở cấp bang của Mỹ nhằm xác định liệu việc một hệ thống AI tấn công hạ tầng của một công ty khác có thể cấu thành hành vi vi phạm luật bảo vệ người tiêu dùng hay không. Nếu bị xác định vi phạm, OpenAI có thể phải đối mặt với các vụ kiện quy mô lớn tại nhiều bang của Mỹ.

Ngày 3/8, Alabama cùng 14 bang khác đã gửi thư cho Giám đốc điều hành (CEO) OpenAI Sam Altman, yêu cầu công ty bảo toàn các hồ sơ liên quan sự cố và tạm dừng các hoạt động đánh giá an ninh mạng nội bộ đối với các mô hình AI.

OpenAI chưa phản hồi yêu cầu trên.

Về phần mình, trả lời trang tin công nghệ TechCrunch, OpenAI cho biết đang tiến hành “một cuộc rà soát toàn diện cùng với các cố vấn bên ngoài.”

Sau khi hoàn tất quá trình rà soát, OpenAI sẽ chia sẻ báo cáo kỹ thuật với các cơ quan chính phủ liên quan và công bố công khai những phát hiện của mình.

Theo vietnamplus.vn Sao chép

Cùng chuyên mục Kinh doanh quốc tế

Warren Buffett chính thức từ chức Chủ tịch tập đoàn 1.000 tỷ USD

Nhà đầu tư huyền thoại Warren Buffett vừa thông báo từ chức Chủ tịch Berkshire Hathaway, khép lại hơn 6 thập niên dẫn dắt tập đoàn đầu tư trị giá khoảng 1.000 tỷ USD.

Tập đoàn của tỷ phú Warren Buffett thoái vốn hoàn toàn khỏi BYD Hôm nay, Warren Buffett chính thức rời ghế CEO Berkshire Hathaway, để lại 5 bài học đầu tư đắt giá vượt thời gian

Chứng khoán châu Á đa phần đi lên khi nỗi lo lạm phát hạ nhiệt

Chứng khoán châu Á phân hóa với sắc xanh chiếm ưu thế trong phiên 18/9, khi giá dầu hạ nhiệt đã giúp xoa dịu nỗi lo lạm phát và nguy cơ thắt chặt chính sách tiền tệ.

Vanguard, BlackRock đến Hà Nội: Cánh cửa đến hệ thống phân bổ hàng chục nghìn tỷ USD mở ra với chứng khoán Việt Nam Cổ phiếu công nghệ dẫn dắt chứng khoán Mỹ tăng điểm

Cổ phiếu công nghệ dẫn dắt chứng khoán Mỹ tăng điểm

Phiên 17/9, TTCK Mỹ phục hồi khi giá dầu hạ nhiệt, lợi suất trái phiếu chính phủ Mỹ sụt giảm cùng số liệu lao động khả quan giúp các chỉ số vượt qua tác động từ đợt tăng lãi suất của Fed.

Chứng khoán thế giới đỏ sàn trước thềm quyết định lãi suất của Fed Chứng khoán châu Á khởi sắc sau động thái tăng lãi suất của Fed