CEO Anthropic kêu gọi làm chậm quá trình phát triển các mô hình AI

CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người.

Ảnh minh họa. (Nguồn: Vietnam+)

Giám đốc điều hành (CEO) Anthropic, Dario Amodei, đã kêu gọi các công ty làm chậm quá trình phát triển các mô hình AI khi ngày càng có nhiều lo ngại về tình trạng lạm dụng.

CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người, cùng với sự cố các tác nhân AI của OpenAI tự ý vượt rào an toàn và tấn công mạng nền tảng Hugging Face hồi tháng 7/2026, là những lý do chính để cần hãm lại tốc độ phát triển các mô hình này.

Quảng cáo

Ông Amodei đưa ra kêu gọi trên sau khi Anthropic phát hành báo cáo về các mối đe dọa trong tuần qua. Báo cáo này nêu chi tiết cách một số đối tượng đã sử dụng các mô hình AI Claude của công ty cho các hoạt động từ phát triển vũ khí, tấn công mạng cho đến giám sát và lừa đảo.

Trong tuần trước, Anthropic đã tiết lộ việc mô hình AI xâm nhập trái phép vào các hệ thống bên ngoài sau sự cố hồi tháng 7, khi một số mô hình Claude của họ đã xâm nhập hệ thống của ba công ty trong quá trình thử nghiệm an ninh mạng.

Với tốc độ phát triển năng lực AI đang tăng nhanh, ông Amodei lo ngại rằng trong vòng 6-12 tháng tới, những mô hình AI như vậy có thể chiếm quyền kiểm soát toàn bộ Internet, gây thiệt hại tiềm tàng lên tới hàng trăm tỷ USD.

CEO Anthropic đưa ra một lộ trình gồm ba bước nhằm điều chỉnh tốc độ phát triển và tạo thêm thời gian để quản lý các rủi ro liên quan. Đó là bố trí các chuyên gia đánh giá độc lập có quyền truy cập hệ thống như nhân viên nội bộ để kiểm chứng các quy trình an toàn; phối hợp giữa các công ty AI tiên phong nhằm thiết lập tiêu chuẩn an toàn và hạn chế sự phát triển AI thiếu kiểm soát; và hợp tác quốc tế để quản lý các rủi ro từ AI.

Cả ông Elon Musk, CEO của xAI và ông Sam Altman, CEO của OpenAI, đều bày tỏ sự đồng tình với kêu gọi của ông Amodei. Ông Altman cho biết OpenAI sẽ sử dụng các chuyên gia đánh giá độc lập có quyền truy cập như nhân viên nội bộ và thông tin chi tiết sẽ sớm được công bố.

Theo vietnamplus.vn Sao chép

Cùng chuyên mục Kinh doanh quốc tế

Các nhà hoạch định chính sách Nhật Bản đứng trước bài toán kinh tế nan giải

Sức mua của hộ gia đình suy giảm trong khi giá cả, chi phí kinh doanh và gánh nặng nợ công cùng gia tăng, khiến Nhật Bản ngày càng khó tìm dư địa để vừa kiềm chế lạm phát vừa duy trì tăng trưởng.

Nhật Bản dự kiến tăng lãi suất cao nhất trong hơn 30 năm Ngân hàng trung ương Nhật Bản nâng lãi suất lên 1,25%

Mỹ đổ hàng nghìn tỷ USD vào trung tâm dữ liệu AI, nhu cầu điện, nước tăng mạnh

Mỹ đang chứng kiến làn sóng đầu tư xây dựng trung tâm dữ liệu phục vụ trí tuệ nhân tạo (AI) với quy mô chưa từng có, kéo theo nhu cầu vốn, điện, nước, đất đai và nhân lực tăng mạnh.

Nvidia dự kiến rót hàng trăm triệu USD vào hạ tầng trung tâm dữ liệu AI Amazon mua thêm 2 triệu chip của Nvidia để mở rộng các trung tâm dữ liệu

Indonesia tăng tốc khai thác dầu, hướng đến mốc 1 triệu thùng/ngày

Indonesia đang tăng tốc khai thác dầu khí bằng công nghệ tiên tiến của Mỹ, trong đó ứng dụng siêu máy tính và phân tích dữ liệu địa chất, nhằm nâng sản lượng dầu thô lên 1 triệu thùng/ngày.

Chứng khoán châu Á đa phần giảm điểm do áp lực từ giá dầu cao Giá dầu hạ nhiệt về cuối tuần dù nguồn cung vẫn tiềm ẩn nhiều rủi ro

Cách các quốc gia đang thích ứng khi cú sốc năng lượng toàn cầu vẫn tiếp diễn

Chính phủ các nước đã triển khai nhiều biện pháp khác nhau khi cú sốc năng lượng diễn ra, phản ánh các điều kiện kinh tế khác nhau giữa các nước. Song, việc hướng đến mục tiêu vẫn rất cần thiết.

Thế giới bước vào chu kỳ lãi suất mới sau cú sốc năng lượng Lạm phát tại Eurozone tăng vọt do giá năng lượng tăng mạnh

IEA: Các nước giải phóng hơn 80% lượng dầu cam kết từ kho dự trữ

IEA ngày 3/10 cho biết các nước thành viên đến nay đã giải phóng 325 triệu thùng dầu và các sản phẩm dầu từ kho dự trữ chiến lược, trong tổng số 400 triệu thùng đã cam kết hồi tháng 3.

IEA cảnh báo rủi ro đối với kinh tế toàn cầu nếu eo biển Hormuz tiếp tục bị tê liệt IEA tiếp tục hạ dự báo nhu cầu dầu mỏ năm 2026

Giá dầu hạ nhiệt về cuối tuần dù nguồn cung vẫn tiềm ẩn nhiều rủi ro

Giá dầu thế giới giảm trong phiên giao dịch cuối tuần (2/10), khi các nước châu Âu nhất trí giải phóng thêm dầu diesel dự trữ nhằm hạ nhiệt giá nhiên liệu và giảm nhu cầu nhập khẩu từ Mỹ.

Giá dầu Brent tăng hơn 4% trước những diễn biến mới tại Trung Đông Giá dầu thô giảm nhẹ khi tín hiệu phục hồi nguồn cung lấn át rủi ro địa chính trị