CEO Anthropic kêu gọi làm chậm quá trình phát triển các mô hình AI

CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người.

Ảnh minh họa. (Nguồn: Vietnam+)

Giám đốc điều hành (CEO) Anthropic, Dario Amodei, đã kêu gọi các công ty làm chậm quá trình phát triển các mô hình AI khi ngày càng có nhiều lo ngại về tình trạng lạm dụng.

CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người, cùng với sự cố các tác nhân AI của OpenAI tự ý vượt rào an toàn và tấn công mạng nền tảng Hugging Face hồi tháng 7/2026, là những lý do chính để cần hãm lại tốc độ phát triển các mô hình này.

Quảng cáo

Ông Amodei đưa ra kêu gọi trên sau khi Anthropic phát hành báo cáo về các mối đe dọa trong tuần qua. Báo cáo này nêu chi tiết cách một số đối tượng đã sử dụng các mô hình AI Claude của công ty cho các hoạt động từ phát triển vũ khí, tấn công mạng cho đến giám sát và lừa đảo.

Trong tuần trước, Anthropic đã tiết lộ việc mô hình AI xâm nhập trái phép vào các hệ thống bên ngoài sau sự cố hồi tháng 7, khi một số mô hình Claude của họ đã xâm nhập hệ thống của ba công ty trong quá trình thử nghiệm an ninh mạng.

Với tốc độ phát triển năng lực AI đang tăng nhanh, ông Amodei lo ngại rằng trong vòng 6-12 tháng tới, những mô hình AI như vậy có thể chiếm quyền kiểm soát toàn bộ Internet, gây thiệt hại tiềm tàng lên tới hàng trăm tỷ USD.

CEO Anthropic đưa ra một lộ trình gồm ba bước nhằm điều chỉnh tốc độ phát triển và tạo thêm thời gian để quản lý các rủi ro liên quan. Đó là bố trí các chuyên gia đánh giá độc lập có quyền truy cập hệ thống như nhân viên nội bộ để kiểm chứng các quy trình an toàn; phối hợp giữa các công ty AI tiên phong nhằm thiết lập tiêu chuẩn an toàn và hạn chế sự phát triển AI thiếu kiểm soát; và hợp tác quốc tế để quản lý các rủi ro từ AI.

Cả ông Elon Musk, CEO của xAI và ông Sam Altman, CEO của OpenAI, đều bày tỏ sự đồng tình với kêu gọi của ông Amodei. Ông Altman cho biết OpenAI sẽ sử dụng các chuyên gia đánh giá độc lập có quyền truy cập như nhân viên nội bộ và thông tin chi tiết sẽ sớm được công bố.

Theo vietnamplus.vn Sao chép

Cùng chuyên mục Kinh doanh quốc tế

Tỷ phú Elon Musk thúc đẩy kế hoạch sáp nhập Tesla và SpaceX

Việc sáp nhập giữa Tesla được định giá 1,54 nghìn tỷ USD và SpaceX sẽ kết hợp các lĩnh vực ôtô điện, năng lượng Mặt Trời, tên lửa vũ trụ, vệ tinh Starlink, trung tâm dữ liệu và AI vào một tập đoàn.

Elon Musk: 'Công ty của tôi sẽ có giá trị gấp 100 lần nền kinh tế toàn cầu' Nóng: Elon Musk xác nhận khả năng SpaceX và Tesla sắp sáp nhập

Chứng khoán châu Á đồng loạt giảm trước những tin tức bất lợi về nhóm công nghệ

Sắc đỏ bao trùm chứng khoán châu Á trong phiên 17/11, khi thị trường bất an trước làn sóng tháo chạy khỏi nhóm cổ phiếu công nghệ và động thái siết chặt xuất khẩu chip của Mỹ.

Chứng khoán châu Á phần lớn giảm điểm trước thềm báo cáo kết quả kinh doanh của Nvidia Chứng khoán châu Á nối dài đà giảm do tác động từ biến động tại Nvidia

Giá dầu thô giảm khi triển vọng nguồn cung phục hồi lấn át rủi ro địa chính trị

Giá dầu thô thế giới quay đầu giảm trong phiên giao dịch ngày 17/11 khi đà phục hồi xuất khẩu từ khu vực Trung Đông làm dấy lên kỳ vọng về tình trạng dư thừa nguồn cung.

Giá dầu châu Á ổn định sau các vụ tấn công mới tại Trung Đông Giá dầu tăng nhẹ sau các sự cố tàu chở dầu tại eo biển Hormuz

EU áp thuế chống bán phá giá đối với thép cán nguội nhập khẩu với 5 nền kinh tế

EC ngày 16/11 thông báo áp thuế chống bán phá giá chính thức đối với một số sản phẩm thép cán nguội dạng phẳng nhập khẩu từ 5 nền kinh tế với mức thuế 16%, trong đó có Ấn Độ, Nhật Bản và Thổ Nhĩ Kỳ.

EU áp thuế chống bán phá giá lốp xe Trung Quốc từ 4,3% đến 45,3% Trung Quốc áp thuế chống bán phá giá tạm thời với hồ đào Mỹ, Mexico

Meta bị phạt 887 triệu USD vì tự ý truy cập ảnh, video người dùng Facebook

Cơ quan bảo vệ dữ liệu Italy cho rằng Meta đã truy cập ảnh, video và thông tin liên quan của khoảng 20 triệu người dùng Android tại nước này mà không cung cấp thông tin đầy đủ và xin phép cụ thể. Công ty tuyên bố sẽ kháng cáo, đồng thời cho rằng mức phạt là không tương xứng.

EU chưa tính đến áp một số loại thuế chung với Amazon, Google và Meta Meta bị yêu cầu bồi thường 25 tỷ USD trong vụ bê bối thu thập dữ liệu cá nhân

Giá dầu tăng nhẹ sau các sự cố tàu chở dầu tại eo biển Hormuz

BMI nhận định xuất khẩu của OPEC+ phục hồi mong manh và nguồn cung khu vực dễ bị gián đoạn, khiến giá dầu tiếp tục chịu chi phối bởi rủi ro địa chính trị cho đến khi Mỹ và Iran đạt thỏa thuận.

Giá dầu giảm tuần thứ hai liên tiếp trước lo ngại dư cung Giá dầu châu Á ổn định sau các vụ tấn công mới tại Trung Đông