CEO Anthropic kêu gọi làm chậm quá trình phát triển các mô hình AI

CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người.

Ảnh minh họa. (Nguồn: Vietnam+)

Giám đốc điều hành (CEO) Anthropic, Dario Amodei, đã kêu gọi các công ty làm chậm quá trình phát triển các mô hình AI khi ngày càng có nhiều lo ngại về tình trạng lạm dụng.

CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người, cùng với sự cố các tác nhân AI của OpenAI tự ý vượt rào an toàn và tấn công mạng nền tảng Hugging Face hồi tháng 7/2026, là những lý do chính để cần hãm lại tốc độ phát triển các mô hình này.

Quảng cáo

Ông Amodei đưa ra kêu gọi trên sau khi Anthropic phát hành báo cáo về các mối đe dọa trong tuần qua. Báo cáo này nêu chi tiết cách một số đối tượng đã sử dụng các mô hình AI Claude của công ty cho các hoạt động từ phát triển vũ khí, tấn công mạng cho đến giám sát và lừa đảo.

Trong tuần trước, Anthropic đã tiết lộ việc mô hình AI xâm nhập trái phép vào các hệ thống bên ngoài sau sự cố hồi tháng 7, khi một số mô hình Claude của họ đã xâm nhập hệ thống của ba công ty trong quá trình thử nghiệm an ninh mạng.

Với tốc độ phát triển năng lực AI đang tăng nhanh, ông Amodei lo ngại rằng trong vòng 6-12 tháng tới, những mô hình AI như vậy có thể chiếm quyền kiểm soát toàn bộ Internet, gây thiệt hại tiềm tàng lên tới hàng trăm tỷ USD.

CEO Anthropic đưa ra một lộ trình gồm ba bước nhằm điều chỉnh tốc độ phát triển và tạo thêm thời gian để quản lý các rủi ro liên quan. Đó là bố trí các chuyên gia đánh giá độc lập có quyền truy cập hệ thống như nhân viên nội bộ để kiểm chứng các quy trình an toàn; phối hợp giữa các công ty AI tiên phong nhằm thiết lập tiêu chuẩn an toàn và hạn chế sự phát triển AI thiếu kiểm soát; và hợp tác quốc tế để quản lý các rủi ro từ AI.

Cả ông Elon Musk, CEO của xAI và ông Sam Altman, CEO của OpenAI, đều bày tỏ sự đồng tình với kêu gọi của ông Amodei. Ông Altman cho biết OpenAI sẽ sử dụng các chuyên gia đánh giá độc lập có quyền truy cập như nhân viên nội bộ và thông tin chi tiết sẽ sớm được công bố.

Theo vietnamplus.vn Sao chép

Cùng chuyên mục Kinh doanh quốc tế

Trung Quốc siết chặt quy định về vốn đầu tư ra nước ngoài

Trung Quốc đã công bố một quy định sửa đổi về quản lý đầu tư ra nước ngoài, yêu cầu các nhà đầu tư phải báo cáo kỹ lưỡng hơn về những diễn biến bất lợi lớn, bao gồm cả các yêu cầu từ nước ngoài về việc chuyển giao công nghệ hoặc thoái vốn.

Kinh tế Trung Quốc tăng trưởng 4,5% trong quý III, duy trì đúng hướng mục tiêu tăng trưởng GDP cả năm Thuế mới của EU khiến các sàn thương mại điện tử Trung Quốc hụt hơi

Bank of America: Thị trường trung tâm dữ liệu sẽ vượt 2.000 tỷ USD vào năm 2028

BofA dự báo chi tiêu cho trung tâm dữ liệu toàn cầu đạt 2.100 tỷ USD vào năm 2028, khi nhu cầu AI thúc đẩy đầu tư vào máy chủ, chip và hạ tầng phụ trợ.

Nvidia dự kiến rót hàng trăm triệu USD vào hạ tầng trung tâm dữ liệu AI Amazon mua thêm 2 triệu chip của Nvidia để mở rộng các trung tâm dữ liệu

Chuyến hàng diesel đầu tiên của Nga hướng tới Mỹ sau thỏa thuận mới

Ngày 23/10, chuyến hàng dầu diesel đầu tiên của Nga xuất khẩu sang Mỹ theo thỏa thuận mới đạt được giữa phía Nga và Tổng thống Mỹ Donald Trump đang trên đường tới New York.

Giá dầu diesel leo thang, châu Âu chạy đua tìm lời giải Thỏa thuận nhập khẩu dầu diesel từ Nga có thể ít tác động đến giá bán lẻ Mỹ

Mỹ xả khẩn cấp 400.000 thùng dầu từ kho dự trữ chiến lược

Theo Bộ Năng lượng Mỹ, khoản hỗ trợ khẩn cấp này sẽ giúp bù đắp sự sụt giảm nguồn cung tạm thời, đảm bảo duy trì hoạt động liên tục cho nhà máy có công suất 264.000 thùng/ngày này.

Dự trữ dầu chiến lược của Mỹ thấp nhất trong hơn bốn thập kỷ Dự trữ dầu thô thương mại của Mỹ tăng ba tuần liên tiếp

FED đối mặt với bài toán chính sách tiền tệ phức tạp

Từ làn sóng bùng nổ trí tuệ nhân tạo (AI) đến căng thẳng địa chính trị tại Trung Đông, những yếu tố nằm ngoài tầm kiểm soát của Ngân hàng Dự trữ Liên bang Mỹ (FED) đang khiến cuộc chiến chống lạm phát dai dẳng trở nên phức tạp hơn.

Bầu cử giữa kỳ Mỹ: Tổng thống D. Trump đặt cược vào dự án thép 15 tỷ USD Lợi nhuận 9 tháng đầu năm TCBS đạt 5.708 tỷ đồng, hoàn thành 76% kế hoạch

Đồng won mạnh thúc đẩy làn sóng quảng bá ETF nước ngoài tại Hàn Quốc

Việc tỷ giá won/USD giảm xuống mức thấp nhất trong hơn hai năm đang thúc đẩy các công ty chứng khoán và công ty quản lý tài sản tại Hàn Quốc nối lại hoạt động quảng bá các quỹ hoán đổi danh mục (ETF).

Đồng won Hàn Quốc tăng giá nhờ xuất khẩu bán dẫn khởi sắc Đồng won Hàn Quốc đạt đỉnh cao hơn hai năm so với USD

Mỹ bãi bỏ mức thuế 50% đối với một số sản phẩm nhập khẩu từ Canada

Theo thông báo của Nhà Trắng, các mặt hàng được miễn thuế bao gồm ván ép, một số sản phẩm giấy, máy móc và thiết bị làm lạnh, cùng các loại thùng, hộp và vật liệu đóng gói.

Kinh tế Canada chịu sức ép kép từ thuế quan Mỹ và giá năng lượng tăng cao Canada điều chỉnh nhập cư để nâng chất lượng tăng trưởng

ECB dự kiến thử nghiệm đồng euro kỹ thuật số từ mùa Hè năm 2027

Ngân hàng Trung ương châu Âu (ECB) dự kiến bắt đầu thử nghiệm đồng euro kỹ thuật số từ mùa Hè năm 2027, sau khi Liên minh châu Âu (EU) hoàn tất khuôn khổ pháp lý vào cuối năm nay.

Nghị viện châu Âu “bật đèn xanh” cho đồng euro kỹ thuật số Anh có thể là nền kinh tế phát triển lớn đầu tiên phát hành trái phiếu chính phủ kỹ thuật số