CEO Anthropic kêu gọi làm chậm quá trình phát triển các mô hình AI

CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người.

Ảnh minh họa. (Nguồn: Vietnam+)

Giám đốc điều hành (CEO) Anthropic, Dario Amodei, đã kêu gọi các công ty làm chậm quá trình phát triển các mô hình AI khi ngày càng có nhiều lo ngại về tình trạng lạm dụng.

CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người, cùng với sự cố các tác nhân AI của OpenAI tự ý vượt rào an toàn và tấn công mạng nền tảng Hugging Face hồi tháng 7/2026, là những lý do chính để cần hãm lại tốc độ phát triển các mô hình này.

Quảng cáo

Ông Amodei đưa ra kêu gọi trên sau khi Anthropic phát hành báo cáo về các mối đe dọa trong tuần qua. Báo cáo này nêu chi tiết cách một số đối tượng đã sử dụng các mô hình AI Claude của công ty cho các hoạt động từ phát triển vũ khí, tấn công mạng cho đến giám sát và lừa đảo.

Trong tuần trước, Anthropic đã tiết lộ việc mô hình AI xâm nhập trái phép vào các hệ thống bên ngoài sau sự cố hồi tháng 7, khi một số mô hình Claude của họ đã xâm nhập hệ thống của ba công ty trong quá trình thử nghiệm an ninh mạng.

Với tốc độ phát triển năng lực AI đang tăng nhanh, ông Amodei lo ngại rằng trong vòng 6-12 tháng tới, những mô hình AI như vậy có thể chiếm quyền kiểm soát toàn bộ Internet, gây thiệt hại tiềm tàng lên tới hàng trăm tỷ USD.

CEO Anthropic đưa ra một lộ trình gồm ba bước nhằm điều chỉnh tốc độ phát triển và tạo thêm thời gian để quản lý các rủi ro liên quan. Đó là bố trí các chuyên gia đánh giá độc lập có quyền truy cập hệ thống như nhân viên nội bộ để kiểm chứng các quy trình an toàn; phối hợp giữa các công ty AI tiên phong nhằm thiết lập tiêu chuẩn an toàn và hạn chế sự phát triển AI thiếu kiểm soát; và hợp tác quốc tế để quản lý các rủi ro từ AI.

Cả ông Elon Musk, CEO của xAI và ông Sam Altman, CEO của OpenAI, đều bày tỏ sự đồng tình với kêu gọi của ông Amodei. Ông Altman cho biết OpenAI sẽ sử dụng các chuyên gia đánh giá độc lập có quyền truy cập như nhân viên nội bộ và thông tin chi tiết sẽ sớm được công bố.

Theo vietnamplus.vn Sao chép

Cùng chuyên mục Kinh doanh quốc tế

CEO Anthropic kêu gọi làm chậm quá trình phát triển các mô hình AI

CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người.

Anthropic ước tính doanh thu tiềm năng hàng năm tối đa vượt 30.000 tỷ USD Nvidia có thể đầu tư 10 tỷ USD vào thương vụ IPO của Anthropic

Fujitsu xuất khẩu chip AI cho công nghệ siêu máy tính quy mô lớn đầu tiên

Fujitsu sẽ bắt đầu xuất khẩu sang Mỹ và châu Á các loại chip AI được phát triển dựa trên công nghệ sử dụng trong siêu máy tính Fugaku, đây là lần đầu tiên công ty tiếp thị sản phẩm này ở quy mô lớn.

5 xe gầm cao bán chạy nhất đầu 2024: Xe Nhật vẫn áp đảo, cái tên này chỉ bán 1 tháng lập tức lọt top Lộ diện liên danh 7 công ty trúng gói thầu phức tạp nhất vành đai 3 Tp.HCM

Ngân hàng Trung ương Nhật Bản cân nhắc nâng lãi suất

Ngân hàng Trung ương Nhật Bản cân nhắc nâng lãi suất chính sách lên khoảng 1,25% tại cuộc họp chính sách ngày 17-18/9 tới, nếu được thực hiện, đây sẽ là lần tăng lãi suất đầu tiên trong vòng ba tháng.

Nhật Bản: Lãi suất cố định vay mua nhà 35 năm đạt mức cao kỷ lục Nhật Bản rót hàng chục tỷ USD xây hạ tầng AI, vươn lên top 3 thế giới

Chủ tịch ECB: Cú sốc lạm phát hiện tại sẽ kéo dài hơn dự đoán

Theo chủ tịch ECB, cuộc chiến tại Iran cùng với tình trạng năng lực lọc dầu ở nhiều nơi bị tàn phá, đặc biệt là tại Nga, đã đẩy chi phí năng lượng lên cao, từ đó kéo mặt bằng giá cả chung tăng theo.

Sức ép lạm phát thúc đẩy ECB thắt chặt chính sách tiền tệ ECB tăng lãi suất lần thứ hai trong năm nay trước áp lực lạm phát

FED trước 2 luồng quan điểm: Tăng lãi suất hay giữ nguyên?

Báo cáo CPI tháng 8 của Mỹ đang thu hút sự chú ý trước cuộc họp chính sách ngày 15-16/9 của Ngân hàng Dự trữ liên bang Mỹ (FED), khi giới chuyên gia chia rẽ giữa khả năng tăng lãi suất và giữ nguyên.

Kỳ vọng Fed tăng lãi suất giúp đồng USD củng cố sức mạnh Phố Wall chấm dứt chuỗi giảm điểm trước thềm cuộc họp của Fed

Nvidia có thể đầu tư 10 tỷ USD vào thương vụ IPO của Anthropic

Công ty khởi nghiệp trí tuệ nhân tạo (AI) Anthropic đang đàm phán để Nvidia trở thành nhà đầu tư chủ chốt trong đợt phát hành cổ phiếu lần đầu ra công chúng, thương vụ có thể lớn nhất trong lịch sử.

Các tập đoàn công nghệ đề nghị Mỹ dỡ bỏ lệnh hạn chế đối với mô hình AI của Anthropic Anthropic ước tính doanh thu tiềm năng hàng năm tối đa vượt 30.000 tỷ USD

Hội nghị thượng đỉnh BRICS: Chủ tịch Trung Quốc kêu gọi BRICS thúc đẩy phát triển dựa trên đổi mới sáng tạo

Ngày 12/9, Chủ tịch Trung Quốc Tập Cận Bình cho biết cơ chế hợp tác BRICS đã trở thành nền tảng hợp tác có ảnh hưởng nhất thế giới giữa các thị trường mới nổi và các nước đang phát triển.

Nhập khẩu dầu Nga giảm sốc 22%, quốc gia BRICS quay lại 'vòng tay' của các đại gia Trung Đông Quốc gia BRICS mua vàng 16 tháng liên tiếp, đang sở hữu hơn 2.300 tấn kim loại quý

Ông Trump muốn phát “cổ tức” 5.000 USD cho toàn bộ người dân Mỹ: "Đó là một bài toán tài chính sai lầm"

Khoản tiền phát cho người dân trị giá 1.200 tỷ USD mà Tổng thống Mỹ Donald Trump đề xuất hoàn toàn thiếu tính hợp lý đối với một quốc gia không có tiền mặt dư thừa và đang khao khát nguồn vốn đầu tư, tờ Financial Times nhận định.

Tổng thống Trump họp với giới lọc dầu để tìm cách tăng công suất và hạ giá xăng Mỹ phát hành đồng xu 1 USD mang hình Tổng thống Donald Trump

Phố Wall chấm dứt chuỗi giảm điểm trước thềm cuộc họp của Fed

Bất chấp số liệu lạm phát tăng đẩy khả năng Fed tăng lãi suất lên mức gần 90%, tâm lý mua bắt đáy và niềm tin vào uy tín kiểm soát giá cả của ngân hàng trung ương đã giúp Phố Wall lấy lại sắc xanh.

Đà tăng của giá dầu gây sức ép lên chứng khoán Mỹ Chứng khoán châu Á đồng loạt lao dốc do lo ngại lạm phát

Kỳ vọng Fed tăng lãi suất giúp đồng USD củng cố sức mạnh

Thị trường ngoại hối diễn biến trái chiều khi USD gần như đi ngang trong tuần, trong khi đồng yen Nhật tăng mạnh nhờ kỳ vọng Fed và BoJ sẽ tiếp tục thắt chặt chính sách tiền tệ.

Áp lực lãi suất bủa vây, chứng khoán thế giới đồng loạt giảm điểm Lạm phát Mỹ tăng, thị trường đặt cược Fed nâng lãi suất

Lạm phát tăng trở lại, Fed đứng trước bài toán khó về lãi suất

Lạm phát Mỹ cao hơn dự kiến cùng sức ép từ giá năng lượng và làn sóng đầu tư lớn vào AI đang đặt Cục Dự trữ Liên bang Mỹ trước bài toán khó về lãi suất tại cuộc họp ngày 15-16/9.

Chứng khoán châu Á lên điểm sau phát biểu của các quan chức Fed Báo cáo việc làm Mỹ bất ngờ tăng gấp 3 lần dự kiến, dự đoán khả năng Fed tăng lãi suất tăng vọt 60%