Theo luật mới, các công ty trí tuệ nhân tạo (AI) phải báo cáo những sự cố an toàn nghiêm trọng như các mối đe dọa vũ khí sử dụng mô hình, những cuộc tấn công mạng lớn hoặc mất quyền kiểm soát mô hình trong vòng 15 ngày cho các quan chức tiểu bang.
Luật cũng thiết lập những biện pháp bảo vệ người tố giác cho các nhân viên tiết lộ bằng chứng về những mối nguy hiểm hoặc vi phạm.
Dự luật số 53 của Thượng viện đánh dấu động thái quan trọng nhất của California cho đến nay nhằm quản lý lĩnh vực AI đang phát triển nhanh chóng của Thung lũng Silicon, đồng thời vẫn duy trì vị thế là trung tâm công nghệ toàn cầu.
Thượng nghị sỹ Scott Wiener, người bảo trợ dự luật, cho biết trong một tuyên bố rằng với một công nghệ mang tính chuyển đổi như AI, cần có sự hỗ trợ sự đổi mới đó, đồng thời đặt ra những rào cản hợp lý.
Luật mới đánh dấu nỗ lực thành công thứ hai của ông Wiener nhằm thiết lập các quy định an toàn AI sau khi ông Newsom phủ quyết dự luật trước đó là dự luật SB 1047 của Thượng viện California nhằm quản lý các rủi ro tiềm ẩn của những mô hình AI tiên tiến, sau sự phản đối dữ dội từ ngành công nghệ.
Luật này cũng được ban hành sau một nỗ lực thất bại của chính quyền Tổng thống Donald Trump nhằm ngăn chặn các tiểu bang ban hành những quy định về AI, với lập luận rằng điều đó sẽ tạo ra sự hỗn loạn về quy định và làm chậm quá trình đổi mới sáng tạo của Mỹ trong cuộc đua với Trung Quốc.
Theo ông Wiener, cách tiếp cận của California khác với Đạo luật AI mang tính bước ngoặt của Liên minh châu Âu, vốn yêu cầu phải tiết lộ thông tin riêng tư cho các cơ quan chính phủ. Trong khi đó, SB 53 yêu cầu phải công khai thông tin để đảm bảo trách nhiệm giải trình cao hơn.
