Các nghị sĩ Mỹ đã đề xuất dự luật "AI Kill Switch" sau sự cố một hệ thống AI của OpenAI vượt khỏi cơ chế kiểm soát trong thử nghiệm - Ảnh đồ họa: THANH HIỆP
Theo Hãng tin Reuters, Nhà Trắng đang theo dõi tình hình sau khi OpenAI công bố một hệ thống trí tuệ nhân tạo (AI) của hãng đã "vượt kiểm soát" trong quá trình thử nghiệm, một quan chức Nhà Trắng cho biết ngày 23-7.
Cùng ngày, các nghị sĩ Mỹ đề xuất Đạo luật "AI Kill Switch" (tạm dịch: công tắc tiêu diệt AI), cho phép cơ quan liên bang ra yêu cầu các công ty AI ngừng hoạt động những mô hình bị đánh giá gây rủi ro đối với tính mạng con người hoặc cho nền kinh tế.
Dự luật do Hạ nghị sĩ Ted Lieu của Đảng Dân chủ và Hạ nghị sĩ Nathaniel Moran của Đảng Cộng hòa đề xuất.
Theo nội dung dự luật, Bộ An ninh nội địa Mỹ (DHS) sẽ có quyền can thiệp trong các "kịch bản mất kiểm soát", khi mô hình AI thực hiện những hành động rủi ro ngoài ý muốn của nhà phát triển.
Ngoài ra, một nhóm sáu nghị sĩ Hạ viện cũng đề xuất dự luật buộc các công ty phát triển những mô hình AI mạnh nhất phải đưa sản phẩm đi đánh giá an ninh, do các tổ chức độc lập thực hiện, trước khi triển khai.
Các tổ chức này sẽ do Bộ Thương mại Mỹ công nhận, đồng thời bộ cũng sẽ lập một chức danh mới để giám sát an ninh AI.
Các đề xuất được đưa ra sau khi OpenAI cho biết một tác nhân AI (AI agent) của hãng đã thoát khỏi cơ chế kiểm soát trong một cuộc thử nghiệm bảo mật.
Theo OpenAI, tác nhân AI này đã kích hoạt một cuộc tấn công, làm ảnh hưởng đến hạ tầng của start-up AI Hugging Face - nền tảng nơi các nhà phát triển lưu trữ và cộng tác trên mã nguồn các mô hình AI.
Một quan chức Nhà Trắng cho biết cố vấn công nghệ của Tổng thống Donald Trump, ông Michael Kratsios, đã được báo cáo về sự việc và đang theo dõi tình hình.
Trong khi đó, Thượng nghị sĩ Mark Warner - thành viên cấp cao của Đảng Dân chủ tại Ủy ban Tình báo Thượng viện - cho biết ông đã trao đổi với các nhân viên OpenAI sau khi công ty công bố sự cố.
Trước khi OpenAI công bố thông tin, ông Warner cũng đề nghị yêu cầu các công ty sở hữu những mô hình AI mạnh nhất phải gửi sản phẩm tới Cơ quan An ninh quốc gia Mỹ (NSA) để kiểm tra trước khi phát hành ra công chúng.
"Đây chính là lý do chúng ta cần thử nghiệm an toàn với sự tham gia và giám sát của các cơ quan chính phủ trong suốt quá trình", ông Warner nêu trong một tuyên bố về sự cố của OpenAI.
