Công ty Anthropic - công ty sáng lập AI Claude - bất ngờ đưa ra báo cáo kêu gọi các công ty AI 'tạm dừng' cuộc đua phát triển AI, nhằm kiểm soát AI tránh vượt tầm kiểm soát của con người - Ảnh minh họa: AFP
Theo Hãng tin AFP ngày 5-6, trong báo cáo công bố ngày 4-6, Công ty Anthropic - công ty phát triển dòng mô hình AI Claude - cho rằng việc làm chậm quá trình phát triển những mô hình AI tiên tiến trên toàn cầu "có thể là điều tốt".
'Tạm dừng' để kiểm soát AI
"Chúng tôi tin rằng sẽ tốt cho thế giới nếu có lựa chọn làm chậm hoặc tạm thời dừng việc phát triển AI tiên tiến để các cấu trúc xã hội và nghiên cứu về sự tương thích của AI có thể theo kịp tốc độ phát triển công nghệ", Anthropic cho biết.
Công ty này cảnh báo nếu chỉ một doanh nghiệp dừng lại thì các đối thủ sẽ tiếp tục tăng tốc phát triển.
Để việc tạm dừng có hiệu quả, nhiều công ty AI lớn ở nhiều quốc gia, đặc biệt là Mỹ và Trung Quốc, sẽ phải cùng đồng ý dừng phát triển vào cùng một thời điểm theo những quy định có thể được kiểm chứng.
Anthropic cho rằng nếu không có cơ chế phối hợp toàn cầu, các công ty và chính phủ sẽ phải đưa ra những quyết định khó khăn như phải "hy sinh độ an toàn" trong bối cảnh cạnh tranh và áp lực địa chính trị.
Công ty Anthropic cho biết đã vấp phải sự phản đối từ một số doanh nghiệp trong ngành và các quan chức Nhà Trắng. Những người này cho rằng Anthropic đang phóng đại các kịch bản rủi ro và sử dụng vấn đề an toàn để làm chậm đối thủ.
Dù vậy, Nhà Trắng đã thừa nhận sức mạnh của mô hình AI Mythos do Anthropic phát triển.
Mô hình này hiện chưa được cung cấp cho công chúng do có năng lực về an ninh mạng và chỉ được triển khai cho một số tổ chức đã được thẩm định.
Đề xuất của Anthropic được cho là sẽ gặp nhiều trở ngại tại Washington và Thung lũng Silicon. Các quan chức Mỹ và lãnh đạo công nghệ nhiều lần cho rằng việc làm chậm phát triển AI có thể khiến Mỹ mất lợi thế trước Trung Quốc trong cuộc đua công nghệ.
Tuy nhiên, Tổng thống Mỹ Donald Trump cho biết ông đã thảo luận khả năng hợp tác với Trung Quốc về các vấn đề an toàn AI trong chuyến thăm Bắc Kinh gần đây.
Ông Trump cũng đã ký một sắc lệnh hành pháp trong tuần này, cho phép chính phủ có 30 ngày để đánh giá sơ bộ các mô hình AI mạnh nhất của Mỹ trước khi chúng được phát hành.
Lo ngại AI tự cải thiện mà không cần con người
Anthropic lo lắng rằng các AI có thể tự phát triển mà không cần sự giúp đỡ và vượt khỏi tầm kiểm soát của con người - Ảnh minh họa: Maginific
Anthropic so sánh vấn đề về AI với các hiệp ước kiểm soát vũ khí hạt nhân, nhưng cho rằng việc giám sát AI sẽ khó khăn hơn vì quá trình huấn luyện AI dễ che giấu hơn việc xây dựng các bệ phóng tên lửa.
"Bạn cần có khả năng nhấc chân khỏi bàn đạp ga và đạp phanh", đồng sáng lập Anthropic Jack Clark nói tại chương trình thời sự BBC Newsnight ngày 4-6.
"Hiện nay, ngành công nghiệp AI giống như có bàn đạp ga nhưng chưa có bàn đạp phanh", ông Jack nói thêm.
Anthropic cho biết sẽ tập hợp các quan chức chính phủ, nhà khoa học và những công ty AI khác trong những tháng tới để thảo luận cách triển khai cơ chế này.
Công ty cũng cho hay dữ liệu nội bộ cho thấy AI đang giúp đẩy nhanh đáng kể quá trình phát triển chính AI.
Theo Anthropic, điều này có thể tạo ra một vòng lặp tăng tốc dẫn tới hiện tượng mà các nhà nghiên cứu gọi là "Tự cải thiện liên tục" (recursive self-improvement).
Đây là khái niệm về một hệ thống AI có khả năng tự học để trở nên thông minh hơn mà không cần nhiều sự hỗ trợ từ con người.
"Chúng ta chưa ở giai đoạn đó và việc tự cải thiện đệ quy không phải là điều tất yếu", báo cáo của Anthropic nêu rõ, đồng thời cho rằng điều này có thể xuất hiện sớm hơn khả năng chuẩn bị của nhiều chính phủ và tổ chức.
"Các bằng chứng cho thấy vai trò của con người đang thu hẹp dần ở mỗi bước trong quá trình phát triển AI", Anthropic nhận định.
