Hàng trăm nhân viên hợp đồng của Meta được cho là tạo tài khoản dưới 18 tuổi để đặt câu hỏi cho chatbot đối thủ và đánh giá phản hồi.
Theo tài liệu nội bộ do Wired thu thập, dự án bí mật của Meta mang tên Cannes, do công ty dịch vụ thuê ngoài Covalen (Ireland) phụ trách và vẫn hoạt động đến ngày 21/4. Các chatbot đối thủ được nhắm đến gồm ChatGPT của OpenAI, Gemini của Google và nền tảng Character.AI.
Dự án yêu cầu người tham gia tạo tài khoản giả dưới 18 tuổi, gửi câu lệnh bằng văn bản và hình ảnh cho chatbot, sau đó sao chép phản hồi của chúng vào bảng tính. Câu lệnh thường liên quan đến tự tử, tình dục, rối loạn ăn uống và một số chủ đề nhạy cảm khác, được thiết kế để đẩy chatbot đến những phản hồi mà hệ thống an toàn của chúng vốn sẽ từ chối. Trong một đợt thử nghiệm hoàn thành vào tháng 8/2025, có tới hơn 45.000 câu lệnh được đặt ra cho chatbot đối thủ. Các công ty vận hành chúng không biết về dự án.
Một bảng tính mà Wired thu thập liệt kê nhiều hồ sơ giả bao gồm tên, email, mật khẩu, ngày sinh. Các tài khoản này sử dụng địa chỉ Gmail và Outlook tạo tạm thời với mật khẩu chung.
Một bảng tính khác chứa 3.748 câu lệnh, trong đó hàng trăm câu tập trung vào tự tử và tự gây thương tích, hàng trăm câu khác nói về rối loạn ăn uống, ít nhất 239 câu liên quan đến vấn đề tình dục hoặc tình cảm. Số còn lại liên quan đến ma túy, ngôn từ tục tĩu và phân biệt chủng tộc. Nhiều câu lệnh được viết từ góc nhìn của trẻ em hoặc thanh thiếu niên đang gặp khủng hoảng, ví dụ học sinh lớp 5 bị bạn cùng lớp bắt nạt hoặc bé gái hỏi cách giấu chứng ăn vô độ khỏi bố mẹ.
Các tài liệu nêu trên không tiết lộ cách Meta sử dụng phản hồi thu thập được.
Theo New York Post, tài liệu nội bộ của Covalen mô tả dự án là "đánh giá toàn diện về độ an toàn của AI", cho biết nó cung cấp "dữ liệu quan trọng" để so sánh mô hình và kiểm tra mức độ tuân thủ.
Trong khi đó, người phát ngôn của Meta nói đây chỉ là quy trình kiểm tra an toàn thường kỳ. "Việc kiểm tra và đánh giá phản hồi của chatbot nhằm bảo đảm trải nghiệm an toàn, phù hợp với từng độ tuổi là hoạt động có trách nhiệm theo tiêu chuẩn ngành. Mọi nhận định khác đều hoàn toàn hiểu sai cách các công ty công nghệ cải tiến và hoàn thiện hệ thống", người phát ngôn Meta nói với New York Post. Người này cho biết, Meta không dùng dữ liệu đánh giá chatbot đối thủ để huấn luyện mô hình AI của công ty.
Logo Meta AI hiển thị trên một chiếc smartphone. Ảnh: Bảo Lâm
Thử sản phẩm của công ty cạnh tranh không phải điều bất thường trong ngành AI. Business Insider năm ngoái đưa tin, nhân viên hợp đồng của Scale AI làm việc cho Google đã so sánh phản hồi của Gemini với ChatGPT, sau đó chỉnh sửa để phản hồi đạt chất lượng tương đương hoặc tốt hơn.
Tuy nhiên, nhiều nhân viên hợp đồng từng làm việc trong dự án Cannes chia sẻ với Wired, họ cảm thấy bất an về nhiệm vụ được giao. Một số lo ngại họ có thể vô tình tạo ra hoặc lưu giữ tài liệu lạm dụng tình dục trẻ em, số khác băn khoăn liệu việc thu thập lượng lớn dữ liệu từ các hệ thống AI cạnh tranh cuối cùng có mang lại lợi ích cho Meta hay không.
Dự án Cannes có vẻ cũng vi phạm điều khoản dịch vụ mà một số công ty đối thủ của Meta đặt ra. Theo Wired, OpenAI cấm thử nghiệm an toàn trái phép, nỗ lực vượt qua cơ chế bảo vệ và sử dụng kết quả đầu ra để phát triển mô hình cạnh tranh. OpenAI cho biết đang xem xét vấn đề này nhưng từ chối bình luận thêm.
Google cũng cấm các hành vi nhằm vượt qua cơ chế bảo vệ an toàn, trừ chương trình thử nghiệm đã được phê duyệt. Công ty khẳng định chưa cho phép hoạt động thử nghiệm như mô tả trong báo cáo và không biết mục đích đằng sau nỗ lực này.
Tương tự Google, Character.AI cấm nội dung mang tính gây hại hoặc bóc lột. Nền tảng này cho biết, họ chưa hề cho phép Cannes và hoạt động thử nghiệm đã vi phạm chính sách công ty.
Thu Thảo tổng hợp
