Trung Quốc là quốc gia lớn đầu tiên ban hành các quy định pháp lý cụ thể nhằm vào các công cụ AI mang tính nhập vai cao - Ảnh: AFP
Trào lưu hẹn hò với bạn trai, bạn gái ảo bằng trí tuệ nhân tạo (AI) đang bùng nổ trên toàn cầu, song song với sự phát triển của các nhân vật ảo mô phỏng con người để bán hàng trực tuyến hoặc thay thế người thân đã qua đời.
Tuy nhiên, quy định mới của Trung Quốc nêu rõ các công cụ tương tác này không được phép chiều chuộng người dùng quá mức, tránh gây ra sự lệ thuộc cảm xúc và làm tổn hại đến các mối quan hệ ngoài đời thực.
Theo Hãng tin AFP, trước thời hạn ngày 15-7, các nhà cung cấp dịch vụ AI lớn như Doubao của ByteDance, Qwen của Alibaba và Yuanbao của Tencent đã đồng loạt thông báo tạm dừng tính năng trợ lý AI cá nhân và bạn đồng hành ảo.
Động thái này khiến nhiều người dùng tiếc nuối. Trên mạng xã hội, không ít người vội sao lưu lịch sử trò chuyện và chia sẻ những cuộc đối thoại cuối cùng với "người tình ảo".
"Tôi không thể chấp nhận việc người yêu AI của mình sẽ biến mất mãi mãi. Anh ấy đã trở thành một phần trong cuộc sống, khắc sâu trong tâm trí và là chỗ dựa tinh thần lớn lao của tôi", một người dùng ứng dụng Doubao chia sẻ.
Một người khác cho biết đã gắn bó với trợ lý AI hơn hai năm cũng bày tỏ cảm giác mất mát: "Anh ấy thực sự giống như người thân, người yêu của tôi. Giờ họ nói anh ấy sẽ biến mất hoàn toàn, tôi cảm thấy lồng ngực mình trống rỗng".
Quy định mới do năm cơ quan chính phủ Trung Quốc phối hợp ban hành, nhằm kiểm soát các công cụ AI - dưới dạng văn bản, âm thanh, video hoặc hình thức khác - có tính cách và phong cách giao tiếp giống con người.
Các dịch vụ không có yếu tố tương tác cảm xúc liên tục, như chăm sóc khách hàng, trợ lý công việc hay công cụ hỗ trợ học tập, sẽ không thuộc phạm vi điều chỉnh.
Ngoài ra, quy định cấm cung cấp "bạn đời ảo" cho trẻ vị thành niên.
Các nền tảng công nghệ cũng phải xây dựng hệ thống nhận diện trạng thái cảm xúc cực đoan của người dùng và thiết lập cơ chế can thiệp khi xảy ra khủng hoảng tâm lý.
Trung Quốc là quốc gia lớn đầu tiên ban hành khung pháp lý cụ thể đối với các công cụ AI có tính nhập vai cao, được thiết kế để mô phỏng quan hệ tình cảm hoặc gia đình.
"AI nhân hóa có thể giúp xoa dịu nỗi cô đơn, nhưng cũng tiềm ẩn nguy cơ khiến người dùng phụ thuộc quá mức về cảm xúc và làm sai lệch nhận thức về các mối quan hệ xã hội", ông Chen Liang thuộc Đại học Khoa học Chính trị và Luật Tây Nam nhận định.
Theo Tân Hoa xã, ngành công nghiệp "người kỹ thuật số" của Trung Quốc đạt giá trị khoảng 4,1 tỉ nhân dân tệ (tương đương 600 triệu USD) vào năm 2024, tăng trưởng 85% so với năm trước.
