'Thám tử số' Hàn Quốc chạy đua gỡ nội dung khiêu dâm deepfake bằng AI

Hàn Quốc, quốc gia nổi tiếng với ngành công nghệ phát triển, cũng là nơi tình trạng "tội phạm tình dục kỹ thuật số" diễn ra phức tạp.

Phụ nữ bị quay lén trong không gian riêng tư, bị tống tiền để buộc cung cấp hình ảnh nhạy cảm hoặc trở thành nạn nhân của các nội dung khiêu dâm bị phát tán trái phép.

Hiện nay, deepfake do AI tạo ra trở thành mối đe dọa mới khi chỉ cần một bức ảnh khuôn mặt, kẻ xấu có thể tạo ra các hình ảnh khiêu dâm giả mạo của nạn nhân.

Tuyến đầu ứng phó tội phạm tình dục kỹ thuật số

Hãng tin AFP ngày 4-8 đăng tải phóng sự về Trung tâm quốc gia ứng phó tội phạm tình dục kỹ thuật số ở Seoul, nơi 23 nữ chuyên gia hằng ngày rà soát Internet, gửi yêu cầu gỡ bỏ nội dung vi phạm và viện dẫn các biện pháp pháp lý để buộc các nền tảng xóa bỏ hình ảnh.

Năm ngoái, trung tâm đã hỗ trợ gỡ bỏ 318.000 video và hình ảnh, gồm deepfake, video quay lén và hình ảnh riêng tư bị phát tán trái phép, thay mặt cho khoảng 10.600 người. Trong số này, 75% là phụ nữ và trẻ em gái.

Bà Kim Mi Soon, Giám đốc trung tâm, cho biết Hàn Quốc đã sớm triển khai các biện pháp ứng phó vì tội phạm tình dục trên môi trường số xuất hiện từ khá sớm, đồng thời phụ nữ nước này nhanh chóng lên tiếng yêu cầu chính quyền hành động.

Được thành lập năm 2018 sau làn sóng biểu tình phản đối nạn quay lén bằng camera giấu kín, trung tâm hiện có thêm 17 văn phòng khu vực, cung cấp miễn phí dịch vụ tư vấn tâm lý, hỗ trợ pháp lý và thu thập chứng cứ phục vụ điều tra.

Một phụ nữ 33 tuổi (chỉ tiết lộ họ Kim) bộc bạch rằng các hình ảnh deepfake của cô từng bị phát tán trên các ứng dụng nhắn tin mã hóa trong năm 2024, vượt ngoài khả năng xử lý của trung tâm.

Dù vậy, cô nói trung tâm đã hỗ trợ kinh phí để cô đi khám và lấy kết luận chẩn đoán sang chấn tâm lý làm chứng cứ cho hồ sơ tố tụng, giúp cô vượt qua giai đoạn khó khăn.

Theo cô, việc một mình theo đuổi quá trình pháp lý trong khi chịu tổn thương tâm lý gần như là không thể.

Năm 2020, vụ bê bối "Phòng chat Nth" phanh phui việc nhiều nam giới bóc lột hàng chục phụ nữ và trẻ em gái trong các phòng chat tống tiền tình dục có thu phí.

Dữ liệu của Công ty an toàn Internet Security Hero chỉ ra lượng nội dung deepfake trên toàn cầu tăng 550% trong giai đoạn 2019-2023. Gần 98% là nội dung khiêu dâm do AI tạo ra nhắm vào phụ nữ và hơn một nửa nạn nhân là người Hàn Quốc.

Deepfake lan rộng, Hàn Quốc tăng chế tài

Các ngôi sao K-pop vẫn là mục tiêu phổ biến, nhưng ngày càng có nhiều phụ nữ và trẻ em gái bình thường trở thành nạn nhân.

Dữ liệu của cảnh sát Hàn Quốc cho thấy tội phạm tình dục kỹ thuật số chiếm khoảng 40% tổng số vụ phạm tội tình dục.

Một chuyên gia phụ trách gỡ bỏ nội dung của trung tâm cho biết từ năm ngoái, số lượng deepfake nhắm vào phụ nữ và trẻ em gái bình thường tăng nhanh, trong khi hình ảnh ngày càng tinh vi hơn và nạn nhân cũng ngày càng trẻ.

Trung tâm hiện sử dụng các công cụ AI do đơn vị tự phát triển để phát hiện nội dung xâm hại và các tin nhắn nhắm vào trẻ em.

Tại Hàn Quốc, người tàng trữ nội dung khiêu dâm deepfake có thể bị phạt tù tới ba năm, còn người tạo ra nội dung đối mặt mức án lên đến bảy năm.

Các mức xử phạt được tăng vào năm 2024 sau khi nhiều phòng chat trên Telegram bị phát hiện chia sẻ hình ảnh và video deepfake về bạn học, đồng nghiệp, người quen và người thân.

Bà Clare McGlynn, giáo sư luật tại Đại học Durham (Anh), nhận định Hàn Quốc đang đi đầu trong việc xây dựng các dịch vụ hỗ trợ toàn diện và đầu tư công nghệ nhằm giảm thiểu tác hại của loại tội phạm này.

Trong khi đó, bà Kim Yeo-jin, người đứng đầu Trung tâm ứng phó bạo lực tình dục trên không gian mạng Hàn Quốc, cho rằng chỉ gỡ bỏ nội dung là chưa đủ.

Theo bà, nếu không thúc đẩy bình đẳng giới trong xã hội và tăng cường giáo dục về bình đẳng giới trong trường học, các nỗ lực xử lý deepfake sẽ không thể giải quyết tận gốc vấn đề.