Trung Quốc xây dựng bộ chuẩn đánh giá an toàn AI nhằm kiểm soát các rủi ro như AI tạo thông tin không chính xác, rò rỉ dữ liệu và các cuộc tấn công - Ảnh minh họa: Magnific
Theo báo SCMP ngày 13-7, Bộ Công nghiệp và Công nghệ thông tin Trung Quốc (MIIT) đã khởi động việc xây dựng bộ chuẩn đánh giá an toàn trí tuệ nhân tạo (AI) thông qua Trung tâm Nghiên cứu phát triển an ninh thông tin công nghiệp quốc gia.
Trong thông báo, trung tâm cho biết đang tuyển các doanh nghiệp và chuyên gia cùng tham gia xây dựng bộ chuẩn đánh giá. Hạn chót nộp hồ sơ là ngày 14-7.
Trung tâm nhận định các khuôn khổ đánh giá hiện nay chưa đáp ứng được nhu cầu quản trị an toàn ngày càng phức tạp, do đó cần một nền tảng đánh giá được tiêu chuẩn hóa để hỗ trợ các doanh nghiệp tuân thủ quy định.
Theo kế hoạch, bộ chuẩn mới sẽ đánh giá các mô hình AI tạo sinh dựa trên sáu tiêu chí gồm an toàn nội dung, sự phù hợp với các giá trị định hướng, khả năng chống chịu, tính công bằng, bảo vệ quyền riêng tư và độ tin cậy.
Phương pháp đánh giá kết hợp cũng sẽ được thiết kế nhằm đánh giá 31 rủi ro an toàn cụ thể thuộc 5 nhóm lớn.
Hệ thống sẽ kết hợp các bài kiểm tra tự động với đánh giá của con người nhằm kiểm soát tình trạng AI tạo ra thông tin không chính xác, ngăn rò rỉ dữ liệu và hạn chế các cuộc tấn công "jailbreak" - kỹ thuật tạo câu lệnh nhằm vượt qua các cơ chế an toàn của các mô hình ngôn ngữ lớn (LLM).
Báo SCMP đánh giá động thái của Trung Quốc diễn ra trong bối cảnh nhiều cơ quan quản lý trên thế giới tăng cường chú trọng đến vấn đề an toàn AI khi công nghệ này tiếp tục phát triển.
Tháng 6 vừa qua, Nhà Trắng đã ban hành sắc lệnh hành pháp yêu cầu xây dựng "quy trình đánh giá chuẩn mang tính bảo mật" nhằm đánh giá năng lực an ninh mạng của các mô hình AI tiên tiến.
Trong khi đó, Liên minh châu Âu đang triển khai khung pháp lý theo Đạo luật AI (EU AI Act) và yêu cầu các mô hình AI đa mục đích phải minh bạch về dữ liệu huấn luyện.
Theo quy định này, các hành vi vi phạm có thể bị phạt tới 3% doanh thu toàn cầu của doanh nghiệp. Trường hợp không tuân thủ các quy định liên quan đến những ứng dụng AI bị cấm có thể bị áp dụng mức phạt tối đa lên tới 7% doanh thu toàn cầu.
