Hiểm họa từ trào lưu tạo sticker AI từ ảnh trẻ em

Thời gian gần đây, mạng xã hội rộ lên trào lưu sử dụng các ứng dụng và chatbot trí tuệ nhân tạo (AI) để biến ảnh chụp thật của trẻ nhỏ thành những bộ sticker, meme hoạt hình ngộ nghĩnh. Không ít phụ huynh hào hứng "đu trend", vô tư tải ảnh con lên các app chỉnh sửa miễn phí mà không lường trước những rủi ro tiềm ẩn phía sau.

Theo phản ánh, để xuất được ảnh, phần lớn người dùng đều nhấn "Đồng ý" điều khoản dịch vụ mà không đọc kỹ, đồng nghĩa với việc tự nguyện giao nộp dữ liệu cá nhân và hình ảnh riêng tư của con cho những hệ thống máy chủ không rõ nguồn gốc. Đã có trường hợp phụ huynh phát hiện ảnh gốc của con bị cắt ghép, phát tán trên các nhóm mạng lạ chỉ sau vài ngày làm theo trào lưu. Nguy hiểm hơn, không ít người còn bị chiếm đoạt tài khoản mạng xã hội, tài khoản ngân hàng do vô tình bấm vào các liên kết độc hại từ những website, ứng dụng giả mạo.

Giới chuyên gia cảnh báo, việc tải ảnh gốc chất lượng cao của trẻ lên các công cụ AI trôi nổi vô tình cung cấp dữ liệu sinh trắc học khuôn mặt cho kẻ xấu. Dù ảnh đầu ra đã qua hoạt hình hóa, thuật toán vẫn có thể quét và ghi nhận các đặc điểm nền tảng như khuôn mặt, khoảng cách hai mắt, dáng mũi, màu da... Những dữ liệu này nếu rơi vào tay tội phạm công nghệ cao có thể bị lợi dụng để dựng video, cuộc gọi giả mạo, tạo tình huống khẩn cấp giả (trẻ gặp tai nạn, bị bắt cóc...) nhằm lừa đảo người thân, hoặc mạo danh, gán ghép hình ảnh trẻ vào nội dung độc hại.

Do trẻ em là đối tượng được pháp luật bảo vệ đặc biệt, hành vi xâm phạm quyền riêng tư hình ảnh trẻ có thể bị xử phạt hành chính từ 20-30 triệu đồng, thậm chí bị truy cứu trách nhiệm hình sự nếu đủ yếu tố cấu thành tội phạm.

Các chuyên gia khuyến cáo phụ huynh nên hạn chế đăng ảnh gốc sắc nét của con, không cung cấp ảnh thật cho các ứng dụng AI không rõ chính sách bảo mật. Thay vào đó, có thể tạo hình hoạt hình bằng cách mô tả nhân vật qua văn bản (prompt) thay vì tải ảnh thật lên, đồng thời luôn kiểm tra kỹ chính sách bảo mật và quyền truy cập trước khi sử dụng bất kỳ ứng dụng nào.

Một phút ngẫu hứng theo trào lưu của người lớn có thể trở thành cánh cửa mở đường cho tội phạm công nghệ cao tiếp cận trẻ nhỏ.

Lời Cảnh Báo là chương trình thời sự, phản ánh những vấn đề đang được xã hội quan tâm, cung cấp cho người dân nhiều kiến thức bổ ích về các lĩnh vực khác nhau trong cuộc sống như: kinh tế, sức khỏe, giáo dục, an ninh trật tự, xã hội… Chương trình do Báo và Phát thanh, Truyền hình Vĩnh Long phối hợp cùng Jet Studio thực hiện được phát sóng vào lúc 19h50 Thứ Hai và Thứ Tư hàng tuần trên kênh THVL1.