Thất bại từ thuật toán đến con người Nghiên cứu chỉ ra hơn một chục tài khoản với gần 300.000 người theo dõi đã đăng tải các video AI mô tả trẻ vị thành niên trong tư thế gợi dục, thu hút hơn 2 triệu lượt thích. 

Đáng chú ý, khi Maldita.es báo cáo thủ công 60 video vi phạm, TikTok ban đầu đã từ chối xử lý và khẳng định chúng không vi phạm quy tắc. Điều này cho thấy sự thất bại kép: thuật toán không thể nhận diện sự tinh vi của AI tạo sinh, và đội ngũ kiểm duyệt viên thủ công đã đưa ra những quyết định sai lầm.

Cầu nối cho tội phạm tình dục Các tài khoản này không chỉ câu tương tác mà còn đóng vai trò "phễu" tiếp thị. Phần bình luận thường chứa liên kết dẫn dụ người dùng sang Telegram – nơi diễn ra các hoạt động mua bán nội dung lạm dụng trẻ em bất hợp pháp.

Sự tinh vi của công nghệ AI đang vượt xa năng lực kiểm soát hiện tại của TikTok. Nếu không sớm nâng cấp hệ thống và thắt chặt giám sát nhân lực, nền tảng này sẽ phải đối mặt với những hệ lụy pháp lý nghiêm trọng về an toàn trực tuyến cho trẻ em./.