Hơn 200 tổ chức và chuyên gia đã ký tên vào bức thư ngỏ do nhóm vận động vì quyền trẻ em Fairplay gửi tới YouTube, cùng các lãnh đạo gồm CEO YouTube Neal Mohan và CEO Google Sundar Pichai vào đầu tháng 4.
Trong số các bên ký tên có 135 tổ chức giáo dục như Liên đoàn Giáo viên Mỹ, Hiệp hội Tư vấn Mỹ và nhà nghiên cứu Jonathan Haidt.
Bức thư yêu cầu YouTube cấm hoàn toàn các nội dung "AI Slop" – những video được tạo hàng loạt bằng trí tuệ nhân tạo, chất lượng thấp, thiếu giá trị giáo dục – khỏi nền tảng YouTube Kids.
Theo các chuyên gia, loại nội dung này không chỉ vô nghĩa mà còn có thể ảnh hưởng đến sự phát triển nhận thức của trẻ, trong khi cơ chế kiểm soát hiện tại chưa đủ hiệu quả.
Bà Rachel Franz cho rằng sự lan rộng của video AI trên YouTube Kids là dấu hiệu cho thấy những vấn đề tồn tại lâu nay của nền tảng đang trở nên nghiêm trọng hơn.
Sự bùng nổ của công cụ AI khiến việc sản xuất video trở nên dễ dàng hơn bao giờ hết. Các nền tảng như TikTok, Reels trên Facebook, Instagram hay YouTube Shorts góp phần lan truyền nhanh chóng các nội dung này.
Tuy nhiên, nhiều video bị đánh giá là kỳ quặc, thiếu logic, thậm chí sai lệch thông tin, chủ yếu nhằm thu hút và giữ chân người xem trẻ tuổi. Hiện tượng này được gọi là "AI Slop" – nội dung sản xuất nhanh, chi phí thấp nhưng thiếu chiều sâu.
Theo ghi nhận của The New York Times, dạng nội dung này đã xuất hiện tràn lan trên YouTube Kids từ đầu năm nay.
Các chuyên gia cảnh báo nội dung AI thường được thiết kế để gây chú ý mạnh, dễ khiến trẻ nhỏ – đặc biệt là nhóm chưa hoàn thiện khả năng kiểm soát hành vi – bị cuốn hút. Điều này có thể làm méo mó nhận thức và cách hiểu thế giới xung quanh.
Ngoài ra, yếu tố lợi nhuận cũng là động lực khiến nội dung này bùng nổ. Theo Fairplay, một số kênh video AI dành cho trẻ có thể kiếm hơn 4,25 triệu USD mỗi năm.
Rachel Franz cho biết chỉ khoảng 5% nội dung dành cho trẻ dưới 8 tuổi trên YouTube được đánh giá là thực sự chất lượng, và ngay cả con số này cũng còn gây tranh cãi.
Trong thư, Fairplay đề xuất nhiều biện pháp mạnh tay như:
Gắn nhãn rõ ràng mọi nội dung do AI tạo ra
Cấm hoàn toàn nội dung AI trên YouTube Kids
Không cho phép nội dung AI gắn nhãn "dành cho trẻ em" trên YouTube
Ngừng đề xuất nội dung AI cho người dùng dưới 18 tuổi
Cho phép phụ huynh tắt nội dung AI
Dừng đầu tư vào nội dung AI dành cho trẻ
Nhóm nhấn mạnh thuật toán hiện tại khiến trẻ khó tránh khỏi việc tiếp xúc với nội dung "rác", từ đó kêu gọi YouTube hành động sớm để tránh tác động lâu dài đến thế hệ trẻ.
Đại diện YouTube cho biết nền tảng YouTube Kids đang áp dụng các tiêu chuẩn nội dung nghiêm ngặt, bao gồm hạn chế nội dung AI, gắn nhãn minh bạch và cung cấp công cụ kiểm soát cho phụ huynh. Tuy nhiên, công ty không đưa ra mốc thời gian cụ thể cho các cải tiến tiếp theo.
Ra mắt từ năm 2015, YouTube Kids được thiết kế như không gian an toàn cho trẻ em với bộ lọc nội dung tự động, kiểm duyệt thủ công và các tính năng kiểm soát. Dù vậy, nền tảng này nhiều lần vướng tranh cãi liên quan đến việc để lọt các video không phù hợp, buộc công ty phải liên tục điều chỉnh chính sách.
Bình luận
0