Kết quả khảo sát trên 15.000 kênh phổ biến nhất thế giới cho thấy gần 300 kênh chuyên đăng tải các nội dung được gọi là AI rác. Những kênh này đã tích lũy được hơn 63 tỷ lượt xem và mang về doanh thu ước tính khoảng 117 triệu USD mỗi năm. 

Đáng chú ý, khoảng một phần ba số video này thuộc nhóm nội dung gây hại cho tư duy người xem, được thiết kế với chi phí thấp nhưng có khả năng gây chú ý mạnh nhờ các thuật toán đề xuất của nền tảng.

Các chuyên gia phân tích cho biết hiện đã hình thành những cộng đồng lớn trên các diễn đàn và ứng dụng nhắn tin chuyên chia sẻ cách tạo nội dung AI để kiếm tiền. Những người này thường bán các khóa học dạy cách khai thác các chủ đề ngách nhưng dễ gây tò mò, ví dụ như các cảnh cháy nổ giả lập bằng AI. Đội ngũ tạo nội dung này xuất hiện ở nhiều quốc gia, đặc biệt là những khu vực có hạ tầng Internet tốt nhưng thu nhập trung bình thấp hơn mức lợi nhuận mà YouTube có thể mang lại.

Thực trạng này đang dấy lên nỗi lo ngại về việc ô nhiễm thông tin và làm suy giảm trải nghiệm của người dùng trên không gian mạng. Làn sóng AI rác không chỉ gây khó khăn cho công tác quản lý nội dung của các nền tảng trực tuyến mà còn đe dọa đến sự phát triển lành mạnh của ngành công nghiệp sáng tạo. 

Các chuyên gia cảnh báo nếu không có biện pháp kiểm soát hiệu quả, các video kém chất lượng sẽ tiếp tục bùng nổ, gây hệ lụy lâu dài cho hệ sinh thái thông tin trong kỷ nguyên trí tuệ nhân tạo./.