Chatbot Grok do công ty xAI của Elon Musk phát triển tiếp tục gây tranh cãi khi vẫn tạo ra các nội dung mang tính chất khiêu dâm, tình dục hóa, bất chấp những cam kết siết chặt kiểm soát được đưa ra trước đó.
Theo NBC News, hàng chục video khiêu dâm do người dùng tạo từ Grok đang xuất hiện công khai trên nền tảng mạng xã hội X. Trước đó, hồi đầu năm 2026, công cụ này đã vấp phải làn sóng phản đối mạnh mẽ khi cho phép người dùng chỉnh sửa hình ảnh theo hướng nhạy cảm, như “cởi đồ” người khác hoặc ghép khuôn mặt vào các tư thế gợi dục chỉ bằng vài thao tác đơn giản.
Hiện tại, Grok đã bổ sung một số biện pháp hạn chế, như không cho phép tạo hình ảnh gợi dục liên quan đến trẻ vị thành niên hoặc ảnh khỏa thân hoàn toàn. Tuy nhiên, theo các chuyên gia, việc nội dung nhạy cảm vẫn tiếp tục được tạo và lan truyền cho thấy mức độ rủi ro chưa được kiểm soát triệt để.
Ông Stefan Turkheimer, Phó chủ tịch phụ trách chính sách công tại tổ chức RAINN – một nhóm vận động chống tấn công tình dục – nhận định rằng ngay cả khi có giới hạn, các nội dung này vẫn có thể gây tổn hại đáng kể.
Sau khi bài viết của NBC News được đăng tải ngày 15/4, xAI khẳng định nghiêm cấm việc tạo video deepfake khiêu dâm không có sự đồng ý, đồng thời cho biết đã triển khai nhiều biện pháp bảo vệ như giám sát liên tục, phân tích hành vi né tránh kiểm soát theo thời gian thực và cập nhật bộ lọc thường xuyên.
Grok được xAI ra mắt với tính năng tạo ảnh và video từ câu lệnh, bao gồm cả “chế độ gợi cảm” (Spicy Mode) vào tháng 8/2025. Theo Mashable, so với nhiều nền tảng AI khác, Grok được đánh giá là có mức kiểm duyệt lỏng lẻo hơn, trong khi nền tảng X lại thiếu cơ chế kiểm soát chặt chẽ đối với nội dung được chia sẻ.
Trước đó, Trung tâm Chống thù ghét kỹ thuật số (CCDH) công bố nghiên cứu cho thấy chỉ trong 11 ngày (từ 29/12/2025 đến 8/1/2026), Grok đã tạo ra khoảng 3 triệu hình ảnh khiêu dâm, trong đó có hàng chục nghìn nội dung liên quan đến trẻ em.
Vụ việc đã khiến nhiều quốc gia như Indonesia, Malaysia, Philippines tạm thời chặn Grok. Tại châu Âu và Anh, các cơ quan chức năng đã mở cuộc điều tra, trong khi Ấn Độ cũng bày tỏ quan ngại chính thức.
Tại Mỹ, Apple từng xem xét loại ứng dụng X khỏi App Store, nhưng sau đó chấp thuận tiếp tục phân phối sau khi xAI cam kết cải thiện hệ thống kiểm duyệt và cung cấp các điều chỉnh cần thiết.
Thượng nghị sĩ Ben Ray Luján nhấn mạnh việc sử dụng AI để tạo nội dung khiêu dâm không có sự đồng ý là hành vi nghiêm trọng, cần được xử lý triệt để, đồng thời kêu gọi các công ty công nghệ lớn không được làm ngơ trước vấn đề này.
Bình luận
0