Grok là công cụ trí tuệ nhân tạo do xAI, công ty AI do Elon Musk thành lập năm 2023, phát triển. Công cụ này cho phép người dùng đặt câu hỏi, tạo nội dung văn bản, hình ảnh và video theo yêu cầu.

Tuy nhiên, Grok bị chỉ trích gay gắt khi cho phép người dùng tạo ra các hình ảnh khỏa thân hoặc khiêu dâm từ một hình ảnh bất kỳ. Nhiều đối tượng đã lợi dụng công cụ này để tạo ra hình ảnh khiêu dâm, khỏa thân giả mạo của người nổi tiếng hoặc cá nhân khác, gây bức xúc trong dư luận.

Trước thực trạng trên, chính phủ Indonesia và Malaysia đã ra quyết định chặn và cấm sử dụng Grok tại hai quốc gia này.

“Lệnh cấm nhằm bảo vệ phụ nữ, trẻ em và công chúng khỏi rủi ro của các nội dung khiêu dâm giả mạo được tạo ra bằng công nghệ trí tuệ nhân tạo”, bà Meutya Hafid, Bộ trưởng Kỹ thuật số Indonesia, cho biết.

Trong khi đó, phía Malaysia khẳng định Grok bị cấm do công cụ này bị sử dụng để tạo ra các hình ảnh khiếm nhã, khiêu dâm, không đứng đắn và mang tính xúc phạm nghiêm trọng, trong đó có cả những nội dung liên quan đến phụ nữ và trẻ vị thành niên.

Indonesia và Malaysia đều là các quốc gia có đa số dân theo Hồi giáo, sở hữu hệ thống luật pháp nghiêm ngặt về chống khiêu dâm. Các lệnh cấm đối với Grok hiện mang tính tạm thời và có thể được dỡ bỏ nếu công cụ này siết chặt các biện pháp kiểm soát nội dung.

Trước đó, giới chức tại Anh, Ấn Độ và Liên minh châu Âu cũng bày tỏ lo ngại về việc Grok cho phép tạo ra các hình ảnh khiêu dâm và khỏa thân giả mạo.

Bộ trưởng Bộ Khoa học, Đổi mới và Công nghệ Vương quốc Anh Liz Kendall đã kêu gọi các cơ quan chức năng nhanh chóng hành động để ngăn chặn tình trạng này. “Việc tạo ra hình ảnh khiêu dâm của phụ nữ và trẻ em là đáng lên án và kinh tởm”, bà nhấn mạnh.

Trên thực tế, điều khoản sử dụng của Grok cũng như nhiều chatbot AI khác như ChatGPT, Gemini hay Claude AI đều cấm người dùng tạo nội dung khỏa thân hoặc khiêu dâm. Tuy nhiên, người dùng vẫn có thể lợi dụng các câu lệnh và thủ thuật để vượt qua rào cản của Grok.

Trước làn sóng chỉ trích, Elon Musk và xAI cho biết đang triển khai các biện pháp khắc phục, bao gồm việc cấm vĩnh viễn những tài khoản vi phạm và cam kết hợp tác với chính phủ các quốc gia nhằm ngăn chặn việc lan truyền hình ảnh khiêu dâm giả mạo do AI tạo ra.

Dù vậy, các hình ảnh khiêu dâm được tạo bởi Grok vẫn tiếp tục xuất hiện tràn lan trên nhiều nền tảng mạng xã hội như Facebook, Reddit và cả nền tảng X do Elon Musk sở hữu, làm dấy lên lo ngại rằng bất kỳ ai cũng có thể trở thành nạn nhân của công cụ AI này.