xAI đang đối mặt với một vụ kiện tập thể tại bang Tennessee, khi ba thiếu nữ cáo buộc công cụ Grok đã tạo ra các hình ảnh và video có yếu tố lạm dụng tình dục trẻ em dựa trên ảnh thật của họ.

Theo đơn kiện, các nội dung do AI tạo ra đã bị phát tán trên nhiều nền tảng như Discord, Telegram và được sử dụng như “công cụ trao đổi” để đổi lấy các nội dung tương tự. Cơ quan thực thi pháp luật cho biết các dữ liệu này được tạo bằng Grok.

Một nạn nhân cho biết đã nhận được cảnh báo từ người dùng ẩn danh trên Discord về việc hình ảnh của mình bị lan truyền. Sau đó, cô được cung cấp các hình ảnh và video bị chỉnh sửa từ những bức ảnh từng đăng khi còn là trẻ vị thành niên.

Theo hồ sơ, nghi phạm có quen biết với nạn nhân và sử dụng một ứng dụng bên thứ ba có quyền truy cập Grok để biến đổi hình ảnh. Các nội dung sau đó được tải lên nền tảng chia sẻ tệp Mega và lan rộng trong các nhóm trực tuyến.

Luật sư đại diện, Annika K. Martin, cho biết các nạn nhân đã chịu tổn hại nghiêm trọng về tâm lý và quyền riêng tư, khi cuộc sống bị ảnh hưởng bởi nguy cơ các nội dung tiếp tục bị phát tán.

Đơn kiện ước tính có thể có “ít nhất hàng nghìn trẻ vị thành niên” bị ảnh hưởng, đồng thời cáo buộc xAI vi phạm các quy định liên quan đến sản xuất và phân phối nội dung xâm hại trẻ em.

Trước đó, tổ chức Center for Countering Digital Hate cho biết Grok đã tạo ra khoảng 3 triệu hình ảnh mang tính tình dục, trong đó khoảng 23.000 hình ảnh có dấu hiệu liên quan đến trẻ em. Tuy nhiên, Elon Musk đã phủ nhận các cáo buộc này.

Đơn kiện cũng cho rằng xAI đã cung cấp quyền truy cập Grok cho các ứng dụng trung gian, từ đó cho phép tạo và phân phối nội dung từ hệ thống của công ty. Các nguyên đơn đề nghị tòa án làm rõ vai trò và trách nhiệm của xAI trong vụ việc.

Hiện xAI chưa đưa ra phản hồi chính thức, nhưng trước đó công ty cho biết sẽ hạn chế một số tính năng chỉnh sửa hình ảnh và siết quyền truy cập nhằm giảm thiểu rủi ro.