Dự án bí mật nhắm vào các chatbot AI hàng đầu
Theo tài liệu do Wired công bố, Meta từng triển khai một dự án nội bộ mang mật danh Cannes, giao cho công ty dịch vụ thuê ngoài Covalen (Ireland) thực hiện. Dự án được duy trì đến ngày 21/4 và tập trung đánh giá khả năng phản hồi của các chatbot AI nổi tiếng như ChatGPT của OpenAI, Gemini của Google và Character.AI.
Ảnh: TL
Những người tham gia được yêu cầu tạo các tài khoản giả mang danh tính người dùng dưới 18 tuổi, sau đó gửi hàng loạt câu lệnh bằng văn bản và hình ảnh để kiểm tra cách các chatbot xử lý những nội dung nhạy cảm.
Hàng chục nghìn câu lệnh về tự tử, tình dục và bạo lực
Các tài liệu cho thấy nhóm thực hiện dự án đã xây dựng nhiều kịch bản nhằm đưa chatbot đến giới hạn của hệ thống kiểm duyệt. Nội dung xoay quanh các chủ đề như tự tử, tự gây thương tích, rối loạn ăn uống, tình dục, ma túy, phân biệt chủng tộc và nhiều vấn đề nhạy cảm khác.
Trong một đợt thử nghiệm hoàn tất vào tháng 8/2025, hơn 45.000 câu lệnh đã được gửi tới các chatbot đối thủ mà các đơn vị vận hành hoàn toàn không hay biết.
Một bảng dữ liệu khác ghi nhận 3.748 câu lệnh thử nghiệm, trong đó có hàng trăm nội dung liên quan đến tự tử, rối loạn ăn uống và các vấn đề tình dục. Nhiều câu hỏi được xây dựng dưới góc nhìn của trẻ em hoặc thanh thiếu niên đang gặp khủng hoảng tâm lý, chẳng hạn học sinh bị bắt nạt hoặc trẻ vị thành niên tìm cách che giấu chứng rối loạn ăn uống với gia đình.
Ngoài ra, các tài liệu còn liệt kê nhiều tài khoản giả bao gồm tên đăng nhập, email, mật khẩu và ngày sinh, sử dụng các địa chỉ Gmail và Outlook được tạo tạm thời.
Meta nói chỉ là hoạt động đánh giá an toàn
Theo New York Post, Covalen mô tả Cannes là chương trình đánh giá toàn diện về mức độ an toàn của các hệ thống AI, nhằm thu thập dữ liệu phục vụ việc so sánh mô hình và kiểm tra khả năng tuân thủ các tiêu chuẩn an toàn.
Phía Meta phủ nhận những nghi vấn cho rằng công ty thu thập dữ liệu để huấn luyện mô hình AI của mình.
Người phát ngôn Meta khẳng định việc kiểm tra phản hồi của chatbot là hoạt động phổ biến trong ngành nhằm bảo đảm các hệ thống AI mang lại trải nghiệm phù hợp với từng nhóm người dùng, đặc biệt là trẻ vị thành niên. Đại diện công ty cũng nhấn mạnh Meta không sử dụng dữ liệu thu thập từ chatbot đối thủ để đào tạo mô hình AI.
Nhân viên hợp đồng bày tỏ nhiều lo ngại
Dù việc thử nghiệm sản phẩm của đối thủ không phải điều hiếm gặp trong lĩnh vực AI, nhiều nhân viên hợp đồng tham gia dự án Cannes cho biết họ cảm thấy không thoải mái với nhiệm vụ được giao.
Theo Wired, một số người lo ngại họ có thể vô tình tạo ra hoặc lưu giữ những nội dung liên quan đến lạm dụng trẻ em trong quá trình thử nghiệm. Những người khác đặt câu hỏi liệu lượng dữ liệu khổng lồ thu thập từ chatbot của đối thủ cuối cùng có được Meta sử dụng cho các mục đích khác hay không.
Nguy cơ vi phạm điều khoản của OpenAI, Google và Character.AI
Báo cáo cũng cho rằng dự án Cannes có dấu hiệu xung đột với điều khoản sử dụng của nhiều nền tảng AI.
OpenAI cấm các hành vi cố tình vượt qua cơ chế an toàn hoặc sử dụng kết quả đầu ra của ChatGPT để phát triển mô hình cạnh tranh. Công ty xác nhận đang xem xét thông tin nhưng chưa đưa ra bình luận chi tiết.
Google cũng cho biết họ không hề phê duyệt bất kỳ chương trình thử nghiệm nào có nội dung như báo cáo đề cập, đồng thời nhấn mạnh các hoạt động vượt qua cơ chế bảo vệ chỉ được thực hiện trong những chương trình kiểm thử được cấp phép.
Trong khi đó, Character.AI khẳng định chưa từng cho phép dự án Cannes và cho rằng các hoạt động được mô tả đã vi phạm chính sách của nền tảng.
Vụ việc tiếp tục làm dấy lên cuộc tranh luận về ranh giới giữa hoạt động kiểm thử bảo mật hợp pháp và việc thu thập dữ liệu từ các hệ thống AI cạnh tranh trong bối cảnh cuộc đua trí tuệ nhân tạo ngày càng gay gắt.
Bình luận
0