Trong bối cảnh thương mại điện tử và các nền tảng số phát triển nhanh chóng, công nghệ trí tuệ nhân tạo (AI) đang được ứng dụng rộng rãi nhằm hỗ trợ quảng bá sản phẩm, tối ưu trải nghiệm người dùng và thúc đẩy hoạt động kinh doanh trực tuyến. Tuy nhiên, bên cạnh những lợi ích mang lại, AI cũng đang bị lợi dụng để tạo ra các nội dung giả mạo, gây nhầm lẫn và phục vụ hành vi lừa đảo người tiêu dùng.
Ủy ban Cạnh tranh Quốc gia cho biết thời gian gần đây xuất hiện nhiều trường hợp sử dụng công nghệ deepfake để tạo hình ảnh, video, giọng nói giả mạo người nổi tiếng, bác sĩ, chuyên gia hay lực lượng chức năng nhằm quảng cáo sai sự thật hoặc dụ dỗ người dùng tham gia các giao dịch đáng ngờ.
Nhiều nội dung quảng cáo còn sử dụng hình ảnh cắt ghép, video “trước - sau”, lời chứng thực giả hoặc livestream giả mạo để tạo lòng tin và đánh lừa người tiêu dùng trên không gian mạng.
Trước thực trạng này, Ủy ban Cạnh tranh Quốc gia đã có văn bản gửi tới các nền tảng số lớn gồm Shopee, Lazada, TikTok, Zalo và Meta, đề nghị tăng cường thực thi trách nhiệm trong công tác bảo vệ quyền lợi người tiêu dùng.
Theo báo cáo từ các doanh nghiệp, nhiều nền tảng đã chủ động triển khai các biện pháp kỹ thuật nhằm phát hiện và ngăn chặn nội dung giả mạo phát sinh trong quá trình vận hành.
TikTok cho biết đang áp dụng cơ chế kiểm duyệt nội dung do AI tạo ra theo thời gian thực đối với video ngắn và livestream. Đồng thời, nền tảng này theo dõi các chỉ số khiếu nại và tỷ lệ vi phạm để liên tục nâng cấp hệ thống quét tự động.
Trong quý I năm nay, TikTok đã xử lý khoảng 94.900 video vi phạm. Nền tảng này cũng triển khai xác thực người dùng bằng email hoặc số điện thoại, đồng thời cung cấp công cụ gắn nhãn cho các nội dung được tạo bằng AI.
Về phía Meta, doanh nghiệp cho biết đang kết hợp giữa hệ thống AI và hoạt động rà soát thủ công để phát hiện các nội dung lừa đảo, giả mạo hoặc sử dụng deepfake. Các mô hình AI của Meta được đánh giá đã giúp ngăn chặn thêm khoảng 5.000 hành vi lừa đảo mỗi ngày trong giai đoạn thử nghiệm, đồng thời giảm mạnh tình trạng giả mạo người nổi tiếng.
Meta cũng yêu cầu các nhà quảng cáo tại Việt Nam xác thực số điện thoại nhằm tăng cường trách nhiệm và hạn chế nguy cơ phát tán nội dung sai lệch.
Bên cạnh việc yêu cầu các nền tảng tăng cường kiểm soát, Ủy ban Cạnh tranh Quốc gia cũng khuyến cáo người tiêu dùng cần nâng cao cảnh giác trước các nội dung quảng cáo, livestream hay video giới thiệu sản phẩm có dấu hiệu sử dụng AI hoặc deepfake.
Người dùng được khuyến nghị cần kiểm tra kỹ thông tin người bán, nguồn gốc hàng hóa, chính sách bảo hành và độ tin cậy của các đánh giá trước khi thực hiện giao dịch trực tuyến. Đồng thời, không nên chuyển tiền hoặc cung cấp thông tin cá nhân chỉ dựa trên các quảng cáo hấp dẫn hay mức giá bất thường.
Ủy ban cũng khuyến khích người tiêu dùng ưu tiên mua sắm tại các gian hàng, tài khoản đã được xác thực và chủ động đối chiếu thông tin từ nhiều nguồn khác nhau trước khi đưa ra quyết định.
Trong trường hợp phát hiện dấu hiệu lừa đảo, giả mạo hoặc quảng cáo sai sự thật, người tiêu dùng cần nhanh chóng phản ánh tới cơ quan chức năng hoặc sử dụng công cụ báo cáo trên nền tảng để được hỗ trợ xử lý, góp phần xây dựng môi trường tiêu dùng số an toàn và minh bạch hơn.
Bình luận
0