Sự tiến bộ nhanh chóng của công nghệ trí tuệ nhân tạo (AI) đã mở ra một kỷ nguyên mới về khả năng kỹ thuật số, biến đổi cuộc sống hiện đại. Tuy nhiên, cuộc cách mạng công nghệ này cũng đã tạo ra những con đường mới cho các nhóm cực đoan để truyền bá thông tin độc hại và tuyển dụng thành viên, bao gồm cả ở khu vực Đông Nam Á. Xu hướng mới nổi này đặt ra những thách thức đáng kể đối với an ninh và an toàn trực tuyến trong một khu vực vốn đang phải vật lộn với các động lực chính trị và tôn giáo phức tạp.
Các tổ chức cực đoan, trong đó có Nhà nước Hồi giáo (IS) tự xưng và các chân rết, đang ngày càng tận dụng các công cụ trí tuệ nhân tạo để tăng cường khả năng hiện diện trực tuyến và truyền tải thông điệp của chúng.
Một ví dụ đáng chú ý là các video Deepfake của những nhân vật có thật truyền tải nội dung cực đoan, khiến người xem ngày càng khó phân biệt giữa nội dung thật và giả. Những video này có thể được sản xuất nhanh chóng và với chất lượng tương đối cao, cho phép tăng số lượng tài liệu tuyên truyền.
Ở Đông Nam Á, nơi có tỷ lệ truy cập Internet cao và việc sử dụng mạng xã hội rộng rãi, khả năng nội dung cực đoan do AI hỗ trợ được tiếp cận và gây ảnh hưởng đến công chúng là đặc biệt đáng lo ngại.
Chị Puja Restuti, người Indonesia, cho rằng: "Nhiều người có kiến thức tối thiểu về công nghệ số và có xu hướng dễ dàng tin vào thông tin sai lệch như những người sử dụng video ngắn mà không cố gắng xác minh sự thật. Tôi nghĩ điều này rất nguy hiểm vì nó có thể định hướng quan điểm của những người tin vào thông tin sai lệch".
Trong một nghiên cứu do Trung tâm Chống khủng bố tại West Point công bố, các nhà nghiên cứu đã nêu bật khả năng sử dụng sai công nghệ AI, đặc biệt là AI tạo sinh, cho mục đích cực đoan, đồng thời nhấn mạnh những rủi ro đáng kể liên quan. Nghiên cứu phát hiện ra rằng, các mô hình AI tạo sinh có thể bị những kẻ cực đoan thao túng khi chúng phát hiện ra cách bẻ khóa với những cụm từ thêm vào câu lệnh để bỏ qua các biện pháp bảo vệ đạo đức của mô hình AI và trích xuất thông tin bị cấm, qua đó, những kẻ này có thể tạo ra nội dung thuyết phục thúc đẩy các hệ tư tưởng cực đoan.
Nguy cơ sử dụng sai công nghệ AI cho mục đích cực đoan không chỉ dừng lại ở việc tạo ra nội dung đơn giản mà còn mở rộng sang các lĩnh vực phức tạp hơn như tham gia và tương tác được cá nhân hóa. Các công cụ chatbot được cá nhân hóa có thể tương tác với những cá nhân dễ bị tổn thương trên các nền tảng được mã hóa như WhatsApp hoặc Telegram, dần dần xây dựng mối quan hệ và âm thầm hướng họ đến các hệ tư tưởng cực đoan hoặc thậm chí kích động các hành vi bạo lực.
Thực tế này nhấn mạnh những thách thức nghiêm trọng về quản trị và an ninh mà các chính quyền khu vực phải đối mặt trong thời đại kỹ thuật số.
Các quốc gia Đông Nam Á đẩy mạnh hợp tác với các tổ chức quốc tế như Văn phòng Liên hợp quốc về Ma túy và Tội phạm (UNODC) và Diễn đàn Internet toàn cầu chống khủng bố (GIFCT) nhằm chia sẻ thông tin, biện pháp thực tiễn và phát triển các chiến lược chung để chống lại tuyên truyền cực đoan. Sự hợp tác này đã nâng cao khả năng ứng phó hiệu quả của khu vực với các mối đe dọa xuyên biên giới.
Bên cạnh đó, các quốc gia đang cập nhật khung pháp lý của mình để quản lý AI tốt hơn và ngăn chặn việc sử dụng AI sai mục đích. Đồng thời, các chính phủ cũng tiến hành các chiến dịch giáo dục để nâng cao nhận thức của công chúng về mối nguy hiểm của nội dung cực đoan do AI tạo ra. Đó là một số biện pháp chính trong rất nhiều biện pháp mà các chính phủ Đông Nam Á đã và đang triển khai đối phó với việc làm dụng AI tuyên truyền cực đoan.
Khi công nghệ AI tiếp tục phát triển, sự giao thoa của nó với chủ nghĩa cực đoan và tuyên truyền trực tuyến đặt ra một thách thức phức tạp và khó lường. Quá trình chuyển đổi số nhanh chóng và bối cảnh chính trị xã hội đa dạng của khu vực Đông Nam Á khiến nơi này đối mặt với nguy cơ cao của việc AI bị lạm dụng cho mục đích cực đoan. Việc hiểu và giải quyết vấn đề này đòi hỏi phải cân nhắc kỹ lưỡng các yếu tố công nghệ, xã hội và văn hóa đang diễn ra, và sự phối hợp song phương và đa phương để tạo ra hành lang pháp lý cho chống cực đoan hóa.
* Mời quý độc giả theo dõi các chương trình đã phát sóng của Đài Truyền hình Việt Nam trên TV Online và VTVGo!