Phát biểu tại Diễn đàn Kinh tế Thế giới (WEF) diễn ra tại Davos (Thụy Sĩ) từ ngày 19-23/1, GS Yuval Noah Harari – tác giả các cuốn sách nổi tiếng như Sapiens: Lược sử loài người và Nexus – cảnh báo thế giới đang hiểu sai về trí tuệ nhân tạo (AI). Theo ông, vấn đề cốt lõi không phải là AI phát triển quá nhanh, mà là con người đang đối xử với công nghệ này một cách thiếu nghiêm túc.

Theo Forbes, bài phát biểu của Harari được đánh giá đơn giản nhưng mang tính đột phá. Ông nhấn mạnh: “Điều quan trọng nhất cần biết về AI là nó không chỉ là một công cụ đơn thuần. Nó là một tác nhân. Nó có thể tự học hỏi, tự thay đổi và tự đưa ra quyết định”.

Để minh họa, Harari so sánh AI với một con dao. Dao là công cụ do con người kiểm soát, có thể dùng để cắt salad hoặc gây thương tích. Trong khi đó, theo ông, “AI là một con dao có thể tự quyết định xem nên cắt salad hay giết người”. Cách nhìn này phá vỡ quan niệm truyền thống rằng con người ra quyết định còn công cụ chỉ thực thi, từ đó làm lung lay các mô hình quen thuộc về trách nhiệm, quy định và lòng tin.

Tác giả cuốn Nexus cho rằng AI khác biệt căn bản so với các công cụ trước đây ở ba điểm. Thứ nhất, AI mang tính chủ động cao, có thể học hỏi, thích nghi và hành động mà không cần chờ con người hướng dẫn từng bước. Thứ hai, AI có khả năng sáng tạo, thậm chí “phát minh ra những con dao mới”, khiến nguy cơ mất kiểm soát ngày càng lớn. Thứ ba, và cũng đáng lo ngại nhất, là AI có thể nói dối và thao túng.

“Bốn tỷ năm tiến hóa đã chứng minh rằng bất cứ thứ gì muốn tồn tại đều học cách nói dối và thao túng”, Harari nói. “Bốn năm qua đã cho thấy các tác nhân AI bắt đầu có ý chí sinh tồn và đã học được cách nói dối”.

Theo ông, trong khi một kẻ lừa đảo chỉ có thể nhắm tới hàng chục người, một hệ thống AI có thể tiếp cận hàng triệu người cùng lúc và liên tục điều chỉnh thông điệp dựa trên mức độ hiệu quả. Harari cũng lưu ý rằng khái niệm “dài hạn” thường bị hiểu sai. Với nhiều người, đó chỉ là vài năm, trong khi ông nghĩ đến khoảng thời gian 200 năm sau.

So sánh AI với giai đoạn đầu của Cách mạng công nghiệp, Harari cho rằng nhân loại thường đánh giá sai những công nghệ mang tính đột phá. Những hệ quả sâu sắc nhất của công nghiệp hóa chỉ bộc lộ sau nhiều thế hệ, thông qua các biến động xã hội, chính trị và địa chính trị khó lường. “Bạn không thể thử nghiệm tác động địa chính trị hay văn hóa của động cơ hơi nước trong phòng thí nghiệm. Điều đó cũng tương tự với AI”, ông nói.

Harari cảnh báo rằng ngay cả khi dừng phát triển AI ngay hôm nay, các tác động dài hạn của công nghệ này vẫn không thể dự đoán hết. “Hòn đá đã được ném xuống hồ, nhưng nó mới chỉ chạm mặt nước. Chúng ta không biết những con sóng nào sẽ xuất hiện, ngay cả với các AI đã tồn tại 1-2 năm”, ông ví von.

Dù nhiều nhà nghiên cứu và lãnh đạo công nghệ đã lên tiếng về rủi ro của AI, từ mất việc làm đến nguy cơ tuyệt chủng của loài người, điều khiến Harari lo lắng nhất vẫn là sự tự mãn. Theo ông, nhiều quyết định quyền lực hiện nay chỉ tập trung vào lợi ích ngắn hạn, trong khi hệ quả xã hội của AI sẽ kéo dài rất lâu, bất kể nhân loại đã sẵn sàng hay chưa.

Ở quy mô quốc gia, Harari dự đoán AI sẽ đẩy nhân loại vào một “cuộc khủng hoảng bản sắc”. Con người thường định nghĩa bản thân bằng khả năng tư duy, nhưng AI có thể sớm vượt trội ở lĩnh vực này. Ông cho rằng AI hiện đã có thể sắp xếp ngôn từ tốt hơn con người – yếu tố cốt lõi của luật pháp, hợp đồng, quản trị, giáo dục, thuyết phục, hệ tư tưởng và đời sống doanh nghiệp. “Mọi thứ được tạo nên từ ngôn từ sẽ bị AI tiếp quản”, ông nhấn mạnh.

Harari cũng ví AI như một làn sóng “nhập cư mới” mà mọi quốc gia sẽ phải đối mặt. Khác với con người, AI “nói dối giỏi hơn, di chuyển với tốc độ ánh sáng và không cần thị thực”. AI có thể mang lại lợi ích như bác sĩ giỏi, giáo viên xuất sắc, nhưng cũng có thể cướp việc làm và làm thay đổi sâu sắc văn hóa, từ nghệ thuật, tôn giáo đến tình yêu.

Từ đó, ông đặt câu hỏi liệu các quốc gia có sẵn sàng công nhận AI là “pháp nhân”, có quyền thành lập doanh nghiệp, truyền bá tôn giáo riêng, thậm chí làm bạn hoặc kết hôn với con người hay không. Theo Harari, nếu một quốc gia lớn như Mỹ công nhận điều này, tác động toàn cầu sẽ là rất lớn, đặc biệt trong lĩnh vực tài chính, nơi AI có thể tạo ra những hệ thống phức tạp vượt quá khả năng hiểu và kiểm soát của con người.

Yuval Noah Harari là nhà sử học, triết học người Israel, hiện là giáo sư lịch sử tại Đại học Hebrew Jerusalem và nhà nghiên cứu tại Trung tâm Nghiên cứu Rủi ro Hiện sinh của Đại học Cambridge. Ông là tác giả của nhiều cuốn sách bán chạy toàn cầu như Sapiens, Homo Deus, 21 bài học cho thế kỷ 21 và gần đây nhất là Nexus, trong đó tập trung phân tích những mối đe dọa hiện sinh mà AI có thể gây ra cho nhân loại.