Trong báo cáo bảo mật công bố ngày 13/2, nhóm phân tích mối đe dọa thuộc Google (GTIG) cảnh báo các mô hình ngôn ngữ lớn (LLM) đang đối mặt với nguy cơ bị tấn công trích xuất mô hình (Model Extraction Attacks – MEA). Một trong những phương pháp chính được nhắc đến là “chưng cất kiến thức” (Knowledge Distillation).

Theo các chuyên gia, kẻ tấn công đã liên tục đưa ra các câu lệnh nhằm “gợi mở” để mô hình trả lời, từ đó phân tích và suy đoán quy trình suy luận nội tại. Trong một chiến dịch bị phát hiện, hơn 100.000 prompt đã được sử dụng để nghiên cứu cách vận hành của Gemini.

GTIG cho biết phạm vi câu hỏi rất rộng, cho thấy nỗ lực tái tạo năng lực suy luận của Gemini trên nhiều dạng nhiệm vụ khác nhau, đặc biệt hướng tới một ngôn ngữ không phải tiếng Anh. Nhóm không nêu đích danh thủ phạm, nhưng ám chỉ có thể là các công ty tư nhân hoặc nhà nghiên cứu muốn giành lợi thế cạnh tranh.

Chưng cất kiến thức vốn là kỹ thuật học máy phổ biến, thường được ví như mối quan hệ “giáo viên – học sinh”. Mô hình “học sinh” truy vấn mô hình “giáo viên” đã được huấn luyện hoàn chỉnh, sau đó tinh chỉnh dựa trên các phản hồi để xây dựng mô hình mới. Tuy nhiên, khi áp dụng trái phép, phương pháp này trở thành công cụ khai thác tài sản trí tuệ.

Khác với nhiều hình thức tấn công mạng khác, chưng cất kiến thức được thực hiện thông qua quyền truy cập hợp pháp. Ví dụ, kẻ gian có thể đặt hàng nghìn câu hỏi cho chatbot Gemini, thu thập phản hồi, từ đó suy luận cấu trúc và logic vận hành, rồi áp dụng vào hệ thống riêng. Năm ngoái, OpenAI từng cáo buộc DeepSeek sử dụng kỹ thuật tương tự để cải thiện mô hình của mình.

Google khẳng định hình thức tấn công này không gây rủi ro trực tiếp cho người dùng cuối. Tuy nhiên, đây là mối đe dọa nghiêm trọng với các nhà phát triển và nhà cung cấp dịch vụ AI, bởi nó có thể giúp đối thủ rút ngắn thời gian phát triển với chi phí thấp hơn đáng kể, đồng thời vi phạm điều khoản sử dụng và xâm phạm quyền sở hữu trí tuệ.

Theo NBC, trong bối cảnh các hãng công nghệ đã đầu tư hàng tỷ USD vào cuộc đua phát triển chatbot và LLM, cơ chế vận hành nội bộ của các mô hình hàng đầu là tài sản độc quyền có giá trị lớn. John Hultquist, đại diện GTIG, cảnh báo hoạt động chưng cất kiến thức có thể còn gia tăng mạnh trong thời gian tới.