Theo thông tin từ National Institute of Standards and Technology, các tập đoàn công nghệ gồm Microsoft, Google và xAI sẽ chia sẻ các phiên bản mô hình trí tuệ nhân tạo (AI) chưa ra mắt với Chính phủ Mỹ để phục vụ công tác đánh giá an ninh.
Theo thỏa thuận, Center for AI Standards and Innovation sẽ tiến hành thử nghiệm các mô hình AI mới nhằm đánh giá tác động tiềm tàng của công nghệ này đối với an ninh quốc gia và an toàn công cộng trước khi được triển khai rộng rãi.
Ngoài việc đánh giá trước khi phát hành, CAISI cũng sẽ tiếp tục nghiên cứu và theo dõi các mô hình AI sau khi được đưa vào sử dụng thực tế. Cơ quan này cho biết đã hoàn thành hơn 40 cuộc đánh giá liên quan đến các hệ thống AI tiên tiến.
Ông Chris Fall nhấn mạnh việc đo lường độc lập và nghiêm ngặt đóng vai trò quan trọng trong quá trình hiểu rõ tác động của AI đối với an ninh quốc gia. Theo ông, việc mở rộng hợp tác với các doanh nghiệp công nghệ sẽ giúp cơ quan này nâng cao năng lực kiểm tra và phục vụ lợi ích công chúng trong bối cảnh AI phát triển nhanh chóng.
Động thái trên diễn ra sau khi mô hình AI Mythos của Anthropic làm dấy lên nhiều lo ngại liên quan đến an ninh mạng. Công ty cho biết Mythos sở hữu năng lực an ninh mạng vượt trội so với nhiều mô hình hiện nay nhưng chưa được phát hành rộng rãi mà chỉ giới hạn cho một số tổ chức được phê duyệt tiếp cận.
Trước đó, OpenAI cũng thông báo sẽ cung cấp các mô hình AI tiên tiến nhất của mình cho các cơ quan chính phủ đã được thẩm định nhằm hỗ trợ đối phó các nguy cơ an ninh có thể xuất hiện cùng sự phát triển của AI.
Theo bà Jessica Ji, các thỏa thuận hợp tác với doanh nghiệp sẽ giúp CAISI có thêm nguồn lực phục vụ quá trình kiểm thử AI. Bà cho rằng cơ quan này hiện không sở hữu quy mô nhân lực, năng lực tính toán và đội ngũ kỹ thuật tương đương các tập đoàn công nghệ lớn để tiến hành các bài kiểm tra chuyên sâu một cách toàn diện.
Hiện Nhà Trắng cũng đang xem xét khả năng tham vấn một nhóm chuyên gia nhằm xây dựng quy trình đánh giá chính phủ đối với các mô hình AI mới. Tuy nhiên, đại diện Nhà Trắng cho biết mọi thông báo chính thức liên quan đến chính sách AI sẽ do Donald Trump trực tiếp công bố.
Bình luận
0