Trong bài đăng trên mạng xã hội X ngày 7/3, bà Caitlin Kalinowski cho rằng trí tuệ nhân tạo đóng vai trò quan trọng đối với an ninh quốc gia, nhưng việc sử dụng công nghệ này cần được xem xét cẩn trọng.

Bà bày tỏ lo ngại về khả năng AI bị sử dụng cho các hoạt động giám sát người dân Mỹ mà không có sự giám sát của tòa án, cũng như nguy cơ trao quyền tự chủ gây chết người cho các hệ thống vũ khí mà không có sự cho phép của con người.

“Đây là những lằn ranh lẽ ra cần được thảo luận kỹ lưỡng hơn”, bà viết.

Dù khẳng định “vô cùng kính trọng” Tổng giám đốc điều hành Sam Altman và đội ngũ lãnh đạo của OpenAI, bà Kalinowski cho biết không đồng tình với việc công ty ký thỏa thuận với Bộ Quốc phòng Mỹ khi chưa làm rõ các điều kiện ràng buộc.

“Trước hết và trên hết, đây là vấn đề quản trị. Vấn đề này quá quan trọng để có thể vội vàng thỏa thuận hoặc thông báo”, bà viết thêm.

Người phát ngôn của OpenAI xác nhận việc bà Kalinowski từ chức, nhưng bảo vệ quyết định hợp tác với Lầu Năm Góc. Theo công ty, thỏa thuận này nhằm xây dựng lộ trình sử dụng AI một cách có trách nhiệm trong lĩnh vực an ninh quốc gia, đồng thời đặt ra các “lằn ranh đỏ” như không giám sát trong nước và không phát triển vũ khí tự động.

Trước đó, ngày 27/2, Tổng thống Mỹ Donald Trump đã chỉ đạo các cơ quan liên bang ngừng sử dụng sản phẩm của công ty AI Anthropic. Bộ Quốc phòng Mỹ sau đó cũng đưa startup này vào danh sách rủi ro chuỗi cung ứng do hai bên không đạt được thỏa thuận hợp tác quân sự.

Chỉ vài giờ sau động thái này, ông Sam Altman thông báo OpenAI đã ký hợp đồng với Lầu Năm Góc để cung cấp công nghệ AI thay thế. Thông báo lập tức gây tranh cãi, khiến làn sóng chỉ trích công ty lan rộng.

Sau đó, ông Altman thừa nhận việc công bố thỏa thuận quá nhanh khiến nhiều người cảm thấy quyết định mang tính “cơ hội và cẩu thả”. Hai nội dung gây tranh cãi lớn nhất trong hợp đồng là khả năng sử dụng AI cho giám sát hàng loạt và điều khiển vũ khí tự động.

Để giảm bớt lo ngại, CEO OpenAI cho biết công ty đã điều chỉnh một số điều khoản, trong đó các hệ thống AI do ChatGPT vận hành tại Bộ Quốc phòng Mỹ sẽ không được cố ý sử dụng cho hoạt động giám sát nội bộ đối với công dân Mỹ.

Trước đó, Anthropic – đơn vị phát triển mô hình Claude – đã từ chối hợp tác với Lầu Năm Góc vì không đạt được các cam kết về an toàn và bảo mật.

OpenAI cho biết sẽ tiếp tục thảo luận với nhân viên, chính phủ, các tổ chức xã hội dân sự và cộng đồng quốc tế về những vấn đề liên quan đến việc ứng dụng AI trong lĩnh vực an ninh.

Bà Caitlin Kalinowski tốt nghiệp kỹ sư cơ khí tại Đại học Stanford năm 2007 và gia nhập OpenAI vào năm 2024 để phụ trách bộ phận robot và phần cứng tiêu dùng. Trước đó, bà từng dẫn dắt mảng phát triển phần cứng thực tế tăng cường tại Meta và giữ vai trò trưởng nhóm kỹ thuật tại Apple, phụ trách các sản phẩm như Mac Pro, MacBook Air và tham gia nhóm thiết kế ban đầu của MacBook Pro.