Anthropic cảnh báo rủi ro AI tự phát triển, đề xuất làm chậm cuộc đua công nghệ

Anthropic vừa đưa ra lời kêu gọi xem xét làm chậm hoặc tạm dừng quá trình phát triển các hệ thống trí tuệ nhân tạo tiên phong, trong bối cảnh công nghệ này đang tiến gần đến khả năng tự hoàn thiện mà không cần sự can thiệp trực tiếp từ con người.

Trong báo cáo mới được công bố, công ty cảnh báo các mô hình AI hiện nay đang tiến gần tới khả năng “tự cải tiến đệ quy” – quá trình mà một hệ thống AI có thể tham gia phát triển, nâng cấp và hỗ trợ xây dựng thế hệ AI tiếp theo.

Theo Anthropic, chỉ trong vài năm, AI đã có bước tiến lớn khi chuyển từ vai trò hỗ trợ viết mã nguồn sang khả năng tự thực hiện nhiều tác vụ phức tạp, tự tiến hành thử nghiệm và phối hợp với các AI Agent khác.

AI Agent là các hệ thống trí tuệ nhân tạo có thể tự chủ thực hiện những nhiệm vụ được giao nhằm đạt mục tiêu cụ thể, thay vì chỉ phản hồi từng yêu cầu riêng lẻ từ người dùng.

Anthropic nhận định nếu xu hướng hiện nay tiếp tục, các hệ thống AI trong tương lai có thể tự huấn luyện và phát triển những phiên bản kế tiếp của chính mình. Theo công ty, đây có thể trở thành bước ngoặt quan trọng làm gia tăng nguy cơ con người mất khả năng kiểm soát đối với các hệ thống AI tiên tiến, trong khi các quy định và cơ chế giám sát hiện nay vẫn chưa theo kịp tốc độ phát triển của công nghệ.

Trong báo cáo, Anthropic nhấn mạnh rằng thế giới nên có lựa chọn làm chậm hoặc tạm dừng việc phát triển AI tiên phong để tạo thêm thời gian cho nghiên cứu an toàn AI cũng như hoàn thiện các cấu trúc quản lý xã hội liên quan.

Từ quan điểm này, công ty đề xuất xây dựng các cơ chế hợp tác quốc tế nhằm giám sát và xác minh việc tuân thủ nếu các thỏa thuận về hạn chế hoặc tạm dừng phát triển AI được triển khai trong tương lai.

Tuy nhiên, đề xuất của Anthropic cũng làm dấy lên nhiều tranh luận trong giới công nghệ. Một số chuyên gia và nhà đầu tư cho rằng những cảnh báo về rủi ro AI có thể vô tình tạo lợi thế cho các doanh nghiệp đang dẫn đầu thị trường bằng cách làm chậm bước tiến của các đối thủ.

Hiện Anthropic được định giá gần 1.000 tỷ USD và là một trong những công ty nổi bật nhất trong lĩnh vực phát triển trí tuệ nhân tạo trên toàn cầu.