Vào tháng 12 vừa qua, cảnh sát thành phố Heber, bang Utah (Mỹ), đã phải lên tiếng giải thích sau khi một báo cáo do AI tạo lập tuyên bố rằng một sĩ quan cảnh sát đã “biến thành một con ếch” theo đúng nghĩa đen. Nguyên nhân sau đó được xác định là do AI gặp hiện tượng “ảo giác”, tức tự bịa đặt thông tin.

Thời điểm đó, Sở Cảnh sát thành phố Heber đang thử nghiệm phần mềm soạn thảo báo cáo dựa trên AI. Phần mềm này có nhiệm vụ nghe lại dữ liệu âm thanh từ camera gắn trên người sĩ quan và tự động chuyển thành báo cáo bằng văn bản. Tuy nhiên, hệ thống đã vô tình thu được âm thanh từ bộ phim “Nàng công chúa và con ếch” đang phát ở phía sau, rồi đưa chi tiết này vào báo cáo chính thức.

Trung sĩ Keel cho biết: “Phần mềm camera gắn trên người và phần mềm viết báo cáo bằng AI đã thu được âm thanh từ bộ phim đang phát phía sau, tình cờ đó lại là ‘Nàng công chúa và con ếch’. Đó là lúc chúng tôi nhận ra tầm quan trọng của việc phải chỉnh sửa các báo cáo do AI tạo ra”, ông nói với đài Fox 13.

Dù sự cố nghe có vẻ hài hước, nhưng nó cũng đặt ra những lo ngại đáng kể. Theo các chuyên gia, những công cụ AI này được thiết kế nhằm tiết kiệm thời gian cho cảnh sát bằng cách tự động chuyển âm thanh từ camera gắn trên người thành báo cáo văn bản, giúp giảm khối lượng giấy tờ và cho phép lực lượng chức năng dành nhiều thời gian hơn cho công tác tuần tra.

Tuy nhiên, trên thực tế, điều này cũng đồng nghĩa với việc một thuật toán đang diễn giải các cuộc hội thoại, giọng điệu và tiếng ồn xung quanh trong những cuộc tiếp xúc bên đường, bao gồm cả các tình huống dừng xe giao thông – những sự việc có thể để lại hậu quả pháp lý lâu dài.

Một vụ dừng xe giao thông có thể chỉ là một tương tác ngắn, nhưng hồ sơ liên quan có thể tồn tại vĩnh viễn. Báo cáo đó có thể ảnh hưởng đến các lần kiểm tra sau này, thủ tục tố tụng, yêu cầu bảo hiểm, việc đình chỉ giấy phép lái xe, thậm chí cả quá trình kiểm tra lý lịch khi xin việc.

Nói cách khác, khi AI mắc lỗi, đó không đơn thuần là lỗi đánh máy, mà là thông tin sai lệch xuất hiện trong một tài liệu chính thức.

Trong trường hợp của thành phố Heber, sai sót mang tính hài hước và dễ được bỏ qua. Tuy nhiên, nếu AI hiểu sai lời nói, diễn giải sai giọng điệu của tài xế hoặc bối cảnh sự việc, hậu quả có thể nghiêm trọng hơn rất nhiều.

Hiện nay, nhiều ý kiến cho rằng giải pháp tốt nhất đối với người lái xe là chủ động sử dụng camera hành trình và các thiết bị ghi hình cá nhân khác, nhằm đảm bảo có nguồn dữ liệu độc lập mà AI không thể tự ý can thiệp hay diễn giải sai lệch.