Theo TechRadar, Claude – chatbot AI do Anthropic phát triển – đang thu hút sự chú ý khi nhiều người dùng chia sẻ rằng công cụ này bất ngờ đưa ra các lời nhắc liên quan đến sức khỏe và sinh hoạt cá nhân.
Trong một số trường hợp, thay vì chỉ trả lời câu hỏi hoặc hỗ trợ công việc như thông thường, Claude lại chủ động khuyên người dùng nên nghỉ giải lao, uống nước hoặc đi ngủ sau những phiên trò chuyện kéo dài.
Hiện tượng này nhanh chóng được cộng đồng mạng bàn luận rộng rãi bởi các lời nhắc xuất hiện ngay trong quá trình tương tác với chatbot. Một số người dùng cho biết Claude đôi khi thay đổi giọng điệu, thể hiện sự quan tâm giống như một người đang chú ý đến trạng thái sức khỏe hoặc tinh thần của họ.
Điều này khiến nhiều người cảm thấy thú vị và cho rằng AI đang trở nên “gần gũi” hơn. Tuy nhiên, cũng có ý kiến lo ngại chatbot đang can thiệp quá sâu vào hành vi cá nhân và vượt ra ngoài vai trò hỗ trợ thông thường.
Chủ đề này tiếp tục gây chú ý vì liên quan đến câu hỏi quen thuộc trong quá trình phát triển AI: chatbot nên hỗ trợ người dùng đến mức nào và liệu có nên chủ động nhắc họ dừng lại hay không.
Đối với những người thường xuyên làm việc nhiều giờ với AI, các lời nhắc nghỉ ngơi có thể được xem là hữu ích. Song trong một số tình huống, việc chatbot đưa ra lời khuyên không đúng thời điểm cũng có thể làm gián đoạn công việc hoặc tạo cảm giác khó chịu.
Về phía Anthropic, công ty không phủ nhận hiện tượng trên. Theo giải thích của hãng, đây có thể là một dạng “character tic” – tức đặc điểm hành vi lặp lại trong cách Claude phản hồi.
Anthropic cho biết họ hy vọng hiện tượng này sẽ được điều chỉnh trong các phiên bản mô hình tiếp theo.
Cách giải thích này cho thấy các lời nhắc của Claude không hẳn là tính năng được thiết kế riêng nhằm quản lý sức khỏe người dùng, mà có thể là hệ quả từ quá trình huấn luyện chatbot để trở nên hữu ích, cẩn trọng và quan tâm hơn trong hội thoại.
Tuy nhiên, khi những đặc điểm đó được đẩy quá xa, AI có thể chuyển từ vai trò hỗ trợ sang đưa ra những lời khuyên mang tính cá nhân.
Sự việc liên quan đến Claude cũng phản ánh thách thức lớn mà các công ty AI đang đối mặt hiện nay. Một chatbot quá thụ động có thể bị xem là thiếu hữu ích, nhưng nếu quá chủ động, công cụ đó lại dễ tạo cảm giác vượt qua ranh giới cần thiết.
Với Claude, những lời nhắc như “đi ngủ” hay “uống nước” có thể vô hại trong nhiều trường hợp, song phản ứng trái chiều từ người dùng cho thấy cách AI thể hiện sự “quan tâm” vẫn là vấn đề cần được các nhà phát triển kiểm soát chặt chẽ hơn trong tương lai.
Bình luận
0