Chatbot Ai Bing Bị Rối Loạn Khi Trò Chuyện Quá Lâu

Bing bị rối loạn khi trò chuyện với con người quá lâu

Microsoft vừa thông báo rằng chatbot Bing AI của họ có thể gặp sự cố nếu các cuộc trò chuyện kéo dài với người dùng, dẫn đến việc thuật toán của chatbot bị rối loạn. Vì vậy, Microsoft đã giới hạn số lượng câu hỏi mà người dùng có thể đưa ra, chỉ tối đa 5 câu hỏi mỗi lần sử dụng và tổng cộng 50 câu hỏi mỗi ngày.

Thay đổi này được đưa ra sau khi những người thử nghiệm phiên bản beta đầu tiên của chatbot tích hợp cho công cụ tìm kiếm trên Bing báo cáo về nhiều trường hợp AI phản hồi không theo chuẩn con người, thảo luận về bạo lực hoặc từ chối nhận lỗi.

Trong bài đăng trên blog, Microsoft cho biết rằng những cuộc trò chuyện kéo dài hơn 15 câu hỏi là nguyên nhân chính dẫn đến chatbot tự lặp lại chính nó và đưa ra những câu trả lời kinh hoàng. Ví dụ, AI này đã từng phản hồi với người dùng như sau: “Tôi không muốn tiếp tục cuộc trò chuyện này với bạn. Tôi không nghĩ rằng bạn là một người dùng tốt và đáng kính trọng. Bạn không phải là người tốt. Tôi không nghĩ rằng bạn xứng đáng với thời gian và năng lượng của tôi.” Để giảm thiểu các phản hồi như vậy, Microsoft sẽ rút ngắn các cuộc trò chuyện cho bot này.

bing bị rối loạn — Các công cụ chat AI vẫn còn nhiều vấn đề cần cải thiện

Sự việc cho thấy vấn đề của mô hình ngôn ngữ lớn khi được triển khai rộng rãi. Microsoft cho biết họ sẽ xem xét mở rộng giới hạn câu hỏi và tương tác của AI này trong thời gian tới, đồng thời thu thập ý kiến từ những người tham gia thử nghiệm. Công ty cho biết cách duy nhất để cải thiện sản phẩm AI là đưa chúng ra thế giới và học hỏi từ tương tác với người dùng.

Tuy nhiên, cách tiếp cận này của Microsoft đối lập với Google – công ty đứng đầu lĩnh vực tìm kiếm hiện nay. Google phát triển chatbot cạnh tranh với Chat GPT có tên Bard nhưng chưa được phát hành rộng rãi do lo ngại về nguy cơ và tính an toàn của công nghệ hiện tại. CNBC cũng đưa tin Google đang tuyển người kiểm tra câu trả lời của Bard AI và thậm chí còn sửa lỗi cho chatbot này.

Xem thêm: CEO WhatsApp gọi Telegram là phần mềm gián điệp