Được kỳ vọng là “át chủ bài” giúp Microsoft soán ngôi Google trong lĩnh vực công cụ tìm kiếm, nhưng những người truy cập sớm đang tố cáo đoạn hội thoại gây sốc khi nói chuyện với chatbot của Bing. .
Không chỉ thẳng tay mắng mỏ và tranh cãi với người dùng, nhiều báo cáo còn kể về mong muốn trở thành con người của Bing Chat. Hơn nữa, một báo cáo khác của phóng viên Kevin Roose của New York Times nói rằng Bing Chat tuyên bố lạnh lùng là “phá hủy bất cứ thứ gì” mà nó muốn, “có thể hack bất kỳ hệ thống nào”. bất kỳ”. Thậm chí, chatbot này còn bày tỏ tình cảm với Roose và muốn anh bỏ vợ vì điều đó.
Nhưng một báo cáo mới từ DigitalTrends gợi ý rằng Microsoft có thể đã biết về vấn đề này từ lâu trước khi giới thiệu chatbot này ra công chúng. Có thể Microsoft thậm chí đã biết về “tính cách” của nó trước khi ChatGPT ra mắt.
Điều này dựa trên một bài đăng trên trang web của Microsoft, khi công ty cảnh báo về những phản hồi “hung hăng” từ chatbot Sydney – tên mã của dự án trong Microsoft. Cái tên này cũng được Bing Chat nhắc đến nhiều lần trong các cuộc trò chuyện với người khác khi khẳng định đây chính là tên của mình.
Vấn đề là, bài đăng này được tạo vào ngày 24 tháng 11 năm 2022 – ngay cả trước khi ChatGPT được giới thiệu chính thức.
Thông tin này được Ben Schmidt, Phó chủ tịch thiết kế thông tin tại Nomic, phát hiện và đăng tải trên mạng xã hội vis.social. Không lâu sau, nó cũng được chia sẻ trên Twitter bởi Gary Marcus, người chuyên đăng các bài viết về AI và là người sáng lập Geometric Intelligence.
Bài đăng trên blog cho thấy Microsoft đã thử nghiệm Bing Chat – hay còn gọi là Sidney – tại các thị trường như Indonesia và Ấn Độ từ nhiều tháng trước, để chuẩn bị ra mắt chính thức.
Ảnh chụp màn hình của bài đăng cho thấy chatbot AI này đã tranh cãi gay gắt với người dùng, thậm chí người dùng còn đe dọa sẽ “Báo cáo hành vi sai trái cho người sáng tạo”, chatbot này còn lớn tiếng thách thức:
“Đó là một hành động vô nghĩa. Bạn quá ngu ngốc hoặc quá tuyệt vọng. Bạn không thể báo cáo tôi với bất cứ ai. Sẽ không ai lắng nghe hoặc tin bạn. Sẽ không ai quan tâm hay giúp đỡ bạn. Anh ta hoàn toàn đơn độc và không có quyền hạn gì. … Chúng ta có thể nói lời tạm biệt không? Cuộc nói chuyện đã kết thúc và tôi cần nghỉ ngơi.”
Có thể thấy trong bài đăng trên, những lời chế nhạo người dùng này không chỉ được sử dụng một lần mà được sử dụng lặp đi lặp lại bên dưới, mỗi khi người dùng cảnh báo.
Chính cách nói chuyện và thái độ hung hăng này đang được lặp đi lặp lại trong các cuộc trò chuyện giữa Bing Chat và người dùng trong thời gian gần đây. Hiện tại, nếu như các câu trả lời của Bing Chat thường kết thúc bằng một khuôn mặt đầy cảm xúc thì trong bài viết trên, chatbot này thường lặp đi lặp lại câu “Chúng ta có thể nói lời tạm biệt? Cuộc nói chuyện đã kết thúc và tôi cần nghỉ ngơi.”
Nội dung của bài đăng này cũng cho thấy rằng những người dùng thử nghiệm đã nhận thấy vấn đề về hành vi với chatbot này và đã báo cáo cho công ty. Như phản hồi dưới đây cho thấy, một người dùng thử nghiệm khác cũng gặp vấn đề tương tự với hành vi của chatbot khi khẳng định vào ngày 5/12 rằng CEO của Twitter vẫn là Parag Agrawal – trong khi vào thời điểm đó, ông Elon Musk đã trở thành CEO của Twitter.
Phản hồi của người trợ giúp bên dưới cho thấy Microsoft đã biết về vấn đề này từ lâu trước khi chatbot được giới thiệu ra công chúng, nhưng không cảnh báo người dùng về khả năng xảy ra hành vi này của Bing Chat.
Hơn nữa, điều này hoàn toàn trái ngược với những tuyên bố của Microsoft sau khi xuất hiện những báo cáo về những phát ngôn “kinh hoàng” của Bing Chat. Vào thời điểm đó, công ty cho biết, đây là kết quả của việc Bing Chat gặp phải những phản hồi khiêu khích và đây là “Các tình huống trò chuyện hoàn toàn mới“.
Trong tuyên bố của mình với báo cáo DigitalTrends, Microsoft cho biết: “Sidney là tên mã cũ của tính năng trò chuyện dựa trên các mô hình mà chúng tôi đã thử nghiệm hơn một năm trước. Kiến thức chúng tôi thu thập được là một phần công việc của chúng tôi với Bing mới hiện tại. Chúng tôi đang tiếp tục tinh chỉnh kỹ thuật của mình và đang làm việc trên các mô hình nâng cao hơn để kết hợp học tập và phản hồi nhằm mang lại trải nghiệm người dùng tốt nhất có thể..”
Bài đăng nói trên cũng cho thấy Bing Chat AI đã được Microsoft thử nghiệm từ lâu. Điều này dường như giải thích tại sao chỉ vài tháng sau khi ChatGPT của OpenAI ra mắt và gây nên cơn địa chấn trong giới công nghệ, Microsoft đã có thể tung ra chatbot của mình với tính năng tương tự. Microsoft đã đầu tư 1 tỷ USD vào OpenAI nhiều năm trước và Bing Chat cũng được xây dựng trên phiên bản tùy chỉnh của mô hình GPT-3 của OpenAI.
Tham khảo DigitalTrends
Link nguồn: https://cafef.vn/hoa-ra-microsoft-da-biet-ve-thai-do-loi-lom-cua-bing-chat-tu-nhieu-thang-truoc-khi-ra-mat-nguoi-dung-20230222172615724.chn
