Sự bùng nổ của các chatbot AI như ChatGPT (OpenAI) đã làm dấy lên nhiều kỳ vọng về một tương lai nơi công việc được tự động hóa và hiệu suất tăng vọt. Tuy nhiên, kết quả nghiên cứu gần đây của Đại học Purdue (Mỹ) đã gióng lên hồi chuông cảnh báo khi cho thấy ChatGPT trả lời sai tới 52% câu hỏi liên quan đến lập trình máy tính.
Nghiên cứu được trình bày tại Hội nghị tương tác giữa máy tính và con người diễn ra ở Hawaii (Mỹ) hồi đầu tháng này dựa trên việc phân tích 517 câu hỏi lập trình trên nền tảng Stack Overflow. Những câu hỏi này sau đó được đưa cho ChatGPT để phân tích và đưa ra câu trả lời.
Kết quả cho thấy 52% câu trả lời của ChatGPT chứa thông tin sai sự thật và 77% trong số đó được thể hiện một cách dài dòng, rườm rà. Điều đáng nói là, dù đưa ra nhiều thông tin sai sự thật nhưng phong cách ngôn ngữ “dễ hiểu” và “trôi chảy” của ChatGPT đã khiến nó được 35% người tham gia khảo sát ưa chuộng.
Nghiên cứu cũng cho thấy các lập trình viên tham gia đôi khi không thể phát hiện ra lỗi trong phản hồi ChatGPT. Cụ thể, có tới 39% trường hợp, các lập trình viên đã bỏ qua thông tin sai lệch do chatbot AI này cung cấp.
Rõ ràng, nghiên cứu từ Đại học Purdue đã chỉ ra một thực tế đáng lo ngại về độ tin cậy của ChatGPT – công cụ được kỳ vọng sẽ tạo ra bước đột phá trong lĩnh vực AI. Hiện nay, những gã khổng lồ công nghệ như Meta, Microsoft và Google đang đầu tư hàng tỷ USD vào cuộc đua AI để tạo ra những chatbot “thông minh” và đáng tin cậy nhất.
Google, với công cụ tìm kiếm mới tích hợp AI, cũng đang phải đối mặt với rất nhiều chỉ trích vì thường xuyên cung cấp thông tin sai lệch từ những nguồn không đáng tin cậy. Thậm chí đã có trường hợp Google Tìm kiếm lấy thông tin từ tờ báo châm biếm The Onion và hiển thị nó như một nguồn đáng tin cậy. Trước những phản hồi tiêu cực về độ chính xác của công cụ tìm kiếm, Google tin rằng những lỗi này chỉ là “ngoại lệ”.
“Các ví dụ được đề cập thường là những truy vấn rất hiếm và không thể hiện được trải nghiệm của hầu hết người dùng”, đại diện Google cho biết. “Hầu hết các Tổng quan về AI đều cung cấp thông tin chất lượng cao, có liên kết để người dùng tìm hiểu sâu hơn trên web.” Lập luận của Google ngay lập tức vấp phải sự phản đối từ người dùng bởi với tư cách là công cụ tìm kiếm hàng đầu thế giới, Google phải đảm bảo tính chính xác cho tất cả các truy vấn chứ không chỉ riêng các truy vấn Phổ biến.
Link nguồn: https://cafef.vn/chatgpt-co-thuc-su-la-cuoc-cach-mang-khi-tra-loi-sai-den-52-188240527143431803.chn
