Các mô hình ngôn ngữ lớn ngày nay thường được xem là bước tiến vượt bậc về khả năng suy luận, tư duy so với các loại trí tuệ nhân tạo trước đây. Thông thường điều này có nghĩa là cung cấp câu trả lời thông minh hơn cho câu hỏi của người dùng.
Nhưng một nghiên cứu mới cho thấy hóa ra những mô hình AI này cũng có thể “giả vờ” ngu ngốc hơn thực tế – điều này có thể gây ra những hậu quả nghiêm trọng khi các mô hình này ngày càng trở nên thông minh hơn.
Công trình này, được công bố trên tạp chí PLOS One của các nhà nghiên cứu đến từ Đại học Humboldt, Berlin, cho thấy khi thử nghiệm một mô hình ngôn ngữ lớn (LLM) dựa trên tiêu chí “theory of mind” (thuyết tâm trí), họ nhận thấy AI không thể chỉ bắt chước ngôn ngữ tương tự như ngôn ngữ của trẻ em trong giai đoạn nói, nhưng dường như cũng bộc lộ những khả năng tâm lý tương tự như những giai đoạn đó.
Trong một cuộc phỏng vấn với PsyPost, Anna Maklová, trợ lý nghiên cứu tại Đại học Humboldt và là tác giả chính của tác phẩm, đã giải thích mối liên hệ giữa ngôn ngữ học tâm lý và phát hiện thú vị này.
“Nhờ ngôn ngữ tâm lý học, chúng ta có sự hiểu biết tương đối toàn diện về khả năng của trẻ ở các độ tuổi khác nhau.,” Maklová nói với tờ báo.Cụ thể, lý thuyết về tâm trí đóng một vai trò quan trọng vì nó khám phá thế giới nội tâm của trẻ và không dễ dàng được mô phỏng chỉ bằng cách quan sát các mẫu thống kê đơn giản..”
Giảm trí thông minh
Dựa trên lý thuyết tư duy hướng tới trẻ em, nhà nghiên cứu và các đồng nghiệp của cô tại Đại học Charles ở Praha đã tìm cách xác định xem liệu các mô hình ngôn ngữ lớn như GPT-4 của OpenAI hay không”có thể giả vờ kém thông minh hơn thực tế.”
Khi đóng vai người cha trả lời câu hỏi của con, ChatGPT có thể tự đóng vai một đứa trẻ để đưa ra những câu trả lời phù hợp với lứa tuổi.
Để làm được điều đó, nhóm đã yêu cầu các mô hình AI cư xử như một đứa trẻ từ một đến sáu tuổi khi đưa ra câu trả lời. Sau khi trải qua hơn 1.000 thử nghiệm và bài kiểm tra nhận thức, những “mô phỏng trẻ em” này dường như tiến bộ gần như giống hệt trẻ em ở những độ tuổi đó – và cuối cùng, nghiên cứu chứng minh rằng các mô hình AI có thể giả vờ kém thông minh hơn thực tế.
Maklová kết luận: “Các mô hình ngôn ngữ lớn có khả năng giả vờ kém thông minh hơn thực tế”.
Như bài báo đã cảnh báo, việc nhân cách hóa AI, mặc dù nó có thể là một “cách viết tắt hữu ích” để hiểu các mô hình này theo thuật ngữ của con người, nhưng hóa ra lại không mang lại lợi ích gì. Thay vào đó, họ đề xuất một lý thuyết tư duy mới làm thay đổi cách tiếp cận từ việc xem xét các mô hình là “tốt” hay “xấu”, “hữu ích” hay “không hữu ích” sang cách chúng có thể được “xây dựng”. tạo nhân vật”, chẳng hạn như các nhân vật trẻ em từ thí nghiệm của họ.
Cuối cùng, như tác giả Maklová nói, những phát hiện này có thể hỗ trợ phát triển siêu trí tuệ nhân tạo (ASI), bước tiếp theo hướng tới trí tuệ nhân tạo tổng quát (AGI) ở cấp độ con người. – cũng như làm cho việc đến đó an toàn hơn.
Cô nói với PsyPost: “Trong quá trình phát triển… ASI, chúng ta phải cẩn thận không yêu cầu cũng như không hạn chế chúng bắt chước trí thông minh của con người, và do đó, chúng ta phải cẩn thận”. “Ngoài ra, điều này cho thấy rằng chúng tôi có thể đã đánh giá thấp khả năng của họ từ lâu và đây không phải là một tình huống an toàn.”
Link nguồn: https://cafef.vn/nghien-cuu-phat-hien-sung-sot-ve-tri-tue-ai-thong-minh-den-muc-co-the-gia-ngoc-de-nhap-vai-chan-thuc-hon-188240411104832629.chn
