Thử thách từ ChatGPT

Công nghệ đột phá

Trong vòng chưa đầy 2 tháng, ChatGPT (Generative Pretraining Transformer) đã trở thành một hiện tượng toàn cầu. Đây là ứng dụng trí tuệ nhân tạo (AI) được phát triển bằng cách sử dụng phương pháp học tăng cường, được đào tạo để đưa ra câu trả lời giống như một cuộc trò chuyện với người thật. Super AI, do nhà phát triển OpenAI cung cấp, có thể viết thơ, viết mã và trả lời nhiều vấn đề phức tạp, từ tổng hợp tin tức đến triết học.

Tuy nhiên, sự tiện lợi của ChatGPT đã đặt ra câu hỏi về việc tạo điều kiện cho thông tin sai lệch và không trung thực trong học thuật. Vì vậy, nhà sản xuất OpenAI đang cố gắng hạn chế danh tiếng là “máy gian lận” bằng một công cụ mới có thể giúp phân biệt giữa kết quả học tập do con người tạo ra hay trí tuệ nhân tạo.

Trình phân loại văn bản AI mới được OpenAI phát hành vào ngày 1 tháng 2, nhưng OpenAI cũng cảnh báo rằng công cụ mới này không hoàn hảo. Jan Leike, trưởng nhóm liên kết của OpenAI, cho biết phương pháp phát hiện văn bản do AI viết “không hoàn hảo, đôi khi sẽ có sai sót. Do đó, việc sử dụng công cụ này chỉ mang tính chất tham khảo.

Nhiều người trên thế giới đã bắt đầu thử nghiệm ChatGPT sau khi ứng dụng này ra mắt vào ngày 30 tháng 11 năm 2022 dưới dạng ứng dụng miễn phí trên trang web của OpenAI.

Tuy nhiên, tại New York, Los Angeles và nhiều nơi trên nước Mỹ đã bắt đầu chặn việc sử dụng phần mềm này trong lớp học và trên các thiết bị của trường học. Devin Page – chuyên gia công nghệ đến từ Calvert County Public Schools, Maryland, Mỹ – cho biết: “Phản ứng ban đầu của các nhà giáo dục là tìm cách ngăn chặn làn sóng lừa đảo sẽ xảy ra với ChatGPT. Nhưng bây giờ, ngày càng có nhiều người nhận ra rằng dừng nó không phải là giải pháp. Vì chúng ta không thể ngăn cản sự phát triển của tương lai.”

“Thật khó để dự đoán những nguy hiểm mà công cụ này gây ra, nhưng chúng tôi sẽ không giúp ích gì cho học sinh nếu chúng tôi cấm nó (ChatGPT)” – ông Devin Page nói và cho biết cuối cùng mọi người sẽ bỏ chặn ChatGPT, đặc biệt là khi công cụ phát hiện mới của OpenAI ra mắt .

Ban Chat Sản phẩm GPT trong nhiều lĩnh vực

Trước sự bùng nổ với hàng triệu người dùng trên thế giới, nhiều nhà xuất bản bày tỏ lo ngại về ảnh hưởng của Chatbot AI này trong khoa học và học thuật. Trong một động thái gần đây, Science đã cập nhật chính sách xuất bản mới của mình, theo đó cấm các tác giả đưa vào các bài báo khoa học các đoạn văn, biểu đồ và hình ảnh là sản phẩm của ChatGPT và các ứng dụng trí tuệ nhân tạo. . Các ứng dụng này cũng không được phép đứng tên tác giả bài báo. Tạp chí Khoa học nói rằng vi phạm quy tắc này cũng nghiêm trọng như vi phạm tính trung thực của khoa học giống như việc chỉnh sửa hoặc đạo văn.

Tổng biên tập tạp chí Science Holden Thorp cho biết có những tác động nghiêm trọng từ các công cụ trí tuệ nhân tạo như ChatGPT sẽ thay đổi nền giáo dục khi chúng có thể viết luận cho học sinh, trả lời các câu hỏi về vấn đề y tế, tóm tắt nghiên cứu. Đáng ngại hơn là những ảnh hưởng đối với việc viết bài báo khoa học khi ChatGPT có thể tạo ra các bản tóm tắt nghiên cứu đủ tốt để khiến các nhà khoa học khó phát hiện đó là “tin giả”.

OpenAI cũng nhấn mạnh những hạn chế của công cụ phát hiện của nó, lưu ý rằng ngoài việc ngăn chặn đạo văn, nó có thể giúp phát hiện các chiến dịch thông tin sai lệch và các hành vi lạm dụng AI khác để ngăn chặn đạo văn. bắt chước con người.

Các tổ chức giáo dục đại học trên khắp thế giới cũng đã bắt đầu tranh luận về việc sử dụng công nghệ AI một cách có trách nhiệm. Tuần trước, Science Po, một trong những trường đại học danh tiếng nhất của Pháp, đã cấm sử dụng công nghệ này và cảnh báo bất kỳ ai lén lút sử dụng ChatGPT và các công cụ AI khác để viết bài. các nhà văn có thể bị đuổi khỏi Science Po.

Stack Overflow, một trang hỏi đáp dành cho các lập trình viên chuyên nghiệp, cũng đã cấm các kết quả được tạo tự động từ ChatGPT vì nhiều kết quả sai lệch. Do đó, ChatGPT không thể được coi là tác giả của một bài báo khoa học.

Mặt khác, tại các cuộc gặp với Giám đốc điều hành OpenAI Sam Altman ở California, Bộ trưởng Kinh tế Kỹ thuật số Pháp Jean-Noël Barrot đã bày tỏ sự lạc quan của ông về công nghệ này tại Diễn đàn. Diễn đàn Kinh tế Thế giới tại Davos, Thụy Sĩ. Tuy nhiên, ông Barrot cũng lưu ý, vẫn còn những câu hỏi về đạo đức cần tìm câu trả lời. Và người dùng cần hết sức cẩn trọng, coi công cụ này như một loại tài liệu tham khảo chứ không nên dựa vào đó để đưa ra những quyết định quan trọng.

Các chuyên gia, nhà khoa học cũng đã khẳng định: ChatGPT thường đưa ra những câu trả lời vô nghĩa, hoặc “có vẻ” đúng nhưng lại sai hoàn toàn. Và ChatGPT không phải là con người nên không thể chịu trách nhiệm về những sai sót của mình.

ChatGPT được xây dựng trên 175 tỷ tham số, mỗi tham số có thể được điều chỉnh để cải thiện hiệu suất của mô hình AI. Nó được “đào tạo” trên một lượng lớn dữ liệu và được thiết kế để hiểu và tạo ra ngôn ngữ tự nhiên của con người, cho phép bạn trò chuyện với nó giống như bạn đặt câu hỏi cho một người bạn.

Link nguồn: https://cafef.vn/thach-thuc-tu-chatgpt-20230204113221143.chn