Trong khi các giáo viên đang gióng lên hồi chuông cảnh báo về nguy cơ sinh viên lạm dụng chatbot AI để “viết” luận văn, thì một sinh viên khác đang tạo ra công cụ để ngăn chặn nguy cơ này.
Edward Tian, sinh viên năm cuối Đại học Princeton, đã phát triển ứng dụng giúp phát hiện văn bản được viết bằng ChatGPT – một chatbot đang được ưa chuộng khi cho mọi người thấy tiềm năng của AI lớn như thế nào nếu biết cách khai thác. nó. khai thác sức mạnh của nó.
Mặc dù đang học chuyên ngành khoa học máy tính nhưng bản thân Tian lại đang học báo chí. Vì vậy, Tian cũng sẽ hiểu sự khác biệt giữa một đoạn văn bản do người viết tạo ra và AI. Tian đã nghỉ ngơi vào năm ngoái để tạo ra GPTZero, với mục đích tạo ra một bot có thể chống lại nạn đạo văn AI đang gia tăng kể từ khi ChatGPT ra mắt.
Bài đăng của Edward Tian trên Twitter. nguồn Twitter
Kể từ khi GPTZero ra mắt vào ngày 2 tháng 1, Tian cho biết, nhiều giáo viên đã liên hệ với anh ấy và nói về những kết quả tích cực mà họ đã thấy khi sử dụng nó. Trong vòng một tuần kể từ khi ra mắt, hơn 30.000 người đã sử dụng nó – thậm chí có lúc ứng dụng bị sập do quá nhiều người truy cập. Sau đó, Streamlit, một nền tảng miễn phí lưu trữ GPTZero, đã hỗ trợ Tian bằng cách cung cấp thêm bộ nhớ và tài nguyên để xử lý lưu lượng truy cập web.
GPTZero hoạt động như thế nào
Để xác định xem bài viết này có phải do AI viết hay không, GPTZero sử dụng 2 tín hiệu: “sự nhầm lẫn” và “sự bùng nổ” trong bài viết.
Dựa trên điểm số, GPTZero sẽ xác định xem văn bản có khả năng là AI hay do con người viết hay không. nguồn internet
“Sự nhầm lẫn” đo lường mức độ phức tạp của một đoạn văn bản – nếu GPTZero phát hiện thấy mức độ nhầm lẫn cao, thì nhiều khả năng đó là do con người viết. Vì các chatbot ChatGPT hoặc AI được đào tạo dựa trên dữ liệu từ internet, nếu GPTZero cảm thấy quen thuộc với những đoạn văn bản đó – nghĩa là mức độ nhầm lẫn thấp, thì nhiều khả năng nó đã được tạo ra bởi một AI. .
Trong khi đó “sự bùng nổ” được đo lường bằng cách so sánh các câu với nhau. Mọi người có xu hướng viết với mục đích “bùng nổ” bên trong, chẳng hạn, thường xen kẽ các câu dài hơn và phức tạp hơn với các câu ngắn hơn. AI có xu hướng tạo ra các câu thống nhất hơn.
Trong video trình diễn của mình, Tian so sánh một bài báo trên The New Yorker với một bài đăng trên LinkedIn được viết bằng ChatGPT. GPTZero đã phân biệt các bài đăng có tác giả với AI. Mặc dù vậy, Tian cũng thừa nhận rằng không phải lúc nào bot của anh cũng thành công dựa trên các báo cáo thử nghiệm từ người dùng. Tian cho biết anh vẫn đang làm việc để cải thiện độ chính xác của mô hình của mình.
GPTZero phân tích và xác định các bài báo trên The New Yorker là do con người viết. nguồn Twitter
GPTZero đã phân tích và phát hiện ra rằng bài viết trên LinkedIn được viết bởi AI – thực sự chủ nhân của bài viết trên quá bận rộn nên đã quyết định thử sử dụng chatbot này để viết bài. Nguồn Twitter
Cuộc chiến chống đạo văn với AI
Sinh viên này không phải là người duy nhất trong nhiệm vụ ngăn chặn hành vi gian lận và đạo văn của AI. Chính OpenAI, nhà phát triển ChatGPT, cũng đã ký cam kết ngăn chặn đạo văn AI và các hành vi sử dụng bất chính khác. Tháng trước, Scott Aaronson, một nhà nghiên cứu về an toàn AI tại OpenAI, cho biết công ty đang phát triển một “hình mờ” cho văn bản do GPT tạo — một chữ ký không bí mật. có thể phát hiện được để xác định nguồn gốc của nội dung này.
Cộng đồng AI mã nguồn mở Hugging Face cũng đã đưa vào một công cụ để phát hiện xem văn bản có được tạo bởi GPT-2 – tiền thân của mô hình AI tạo nên ChatGPT – hay không. Một giáo sư triết học ở Nam Carolina cho biết công cụ này đã giúp ông phát hiện ra một sinh viên sử dụng AI để làm bài tập về nhà.
Hôm thứ Năm, Bộ Giáo dục Thành phố New York cho biết họ đã chặn quyền truy cập vào ChatGPT cho các mạng trường học do lo ngại về “tác động tiêu cực đến việc học cũng như lo ngại về sự an toàn và chính xác của nội dung.”
Mặc dù là nhà phát triển của GPTZero, Tian không phản đối việc sử dụng các công cụ AI như ChatGPT. Thiên nói: “GPTZero không phải là một công cụ để ngăn chặn việc sử dụng chúng. Nhưng với bất kỳ công nghệ mới nào, chúng ta cần có khả năng chấp nhận nó một cách có trách nhiệm và chúng ta cần các lớp bảo vệ..”
Tham khảo NPR
Link nguồn: https://cafef.vn/mot-sinh-vien-tao-ung-dung-bat-bai-chatgpt-viet-ho-luan-van-vi-lo-gian-lan-thoi-40-20230112093050277.chn
