Tờ Wall Street Journal đưa tin rằng OpenAI đã có một công cụ có thể phát hiện các bài luận do ChatGPT viết với độ chính xác cao, nhưng công ty vẫn chưa phát hành. Sau báo cáo, OpenAI đã chia sẻ thêm thông tin về nghiên cứu của mình về đánh dấu văn bản và lý do tại sao công ty chưa phát hành phương pháp phát hiện của mình.
Cuộc tranh luận về việc liệu công cụ này có nên được phát hành hay không đã khiến nó không được phát hành, mặc dù đã sẵn sàng, theo một báo cáo của The Wall Street Journal. Trong một bản cập nhật được công bố vào Chủ Nhật cho một bài đăng trên blog được công bố vào tháng 5, được TechCrunch phát hiện, OpenAI cho biết: “Các nhóm của chúng tôi đã phát triển một phương pháp đánh dấu văn bản mà chúng tôi tiếp tục xem xét khi khám phá các phương án thay thế.”
Công ty cho biết thêm rằng đóng dấu bản quyền là một trong số nhiều giải pháp, bao gồm trình phân loại và siêu dữ liệu, mà công ty đã khám phá trong quá trình “nghiên cứu sâu rộng về nguồn gốc văn bản”. Theo OpenAI, phương pháp này “rất chính xác” trong một số trường hợp, nhưng không hiệu quả khi phải đối mặt với một số hình thức làm giả nhất định, “chẳng hạn như sử dụng hệ thống dịch, viết lại bằng mô hình tạo khác hoặc yêu cầu mô hình chèn một ký tự đặc biệt giữa mỗi từ rồi xóa ký tự đó”.
Và đánh dấu văn bản có thể “ảnh hưởng không cân xứng đến một số nhóm nhất định”, OpenAI viết. “Ví dụ, nó có thể kỳ thị việc sử dụng AI như một công cụ viết hữu ích cho những người không nói tiếng Anh bản xứ”.
Theo bài đăng trên blog, OpenAI đã cân nhắc những rủi ro này. Công ty cũng viết rằng họ đã ưu tiên phát hành các công cụ xác minh nội dung. Trong một tuyên bố với TechCrunch, một phát ngôn viên của OpenAI cho biết công ty đang áp dụng cách tiếp cận “thận trọng” đối với nguồn gốc văn bản vì “sự phức tạp liên quan và tác động tiềm tàng đến hệ sinh thái rộng lớn hơn ngoài OpenAI”.
Link nguồn: https://cafef.vn/openai-dang-nghien-cuu-phuong-phap-danh-dau-van-ban-khien-sinh-vien-het-cua-dung-chatgpt-de-gian-lan-trong-hoc-tap-188240805133235327.chn
