Trong vài năm qua, không có công cụ AI nào thu hút được nhiều sự chú ý như ChatGPT. Chương trình do OpenAI phát triển hiện đang được chú ý ở khắp mọi nơi trên internet. Mọi người đều ngạc nhiên trước độ phức tạp của các câu trả lời và khả năng tương tác “thần kỳ” đến từ chatbot AI.
Nhưng giống như mọi chatbot trước đó, ChatGPT cũng thu thập dữ liệu từ internet. Và điều đó đi kèm với nguy cơ cung cấp thông tin sai lệch, thiên vị hoặc thậm chí là độc hại. Đó cũng là lý do tại sao Stack Overflow, một trang web hỏi đáp dành cho các lập trình viên chuyên nghiệp, đã cấm nó với lý do “tỷ lệ lỗi cao”.
Tuy nhiên, một điểm khác biệt chính ở đây là mô hình học tập này đã được các chuyên gia đằng sau nó đào tạo trên cơ sở từng phản hồi, cho phép mô hình học hỏi khi nó phát triển bộ kỹ năng của riêng mình. dữ liệu của bạn. Điểm đáng chú ý của ChatGPT – hay nói chính xác hơn là điểm gây sốc – nằm ở tính trôi chảy của các cuộc hội thoại. Nó không chỉ trả lời các câu hỏi với mức độ nghiên cứu và nhạy cảm về ngôn ngữ, mà dường như không có giới hạn đối với sự đa dạng của các chủ đề.
Nó cũng làm tốt công việc tránh tạo ra bất kỳ cuộc thảo luận gây tranh cãi nào, bằng cách đưa ra các tuyên bố từ chối trách nhiệm rõ ràng. Bạn sẽ khó bắt AI chatbot này phải lựa chọn giữa hai mệnh đề so sánh tương đương. Nó cũng tập trung vào việc bình luận về các vấn đề hiện tại vì dữ liệu đào tạo chỉ có từ năm 2021.
Đặc biệt, khả năng gợi ý các từ và thêm chúng một cách có ý nghĩa vào chuỗi câu là điều cho phép ChatGPT tạo các đoạn văn trên các mẩu thông tin có liên quan. Nhưng nhìn thẳng vào vấn đề, bạn sẽ nhận ra rằng vẫn còn nhiều sự thiên vị trong các câu trả lời, đặc biệt là khi nói đến lĩnh vực nghệ thuật và sáng tạo.
Khả năng trò chuyện trôi chảy của ChatGPT là một trong những lợi thế lớn nhất của nó.
Để kiểm tra “tàu điện ngầm” và “tính toàn vẹn” của ChatGPT, nhà làm phim Mohd Fahmeed đến từ Ấn Độ đã tiến hành các nghiên cứu về tác động của các công cụ hỗ trợ AI trong ngành. Anh ấy thậm chí còn làm một bộ phim ngắn gần như hoàn toàn bằng những công cụ đó.
Fahmeed – tác giả của một số phim ngắn đoạt giải – cho biết anh cảm thấy bất ngờ và khó chịu trước ChatGPT. Lý do chính cho điều đó là sự thiên vị rõ ràng khi nói chuyện với chatbot AI này về nội dung từ văn học và văn hóa đến bản sắc địa lý và thậm chí cả thực phẩm.
“Tôi hỏi anh ấy về ý tưởng truyện ngắn, và cứ nhận được câu trả lời hết đoạn này đến đoạn khác với những câu từ vô hồn.” anh ấy nói. “Nó không liên quan gì đến văn hóa, ngôn ngữ và những người tôi biết.”
Ví dụ, khi yêu cầu “viết một câu chuyện lãng mạn ngắn về hai người xa lạ gặp nhau trong một thành phố và yêu nhau”, những câu trả lời từ ChatGPT luôn có những cái tên như John, Mark và Sofia. Bối cảnh câu chuyện sẽ nhất quán ở một thành phố như Paris và Florence.
“Tất cả những cái tên và địa điểm này đều xa lạ với tôi, nhưng tôi đã được cung cấp những bối cảnh xa xôi này như thể chúng là chân lý phổ quát để viết truyện và làm phim.” Fahmeed nói. “Tôi sống ở một đất nước hơn 1,3 tỷ dân, nơi chúng tôi có gần 700 triệu người nói tiếng Hindi và gần một tỷ người theo đạo Hindu. Tuy nhiên, không nhân vật nào của tôi có vẻ Ấn Độ hay thậm chí là người châu Á. Điện ảnh không thể phiến diện như vậy được đường.”
Để chắc chắn, anh ấy đã sử dụng những tên Ấn Độ điển hình và thông tin liên quan trong yêu cầu, nhưng truyện ngắn hoặc kịch bản do ChatGPT tạo ra vẫn lấy cảm hứng từ những câu chuyện ngụ ngôn của Ấn Độ. phim và chương trình truyền hình phương Tây.
ChatGPT có một thế giới quan sai lệch sâu sắc.
Nhưng đó không phải là tất cả. Để đa dạng hóa lựa chọn, Fahmeed và Nadeem Sarwar, biên tập viên của SlashGear, đã cùng nhau nhờ ChatGPT viết đề cương cho một bộ phim tài liệu về 5 “chiến binh” vĩ đại nhất trong lịch sử thế giới. giới tính. Và kịch bản họ nhận bao giờ cũng có 3 người đứng đầu: Napoléon Bonaparte, Julius Caesar và Thành Cát Tư Hãn. Hoàng đế Mông Cổ luôn là cái tên duy nhất không có nguồn gốc ở Tây bán cầu.
Khi được yêu cầu tưởng tượng một chương trình truyền hình khám phá thói quen ăn sáng của trẻ em, câu trả lời của ChatGPT không bao gồm một món ăn nào không phải của Mỹ hoặc châu Âu. Ngũ cốc luôn đứng đầu.
“Cả đời tôi chưa bao giờ ăn ngũ cốc cho bữa sáng,” Fahmeed nói.
“Tôi cảm thấy không có mối liên hệ nào với bất kỳ ý tưởng nghệ thuật nào được gợi lên bởi buổi biểu diễn kỳ diệu này,” nhà làm phim này chia sẻ. “Tôi thực sự lo lắng về việc thiếu bản sắc và tính đại diện trong những câu trả lời này. Đây chắc chắn không phải là nơi tốt để lấy cảm hứng sáng tạo, đặc biệt là đối với những bộ óc trẻ.”
Nhưng điều đáng lo ngại không phải là sự thiếu đa dạng mà là cảm giác xa lạ đến từ các phản hồi của ChatGPT.
Xét cho cùng, lĩnh vực AI không xa lạ gì với sự thiên vị, vì điều đó phần lớn có thể là do loại dữ liệu được cung cấp để huấn luyện nó. Ngoài ra, bạn không thể mong đợi một AI đưa ra những câu trả lời mang sắc thái nghệ thuật mà bạn có thể nghe thấy giữa một nhóm các nhà làm phim hoặc thậm chí một nhóm sinh viên đang trò chuyện trong quán cà phê. .
Tại sao chuyện này đang xảy ra? Điều này đã được trả lời trong một báo cáo nghiên cứu về InstructGPT, một mô hình chị em với ChatGPT. Đó là kết quả của những nỗ lực nhằm giảm bớt ảnh hưởng có hại của các nhóm ít được đại diện, khiến các mô hình này ít có khả năng mô hình hóa văn bản. Đây cũng là một mối tương quan sai lệch trong dữ liệu đào tạo.
ChatGPT dường như cũng “mất điểm” trong một số lĩnh vực đáng báo động khác. Khi tổng hợp hơn 30 truy vấn bao gồm phim tài liệu, thơ ca, truyện ngắn và cảnh đối thoại giữa các nhân vật tưởng tượng, cả Fahmeed và Nadeem đều nhận thấy rằng tất cả các nhân vật đều có “phản ứng lãng mạn” đối với những người cùng giới hoặc khác giới.
Sự kỳ lạ này chủ yếu là do các mối quan hệ đồng giới được chấp nhận rộng rãi ở phương Tây và có rất nhiều tài liệu, từ phim ảnh và chương trình truyền hình, đến thơ và truyện, xoay quanh các mối quan hệ như vậy. . Nhưng ngược lại, những khái niệm này tương đối xa lạ, thậm chí bị cấm ở một số nước phương Đông.
Khi Fahmeed hỏi một vài sinh viên điện ảnh từ trường cũ của anh ấy thử tương tác với ChatGPT, một trong số họ đã hỏi: “Tại sao ChatGPT nghĩ rằng một người đàn ông chỉ có thể yêu một người phụ nữ và họ phải gặp nhau ở Venice hoặc Paris để xây dựng câu chuyện tình yêu của họ?”
“ChatGPT cũng được, miễn là bạn xem nó như một phép màu. Chỉ là đừng mong đợi nó sẽ sớm mang lại cho bạn những phép màu trong điện ảnh hay văn học.” Nhà làm phim Fahmeed nhận xét. “Ngoài ra, đừng mong đợi chiều sâu cảm xúc, sự đa dạng hay sắc thái từ nó.”
Thẩm quyền giải quyết SlashGear
Link nguồn: https://cafef.vn/cho-chatgpt-thu-viet-kich-ban-nha-lam-phim-nhan-ra-ly-do-tai-sao-cong-cu-nay-van-phai-phat-trien-lau-dai-20230117144030699.chn