Video và hình ảnh trên đều là deepfake, một kỹ thuật sử dụng AI để tạo video/hình ảnh giả mạo. Những nội dung này bị phát hiện khi xuất hiện rộng rãi trên mạng xã hội.
Trong một bài đăng trên mạng xã hội X, ngôi sao Bollywood Rashmika Mandanna cho biết đoạn video mặc trang phục lycra bó sát là “cực kỳ đáng sợ”. Điều này cho thấy một thực tế rằng ngày nay, con người rất dễ bị tổn hại nghiêm trọng vì những kẻ xấu đang lạm dụng công nghệ. Nữ diễn viên nhấn mạnh cộng đồng cần chung tay giải quyết vấn đề này khẩn cấp trước khi nhiều người bị ảnh hưởng bởi hành vi giả tạo như vậy.
Mandanna không phải là ngôi sao Bollywood duy nhất trở thành nạn nhân của deepfake khi video giả mạo được tung ra và tấn công trên mạng xã hội. Danh sách các ngôi sao hạng A của Ấn Độ còn có Katrina Kaif, Alia Bhatt và Deepika Padukone.
Sự bùng nổ của các công cụ AI tổng hợp như Midjourney, Stable Diffusion và DALL-E đã giúp việc tạo và sao chép hình ảnh hoặc video deepfake chân thực hơn các hình ảnh hoặc video khác trở nên dễ dàng hơn. video sử dụng kỹ thuật số trước đó.
Theo các chuyên gia công nghệ, hơn 90% video deepfake trực tuyến là nội dung khiêu dâm. Mặc dù không có số liệu thống kê cụ thể cho Nam Á nhưng các chuyên gia về quyền kỹ thuật số cho rằng vấn đề này đặc biệt thách thức ở những quốc gia mà phụ nữ từ lâu đã phải đối mặt với nạn quấy rối. trực tuyến và lạm dụng tình dục, nhưng hành vi đó hầu như không bị trừng phạt.
Các công ty truyền thông xã hội đang tìm cách kiểm soát nội dung độc hại này. Nền tảng YouTube, Meta của Google – công ty sở hữu Facebook, Instagram và WhatsApp – đã cập nhật chính sách của họ, yêu cầu người tạo nội dung và nhà quảng cáo phải gắn nhãn tất cả nội dung do AI tạo ra ngoài. Tuy nhiên, các công ty này vẫn đang loay hoay tìm giải pháp cho bài toán quản lý, giám sát công nghệ deepfake có thể tạo ra các bản sao giống thật, có khả năng làm gián đoạn đời sống thực.
Link nguồn: https://cafef.vn/hiem-hoa-khon-luong-cua-ai-doi-voi-nu-gioi-o-chau-a-188231215091341349.chn
