Là người chuyên sử dụng các ứng dụng AI để phục chế video, anh Quang nhận thấy công nghệ này đang có những bước tiến vượt bậc trong lĩnh vực giả mạo giọng nói và khuôn mặt – thường được gọi là deepfake.
“Cách đây 1 năm mình làm 1 phim ngắn 2-3 phút mất vài ngày, còn bây giờ chỉ cần 1 tấm ảnh, 1 video là ta có ngay 1 video của 1 nhân vật, 1 người nổi tiếng. Chỉ cần đúng 1 tấm ảnh thôi và 1 video cùng 1 góc quay thì máy sẽ tự động tạo video đó.”
Tháng 3/2019, một thư ký ở Anh nhận được cuộc gọi khẩn cấp từ chủ tịch tập đoàn. Giọng nói và phong thái quen thuộc của vị CEO khiến nhân viên này không chút nghi ngờ đã chuyển ngay số tiền 220.000 bảng Anh, tương đương hơn 6 tỷ đồng.
Marie-christine Kragh – Công ty bảo hiểm Euler Hermes: “Chúng tôi nhận thấy dấu hiệu rõ ràng từ vụ lừa đảo này là có sự can thiệp của công nghệ trí tuệ nhân tạo khi giả giọng nói giống hệt để đánh lừa nạn nhân”.
Tại Việt Nam, một người đàn ông bị lừa 20 triệu đồng khi kẻ lừa đảo giả mặt, giả giọng bạn anh nhờ chuyển tiền.
Anh Đặng Anh Quang – Quận Hai Bà Trưng, Hà Nội: “Đối tượng cũng gọi video, cũng khuôn mặt đó nhưng chỉ có cái miệng mấp máy. Tôi tưởng mạng lag nên chỉ gọi được vài giây. nên không sao. Mình cũng tin, đang vội. Sau đó họ nhắn tin số tài khoản mình chuyển tiền”.
Ông Vũ Ngọc Sơn – Giám đốc kỹ thuật, Công ty Công nghệ An ninh mạng Quốc gia Việt Nam: “Các video clip sinh ra từ deepfakes sẽ có chất lượng không tốt, tương đối mờ và giọng nói không rõ ràng. Nếu để ý kỹ, người dùng có thể nhận thấy rằng nhân vật trong clip ít quay mặt, giơ tay lên mặt hay chớp mắt, đó là những hành động mà deepfake không thể fake 100% như người thường.”
Một nguyên tắc của deepfake là thu thập dữ liệu từ hình ảnh và giọng nói của chính người dùng. Châu Âu và Trung Quốc hiện đang áp dụng các giải pháp thắt chặt deepfake, quy định chặt chẽ việc cung cấp dữ liệu cá nhân. Tại Việt Nam, người dùng cũng cần cẩn trọng trong việc đăng tải hình ảnh, giọng nói của mình lên không gian mạng.
Link nguồn: https://cafef.vn/canh-bao-lua-dao-bang-cong-nghe-tri-tue-nhan-tao-188230512090217175.chn
