Sự đổi mới được tạo ra bởi AI
Từ việc tạo ra văn bản, hình ảnh và âm thanh cho đến các hình thức sáng tạo khác, AI có tính sáng tạo đã vượt qua các ranh giới truyền thống và mở rộng phạm vi sáng tạo của con người. Đó là bởi vì Generative AI có thể “học hỏi” từ dữ liệu đầu vào để tạo ra các sản phẩm mới và sáng tạo. Vì vậy, Generative AI đã nhanh chóng trở thành một trong những xu hướng quan trọng trong lĩnh vực AI hiện nay, với khả năng tạo ra nội dung sáng tạo và đa dạng.
![Rủi ro an toàn từ công nghệ AI nhân tạo - Ảnh 1. Rủi ro an toàn từ công nghệ AI nhân tạo - Ảnh 1](https://diaocthoibao.com/wp-content/uploads/2024/07/Rui-ro-an-toan-tu-cong-nghe-AI-tao-ra.jpg)
AI sáng tạo có khả năng tạo ra nội dung sáng tạo và đa dạng. Hình minh họa
AI sáng tạo hoạt động bằng cách tìm các mẫu và xu hướng từ dữ liệu đầu vào, sau đó sử dụng thông tin này để tạo ra nội dung mới có thể giống hoặc không giống với dữ liệu gốc. Kiến trúc mô hình Mạng đối thủ sáng tạo (GAN) là một phần quan trọng của AI sáng tạo, bao gồm hai mô hình cạnh tranh: Mô hình sáng tạo và mô hình phân biệt đối xử. Dựa trên dữ liệu đào tạo có sẵn, mô hình tổng quát tạo ra nội dung với mục tiêu thắt chặt thông tin để đạt được độ tương đồng cao với các ví dụ trong tập dữ liệu đó.
Tiếp theo, một mô hình phân biệt được áp dụng để đánh giá đầu ra được tạo ra bằng cách đo khả năng mẫu thử nghiệm thuộc về tập dữ liệu gốc, thay vì đến từ mô hình tạo. Từ các kết quả thử nghiệm này, mô hình liên tục điều chỉnh và tối ưu hóa để nội dung được tạo ra có khả năng tương đương với dữ liệu đào tạo gốc của mô hình tạo ra.
Với cách làm việc này, trong năm qua, AI tạo sinh đã trở thành một công cụ phổ biến trên Internet. Cụ thể, việc ra mắt ChatGPT, một công cụ AI tạo sinh mạnh mẽ được OpenAI giới thiệu vào tháng 11 năm 2022, đã gây chấn động trong cộng đồng công nghệ AI và máy học. Ngoài ra, sự tiến bộ nhanh chóng trong các công nghệ AI như xử lý ngôn ngữ tự nhiên đã giúp AI tạo sinh dễ tiếp cận hơn với người dùng và những người sáng tạo nội dung quy mô lớn.
Theo đó, các tập đoàn công nghệ lớn đã nhanh chóng tham gia cuộc đua này. Cụ thể, Google, Microsoft, Amazon, Meta và nhiều tên tuổi khác đều tung ra công cụ Generative AI của riêng mình chỉ trong vài tháng ngắn ngủi. Báo cáo mới của công ty phần mềm đám mây Salesforce (Mỹ) tiết lộ có tới 67% các nhà quản lý cấp cao trong lĩnh vực công nghệ thông tin đang đặt Generative AI vào danh sách ưu tiên phát triển. hoạt động kinh doanh của họ trong 18 tháng tới, trong đó 1/3 (33%) coi đây là mục tiêu quan trọng nhất.
Có thể nói rằng sự phổ biến gần đây của AI tạo sinh đã mở ra những cơ hội mới cho nhiều lĩnh vực, chẳng hạn như sáng tạo nghệ thuật, tiếp thị và giáo dục. Khả năng tạo nội dung tự động, nhanh chóng và sáng tạo đã giúp các ngành công nghiệp tận dụng tốt hơn sự phát triển của công nghệ này. Ngay cả từ việc tạo nội dung quảng cáo hấp dẫn đến việc tạo ra hình ảnh thiết kế mới, AI tạo sinh đã góp phần thay đổi cách mọi người tương tác với nhiều khía cạnh khác nhau của cuộc sống hàng ngày.
Mối đe dọa của AI sáng tạo
Mặc dù AI tổng quát mang lại tiềm năng to lớn cho việc tạo và tạo nội dung, nhưng nó cũng mở ra những cơ hội mà tin tặc và các tác nhân đe dọa có thể khai thác để thực hiện các cuộc tấn công mạng độc hại. Những rủi ro do AI tạo ra bao gồm việc tạo ra nội dung giả mạo, làm ảnh hưởng đến tính xác thực, sự tin cậy và quyền riêng tư của người dùng. Điều này đang trở thành một thách thức lớn đối với an ninh và quyền riêng tư thông tin.
![Rủi ro an toàn từ công nghệ AI - Ảnh 2 Rủi ro an toàn từ công nghệ AI nhân tạo - Ảnh 2.](https://diaocthoibao.com/wp-content/uploads/2024/07/1719794683_363_Rui-ro-an-toan-tu-cong-nghe-AI-tao-ra.jpg)
Trí tuệ nhân tạo tạo ra video, hình ảnh và âm thanh giả với độ chân thực đáng kinh ngạc. Ảnh minh họa
Một trong những ứng dụng chính của công nghệ AI tạo sinh trong các cuộc tấn công mạng là công nghệ Deepfake. Theo đó, AI tạo sinh tạo ra các video, hình ảnh và âm thanh giả mạo với độ chân thực đáng kể. Điều này có thể dẫn đến việc tạo ra thông tin sai lệch, bóp méo thông điệp và gây hiểu lầm cho công chúng; thậm chí có thể ảnh hưởng đến danh tiếng, gây hoang mang trong xã hội và gây ra hậu quả cực kỳ nghiêm trọng.
AI sáng tạo có thể tạo tin nhắn, email tự động và thậm chí cả các cuộc trò chuyện mô phỏng giọng điệu và ngôn ngữ của người mục tiêu. Điều này khiến các cuộc tấn công lừa đảo khó bị phát hiện hơn, khiến người nhận dễ bị lừa và tiết lộ thông tin cá nhân quan trọng.
Công nghệ AI tạo sinh cũng có thể được sử dụng để tạo ra các loại phần mềm độc hại, mã độc hại và chương trình độc hại mới. Kẻ tấn công có thể tạo ra các loại phần mềm độc hại mới tinh vi với khả năng ẩn dấu vết và tránh bị các công cụ bảo mật phát hiện. Ngoài ra, việc tạo email và trang web giả mạo bằng AI tạo sinh có thể khiến các cuộc tấn công lừa đảo trở nên phức tạp hơn và khó xác định hơn.
Đối với ngành quảng cáo, AI tạo sinh đang góp phần làm gia tăng gian lận quảng cáo. Một báo cáo gần đây của DoubleVerify (DV – nền tảng phần mềm hàng đầu về đo lường, dữ liệu và phân tích phương tiện truyền thông kỹ thuật số) đã cung cấp phân tích toàn diện, dựa trên dữ liệu thu thập được từ hơn 1 nghìn tỷ người. Lượt hiển thị video và quảng cáo trên phương tiện truyền thông xã hội và truyền hình kết nối (CTV) ở các khu vực trên toàn cầu cho thấy số vụ gian lận và các biến thể gian lận mới tăng 23% so với cùng kỳ năm trước trong năm qua. trước đó; Các nhà quảng cáo cũng phải đối mặt với gian lận và vi phạm quyền truy cập không hợp lệ lên tới 17%.
Đáng chú ý, 54% người mua quảng cáo ở APAC (khu vực Châu Á – Thái Bình Dương) xác nhận sự gia tăng nội dung chất lượng thấp và các trang dành riêng cho quảng cáo (Made-For-Advertising). – MFA) đang đe dọa nghiêm trọng đến hệ sinh thái kỹ thuật số. MFA được thiết kế để tăng cường các biện pháp riêng lẻ như nhấp chuột và hiển thị, thường tạo ấn tượng rằng quảng cáo có hiệu quả cao. Tuy nhiên, DV chỉ ra rằng các trang MFA làm giảm mức độ tương tác chung đối với quảng cáo hiển thị là 7% và đối với quảng cáo video là 28%, so với các kênh quảng cáo khác.
Có thể thấy, mặc dù AI tạo sinh mang lại tiềm năng to lớn, nhưng nó cũng được coi là “con dao hai lưỡi”, mở ra cơ hội cho các cuộc tấn công mạng tinh vi và phức tạp hơn. Việc khai thác AI tạo sinh để tạo thông tin giả, thực hiện các cuộc tấn công lừa đảo, xâm phạm quyền riêng tư và gia tăng gian lận quảng cáo đã tạo ra mối đe dọa lớn đối với an ninh thông tin và quyền riêng tư của người dân và doanh nghiệp.
Theo đó, các chuyên gia an ninh mạng khuyến cáo người dùng và doanh nghiệp nên có ý thức bảo vệ dữ liệu của mình; Việc chia sẻ dữ liệu cần phải được thực hiện cẩn thận và thông minh, đảm bảo áp dụng các biện pháp bảo mật và quản trị. Sự phối hợp từ cá nhân đến doanh nghiệp và chính phủ sẽ đóng vai trò quan trọng trong việc định hình tương lai của công nghệ AI thế hệ mới, đảm bảo sự phát triển mạnh mẽ và bền vững trong kỷ nguyên chuyển đổi số hiện nay.
Link nguồn: https://cafef.vn/rui-ro-an-toan-tu-cong-nghe-ai-tao-sinh-18824070107231254.chn