Згідно зі звітом Міжнародного економічного форуму 2024, дезінформація є найсерйознішим глобальним ризиком у короткостроковій перспективі. Цей ризик спричинений, зокрема, стрімким розвитком генеративного штучного інтелекту (ШІ), який сьогодні здатний створювати масиви маніпулятивного, “синтетичного” контенту.

Системи штучного інтелекту, зокрема генеративного ШІ, який може створювати нові дані, як-от зображення, текст або відео, набувають все більшої популярності й стають перспективним інструментом для різних галузей. Проте не виключено, що такі технології можуть використовуватись для зловмисних цілей, особливо для генерування матеріалів, що не відповідають дійсності та завдають шкоди суспільству.

Технології ШІ як інструмент для поширення дезінформації

Одним із найбільш поширених і найвідоміших методів створення дезінформації за допомогою ШІ є так званий deepfake – технологія, що дозволяє створювати реалістичні фото-, відео- або аудіоматеріали (так званий “синтетичний” контент), маніпулюючи зовнішнім виглядом або голосом людини. 

Діпфейки знайшли своє прикладне застосування в низці областей, зокрема в кіноіндустрії, де технологію використовують для відтворення голосів або облич акторів та історичних постатей. Розвиток цих технологій дав поштовх появі доступних для широкого загалу інструментів, таких як DALL-E та Midjourney, що зробило генерування матеріалів за допомогою ШІ швидшим і простішим. Хоча ці інструменти є перспективними для професійного й широкого використання, вони уможливлюють створення значної кількості шкідливого дезінформаційного вмісту.

Зокрема, технологія deepfake може застосовуватись у політичній пропаганді та дискредитації опонентів. Ще у 2017 році дослідники університету Вашингтону (University of Washington, USA) розробили діпфейк з експрезидентом США Бараком Обамою для того, щоб продемонструвати можливості машинного навчання у створенні реалістичних відео. А у 2023 році – вже від інтернет-користувачів та медіаплатформ – почали ширитись діпфейк-зображення із Дональдом Трампом, на яких він нібито заарештований, а також фейкове відео з Джо Байденом, в якому він зазначає, що для захисту України будуть відібрані чоловіки й жінки, що досягли двадцятирічного віку.

Діпфейки також почали активно створюватись після повномасштабного вторгнення Росії в Україну. Ймовірно, найбільш яскравим прикладом є створене в 2022 році відео-діпфейк з обличчям Володимира Зеленського, в якому президент наказує українським військовим скласти зброю та здатись. Хоча тоді оманливе відео було зроблене неякісно і швидко визнане як діпфейк, такі технології здатні швидко розвиватись та ставати все більш реалістичними.

Минулого року група американських дослідників провела експеримент для того, щоб оцінити здатність людей відрізняти автентичні відео від діпфейку. Результати показали, що значний відсоток американців неправильно ідентифікував автентичність відео – від 27% до 50% опитаних не змогли визначити правдивість представлених матеріалів. Це означає, що технології deepfake стають достатньо якісними для того, щоб ввести глядача в оману.

Застосування технологій ШІ в дезінформаційних цілях також стало можливим через розвиток великих мовних моделей (Large Language Models, LLM) на кшталт ChatGPT, Bard, Gemini та ін. Інструменти LLM можуть використовуватись як для генерування фейкових текстів і новин, так і для створення онлайн-ботів, які імітують особистість реальних людей.

Інше дослідження, проведене у цьому році, намагалось виявити, чи є пропаганда, створена за допомогою GPT-3, достатньо переконливою для читачів. Результати свідчать про те, що пропагандистські новини, згенеровані штучним інтелектом, можуть бути такими ж переконливими, як оригінальна пропаганда. Водночас переконливість вмісту збільшувалась, коли пропагандистське повідомлення було згенерованим у співпраці ШІ з людиною. Дослідники стверджують, що з появою більш розвинених моделей, як-от GPT-4, створені за допомогою ШІ матеріали можуть збільшити обсяг пропаганди та ускладнити її виявлення.

У ході свого розслідування команда NewsGuard ще у минулому році виявила близько тисячі ненадійних вебсайтів, що генерують новини за допомогою штучного інтелекту. Такі сайти, як зазначають експерти, працюють практично без людського нагляду і публікують статті, створені здебільшого за допомогою ботів. Прикладом цього є згенерована ШІ стаття про те, що психіатр премʼєр-міністра Ізраїлю нібито покінчив життя самогубством. Після публікації фейкова новина почала ширитись соціальними мережами та медіаплатформами.

Окрім того, генеративний ШІ уможливив створення ботів на основі ШІ – автоматизованих облікових записів, що створені для імітації поведінки людини, часто для зловмисних цілей. Створені за допомогою відкритого коду чат-боти New York Times показали, наскільки вразливими можуть бути технології ШІ до дезінформації та пропаганди. Можливості штучного інтелекту дозволяють не лише створювати пропагандистські повідомлення, але й додавати до них друкарські помилки, емоційно забарвлені слова та гіршу послідовність. Таким чином, коментарі ботів можуть ставати більш реалістичними, і їх буде важче ідентифікувати як такі, що згенеровані ШІ.

Використання штучного інтелекту для створення й поширення дезінформації також викликає значне занепокоєння серед експертної спільноти.

Кейс Маєрс, експерт з питань комунікаційної політики в американському дослідницькому інституті Virginia Tech, стверджує, що посилення дезінформації за допомогою ШІ спричинило низку практичних та юридичних питань. "Легкий доступ до ШІ означає, що дезінформацію, зокрема діпфейки, легше створювати та поширювати, тому законодавцям буде важче її відстежити. Юридична відповідальність за фейковий контент створює певні логістичні проблеми, оскільки багато осіб, які створюють контент, не можуть бути ідентифіковані або спіймані. Деякі з цих осіб живуть за межами країни, в якій публікується дезінформаційний контент, що ускладнює притягнення до відповідальності”, – зазначає він.

Ініціативи щодо регулювання ШІ в питаннях дезінформації в Європейському Союзі та Україні

У Європейському Союзі використання технологій deepfake та інших інструментів, які можуть використовуватись у дезінформаційних цілях, регулюється Законом ЄС про ШІ (AI Act) та Законом про цифрові послуги (Digital Services Act, DSA).

Нещодавно прийнятий Закон ЄС про ШІ визначає діпфейки як системи ШІ з обмеженим ризиком. Це означає, що для таких технологій діють окремі зобовʼязання щодо прозорості систем. Згідно зі Статтею 50 Закону, провайдери штучного інтелекту, зокрема діпфейків, що маніпулюють зображеннями, відео- та аудіоматеріалами або генерують текст, зобовʼязані позначати, що вміст був створений за допомогою штучного інтелекту. 

У 2022 році в ЄС також прийняли Закон про цифрові послуги, який частково стосується регулювання синтетичного дезінформаційного вмісту в онлайн-середовищі. Зокрема, постачальники онлайн-платформ повинні звертати увагу на те, як їхні послуги можуть використовуватися для поширення оманливого контенту, зокрема за допомогою алгоритмічних систем, а також оцінити засоби модерації контенту для усунення можливих ризиків. 

Окрім цього, Стаття 35.1 Закону зобовʼязує онлайн-платформи забезпечувати “помітні позначення” інформації, “незалежно від того, чи є вона згенерованим або маніпульованим зображенням, аудіо або відео, яка помітно нагадує реальних осіб, об'єкти, місця або події і помилково здається людині автентичною або правдивою”. 

Важливо зазначити, що у рамках виконання DSA передбачений механізм залучення Trusted Flaggers – громадських організацій, що здійснюють моніторинг онлайн-платформ на наявність незаконного вмісту, зокрема фейків, створених за допомогою ШІ. Система ґрунтується на добровільній співпраці таких організацій та онлайн-платформ для ефективнішого виявлення незаконного контенту та забезпечення захисту прав громадян ЄС.

Хоча законодавство ЄС, яке регулює використання синтетичного контенту, накладає додаткові зобовʼязання на провайдерів та платформи щодо позначення згенерованого ШІ вмісту, поки не існує достатньої кількості прямих доказів ефективності такого маркування. Більш того, наявних методів маркування може бути недостатньо для зменшення ризиків, створених поширенням синтетичного контенту. 

До прикладу, експерти Массачусетського технологічного інституту (Massachusetts Institute of Technology, USA) зазначають, що такі види маркування, як візуальні етикетки, водяні знаки, аудіоетикетки або текстові позначення можна легко видалити, маніпулюючи зображеннями за допомогою редакторів. Окрім цього, зловмисники можуть навмисно не позначати такий вміст, підриваючи зусилля щодо прозорості. Також є побоювання, що маркування може знизити інформаційну цінність матеріалу, створеного ШІ, та підірвати до нього довіру.

Оскільки Україна перебуває у процесі євроінтеграції, необхідно поступово узгоджувати національне регулювання із законодавством ЄС, зокрема у питаннях застосування технологій ШІ. Проте вже зараз український уряд вживає кроків для боротьби із ШІ дезінформацією. Зокрема, Міністерство цифрової трансформації запропонувало низку загальних інструментів, які повинні діяти до прийняття майбутнього законодавства. 

Одним з таких інструментів стало добровільне маркування систем ШІ, яке означає оприлюднення розробниками “чіткої та структурованої” інформації про системи ШІ. Завданнями позначень є підвищення прозорості щодо продуктів ШІ та покриття вимог, передбачених європейським законодавством. Потенційно таке маркування може стосуватись і вмісту, який був згенерований ШІ, що матиме наслідком і боротьбу із дезінформацією. 

Крім того, Мінцифри планує опублікувати низку секторальних рекомендацій, які повʼязані з застосуванням технологій ШІ у різних сферах. Першим документом в Україні, який надає такі рекомендації, є “Рекомендації з відповідального використання штучного інтелекту у сфері медіа”. Рекомендації для медіа спрямовані на забезпечення відповідального впровадження систем ШІ, дотримання професійних стандартів і, зокрема, стосуються використання цих технологій для обробки, генерування й поширення контенту.

У контексті створення контенту за допомогою генеративного ШІ медіа рекомендується розкривати інформацію про те, у який спосіб і коли було використано такі технології. Окрім цього, якщо матеріали містять контент, згенерований штучним інтелектом, рекомендується маркувати такий вміст, а також уникати поширення згенерованого ШІ контенту, який має на меті ввести в оману або поширювати дезінформацію.

За зразком Закону ЄС про цифрові послуги, в Україні також буде передбачений механізм Trusted Flaggers, спрямований на залучення українських організацій до розгляду скарг користувачів щодо порушення прав людини при використанні інструментів ШІ від провідних платформ. У такий спосіб Мінцифри пропонує додатковий інструмент для захисту прав людини, який не потребує суворих законодавчих рамок. Одним із потенційних напрямків діяльності “довірених прапорців” може стати перевірка на наявність оманливого або дезінформаційного контенту, який був згенерований ШІ.

Висновки і рекомендації

Технології штучного інтелекту можуть мати великий потенціал для боротьби з фейками, однак і здатні посилити дезінформаційні ризики. Хоча ШІ як інструмент не може бути шкідливим за замовчуванням, проте доступність його використання створює більше можливостей для того, щоб зловмисники могли створювати синтетичний фейковий контент швидше і масовіше. Крім того, дезінформацію, створену за допомогою ШІ, стає важче розпізнати, і це створює можливості для маніпулювання громадською думкою та введення суспільства в оману.

Наразі немає універсальних інструментів боротьби з дезінформацією, створеною за допомогою технологій ШІ. Більшість наявних рекомендацій зводяться до просвітницької діяльності із медіаграмотності та змін до законодавства. Практичні кроки в цьому напрямку робить ЄС, який серед цілей впровадження Закону про ШІ  називає протидію дезінформації.

Україні складніше набути таких ефективних інструментів, зокрема через те, що ЄС є ключовим ринком для всіх онлайн-сервісів і платформ. Проте в умовах протидії російській агресії та з огляду на виклики, які стоятимуть перед державою і суспільством у післявоєнний період, окремі кроки необхідно вживати просто зараз.

Такими заходами можуть бути:

1. Вдосконалення законодавства в частині боротьби з дезінформацією. Це може потребувати як змін до чинного законодавства, зокрема про медіа та інформацію, так і ухвалення законодавства про ШІ і дезінформацію. «Біла книга» з регулювання ШІ в Україні передбачає, що відповідне законодавство повинне з’явитися вже після завершення війни. Проте, з огляду на важливість цього питання для національної безпеки, дотримання відповідних вимог і стандартів, доцільно розглянути можливість запровадження секторального регулювання на основі норм Закону ЄС про ШІ раніше. 
2. Покращення механізмів маркування. Як зазначено у “Білій книзі”, Мінцифри планує запровадити добровільне маркування систем ШІ, що може стосуватись і ШІ-вмісту. Хоча теперішні методи маркування згенерованого ШІ контенту можуть бути неефективними, маркування досі вважається одним із допоміжних та необхідних інструментів для захисту від шкідливого ШІ-вмісту. У цьому контексті важливими кроками є підвищення точності ідентифікації згенерованого контенту та визначення контексту й цілей маркування. Процес розробки ефективного механізму маркування потребуватиме значної кількості тестувань, проте може мати позитивний вплив для боротьби з дезінформацією у довгостроковій перспективі. А впровадження таких механізмів може стати частиною пропонованих змін до законодавства.
3. Посилення співпраці з онлайн-платформами, зокрема через залучення громадянського суспільства. Налагодження співпраці з онлайн-платформами може бути потенційно дієвим неформальним заходом для боротьби з дезінформацією, особливо на етапі підготовки до українського законодавства, яке б регулювало використання штучного інтелекту. Це, зокрема, можливо через запропонований Мінцифрою механізм Trusted Flaggers. Ініціатива може не лише покращити досвід українських громадських організацій у виявленні незаконного контенту, але й стати інструментом для захисту суспільства від негативних дезінформаційних ризиків із використанням технологій ШІ.
4. Інтеграція інструментів ШІ для боротьби з дезінформацією. Штучний інтелект також є важливим інструментом для боротьби з дезінформацією. Новітні технології ШІ дозволяють аналізувати патерни й контекст та виявляти вміст, згенерований ШІ. Сьогодні вже існує низка інструментів на базі ШІ, які допомагають факт-чекерам, медіа й користувачам швидше й ефективніше виявляти діпфейки та запобігати їхньому поширенню. Для допомоги з ідентифікацією ШІ-контенту такі системи можуть, зокрема, бути особливо допоміжними в діяльності “довірених прапорців”, а також державних органів, відповідальних за інформаційну політику та безпеку.
5. Розробка ефективних комунікаційних інструментів протидії дезінформаційним ризикам ШІ. Хоча багато пропонованих підходів, зокрема просвітницькі програми з медіаграмотності, матимуть обмежений ефект, належна комунікація може сприяти попередженню ризиків, викликаних дезінформацією, створеною за допомогою ШІ. Зокрема, моніторинг і оперативне розвінчування згенерованих ШІ фейків із вказанням методів їх створення та комунікація із онлайн-платформами щодо видалення можуть суттєво знизити негативні наслідки. Такі інструменти можуть використовуватися у співпраці держави, медіа та громадянського суспільства, що може суттєво підвищити рівень довіри до них.
    

Авторка: Дарина Бойко