Автори: Дарина Бойко, Іван Городиський 

Даючи відсіч російській агресії, Україна почала використовувати широкий спектр технологій на основі штучного інтелекту (ШІ). Завдяки цьому українські військові отримали низку переваг на полі бою, які не були б доступні без застосування ШІ.

Водночас технології ШІ не лише відкривають нові можливості на полі бою, але й створюють суспільні ризики в частині дотримання прав та свобод людини. Тому важливо розуміти, якими можуть бути заходи щодо запобігання та вирішення ризиків застосування такого, “оборонного” ШІ. 

Застосування оборонного ШІ в Україні

“Сьогодні ми є таким собі полігоном для використання штучного інтелекту”, – визнав міністр цифрової трансформації Михайло Федоров у одному з інтерв’ю. При цьому ми тестуємо не лише українські розробки – відомі іноземні компанії користають з “вікна можливостей” для перевірки на практиці своїх технологій. Щоправда, багато які з них раніше вже зазнавали критики через безпекові і праволюдинні моменти (йдеться про наслідки застосування тих розробок). 

У 2022 році Україна оголосила про співпрацю з Clearview AI – американською компанією, яка розробляє технології ШІ для розпізнавання осіб за допомогою зображень з соціальних мереж та інтернету. Повідомляється, що допомога Clearview AI прискорила процес збору доказів для переслідування ймовірних воєнних злочинців завдяки ідентифікації осіб як на територіях, окупованих починаючи з 2014 року, так і з часу повномасштабного вторгнення 24 лютого 2022 року. Цей інструмент застосовується також для ідентифікації українських дітей, яких примусово вивезли з дитячих будинків на окупованих територіях і багато з яких було усиновлено російськими сім’ями. Його використовують і для виявлення російських диверсантів та в низці інших розвідувальних і контррозвідувальних цілей. Станом на кінець 2022 року компанія сприяла пошуку 125 тисяч осіб на території України.

«З початком збройної агресії РФ проти України оперативні підрозділи органів системи МВС використовують цифрову платформу американської компанії Clearview AІ для ідентифікації осіб при документуванні воєнних злочинів. Створений компанією штучний інтелект надає правоохоронним органам можливість отримувати інформацію щодо ідентифікації осіб за допомогою спеціальної платформи для розслідувань… Завдяки співпраці з американськими колегами ми маємо змогу ефективно розслідувати злочини російських окупантів та ідентифікувати злочинців», – коментував продовження співпраці із американською компанією заступник міністра внутрішніх справ України Леонід Тимченко в квітні 2023 року.

Того ж року Україна почала використовувати продукцію американської компанії Palantir, яка займається розробкою технологій ШІ для військової промисловості. Основна технологія – модульна система Palantir Edge AI – використовується для аналізу різних наборів даних. Програмне забезпечення на основі ШІ допомагає автоматизувати такі процеси, як зліт і посадка безпілотного літального апарату, а також захоплення цілей при виконанні бойових завдань. Алекс Карп, генеральний директор Palantir, зазначає, що їхня компанія активно допомагає Україні у військовій сфері і відповідає за “більшість цілей”, ідентифікованих ШІ, в Україні. Окрім цього, Palantir сприяє розвитку технологій розслідування воєнних злочинів. За словами генерального прокурора Андрія Костіна, компанія в партнерстві з Microsoft відкриває нові шляхи ведення розслідування, зокрема за допомогою інструментів аналізу даних та розпізнавання голосу.

Ще одна американська фірма – Primer – займається автоматизованим аналізом даних, використовуючи технологію обробки природної мови. Компанія ідентифікує, транскрибує, перекладає та аналізує голосові повідомлення росіян за допомогою ШІ. Шон Гурлі, генеральний директор Primer, стверджує, що ця технологія виконує чотири функції: збір і трансляцію аудіоматеріалів, усунення шуму, переклад та виділення ключових тверджень, які стосуються інформації на полі бою. В аналізі також використовуються дані з незахищених російських джерел, як-от соціальні мережі та радіоканали. Деякі інші американські компанії, зокрема Scale AI, надали Україні схожі технології для аналізу зображень.

Однак ці технології ШІ мають, згідно з військовою термінологією, “подвійне призначення” і можуть застосовуватися також у мирному житті. І розширення їх застосування на нові сфери може тягнути за собою ризики для демократичних прав та свобод.

Головні виклики використання оборонного ШІ 

Попри те, що використання згаданих технологій ШІ дає очевидні позитивні результати в ході збройного протистояння з Росією, вагомим викликом для їх використання в Україні є проблема забезпечення захисту прав людини. До прикладу, компанія Clearview AI, яка надає свої послуги Україні, зазнає значної критики серед міжнародної спільноти. Національні регулятори Італії, Австрії та Франції вже наклали санкції та багатомільйонні штрафи на компанію через порушення норм Загального регламенту про захист даних (General Data Protection Regulation, GDPR). Цим було фактично заморожено її діяльність на ринках держав-членів ЄС. Тож Україна в межах театру російсько-української війни надає компанії шанс перевірити та довести ефективність своїх розробок у ході практичного застосування.

Представники громадянського суспільства в Україні зазначають, що подальше використання технологій, заборонених на території деяких держав ЄС, може загальмувати або поставити під загрозу процес вступу України до ЄС. Експерти Лабораторії законодавчих ініціатив Анна Людва і Тетяна Авдєєва серед головних ризиків застосування технологій Clearview AI виділяють: залежність від алгоритму через неучасть людини у верифікації рішення про ідентифікацію, виклики конфіденційності та недостатній захист даних від зловмисного втручання в цілому. 

“Основна претензія до діяльності Clearview AI пов’язана з тим, що її інструмент практично знищує право людини на приватне життя. Технологія може впізнати будь-кого, чиє фото хоча б раз з’явилося хоча б в одній соціальній мережі. Фактично Clearview AI є найбільш досконалим інструментом масового спостереження, найбільшим втіленням так званого «капіталізму спостережень»”, – попереджала ще в березні 2022 року медіаекспертка Надія Баловсяк.

Окрім цього, застосування технологій ШІ навіть у суто воєнних цілях викликає занепокоєння серед міжнародних організацій та експертів. Як повідомляє міжнародна медіаплатформа OpenDemocracy, критика зосереджена передусім на можливій помилковій ідентифікації цілей, упередженості та надмірній довірі до алгоритму біометричних систем. Застереження викликають також непрозорість алгоритмів та можливість недотримання конфіденційності персональних даних у майбутньому. 

Не розв’язаним залишається питання відповідальності за негативні наслідки використання систем. Олексій Костенко, Дмитро Журавльов та ін. звертають пильну увагу на недостатній фізичний та етичний контроль над розробкою і застосуванням ШІ. Однією з найбільших проблем застосування ШІ у військових цілях вони вважають ідентифікацію шкідливих даних. За словами виконавчого директора Palantir Алекса Карпа, на полі бою “є великі етичні проблеми”. “Якщо ви використовуєте певний алгоритм для створення військового рішення, і воно піде не за планом, хто буде відповідальним?” – каже він.

Вищезгадані фактори створюють ризики для подальшого використання технологій, схожих на системи Clearview AI, Palantir та інших, в Україні. Захист прав людини при використанні технологій ШІ залишається головною проблемою для українських регуляторів у контексті війни. Віталій Гончарук, голова Експертного комітету з питань розвитку сфери штучного інтелекту в 2020–2022 роках, зазначає, що війну можна виграти “лише за допомогою дійсно розвинених технологій ШІ, розвиненої інфраструктури та кваліфікованого інженерно-управлінського персоналу”. При цьому він вважає, що важливим елементом регуляції є розмежування двох сценаріїв розвитку ШІ – “мирного” та “воєнного” – і розробки для кожного з них відповідних правил.

Перспективи регулювання

Україна вже робить перші кроки в напрямку регуляції штучного інтелекту, зокрема в частині захисту демократичних прав та свобод при застосуванні технологій ШІ. У Концепції розвитку штучного інтелекту в Україні, схваленій у 2020 році, зазначено, що одним із головних принципів розробки й реалізації ШІ в Україні є “дотримання верховенства права, основоположних прав і свобод людини і громадянина, демократичних цінностей, а також забезпечення відповідних гарантій під час використання таких технологій”.

Проблему регулювання ШІ в Україні ставлять на порядок денний і євроінтеграційні процеси. Зокрема, у жовтні 2023 року Міністерство цифрової трансформації оприлюднило Дорожню карту з регулювання штучного інтелекту в Україні. Цей документ не передбачає створення стандартів і правил щодо використання ШІ в окремих галузях – подальша регуляція ШІ буде виконуватись за принципом “саморегуляції”. Водночас Дорожня карта є підтвердженням намірів уряду поступово імплементувати Закон ЄС про ШІ (AI Act), який приділяє значну увагу захисту прав людини при впровадженні та застосуванні ШІ. 

На першому етапі регулювання, який, згідно з Дорожньою картою, триватиме до 2025/2026 року, уряд намагатиметься “не зарегулювати” галузь ШІ, водночас готуючи бізнес до юридично обов’язкової регуляції. При цьому, обговорюючи подальшу регуляцію ШІ в оборонній сфері, заступник міністра цифрової трансформації з питань розвитку ІТ-сфери Олександр Бортняков зазначив, що під час повномасштабної війни регуляція ШІ у проєктах, що стосуються воєнних потреб, не передбачається. Попри це, серед українських експертів у галузі ШІ з’являються дискусії щодо застосування оборонного ШІ після закінчення війни. Однак ці питання потребуватимуть додаткових обговорень та розробки окремих стандартів. 

“Нам потрібно використовувати принцип зонування: яким має бути регулювання ШІ під час війни та після перемоги. Під час війни ми плануємо розробити законодавчу базу, яка не заважатиме використанню інновацій та технологій ШІ задля перемоги. Але після війни регуляція ШІ має допомогти Україні й надалі посилювати демократичність”, – повідомила для Delo.UA Анна Булах, голова з етики ШІ та партнерства у Respeecher та член комітету ШІ при Мінцифри.

Чинне законодавство України, зокрема у питаннях захисту персональних даних, а також органи правопорядку та процесуальні кодекси наразі не врегульовують застосування ШІ. А покладатися виключно на саморегулювання у випадку застосування технологій, розроблених компаніями Clearview, Palantir та ін., може бути недостатньо для усунення тих ризиків, які виникають у зв’язку з можливими наслідками їхнього застосування за межами поля бою.

Висновки й рекомендації

Штучний інтелект довів свою ефективність під час російсько-української війни. Водночас варто враховувати і ризики, які несе для демократичних прав та свобод розробка та застосування технологій ШІ. Ці ризики не можуть підлягати лише галузевому “саморегулюванню”, зокрема коли це стосується застосування технологій ШІ за межами відсічі російській агресії. Тож основним викликом є захист прав людини і дотримання принципів, яких має дотримуватися український уряд у сфері застосування ШІ.

Усунути ризики та забезпечити справедливе й підзвітне застосування технологій ШІ у “мирній” сфері, можуть, зокрема, такі заходи:

• Внесення змін до чинного законодавства: слід усунути ключові прогалини регулювання, які виникли при застосовуванні технологій ШІ в оборонних цілях, з метою забезпечення гарантій захисту прав та свобод людини. Експерти Лабораторії цифрової безпеки пропонують з цією метою внести зміни до законів "Про захист персональних даних", "Про національну поліцію", а також до Кримінального та Кримінально-процесуального кодексів.
• Забезпечення пріоритетності впровадження регуляції у завдання розробки та використання технологій Ш, що використовуються для оборонних цілей. Наслідки застосування цих технологій є вразливим місцем, а це означає, що тут не можна покладатися лише на саморегулювання, бо воно не може вирішити всі пов’язані з цим виклики. Ризик втручання в демократичні права та свободи є головним аргументом на користь проактивних дій.
• Гарантування контролю за застосуванням цих технологій. Результати, згенеровані за допомогою застосування ШІ, повинні бути верифіковані відповідальними особами перед прийняттям остаточного рішення на їхній основі. Крім того, саме використання цих технологій в роботі органів правопорядку має підлягати судовому контролю, аналогічному, як при застосуванні негласних слідчо-розшукових дій (НСРД).
• Публічність процесу регламентації застосування цих технологій. Необхідні постійні обговорення та дискусії з залученням експертів та стейкголдерів з різних галузей для досягнення балансу інтересів між владою, громадянським суспільством та компаніями-розробниками ШІ.

Головним завданням для українського регулювання сфери застосування технологій оборонного ШІ має стати забезпечення належного захисту прав людини, які можуть постраждати в ході такого застосування, особливо якщо ці технології застосовуються не на полі бою. Саме це має стати стрижневою ідеєю при створенні правового регулювання технологій ШІ, поруч із забезпеченням економічного розвитку галузі.

Матеріал підготовлено за підтримки Європейського Союзу та Міжнародного фонду «Відродження» у рамках спільної ініціативи «Європейське Відродження України». Матеріал представляє позицію авторів і не обов’язково відображає позицію Європейського Союзу чи Міжнародного фонду «Відродження».