Авторка: Дарина Бойко

Розширення застосування штучного інтелекту (ШІ) викликає дедалі більшу потребу в нормативно-правовій базі, яка б регулювала його застосування. У квітні 2021 року Європейський Союз (ЄС) запропонував перший проєкт законодавства, який має регламентувати застосування ШІ. Прийняття законодавства ЄС в сфері ШІ перебуває на етапі узгодження між Європейською Комісією, Європейським Парламентом і Радою ЄС. З іншого боку, в березні 2023 року Британія запропонувала власний, «проінноваційний підхід» до регуляції ШІ, який суттєво відрізняється від європейської моделі.

На тлі спроб інших держав впровадити регулювання ШІ ЄС та Британія стали першими, які запропонували комплексні регуляторні підходи й можуть бути зразком для інших країн, зокрема й для України, в регулюванні ШІ.

Європейський підхід

Проєкт Розпорядження Європарламенту та Ради про встановлення узгоджених правил щодо штучного інтелекту (Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act, AI Act) є «горизонтальним», тобто запроваджує правила для використання ШІ в усіх секторах і галузях. 

Документ визначає системи ШІ як «програмне забезпечення, розроблене з використанням однієї або кількох технік і підходів… [машинного навчання, логічних і статистичних моделей], яке може для заданого набору цілей генерувати такі результати, як: контент, прогнози, рекомендації або рішення, що впливають на середовище, з яким вони взаємодіють». 

Євросоюз планує використовувати багаторівневий підхід до регулювання систем ШІ, що ґрунтується на оцінці їх ризику: неприйнятного, високого, обмеженого та мінімального. «Неприйнятний ризик» стосується використання ШІ для соціального оцінювання або скорингу, який має бути повністю забороненим, за винятком невеликої кількості випадків, наприклад, при оцінці кредитоспроможності. Технології ШІ «високого ризику», як-от системи прийняття правових рішень, матимуть певні обмеження з боку законодавства й підлягатимуть детальному регулюванню та сертифікації. Натомість технології ШІ «обмеженого ризику» будуть зобов’язані гарантувати прозорість їхньої роботи: до таких, зокрема, належить чат-бот ChatGPT. Нарешті четвертою групою будуть технології ШІ «мінімального ризику», для яких регуляція не потрібна.

Європейська комісія планує запровадити «регуляторну пісочницю» (the regulatory Sandbox) для ШІ – застосування регуляторних інструментів для тестування протягом обмеженого часу інноваційних продуктів систем ШІ під наглядом регулятора. Очікується, що «регуляторні пісочниці» будуть сприяти поліпшенню обізнаності про ШІ у підприємницькому та правовому секторах. Окрім цього, Європарламент вимагає від кожної держави-члена ЄС створити національний наглядовий орган для контролю за використанням ШІ. 

Проєкт закону передбачає також створення системи для реєстрації окремих додатків штучного інтелекту з високим ризиком у загальнодоступній базі даних ЄС. Реєстрація дозволить «перевірити, чи система штучного інтелекту високого ризику відповідає вимогам, викладеним у пропозиції». Розробники повинні будуть надавати інформацію про роботу технологій ШІ й самостійно повідомляти про інциденти й несправності, пов’язані з їхньою роботою.

Порушення законодавства тягнутиме за собою адміністративне покарання у вигляді штрафів. Їх можуть отримати постачальники, імпортери, дистриб’ютори систем ШІ й уповноважені органи з оцінки ШІ. Штрафи сягатимуть 40 мільйонів євро або 7% річного обороту для компаній.

Попри комплексний характер європейського регуляторного підходу проєкт Закону щодо ШІ має ряд недоліків.

По-перше, нечіткість механізмів оцінки ризику в проєкті Закону викликає стурбованість громадянського суспільства. У 2021 році 115 громадських організацій опублікували колективне звернення, закликаючи віддати пріоритет правам людини в Законі ЄС про ШІ. Чинна редакція, що «базується на оцінці ризиків», названа у зверненні нефункціональною, тому що «підхід, при якому системи ШІ класифікуються ex ante і приписуються до певних груп ризику, не враховує, що рівень ризику залежить від контексту, в якому застосовується система, і не може бути повністю визначений заздалегідь». 

По-друге, централізоване регулювання з боку ЄС може створити напругу в питанні розподілу повноважень між чинними та новими регуляторами і призвести до того, що регулюванням технологій ШІ, які вже використовуються в різних сферах, будуть займатись різні органи влади. Як наслідок, регуляторні норми можуть по-різному тлумачитися та застосовуватися, оскільки уповноважені особи працюватимуть у різних установах.

Британський підхід

На початковому етапі, щоб уникнути стримування інновацій у сфері ШІ, Британія використовує підхід, який не накладає обмежень для розробників ШІ та бізнесу, і наразі не планує розробляти окремих нормативно-правових актів щодо ШІ. Регуляція в цій сфері спиратиметься на чинне законодавство Британії, зокрема на Закон про захист даних 2018 року (Data Protection Act 2018) – для гарантування права на приватність – і на Закон про рівність 2010 року (Equality Act 2010) – для запобігання дискримінації і порушенню прав людини.

У Білій книзі окреслені основні принципи, яких мають дотримуватися компанії, що розробляють і використовують ШІ:

• безпека і надійність, 
• прозорість і можливість пояснення, 
• справедливість, 
• підзвітність і управління,
• оспорюваність і відшкодування. 

Уряд має на меті заохотити чинні регуляторні органи тлумачити й імплементувати ці принципи так, щоб вони гарантували «відповідальну розробку та використання ШІ в усіх секторах економіки». Початковий етап впровадження передбачає добровільне виконання принципів – регулятори не будуть зобов’язані здійснювати контроль за їх дотриманням.

Визначення ШІ в Білій книзі базується на двох характеристиках, які, на думку уряду Британії, «викликають потребу в регуляторній реакції». Це: 1) адаптивність – здатність навчатись і робити висновки, що не були прямо передбачені програмістами ШІ; 2) автономність – можливість ШІ приймати рішення без постійного контролю з боку людини.

Британія, як і ЄС, має намір представити «регуляторну пісочницю», що об’єднуватиме регуляторів, які сприятимуть підтримці й поширенню інноваційних продуктів. «Пісочниця» Британії буде призначена для оцінки відповідності регуляції новим технологіям і для її вдосконалення.

Хоча експерти називають британський підхід щодо регуляції ШІ перспективним, ця модель може мати прогалини в питаннях захисту прав людини та діяльності регуляторів ШІ. Зокрема, британський підхід викликає сумніви щодо захисту основних прав. Комісія з питань рівності та прав людини (EHRC) Британії стверджує, що пропозиції щодо регуляції ШІ не відповідають вимогам подолання ризиків для прав людини. Голова EHRC, баронеса Кішвер Фолкнер, стурбована безконтрольністю ризиків, пов’язаних із використанням ШІ. «Будь-яка нова технологія, яка має принести інновації, забезпечуючи при цьому нашу безпеку, потребує ретельного контролю. Це включає нагляд за тим, щоб ШІ не посилював упередження в суспільстві та не призводив до нової дискримінації», – зазначає вона. Комісія закликає уряд Великобританії створити надійну нормативно-правову базу, яка контролюватиме ризики ШІ для прав людини.

Окрім цього, британський децентралізований підхід може спричинити проблеми для послідовності та ефективності управління ризиками ШІ. Існують галузі економіки Британії, які не регулюються або регулюються лише частково. Як наслідок, невідомо, хто відповідатиме за управління ШІ в галузях з невизначеними регуляторами.

Допоміжні функції центральних міжгалузевих регуляторів також недостатньо деталізовані. Тому незрозуміло, чи матимуть регулятори ресурси для визначення нових ризиків, особливо від базових моделей, які мають міжсекторний вплив. Доктор Ендрю Гарет, президент Королівського статистичного товариства (the Royal Statistical Society), зазначає: «Існують ризики щодо розподілу відповідальності між різними чинними регуляторами. Нам потрібна послідовна, зрозуміла та легкодоступна структура, яку можна застосувати до всіх секторів. Важко зрозуміти, як фрагментація регулювання допомагає цьому».

Гнучкість підходів

Закон ЄС про ШІ, очевидно, є негнучким. Універсальний для всіх галузей підхід передбачає комплексну систему правил, але його жорсткість – це недолік для такої швидкозмінної сфери, як ШІ. Відсутність гнучкості спричинена й тим, що ризики систем ШІ оцінюються ex ante – перед їхнім використанням, а не в ході імплементації. Як зазначають автори Закону, «якщо через два роки небезпечний додаток ШІ, з «неприйнятним» рівнем ризику, буде використано в досі непередбаченому секторі, закон не пропонує механізму перенесення його на рівень системи “високого ризику”». Також існує загроза «стримування інновацій» – бізнеси не будуть вмотивовані розробляти нові системи ШІ через суворість правил, обмежень і системи штрафувань.

Британська модель більш адаптивна, ніж модель ЄС, і дає більше можливостей для бізнесу й інновацій. Адаптивність британського підходу дає можливість пристосовуватись до появи нових технологій. Попри це, надмірну гнучкість і необов’язковість британської пропозиції критикують за відсутність офіційно закріплених законодавчих норм для застосування ШІ. 

Британські експерти вважають за потрібне створити законодавчі принципи, які будуть розроблені поза загальним правом. Такі принципи можуть захистити від потенційної шкоди ШІ заздалегідь, а не після їх виникнення. У документі британського Товариства юристів (The Law Society), поданому до Спеціального комітету з науки і технологій Палати громад, зазначено, що головним недоліком прецедентного права є застосування правових принципів після того, як було завдано шкоду. Натомість законодавчий підхід гарантує зрозумілу структуру обмежень та відшкодувань. 

Висновки й рекомендації

Головним ризиком моделей Британії та ЄС є загроза виникнення прогалин у регулюванні. Зокрема, існує занепокоєння щодо відсутності методології оцінки ризику систем ШІ. Наприклад, певні системи ризикують потрапити в прогалини між категоріями ризику, які пропонує Закон ЄС. Критерії визначення ризиків, особливо для систем неприйнятного ризику, нечіткі. Залишається незрозумілим, як на практиці визначається шкода та які програми можуть бути заборонені.

З іншого боку, аналізуючи Білу книгу Британії щодо ШІ, Інститут Ади Лавлейс (Ada Lovelace Institute) підкреслює, що ймовірні випадки, коли регулятори не будуть впевнені у своїй здатності ефективно визначити потенційну шкоду ШІ. Сумніви можуть бути викликані браком інформації або розуміння конкретного застосування ШІ. Труднощі виникатимуть при визначенні рівня ризику, до якого належать певні технології, а також при спробах пом’якшити або контролювати ризики, створені ними. Інститут висловлює необхідність розробки різних механізмів для оцінки ризику систем ШІ та їхнього впливу на різних етапах «життєвого циклу».

Потреба в чіткій методології оцінки ризику ШІ ставить перед регулюванням та органами, які його здійснюватимуть, низку складних питань:

• Хто повинен брати відповідальність за оцінювання ризиків?
• Які індикатори визначатимуть рівень ризику?
• Чи є для цього досвід та ресурси?

Підходи Британії та ЄС мають потенціал для реалізації. Проте обидва ще перебувають на етапі розробки й потребують допрацювань у питаннях оцінки ризику, дотримання прав людини та механізмів впровадження. Ключовим викликом для регуляції є стрімкий розвиток технологій, який ускладнює оцінку перспектив розвитку ШІ та потенційної шкоди від його використання. Водночас і пом’якшення ризиків у обох регуляторних підходах є можливим. 

Аналіз цих моделей дає змогу запропонувати кілька рекомендацій для розробки законодавчого регулювання ШІ, зокрема: 

1. Знайти баланс між гнучкістю та регламентованістю. Регуляція ШІ повинна спиратися на закріплену нормативно-правову базу та законодавчі принципи для використання технологій. Крім того, потрібен простір для вдосконалення правил з урахуванням розвитку ШІ. Адаптивний до змін підхід, який включає законодавчі гарантії, сприятиме ефективному розвитку технологій та швидкому реагуванню на можливі ризики ШІ.
2. Вдосконалити визначення ШІ та основну термінологію, яка стосується його використання. Визначення ШІ має бути чітким, конкретизованим і вичерпним. Термінологія повинна стосуватись виключно тих понять, які потребують регуляції. Зрозумілість і чіткість допоможуть уникнути непорозумінь між розробниками, користувачами та регуляторами ШІ. Повне розуміння ШІ та його термінології сприятиме ефективній комунікації та співпраці між зацікавленими сторонами. 
3. Розробити методологію оцінки ризиків ШІ. Законодавцям необхідно визначити, за якими категоріями будуть визначатись рівні ризику систем ШІ. Для цього потрібна чітка методологія з переліком інструментів та індикаторів, за допомогою яких обчислюватиметься рівень ризику тої чи іншої системи. Механізми оцінки ризику мають використовуватись на кожному етапі розробки та застосування системи ШІ. 
4. Забезпечити гарантії захисту прав людини. Захист прав людини повинен бути ключовим принципом для регуляції ШІ. Застосування ШІ, яке відповідає основним правам людини, повинно перебувати під контролем регуляторів. Обов’язок регуляторів – забезпечити розробку таких систем ШІ і таке впровадження систем ШІ, щоб права людини були пошановані. Необхідно сформувати чіткі стандарти і вказівки для розробки та використання ШІ, щоб запобігти їх безвідповідальному використанню та дискримінації особи за будь-якою ознакою. Крім того, необхідно проводити регулярні аудити для контролю за дотриманням цих правил й усунення будь-яких порушень. 
5. Впорядкувати повноваження регуляторів ШІ. Обидва регуляторні підходи повинні передбачати чіткий та структурований розподіл відповідальностей між регуляторами, незалежно від того, чи буде створений центральний регулятор ШІ. Важливо, щоб у рамках регулювання ШІ, була створена чітка й прозора основа для прийняття рішень. Розподіл повноважень може запобігти хибному тлумаченню принципів і заощадити час та ресурси. До того ж, сприяння співпраці між регуляторними органами та стейкхолдерами може забезпечити ефективніше регулювання, яке враховує реалії розробки та впровадження ШІ.

Матеріал підготовлено за підтримки Європейського Союзу та Міжнародного фонду «Відродження» у рамках спільної ініціативи «Європейське Відродження України». Матеріал представляє позицію авторів і не обов’язково відображає позицію Європейського Союзу чи Міжнародного фонду «Відродження».