Авторка: Дарина Бойко 

Сьогодні штучний інтелект (ШІ) трансформує галузі, значно покращуючи ефективність та швидкість виконання завдань. Водночас стрімкий розвиток цих технологій вже викликає занепокоєння щодо їхньої конфіденційності, безпеки та етичного використання як серед представників держав, так і з боку громадянського суспільства. 

У зв’язку із цим, уряди провідних держав розробляють правила для управління ризиками штучного інтелекту, через що компанії-розробники ШІ можуть зіткнутися із проблемою збереження конкурентоспроможності та належного розвитку галузі. У звʼязку з цим баланс між сприянням інноваціям і забезпеченням відповідального розгортання штучного інтелекту потребує грамотної стратегії, яка відповідає як нормативній базі, так і бізнес-цілям.

Жорстке європейське регулювання і реакція бізнесу

Першим у світі законодавчим актом, що регулює розробку й використання штучного інтелекту, став Закон Європейського Союзу про штучний інтелект (The EU Artificial Intelligence Act). Закон спрямований на забезпечення прозорості та захисту від можливих ризиків, спричинених технологіями ШІ.

Закон встановлює зобовʼязання для розробників та користувачів інструментів ШІ залежно від рівня їхнього ризику. Інструменти неприйнятного ризику, як-от соціальний скоринг або біометрична ідентифікація та категоризація, вважаються загрозливими для громадян та будуть повністю заборонені, за винятком деяких систем для правоохоронних органів. Інструменти, що можуть нести шкоду для безпеки та основних прав людини, потрапляють у категорію високого ризику. До таких технологій здебільшого належать інструменти з конкретних сфер, наприклад, освіти, медицини, правоохоронних органів або правосуддя.

Певні системи, зокрема інструменти генеративного ШІ, матимуть окремі вимоги щодо прозорості та дотримання законодавства ЄС про авторське право. Це передбачає, що розробники такого ШІ зобовʼязані розкривати, що певний контент був згенерований ШІ, запобігати створенню незаконного вмісту, а також публікувати резюме щодо даних, які використовуються для навчання моделей.

Окрім цього, Закон накладає обмеження на моделі загального призначення (General-Purpose AI, GPAI), які призначені для виконання широкого спектру завдань у різних сферах. Згідно з положеннями, розробники таких моделей повинні:

• складати технічну документацію, зокрема відомості про результати оцінювання, процес навчання і тестування;
• надавати інформацію та документацію постачальникам, які мають намір інтегрувати модель у свої системи штучного інтелекту;
• дотримуватися законодавства про авторське право та суміжні права;
• публікувати детальні звіти про дані, які використовуються для навчання моделі штучного інтелекту загального призначення.

Правила Закону діють як на європейських розробників, так і на компанії та постачальників, які розміщують свою продукцію на ринку ЄС. 

Закон набув чинності 1 серпня 2024 року. Початок виконання більшості положень Закону планується 2 серпня 2026 року.

Проєкт Закону зустрів негативну реакцію з боку бізнесу через жорсткі вимоги до компаній, які розробляють технології ШІ. У 2023 році десятки європейських технологічних компаній виступили проти запропонованого Закону, заявивши, що його положення можуть загрожувати конкурентоспроможності на ринку штучного інтелекту.

У відкритому листі, який був підписаний більш ніж 150 керівниками компаній, йшлося про те, що Закон “поставить під загрозу конкурентоспроможність та технологічний суверенітет Європи, не вирішуючи ефективно проблем, з якими ми зішовхуємося і будемо зіштовхуватися”. Як заявили підписанти, компанії, які впроваджують та створюють системи ШІ, можуть не впоратись із витратами на відповідність вимогам та оцінку ризиків.

У відповідь на звернення євродепутат і один із розробників Закону про ШІ Драгош Тудораче зазначив, що “агресивне лобі кількох захоплює інші серйозні компанії", підриваючи “незаперечну перевагу Європи”.

Проте й напередодні прийняття Закон зазнавав значної критики з боку інших стейкхолдерів. Організація France Digitale, що представляє європейські стартапи та інвесторів, заявила, що регулювання деяких технологій є “дуже суворим” і може зашкодити багатьом європейським стартапам. "Ми закликали не регулювати технологію як таку, а регулювати використання технології. Рішення, прийняте Європою, зводиться до регулювання математики, що не має особливого сенсу", – зазначила група.

Макс фон Тун, директор Інституту відкритих ринків у Європі, підкреслив, що Закон містить “значні прогалини”. За його словами, найбільшою загрозою є технологічні монополії, адже ризики штучного інтелекту “нерозривно пов'язані з масштабом і силою домінуючих компаній, що розробляють і впроваджують ці технології”.

Таке занепокоєння викликане попереднім досвідом, зокрема дією Загального Регламенту ЄС про захист персональних даних (GDPR). Провідні технологічні компанії, такі як Google, Meta, X та LinkedIn, призупинили свої проєкти з інструментами ШІ на території ЄС через регуляторні вимоги GDPR.

Дії регуляторів викликали хвилю обурення через “брюссельську бюрократію”, у звʼязку з чим компанії розпочинають лобістські кампанії проти “жорстких репресій” щодо технологій ШІ. До прикладу, у відкритому листі директорів Meta на чолі з Марком Цукербергом, підписаному у вересні цього року, зазначається, що ЄС “став менш конкурентоспроможним та менш інноваційним порівняно з іншими регіонами, і тепер він ризикує ще більше відставати в епоху штучного інтелекту”.

Інтенсивне лобіювання технологічних компаній призвело до дискусій щодо помʼякшення певних правил ЄС щодо штучного інтелекту. Європейська Комісія проводить обговорення щодо того, щоб зробити значну частину положень Закону про ШІ добровільною. Особливо це стосується правил, спрямованих на захист від насильницького та неправдивого контенту або використання ШІ для втручання у вибори.

Очікується, що новий мандат Європейської Комісії більше зосередиться на залученні інвестицій ШІ. Президентка Європейської Комісії Урсула фон дер Ляєн заявила, що ЄС спрямують 200 мільярдів доларів на інвестиції в штучний інтелект, щоб мати змогу конкурувати з США та Китаєм.

У такий спосіб законодавці ЄС намагаються знайти баланс між забезпеченням виконання правил та задоволенням інтересів технологічних компаній.

Регуляція ШІ у США і Каліфорнійський законопроєкт

Закон ЄС про ШІ є поки єдиним законодавством у світі, що регулює індустрію штучного інтелекту. Натомість у США ще ведуться дискусії щодо доцільності запровадження більш жорсткого регулювання цих технологій на національному рівні.

У 2023 році представники великих технологічних компаній заявляли про необхідність регулювання штучного інтелекту в США. До прикладу, директор OpenAI Сем Альтман закликав законодавців пришвидшити процес прийняття національного законодавства, яке б забезпечило захист від ризиків, спричинених ШІ. Його побоювання полягають у тому, що неврегульована індустрія ШІ може завдати “значної шкоди світу”. “Якщо ця технологія виявиться неправильною, все може піти зовсім не так, і ми хочемо говорити про це… Ми хочемо працювати з урядом, щоб цього не сталося”, – зазначив він. 

Наразі у США немає всеохопного федерального законодавства, що регулювало б штучний інтелект. Політика чинної адміністрації щодо ШІ вказує на зменшення регуляторних рамок для сприяння інноваціям.

На цьогорічному Саміті ШІ в Парижі віцепрезидент США Джей Ді Венс заявив, що США застосують “агресивний” підхід до розвитку галузі ШІ, додавши, що “надмірне регулювання сектору штучного інтелекту може вбити трансформаційну галузь”.

Окрім цього, у перший день президентства Дональд Трамп скасував указ Джо Байдена 2023 року про боротьбу з ризиками штучного інтелекту. У новому указі Трампа щодо ШІ йдеться, що теперішній підхід буде спрямований на “зміцнення позицій світового лідерства [США] в галузі штучного інтелекту та забезпечення світлого майбутнього для всіх американців”.

Попередній уряд США намагався запровадити рамки та керівні принципи використання цих технологій. Указ Байдена описував підхід, який мав би лежати в основі майбутнього регулювання технологій ШІ. Він пропонував ширший спектр рекомендацій та стандартів для використання штучного інтелекту. Виконавчий указ мав на меті закріпити такі принципи, як сприяння інноваціям, міжнародну співпрацю та тестування систем ШІ для безпеки та надійності. Документ також закликав Міністерство торгівлі США надати вказівки щодо автентифікації вмісту та водяних знаків для маркування контенту, створеного ШІ.

Низка технологічних компаній підтримала дії нової адміністрації. До прикладу, генеральний директор ШІ-компанії Scale Александр Ван оптимістично налаштований щодо планів уряду США. Підприємець стверджує, що команда Трампа “вже задає тон дуже продуктивній адміністрації з великою кількістю глибокої співпраці між промисловістю та урядом".

На противагу деякі експерти галузі висловили занепокоєння щодо потенційних ризиків, пов’язаних із відсутністю федерального нагляду. Наталія Моджеска, директорка з досліджень штучного інтелекту в аналітичній фірмі Omdia, зазначила, що усунення гарантій щодо регуляції ШІ насправді “вводить невизначеність і перекладає тягар розробки рамок зменшення ризиків на окремі компанії, збільшуючи витрати та відповідальність”.

"Парадоксально, але відсутність чітких стандартів та правил може сповільнювати впровадження штучного інтелекту, всупереч тому, на що сподівається нова адміністрація, оскільки споживачі та підприємства побоюються ризиків та витрат на нерегульовані технології”, – додала вона.

Водночас ініціативи щодо регулювання ШІ вже зʼявлялись на рівні окремих штатів США. Однією із найбільш контроверсійних спроб врегулювати технології ШІ став каліфорнійський законопроєкт про безпеку штучного інтелекту, запропонований у лютому 2024 року. Він викликав дискусії не лише серед політиків, але й серед бізнесу, адже Каліфорнія є домівкою для багатьох великих технологічних компаній.

Законопроєкт був спрямований на управління ризиками, спричиненими ШІ. Автор законопроєкту Скотт Вінер заявив, що це могло б забезпечити розумні стандарти безпеки та запобігти “катастрофічній шкоді” від потужних моделей ШІ.

Перша версія законопроєкту передбачала жорсткі правила для компаній, які розробляють технології штучного інтелекту. Розробники були б зобовʼязані проводити оцінювання та тестування безпеки систем. За недотримання правил компанії могли отримати позов від генерального прокурора штату та зустрітись із кримінальною відповідальністю. Наступна, помʼякшена версія містила лише зобовʼязання щодо публікування практик безпеки і не передбачала кримінальної відповідальності за можливі порушення.

Попри це, положення викликали значну опозицію з боку представників технологічних компаній. Критики стверджували, що законопроєкт не вирішує справжні проблеми, викликані ШІ, зокрема дезінформацію, дискримінацію та зменшення робочих місць. Побоювання стосувалися зменшення конкурентоспроможності США і Каліфорнії та знищення відкритої екосистеми, від якої залежить малий бізнес.

Віце-президент Meta Роб Шерман у зверненні до каліфорнійських законодавців написав: "Законопроєкт зробить екосистему штучного інтелекту менш безпечною, поставить під загрозу моделі з відкритим кодом, на які покладаються стартапи та малий бізнес, встановить стандарти, яких не існує, і запровадить регуляторну фрагментацію".

Хоча ініціатива отримувала підтримку з боку законодавців Каліфорнії, наприкінці вересня 2024 року губернатор штату Гевін Ньюсом наклав вето на законопроєкт.

Ньюсом підкреслив, що працюватиме з законодавчим органом над новими правилами щодо ШІ під час наступної сесії. "Ми не можемо дозволити собі чекати, поки відбудеться велика катастрофа, перш ніж вживати заходів для захисту громадськості", – сказав губернатор. Водночас, за його словами, законодавці “не повинні погоджуватись на рішення, які не обґрунтовані емпіричним аналізом траєкторії та можливостей штучного інтелекту".

Цього року законодавці Каліфорнії вже представили 30 нових законопроєктів, спрямованих на регулювання штучного інтелекту для захисту людей від потенційної шкоди. Серед них законопроєкт 1018, запропонований представницею демократичної партії Ребеккою Бауер-Кахан, який має на меті запобігти автоматизованій дискримінації. 

Він вимагає від розробників штучного інтелекту оцінювати свої системи на упередженість і повідомляти осіб, коли штучний інтелект використовується у критично важливих рішеннях, що стосуються працевлаштування, освіти, житла, охорони здоров’я, фінансів, кримінального правосуддя та доступу до державних послуг.

Хоча Каліфорнія намагається запровадити правила щодо ШІ, їхня реалізація ускладнюється можливими вето з боку Ньюсома, який занепокоєний, що регуляція перешкоджатиме інноваціям. Окрім цього, федеральна політика адміністрації Трампа може перешкоджати зусиллям Каліфорнії щодо впровадження своїх гарантій безпеки ШІ.​

Проте обговорення щодо управління ризиками ШІ досі тривають.

Підхід до регулювання галузі ШІ в Україні

В Україні на теперішньому етапі розвитку регулювання ШІ планують запровадити “bottom-up” підхід, спрямований на “саморегуляцію” галузі ШІ. Це передбачає надання інструментів та рекомендацій для бізнесу та стейкхолдерів щодо відповідальної розробки та використання цих технологій.

Біла книга з регулювання штучного інтелекту в Україні, опублікована Мінцифрою у червні цього року, пропонує детальний набір інструментів для реалізації підходу.

Одним із таких інструментів, зокрема, є створення регуляторної пісочниці для розробників ШІ за зразком законодавства ЄС про ШІ. За допомогою неї розробники зможуть тестувати свої моделі на відповідність майбутнім регуляторним вимогам. Методологія тестування й оцінювання ШІ також базуватиметься на європейському ризик-орієнтованому підході. До пісочниці потраплятимуть лише ті продукти, які матимуть “середній або високий вплив на права людини”. Для моделей з меншим ризиком пропонуватиметься юридична допомога з питань відповідності законодавству.

Окрім цього, підхід заохочує добровільне маркування систем ШІ. Розробники систем можуть розкривати інформацію про навчальні дані, будову та функціонал своїх продуктів. Обсяг розкриття наданої інформації буде добровільним та визначається самими компаніями.

У подальшому Мінцифри пропонують розробити добровільні кодекси поведінки для бізнесу, що передбачають надання юридично необовʼязкових рекомендацій для розробки та експлуатації моделей ШІ. Такі кодекси також передбачатимуть наявність інструментів моніторингу, до прикладу, публікацію добровільних звітів щодо виконання зобовʼязань кодексу.

Як зазначають самі автори Білої книги, однією із переваг такого підходу є забезпечення “конкурентоспроможності бізнесу”. Водночас “bottom-up” підхід, хоч і забезпечує достатню гнучкість та можливості для розвитку галузі, може не враховувати відповідальність за ризики, спричинені ШІ, зокрема в контексті підготовки до імплементації законодавства ЄС. Добровільні та доволі розмиті правила можуть, навпаки, зашкодити конкурентоспроможності бізнесу через неготовність до жорстких зобовʼязань, які передбачає Закон ЄС про ШІ.

Зрештою, для виходу на ринок ЄС українські компанії так чи інакше повинні будуть відповідати законодавству ЄС, яке регулює розробку й використання ШІ. Тому, незалежно від обраного підходу до регулювання, компанії-розробники ШІ мають брати відповідальність за дотримання теперішнього законодавства та відповідність вимогам ринку, адже від цього напряму залежить сталий розвиток бізнесу.

Виклики регулювання штучного інтелекту

Зважаючи на стрімкий розвиток галузі, ініціативи щодо регулювання індустрії ШІ є важливим кроком для того, щоб попередити та мінімізувати ризики, спричинені використанням цих технологій. Водночас занадто жорсткі або розмиті правила можуть спричинити низку викликів для бізнесу та інновацій, які потрібно враховувати під час розробки та впровадження регулювання ШІ.

Однією із головних проблем у регулюванні вважається забезпечення прозорості роботи систем ШІ. Занепокоєння виникають, зокрема, через проблему “чорної скриньки”, що ускладнює розуміння процесів прийняття рішень в системі ШІ та даних, які вплинули на те чи інше рішення. У звʼязку з цим, регулювання покликане гарантувати інтерпретованість структури штучного інтелекту та процесу його навчання. 

Проте повна прозорість може загрожувати розвитку передових систем штучного інтелекту, зокрема через можливі порушення прав інтелектуальної власності компаній, які розробляють ШІ. Окрім цього, звіти та документація можуть забезпечити лише прозорість технічних особливостей систем, проте необовʼязково пояснюватимуть те, що викликає найбільше занепокоєння – процес прийняття рішень ШІ. 

Еверт Хаасдейк, експерт з ШІ в Deloitte, зазначив, що певні технології “досить прості для пояснення, такі як семантичні міркування, алгоритми планування та деякі методи оптимізації". Водночас, за його словами, “в інших технологіях штучного інтелекту, зокрема технологіях, керованих даними, такими як машинне навчання, взаємозв'язок між входом і виходом важче пояснити”.

Не менш важливим є питання попередження ризиків, які можуть бути спричинені технологіями ШІ. Для цього регулятори намагаються запровадити загальні правила та стандарти для оцінювання та тестування моделей ШІ. 

Водночас теперішніх підходів до оцінювання може бути недостатньо для попередження ризиків ШІ. Деякі розробники ШІ висловлюють побоювання, що такі оцінювання зосереджені на технічних характеристиках моделей, але не попереджують ризики, які залежать від безпосереднього використання ШІ. Технології штучного інтелекту залежать від контексту та середовища, у якому вони використовуються. Оцінка та тестування ШІ, проведені “у вакуумі”, можуть загрожувати недостатньо аргументованими висновками про рівень безпеки систем.

Бізнес також потребуватиме значних ресурсів для дотримання нормативних вимог і стандартів. Проте це може стати серйозною проблемою для малого бізнесу і стартапів, яким може бракувати фінансових і операційних можливостей, щоб відповідати вимогам регулювання. Недостатня готовність до виконання вимог може потенційно завадити здатності конкурувати з більшими фірмами та, як наслідок, перешкоджати інноваціям. 

Такий дисбаланс викликає занепокоєння щодо потенціалу регулювання ШІ, яке може непропорційно сприяти розвитку великих технологічних компаній із кращою готовністю до покриття необхідних витрат.

Висновки і рекомендації

Нездатність знайти баланс між сприянням інноваціям і безпекою може підірвати потенційні переваги, які пропонують технології штучного інтелекту. Як застерігають компанії-розробники ШІ, занадто жорсткі та негнучкі правила можуть уповільнювати розробку інновацій, особливо у галузях, де штучний інтелект міг би сприяти значному прогресу. Водночас повна відсутність регуляторних рамок може призвести до безвідповідального та неетичного використання ШІ, що може підірвати довіру громадськості до цих технологій.

Насамперед сам бізнес має прагнути, щоб його діяльність відповідала визнаним правовим та регуляторним стандартам і була підзвітною їм. Це слід розглядати не лише як обмеження підприємницької діяльності, а й як можливість забезпечити конкурентну перевагу, сталість бізнес-моделі та підзвітність. Раніше схожу зміну сприйняття вже пройшли вимоги Регламенту ЄС про захист персональних даних (GDPR) та їх імплементація.

Регулювання має створювати чіткі стандарти безпеки та підзвітності, а також забезпечувати розробникам гнучкість для нових технологічних рішень. Для забезпечення перспективного та безпечного регулювання необхідно:

1. Заохочувати співпрацю між індустрією ШІ та регуляторами. Регулювання є необхідним наступним кроком для розвитку технологій ШІ. Проте регулятори повинні ставитись до введення нових правил з обережністю, враховуючи інтереси зацікавлених сторін, зокрема бізнесу, який стимулює інновації у сфері ШІ. Співпраця має бути спрямована на встановлення спільних технічних стандартів, етичних принципів, а також методологій оцінки й тестування моделей. Це сприятиме узгодженості, зменшить розбіжності щодо підходів до регулювання та покращить взаємодію між стейкголдерами.
2. Запровадити постійний моніторинг оцінки й тестування моделей. Оскільки технології ШІ швидко розвиваються й можуть нести нові ризики для безпеки та прав людини, оцінка й тестування ШІ мають бути достатньо гнучкими, щоб відповідати темпу розвитку інновацій. Для цього необхідно постійно переглядати ефективність методів оцінювання й тестування та за необхідності коригувати наявні підходи до безпеки ШІ. Одним із методів забезпечення адаптивного оцінювання й тестування може бути, зокрема, імплементація циклів зворотнього звʼязку, які передбачають використання результатів систем ШІ для вдосконалення їхньої безпеки та безперервного навчання.
3. Сприяти створенню платформ та середовищ для дотримання регуляторних вимог. Подібні ініціативи є особливо важливими для малого бізнесу й стартапів, яким необхідні додаткові ресурси для відповідності стандартам. До прикладу, такі платформи можуть надавати шаблони, відстежувати оновлення нормативних документів і пропонувати інструменти для моніторингу відповідності. Окрім цього, технологічні компанії можуть створювати консорціуми для обміну знань та досвіду, необхідних для дотримання регуляції ШІ.
4. Посилювати діяльність регуляторних пісочниць. Регуляторні пісочниці передбачають контрольоване середовище, в якому компанії-розробники ШІ можуть оцінювати та перевіряти свої моделі в реальних умовах, не зіштовхуючись із регуляторними зобовʼязаннями. Це сприяє безпечному тестуванню технологій, а також кращому розумінню специфіки роботи ШІ серед регуляторів. Регуляторна пісочниця передбачається Законом ЄС про ШІ і перебуває на ранній стадії розвитку. Оскільки ініціатива є особливо перспективною для стартапів і малого бізнесу, доцільно посилювати можливості такої пісочниці та запроваджувати схожі ініціативи за межами ЄС. В інших державах регуляторні пісочниці можуть функціонувати у рамках діяльності інститутів безпеки ШІ. 

Досягнення балансу вимагає регуляторної основи, яка є достатньо адаптивною, щоб враховувати швидкі темпи технологічних змін. Вирішальним є збалансований підхід, який сприяє відповідальному розвитку ШІ та не стримує переваги, можливі завдяки інноваційним рішенням. Гнучка та відповідальна регуляторна екосистема є необхідною для забезпечення розвитку технологій ШІ на користь суспільства.