Все ширше використання штучного інтелекту (ШІ) відкриває як нові можливості, так і створює виклики у різних сферах. Згідно з даними звіту Міжнародного економічного форуму 2024 року, негативні наслідки використання ШІ можуть бути одним із найсерйозніших глобальних ризиків у довгостроковій перспективі. У звʼязку з цим, уряди провідних держав активно розглядають перспективу формування офіційних політик у сфері штучного інтелекту. 

Одним із потенційних заходів для управління ризиками ШІ в міжнародній практиці стали інститути безпеки штучного інтелекту (AI Safety Institute), створені з метою тестування та оцінки новітніх систем. При врахуванні можливих викликів і грамотній реалізації такі інститути можуть відігравати провідну роль в управлінні технологіями ШІ, будучи особливо важливими в українському контексті.

Завдання та діяльність інститутів безпеки ШІ 

Перші Інститути безпеки ШІ були створені урядами Британії та Сполучених Штатів за підсумками Саміту з безпеки ШІ (AI Safety Summit), проведеного у 2023 році. 

Британський Інститут безпеки ШІ (AI Safety Institute, AISI) став самостійним державним органом та спадкоємцем першої у Британії цільової групи з безпеки ШІ Frontier AI Taskforce. Під час оголошення про створення Інституту державна секретарка з питань науки, інновацій та технологій Британії Мішель Донелан назвала Інститут “міжнародним носієм стандартів”, який “допоможе політикам по всьому світу впоратися з ризиками, пов'язаними з найсучаснішими можливостями ШІ, щоб ми могли максимізувати величезні переваги”.

Головною метою створення Інституту безпеки ШІ, згідно з заявами уряду Британії, є мінімізація несподіваних та негативних наслідків використання цих технологій для “Британії та людства”. Хоча мандат Інституту не передбачає здійснення державного регулювання ШІ, його завданням є підвищення суспільної обізнаності щодо ризиків технологій на основі переконання, що уряди є гарантом підзвітності систем ШІ та підтримки досліджень у цій галузі. 

Британський Інститут безпеки ШІ насамперед спрямований на виконання таких трьох функцій:

1. Проведення оцінок передових технологій штучного інтелекту. Представники британського Департаменту науки, інновацій та технологій зазначають, що компанії-розробниці ШІ несуть відповідальність за тестування своїх систем на наявність ризиків, проте уряд повинен грати “ключову роль” у проведенні зовнішніх оцінок, “незалежних від комерційного тиску”. Зокрема у травні цього року уряд Британії оголосив про відкриття Inspect – платформи для тестування ШІ з відкритим кодом, яка дозволяє проводити оцінювання систем із різних сфер. Ключовими напрямками оцінювання, визначеними у Британії, є можливість зловмисного втручання, вплив на суспільство, безпека системи та наявність контролю. 
2. Фасилітація досліджень ШІ. Діяльність, що стосується дослідження технологій, включатиме розробку інструментів для управління системами штучного інтелекту, вдосконалення методології оцінювання ШІ та проведення досліджень у напрямку безпечнішого використання технологій.
3. Обмін інформацією. Інститут планує сприяти поширенню результатів досліджень та оцінювань безпеки ШІ між промисловістю, академічними колами та громадськістю.

Окрім цього, британський Інститут передбачає співпрацю з провідними розробниками ШІ та компаніями, які проводять оцінку систем ШІ. 

У США Інститут безпеки ШІ був створений на базі Національного інституту стандартів і технологій (National Institute of Standards and Technology, NIST). Інститут використовуватиме попередні напрацювання NIST щодо стандартів для технологій ШІ та створюватиме нові проєкти з безпеки ШІ на основі ключових цілей органу. 

Національний інститут стандартів і технологій у США визначає головні стратегічні цілі створення та функціонування Інституту безпеки ШІ. 

По-перше, Інститут має на меті підвищити безпеку ШІ за допомогою досліджень, тестувань та оцінок систем. Для досягнення цієї цілі Інститут планує створювати допоміжні інструменти та вказівки для безпечного використання штучного інтелекту, здійснювати тестування моделей ШІ перед експлуатацією й перевіряти вже наявні системи у разі виявлення низки ризиків. 

По-друге, Інститут займатиметься розвитком та поширенням практики безпечного застосування ШІ. Це передбачає створення та публікацію метрик, інструментів та методів оцінювання ризиків систем ШІ та поширення рекомендацій для відповідального дизайну, розробки та використання передових моделей ШІ.

Крім того, діяльність Інституту фокусуватиметься на підтримці інституцій, спільнот та ініціатив, спрямованих на підвищення безпеки ШІ. Заходи підтримки включають як сприяння діалогу між державними розробниками, експертами та користувачами, так і розвиток міжнародної співпраці у напрямку безпечного ШІ.

Для ефективної співпраці уряду США із приватним сектором було створено Консорціум Інституту безпеки ШІ. За даними NIST, обʼєднання складається з понад 200 організацій, які спільно з урядом США займатимуться розробкою принципів управління ШІ. До складу консорціуму вже увійшли такі провідні компанії, як OpenAI, Google Alphabet, Anthropic і Microsoft.

Міжнародна співпраця

Сьогодні Інститути безпеки штучного інтелекту, створені в США і Британії, є винятковими організаціями такого типу в глобальному масштабі. Проте очікується, що кількість інститутів продовжить зростати. На Саміті з безпеки ШІ, проведеному в травні цього року, 10 провідних держав та ЄС підписали угоду про створення мережі Інститутів безпеки ШІ для забезпечення сумісності підходів до тестування та оцінювання ШІ. Про наміри створити інститути також оголосили Японія, Південна Корея і Канада.

Окрім цього, інститути вже розпочинають співпрацю для проведення спільних досліджень та оцінок безпеки ШІ. Цьогоріч у квітні США та Британія підписали Меморандум про взаєморозуміння, який передбачає спільну розробку тестів та оцінок передових систем штучного інтелекту. Згідно з угодою, уряди держав будуть зобовʼязані розробити спільну програму роботи та підхід до оцінки моделей, зокрема використовувати спільну методологію й інструментарій.

“Це партнерство прискорить роботу обох наших інститутів у всьому спектрі ризиків як для нашої національної безпеки, так і для ширшої громадськості. Наше партнерство дає зрозуміти, що ми не тікаємо від цих проблем – ми біжимо за ними. Завдяки нашій співпраці наші інститути отримають краще розуміння систем штучного інтелекту, проведуть більш надійні оцінки та надаватимуть більш суворі вказівки", – зауважила Міністерка торгівлі США Джина Раймондо.

Водночас міжнародна співпраця не обмежується інститутами безпеки. Ініціативи щодо співпраці зʼявляються і на рівні інших інституцій, які займатимуться дослідженням безпеки ШІ. До прикладу, Інститут безпеки ШІ США працюватиме над інструментами для оцінки моделей ШІ разом з Офісом штучного інтелекту Європейського Союзу (AI Office).

Зі свого боку, Офіс ШІ стане європейським органом, який відповідатиме за дотримання Закону ЄС про ШІ (AI Act). Окрім регулювання та координації політики щодо ШІ, однією із пріоритетних сфер діяльності Офісу стане підвищення безпеки штучного інтелекту, що включає розробку методології та інструментарію для оцінки технологій. Очікується, що Офіс ШІ буде виконувати функції інституту безпеки ШІ для ЄС.

Виконавча віце-президентка Європейської Комісії Маргарете Вестагер вважає взаємні зобовʼязання між ЄС та США “більш масштабними”, ніж зобовʼязання Меморандуму про взаєморозуміння між США і Британією. "Це не просто тестування, це все, що з ним пов'язано, – це орієнтири, методології, розуміння й інтерпретація регуляторних підходів в обох юрисдикціях", – зазначила вона.

Перспективи та виклики

Діяльність інститутів безпеки ШІ може мати значний вплив на подальші дослідження безпеки штучного інтелекту. Зокрема, міжнародна співпраця на базі інститутів може поглибити спільне розуміння переваг та ризиків застосування ШІ, сприяти обміну інформацією та досвідом, пришвидшити розробку міжнародних стандартів та підходів щодо тестування технологій. 

Інститути безпеки ШІ також отримують підтримку серед представників урядів держав. “Безпека сприяє інноваціям, тому насамперед має значення те, щоб ми посилювали розуміння ШІ і робили це спільно з нашими партнерами по всьому світу, забезпечивши, щоб правила щодо ШІ були написані суспільствами, які відстоюють права людини, безпеку та довіру”, – зазначила Джина Раймондо.

Окрім значних переваг створення та функціонування таких ініціатив, варто враховувати й виклики, які можуть стримувати розвиток інститутів безпеки.

По-перше, теперішні підходи до тестування безпеки ШІ мають ризик бути неефективними або недостатніми для визначення того, чи є ці технології безпечними для суспільства. Експерти з британського Інституту Ади Лавлейс (Ada Lovelace Institute) підкреслюють, що наявні методи оцінки інститутів безпеки ШІ, такі як червоні команди та бенчмаркінг, можуть мати ряд обмежень, коли йдеться про дослідження безпеки ШІ. Такі методи можуть пріоритезувати деякі види ризиків над іншими, що значно знижує ефективність тестування. Окрім цього, на думку експертів, важливим є те, що технології ШІ повинні оцінюватись не у вакуумі, а у середовищі, для якого вони призначені. Тестування ШІ без урахування контексту не дозволяє робити достатньо обґрунтовані висновки щодо безпеки використання ШІ у певному середовищі.

По-друге, оскільки технології ШІ розвиваються дуже швидко, наявні підходи щодо оцінки й тестування можуть бути застарілими у довгостроковій перспективі. Представники британського Інституту безпеки ШІ підкреслювали неможливість перевірки усіх наявних моделей, натомість зосереджуючи увагу на передових технологіях ШІ, які можуть володіти “потенційно шкідливими” можливостями. Проте навіть у попередніх дослідженнях департаменту науки, інновацій та технологій Британії зазначено, що наразі неможливо надійно передбачити, які нові можливості передова модель ШІ може отримати у ході подальшого навчання. До прикладу, при оцінюванні великих мовних моделей, як-от Claude або GPT-4, дослідники з Model Evaluation and Threat Research (METR) зазначали, що можливо перевірити лише “невелику частину того, що є на поверхні” таких систем. Динаміка розвитку передових технологій ШІ підкреслює, що теперішні оцінювання можуть бути вразливими до технологічних змін.

По-третє, сьогоднішні підходи інститутів безпеки здебільшого зосереджуються на технічних аспектах безпеки ШІ. Попередні дослідження показують, що більшість оцінювань безпеки ШІ фокусуються саме на можливостях моделі, тоді як оцінювання соціального впливу ШІ зустрічаються рідко. Це може створити прогалини у розумінні безпеки ШІ, адже суто технічний фокус є недостатнім для виявлення ризику та негативного впливу технологій на суспільство. Ситуація підкреслює необхідність міждисциплінарної експертизи та впровадження підходів, які зосереджені на соціотехнічних, етичних та правових аспектах безпеки ШІ.

Можливість створення Інституту безпеки ШІ в Україні

Якщо говорити про Україну, то наразі створення відповідного Інституту не планується.

Як випливає із "Білої книги регулювання ШІ в Україні", підготовленої Мінцифри, як інституційний механізм регулювання в цій сфері Україна розглядає варіант зі створенням уповноваженого органу виконавчої влади. Цей орган буде наділений контрольними та регуляторними функціями, оскільки, як йдеться в книзі, «без створення регуляторного органу… ми ризикуємо не тільки отримати… ситуації із множинністю та повторюваністю порушення того чи іншого права людини, але й ризики зі значно більшим та глибшим негативним впливом і наслідками».

Потреба у створенні саме регуляторного органу є очевидною. Водночас Інститут, за своєю природою, є інституцією, яка покликана узагальнювати поточні практики та розробляти пропозиції щодо політики в сфері ШІ, які згодом будуть реалізовані в рамках конкретних рішень. Він може стати, з одного боку, аналітичною і дискусійною платформою для різних стейкголдерів, а з іншого боку – розвивати інституційну співпрацю із зарубіжними інститутами та центрами.

Формат Інститут був би кращим за практику створення Робочих груп, які залежать від рівня зацікавлення та залученості учасників, політичних рішень уряду і Мінцифри та не мають постійного характеру. Створення такої інституції дозволило б забезпечити сталість та тяглість роботи із розробки стандартів регулювання ШІ та відповідало б найкращим міжнародним практикам.

Окрім того, власне Мінцифри у «Білій книзі» пише, що за браком ресурсів створення окремого регуляторного органу «в умовах війни, незважаючи на всю значущість сфери ШІ, вочевидь є вкрай малоймовірним». Фактично це відкладає створення регуляторного органу до завершення війни та впровадження в України законодавства, аналогічного європейському AI Act.

Ця ситуація створює додаткові аргументи для створення саме Інституту за зразком, який вже має місце в США, Британії та інших країнах. Щодо ресурсів, то для функціонування такого інтелектуального та аналітичного центру, а не органу влади, можна спробувати залучити донорські кошти на період війни, що не потребуватиме додаткових ресурсів із бюджету.

На цей Інститут могли б бути покладені як і деякі рішення, які передбачені на проміжний період у «Білій книзі», зокрема щодо розробки проєктів методологій чи координації співпраці із громадянським суспільством, так і функції, притаманні тим Інститутам, які зараз створюються за кордоном, зокрема:

• розробка спільної методології та інструментарію для оцінювання та дослідження безпеки ШІ;
• здійснення тестування моделей ШІ;
• участь у формуванні міжнародних стандартів та підходів для подальших досліджень безпеки ШІ.

Висновки та рекомендації

Інститути безпеки ШІ є важливим кроком у напрямку кращого розуміння безпеки ШІ. Такі ініціативи, особливо на міжнародному рівні, можуть в подальшому відігравати ключову роль у дослідженні та розробці стратегій для усунення потенційних ризиків, пов’язаних зі штучним інтелектом, сприяючи безпечному та відповідальному розгортанню новітніх технологій.

Водночас ефективність та результативність інститутів безпеки залежатиме від грамотності та відповідності підходів, які будуть застосовуватись для дослідження безпеки ШІ. Теперішня діяльність інститутів, хоч і сприяє побудові кращих стандартів для безпеки ШІ, потребує значних вдосконалень у сфері оцінювання та тестування моделей. Для покращення спроможностей інститутів необхідно:

1. Удосконалювати методологію оцінювання й тестування безпеки ШІ. Заходи, що включають оцінювання та тестування штучного інтелекту, повинні бути спрямованими на покращення розуміння контексту, в якому застосовуються ті чи інші технології, та враховувати стрімкий розвиток галузі ШІ. Для цього важливо розвивати контекстно-орієнтований підхід із залученням галузевих регуляторів для покращення розуміння технологій ШІ у різних середовищах.
2. Запровадити підходи, що враховуватимуть ширші соціальні аспекти та ризики застосування технологій ШІ. У ході досліджень безпеки ШІ необхідно брати до уваги етичні ризики, негативні наслідки для суспільства та потенційні упередження в системах ШІ. Важливо вдосконалювати дослідження у напрямку безпеки ШІ шляхом розробки ширшої методології оцінювання та залучення експертів та стейкголдерів із різних галузей.

У контексті України важливо розглянути можливість створення українського інституту безпеки ШІ за прикладом вже наявних інститутів. Головною перевагою створення такого інституту в Україні є співпраця з міжнародними партнерами для обміну передовим досвідом і забезпечення комплексного підходу до оцінювання та досліджень безпеки ШІ. В умовах обмежених ресурсів та неможливості створення окремого регуляторного органу, інститут міг би забезпечити необхідні стандарти та експертизу з питань безпеки ШІ.

Автори: Дарина Бойко, Іван Городиський