Закон ЄС про штучний інтелект (AI Act) накладає певні зобовʼязання на інструменти генеративного ШІ та процес їхнього навчання.

Такі обовʼязки включають ведення технічної документації, яка надає інформацію про процес навчання й функціонування системи ШІ, дотримання вимог законодавства ЄС, а також “детальні” відомості про контент, на якому навчається штучний інтелект, разом з походженням даних.

Закон ЄС про ШІ класифікує системи ШІ відповідно до рівня їхнього ризику, а також накладає зобовʼязання на розробників моделей ШІ загального призначення (General Purpose Artificial Intelligence, GPAI), які інтегровані в різні системи й програми. 

GPAI також включають моделі загального призначення з системним ризиком, тобто такі, що мають значний вплив на ринок ЄС через їх охоплення або через фактичні або обґрунтовано передбачувані негативні наслідки для безпеки, основних прав або суспільства в цілому.

Які системи ШІ визначає AI Act і в чому їхні особливості - пояснює Дарина Бойко. 

Заборонені системи ШІ (Глава ІІ, стаття 5)

Визначення: до заборонених практик ШІ належать системи штучного інтелекту, які маніпулюють рішеннями людей або використовують їх вразливі місця, системи, які оцінюють або класифікують людей на основі їхньої соціальної поведінки чи особистих рис, а також системи, які передбачають ризик скоєння злочину людиною.

Приклади систем: системи біометричної категоризації (з деякими винятками для правоохоронних органів), соціальний скоринг, оцінка ризику вчинення особою кримінальних злочинів, складання баз даних для розпізнавання облич за допомогою вебскрейпінгу, дистанційна біометрична ідентифікація “в режимі реального часу” (з деякими винятками для правоохоронних органів).

Набуття чинності: 2 лютого 2025 року.

Системи ШІ високого ризику (Глава ІІІ)

Визначення: системи ШІ, які можуть негативно вплинути на безпеку або основні права людини.

Приклади систем: системи ШІ, що використовуються у таких галузях, як біометрія, критична інфраструктура, освіта, працевлаштування, правопорядок, управління міграцією, правосуддя.

Зобовʼязання: запровадити систему управління ризиками; проводити управління даними й перевіряти їхню релевантність; складати технічну документацію; вести облік; надавати інструкції щодо використання для користувачів; здійснювати людський нагляд; створити системи управління якістю.

Набуття чинності: 2 серпня 2026 року (за винятком п.1 ст. 6).

Системи ШІ з обмеженим ризиком/зобовʼязаннями щодо прозорості (Глава IV)

Визначення: деякі системи штучного інтелекту, призначені для взаємодії з фізичними особами або для створення контенту.

Приклади систем: системи ШІ, зокрема системи штучного інтелекту загального призначення, що генерують синтетичні аудіо, зображення, відео або текстовий вміст, діпфейки.

Зобовʼязання: розробляти системи таким чином, щоб користувачі були поінформовані про те, що вони взаємодіють із системою штучного інтелекту; позначати синтетичний вміст і діпфейки як такі, що згенеровані ШІ.

Набуття чинності: 2 серпня 2026 року.

Системи ШІ мінімального ризику

Визначення: всі інші системи штучного інтелекту, які не підпадають під вищезазначені категорії і не несуть значних ризиків для безпеки або основних прав людини.

Приклади систем: відеоігри з підтримкою ШІ, спам-фільтри.

Зобовʼязання: дозволене вільне використання з дотриманням загальних принципів, таких як людський нагляд, недискримінація та справедливість.

Закон ЄС про ШІ також накладає зобовʼязання на розробників моделей ШІ загального призначення (General Purpose Artificial Intelligence, GPAI), які інтегровані в різні системи й програми. 

GPAI також включають моделі загального призначення з системним ризиком, тобто такі, що мають значний вплив на ринок ЄС через їх охоплення або через фактичні або обґрунтовано передбачувані негативні наслідки для безпеки, основних прав або суспільства в цілому.

Моделі ШІ загального призначення (General Purpose Artificial Intelligence, GPAI) (Глава V)

Визначення: моделі ШІ, зокрема коли такі моделі штучного інтелекту навчаються на великій кількості даних з використанням належного рівня самонагляду, які демонструють значну загальність і здатні компетентно виконувати широкий спектр різних завдань незалежно від того, як моделі розміщені на ринку, і які можуть бути інтегровані в різні системи або програми.

Приклади систем: генератори зображень (DALL-E, Stable Diffusion), великі мовні моделі (GPT-4, Claude), генератори голосу (OpenAI Jukebox).

Зобовʼязання: сформулювати технічну документацію; надавати інформацію та документацію постачальникам, які інтегрують модель в систему ШІ; встановити політику дотримання законодавства ЄС про авторське право і суміжні права; публікувати детальні резюме про вміст, що використовується для навчання ШІ.

Для моделей загального призначення з системним ризиком: виконувати оцінки моделі з метою помʼякшення ризиків; оцінювати та помʼякшувати системні ризики; повідомляти компетентним органам про серйозні інциденти; забезпечити належний рівень захисту кібербезпеки.  

Набуття чинності: 2 серпня 2025 року.