автор: Іван Городиський

Резюме

Використання технологій штучного інтелекту (ШІ) в сучасному світі стикається з проблемою відсутності правової та моральної основи, що особливо гостро постає у сфері правосуддя. Застосування ШІ в цій сфері може не лише відкрити нові можливості, а й призвести до кризи через імовірну дискримінацію при прийнятті рішень, брак довіри до таких рішень, до кризи в розумінні самого поняття справедливості та ін.

На хвилі цифровізації в Україні застосування технологій ШІ в правосудді активно обговорюється та навіть робляться перші кроки в цьому напрямку. Однак це досить закритий процес, що почався без залучення громадськості та експертів і належної оцінки можливих ризиків. Серед таких ризиків – недоліки в процесі розробки та впровадження технологій ШІ, помилки у судових рішеннях, прийнятих із застосуванням цих технологій, їх подальше оскарження і скасування у вищих інстанціях, ще глибша криза довіри до правосуддя та ін.

Така ситуація продиктувала потребу проаналізувати бачення української влади щодо використання технологій ШІ в правосудді, дати оцінку вже зробленим крокам і сформулювати рекомендації для державних органів, у першу чергу Мін’юсту, які їм слід було б врахувати при реалізації державної політики у цьому напрямку.

Проведений аналіз доводить: у державній політиці в сфері цифровізації існують проблеми, є нерозуміння ризиків застосування технологій ШІ в сфері правосуддя, можливе використання цієї ідеї у політичних цілях. У зв’язку з цим виникає необхідність у розширенні кола учасників обговорення і розробці стратегії використання технологій ШІ в правосудді; робота в цьому напрямку має відбуватися за умови ґрунтовного планування та реалізації запланованого; відмови від швидкого впровадження на користь поетапного, із розробкою необхідної правової бази; врахування наявного закордонного досвіду запровадження таких систем.

Передісторія проблеми

Цифровізація держави та державних сервісів після зміни політичної влади у 2019 році є одним із ключових напрямків урядової політики. Застосування технологій ШІ розглядається як один із інструментів цього процесу. Однак проходить він недостатньо прозоро та не отримує об’єктивної оцінки результатів, на що неодноразово вказували експерти з кібербезпеки. Зокрема, Володимир Стиран говорить, що «основна (обґрунтована) претензія спеціалістів із кібербезпеки до Мінцифри полягає в непрозорості прийнятих рішень. Питання, де безпекові практики, не знаходить адекватної відповіді».

Тому існує певний скепсис щодо рівня кібербезпеки державної цифрової інфраструктури в Україні, і нещодавні хакерські атаки та витоки персональних даних підтверджують його слушність. Крім того, брак інформування з боку влади не просто щодо результатів, а саме щодо деталей розробки, впровадження та застосування таких цифрових інструментів поглиблює недовіру до якості таких сервісів.

Сфера правосуддя може стати однією із ключових для впровадження технологій ШІ. Така ситуація зумовлена кризою довіри до виконавчої та судової влади у суспільстві, рівень якої зараз становить лише близько 10%. Цифрові технології, у тому числі ШІ, розглядаються як ефективний спосіб розв’язання цих проблем та поліпшення роботи судочинства: згідно з опитуванням ЮНЕСКО, 85% респондентів-правників, які представляють понад 100 країн, зацікавлені вивченням можливостей використання технологій ШІ в праві, в тому числі у правосудді.

Впровадження технологій ШІ в правосуддя та кримінальну юстицію в Україні перебуває лише на самому початку. Так, 15 вересня 2020 року Мін’юст запровадив для підрозділів та органів, які входять у його структуру, використання «оцінки ризиків вчинення повторного кримінального правопорушення, визначеної з використанням підсистеми "Касандра"». А 10 лютого 2021 року Вища рада правосуддя (ВРП) оголосила про свою пропозицію запустити пілотний проєкт із застосування ШІ на базі одного із судів першої інстанції. Міністр юстиції Денис Малюська 21 грудня 2021 року одним із напрямів реформування пенітенціарної служби визначив «розширення можливостей цифровізації пенітенціарної системи з метою забезпечення зручного збору, використання та аналізу даних у пенітенціарній системі для ухвалення обґрунтованих управлінських рішень». Однак ініціативи щодо застосування ШІ можуть стати масштабнішими, зокрема через наближення передвиборчого періоду.

Хоча застосування технологій ШІ в правосудді в Україні ще не надто поширене, його розвиток може вплинути на зміст та природу судових рішень, процес реформи правосуддя в Україні та незалежність судової влади в цілому. Через те, що застосування цих технологій, імовірно, буде позиціонуватись як ключовий інструмент для вирішення проблем у судочинстві в Україні, ці ініціативи можуть бути використані в інтересах влади для вирішення політичних завдань. Наприклад, у Китаї використання технологій ШІ в правосудді наштовхується на критику з боку професійної спільноти, яка бачить у цьому спосіб посилення контролю над сферою правосуддя.

На цьому етапі Україна не має стратегії впровадження технологій ШІ в правосуддя, яка би враховувала і попереджувала можливі ризики. Прийняті документи, які ми розглянемо нижче, містять здебільшого рамкові або декларативні тези з цього приводу. Відсутні «дорожні карти» і плани дій щодо поетапної реалізації державної політики в цій сфері. Відповідні проєкти не пройшли публічного і різностороннього суспільного обговорення.

Ключовим документом для розвитку ШІ в Україні є Концепція розвитку штучного інтелекту в Україні, яку Кабінет міністрів України затвердив 2 грудня 2020 року. У ній визначено, що правосуддя є пріоритетною сферою для впровадження технологій ШІ, та поставлено завдання:

• здійснювати подальший розвиток наявних технологій у сфері правосуддя (Єдина судова інформаційно-телекомунікаційна система, Електронний суд, Єдиний реєстр досудових розслідувань тощо);
• впроваджувати консультативні програми на основі ШІ, які відкриють доступ до юридичної консультації широким верствам населення;
• попереджувати суспільно небезпечні явища шляхом аналізу наявних даних за допомогою ШІ;
• визначати необхідні заходи ресоціалізації засуджених шляхом проведення аналізу наявних даних за допомогою технологій ШІ;
• виносити судові рішення у справах незначної складності (за взаємною згодою сторін) на основі аналізу, здійсненого з використанням технологій ШІ, стану дотримання законодавства та судової практики.

Це загальні завдання, і вони передбачають обмежене впровадження технологій ШІ в правосуддя на цьому етапі. У плані заходів з реалізації Концепції розвитку штучного інтелекту в Україні на 2021-2024 роки відсутня сфера правосуддя, документ в цілому є достатньо рамковим.

Проблеми поточної політики держави

Однак на хвилі цифровізації у публічній сфері, в умовах передвиборчого процесу та в разі поглиблення кризи довіри до судової системи це питання може стати актуальнішим, а заходи щодо його впровадження – активнішими. Питання цифровізації правосуддя може різко актуалізуватися з політичних мотивів, що вже й відбувається: із наближенням виборів активно просувається ідея проведення «електронних виборів».

В цілому саме орієнтація на швидкість як на головний критерій при розробці та впровадженні технологічних рішень державної політики в сфері цифровізації і є головною проблемою. Управління ризиками в цьому контексті, наскільки можна судити із публічних джерел, має для влади другорядне значення, на чому наголошують і фахівці з кібербезпеки, про що ми вже згадували.

Отже, перевагою поточного підходу до впровадження технологій ШІ в правосудді є те, що рішення розробляються та впроваджуються швидко. Однак відсутність комплексного та зрозумілого підходу створює значні ризики в загальносуспільному вимірі, зокрема може призвести до втрати незалежності судової влади, посилення контролю за нею з боку інших гілок влади, поглиблення кризи довіри до правосуддя та ін.

Показовою є комунікація з громадськістю Мінцифри щодо питань кібербезпеки. Міністр цифрової трансформації Михайло Федоров у 2019 році в інтерв’ю виданню lb.ua говорив про те, що «роль кібербезпеки трохи перебільшена. Про неї багато говорять, але по факту назвати якісь реальні кейси кіберзагроз мало хто може». Він ілюстрував це прикладом ІТ команди Офісу Президента, представники якої в середині 2019 року показували «дашборди з тисячею атак на день, перевантаженням сайтів і т.д.», а після їх звільнення нібито «нічого не відбувалося впродовж декількох місяців, поки ми збирали нову команду». Поточна публічна комунікація щодо можливих витоків з «Дія» зводиться до повторювання тверджень, що сама «Дія» не зберігає і не обробляє інформації.

Схожа ситуація у плані відсутності системної оцінки ризиків та способів запобіганням їм може виникнути і з впровадженням технологій ШІ в сфері правосуддя. Досвід впровадження таких технологій у правосудді у США та Великобританії дозволяє визначити низку викликів:

• проблема дискримінації при прийнятті рішень за допомогою технологій ШІ: ймовірно, що велика кількість рішень будуть упередженими і дискримінуючими стосовно окремих категорій осіб, щодо яких вони прийматимуться, – за соціальною, етнічною та іншими ознаками;
• незадовільний рівень безпеки технологій та захисту від зовнішнього втручання: є потреба у незалежному аудиті й оцінці технічної та організаційної спроможності держави забезпечувати належний рівень кібербезпеки при застосуванні цих технологій;
• якість рішень, на яких «навчатимуться» такі технології: відповідні алгоритми будуть розроблятися та «вчитися» на вже сформованій судовій практиці, яка власне і обумовлює той рівень недовіри до суду, про який ми говорили вище;
• ризики подальшого оскарження рішень, ухвалених із використанням цих технологій: без належного правового врегулювання застосування цих технологій, зокрема в процесуальному законодавстві, та встановленні відповідності цього застосування нормам Конституції та міжнародним стандартам прав людини є високі шанси подальшого скасування прийнятих рішень в судах інших інстанцій.

Закордонний досвід використання ШІ в правосудді, зокрема аналіз та критика застосування цих технологій в США, відомий в Україні. На нього, зокрема, посилався і Міністр юстиції Денис Малюська. Проте в обговоренні впровадження технологій ШІ в сфері правосуддя в Україні питання ризиків, які можна винести з цього досвіду, не порушується.

В Україні впровадження технологій ШІ в правосуддя може викликати додатково цілу низку проблем. Найголовніше, що це може призвести до відмови від того курсу на перезавантаження судової системи, який триває зараз, – з оновленням ВРП та Вищої кваліфікаційної комісії суддів (ВККС), – на користь начебто більш радикального та ефективного сценарію. Як наслідок, глибинні зміни в судовій системі правосуддя можуть не відбутися, натомість відбудеться впровадження гучного рішення, яке маскуватиме збереження статус-кво в інтересах окремих сил. Ілюстрацією такого підходу може бути ухвалення Закону про імпічмент Президента у 2019 році, який, попри гучні заяви, жодним чином не спростив цю процедуру.

Крім того, впровадження може потребувати значних ресурсів, а невдача, дуже ймовірна через недосконалість цих технологій та малу ефективність їх реалізації, може тільки поглибити кризу довіри до правосуддя. А якщо довіру до правосуддя не буде відновлено, то це може мати подальші наслідки в економічній, політичній та гуманітарній сферах, загострити наявні проблеми із захистом права власності, невідворотністю покарання, корупцією, та й загалом піддати сумніву відданість влади принципам справедливості й верховенства права.

Шляхи розв’язання

У цій ситуації видається доцільним виключити можливість трактувати запровадження ШІ в судовій системі та кримінальній юстиції України як короткострокову задачу і розглядати її у середньо- та довгостроковій перспективі. Це дозволить ґрунтовніше підійти до розробки та впровадження відповідних технологій, попередити ризики, які можуть виникнути, та зняти можливу напругу щодо впровадження ШІ у період політичного передвиборчого процесу 2022-2024 років.

Таким чином буде забезпечено не лише саму розробку та впровадження технологій ШІ в правосуддя, а й застосування їх відповідно до правових та етичних стандартів. Більш досконалі, зрозумілі та безпечні технології стратегічно потрібніші сфері правосуддя, ніж швидкі рішення, які лише поглиблять наявні проблеми.

Оскільки сфера правосуддя критично важлива для суспільства, до процесу розробки та впровадження технологій ШІ у ній, імовірно, долучаться різні групи зацікавлених сторін: представники судової та інших гілок влади, науковці, представники неурядового сектора та ін. Це стало б гарантією балансу інтересів у подальшому застосуванні цих технологій у правосудді та кримінальній юстиції, забезпечило б довіру до них.

Такий підхід – що вимагає більше часу – зараз є малоймовірним, оскільки впровадження технологій ШІ в правосуддя не перебуває у фокусі уваги політичних дискусій. Проте якщо уряд найближчим часом активізує роботу із впровадження цих технологій, то це може викликати політичний спротив і привести до відкладення їх розробки та впровадження на триваліший період.

Уряд в особі Мінцифри та Мін’юсту має необхідні ресурси для того, щоб розробка та запровадження технологій ШІ в правосуддя була якомога більш продуманою. Водночас їхня тактика роботи в цьому напрямку залежить від бачення політичного керівництва держави, а також від уваги суспільства до проблематики застосування ШІ в сфері правосуддя.

Висновки та рекомендації

1. Реалізація державної політики із розробки та впровадження технологій ШІ в правосуддя має відбуватися із залученням широкого кола зацікавлених осіб – не лише ІТ-фахівців, чиновників, суддів і представників інших юридичних професій, а й соціологів, філософів, фахівців з етики і релігії тощо. Цей підхід відповідатиме міжнародним стандартам, які вже існують у цій сфері, зокрема Європейській етичній хартії щодо застосування штучного інтелекту в судочинстві. Це дозволить попередити цілу низку помилок і ризиків та підвищити рівень довіри до нових технологій в суспільстві та їх легітимності.

2. Слід відмовитися від «турборежиму» при впровадженні технологій ШІ у сферу правосуддя в Україні, оскільки українське суспільство особливо чутливе до питань правосуддя та справедливості. Швидкість не може бути ключовим показником ефективності державної політики в цьому напрямку, а сам процес повинен супроводжуватися прозорою та постійною комунікацією з суспільством.

3. Потрібно розробити деталізовані «дорожні карти» та плани заходів щодо розробки та впровадження технологій ШІ в правосуддя, бо лише стратегічних рамкових документів і підзаконних актів недостатньо. Ці документи повинні включати: опис етапів апробації технологій ШІ на тимчасовій основі (без їх одномоментного впровадження), аналіз результатів на предмет подальшого вдосконалення технологій, аналіз витрат та індикатори результативності проєкту.

Потрібні також додаткові дослідження та аналітичні документи з цієї проблеми, підготовлені неурядовими організаціями. Це дасть змогу оцінити ставлення суспільства до впровадження технологій ШІ в правосуддя, його очікування в цьому плані, визначити пріоритетні напрямки роботи.

4. Врахування закордонного досвіду розробки та впровадження цих технологій має відбуватися не лише у формі констатації факту його існування, а й слугувати попередженню тих проблем, які виникли в інших країнах (зокрема в США та Великобританії). Такий підхід дасть можливість розробити модельні рішення, які стануть зразком для застосування в інших сферах та державах.

Публікацію підготовлено в рамках цільової науково-дослідної програми Цілісного людського розвитку (ЦЛР) Українського католицького університету.