Автори: Іван Городиський, Андрій Удовиченко

Людство завжди і в усіх сферах докладало багато зусиль, щоб передбачати майбутнє. У кримінальній юстиції теж було немало спроб: від того, наскільки до тебе схильні боги та френології, і до предиктивної аналітики зараз.

Що таке предиктивна аналітика

Дуже спрощено, предиктивну аналітику (ПА) можна визначити як використання історичних та статистичних даних для прогнозування майбутніх подій або результатів. Для цього використовуються різні інструменти, і все частіше – технології штучного інтелекту (ШІ). Наприклад, в Україні міністр юстиції Денис Малюська ще у 2020 році анонсував запуск «Касандри» - програмного забезпечення «з елементами штучного інтелекту» для підготовки характеристики обвинуваченого для суду, яка враховуватиметься при винесенні вироку.

Як і будь-яке технологічне рішення, ПА має дві сторони. З одного боку, її застосування може допомогти зменшити людські упередження при оцінці ризиків та прийнятті рішень на різних етапах кримінального процесу. З іншого — існують побоювання, вже доведені на практиці, щодо упереджень та порушень прав людини через застосування ПА.

У кримінальному правосудді є кілька напрямків, де ПА може знайти широке прикладне застосування, зокрема:

• Прогнозування ризику рецидиву — використання історичних даних про правопорушників для створення алгоритмів оцінки ризику ймовірності скоєння повторного злочину. Це впливає на рішення про винесення вироку, умовно-дострокове звільнення та пробацію, і згадана «Касандра» належить до цього типу.
• Прогнозування "гарячих точок" злочинності — використання даних про злочинність, обставини та умови в конкретних локаціях для прогнозування місць і часу, де можуть статися злочини. Це допомагає розподіляти ресурси органів правопорядку для патрулювання та спостереження.

Прихильники стверджують, що ПА в правосудді може зменшити упередження у рішеннях щодо застави та при винесенні вироків завдяки тому, що, порівняно з людськими судженнями, буде об’єктивніше та послідовніше оцінювати ризик рецидиву чи втечі підозрюваного. 

Одним із ключових позитивних ефектів від застосування таких систем називають те, що інформація про оцінку ризиків допоможе суддям при прийнятті рішень та зменшить упередження та диспропорції в їх судженнях. Як наслідок, можна очікувати пом’якшення рішень про запобіжні заходи (тримання під вартою, застава) для обвинувачених з низьким ризиком, які часто є бідними та представниками меншин, натомість будуть точніше прийматися рішення щодо  обвинувачених з високим ризиком.

Певним чином алгоритми справді з цим можуть допомогти. Проте є важливі фактори, які впливають на те, чи це стане реальністю: як навчати ці алгоритми ПА та якою є якість даних, які використовуватимуться для навчання. 

Як працює предиктивна аналітика в кримінальній юстиції?

Якщо навчальні дані, використані для розробки моделі нейронної мережі, містять упередження, наприклад расові чи соціоекономічні диспропорції, модель може ненавмисно закріплювати ці упередження у своїх прогнозах. І тоді результат, який вона видаватиме, відображатиме ті ж тенденції, які присутні при прийнятті рішень людьми.

Наприклад COMPAS, один із найбільш широко використовуваних алгоритмів ПА, має точність близько 65% для загального прогнозування рецидивізму. Це лише трохи краще, ніж випадковість.

Разом з тим, дослідження показали, що невелика група нефахівців зі значно меншою інформацією, ніж у COMPAS (7 факторів замість 137), прогнозує рецидивізм так само точно, як і COMPAS.

У тому ж дослідженні дійшли до висновку, що лише двох факторів — віку та загальній кількості попередніх засуджень — було достатньо, аби дати ту ж точність прогнозу, що і COMPAS, використовуючи просту лінійну регресію. 

Інші прості алгоритми машинного навчання, такі як логістична регресія, працюють подібно до COMPAS з точністю в діапазоні 60-65%. Складніші алгоритми машинного навчання не продемонстрували істотно вищої точності, ніж COMPAS: деякі досягають точності близько 70%.

У дослідженнях, що порівнювали алгоритмічні прогнози з людськими судженнями, алгоритми показали 65-89% точності залежно від виду рецидивізму, в той час як люди - 60-83%. Алгоритми значно перевершують людей у прогнозуванні саме рецидивізму насильницьких злочинів, досягаючи до 89% точності проти 60% у людей.

Однак жоден алгоритм не досяг більше ніж 90% точності, навіть точність 80% є рідкісною.

Втім, точність — це не єдина проблема. Щодо алгоритмів існує немало й критики щодо дискримінації у ході їх застосування.

Так, алгоритми можуть дискримінувати представників певних груп і призводити до несправедливих результатів через упередження у даних, які використовувалися для навчання. Алгоритми можуть порушувати стандарти справедливості, коли схожі підсудні отримують різні оцінки ризику на основі раси чи інших факторів. Той самий COMPAS схильний помилково призначати афроамериканським підсудним високий ризик.

Просте навіть видалення раси та захищених атрибутів з алгоритмів не гарантує справедливості, оскільки інші змінні можуть нести приховані упередження.

Методики видалення упереджень з прогнозів моделей часто пов'язані з втратою деякої точності. Немає консенсусу і щодо пріоритетності справедливості над точністю, а різні критерії справедливості не можуть бути задоволені одночасно.

Як впроваджувати предиктивну аналітику?

Якщо все-таки досліджувати можливість використати предиктивну аналітику в кримінальній юстиції Україні, то як нам до цього підійти?

Для ефективного використання предиктивної аналітики, незалежно від індустрії, потрібні дані та фахівці.

У першу чергу, потрібні історичні набори даних (data sets), що стосуються того, що ви хочете спрогнозувати. З цим зазвичай найбільші проблеми: часто вони потребують оцифрування, є недостатніми, неповними або втраченими або ж відображають ті проблеми, які і прагнуть вирішити, впроваджуючи ПА. 

Вже згаданий COMPAS використовує 137 критеріїв у таких групах:

• кримінальне минуле: попередні злочини, їх тяжкість, час від останнього злочину тощо;
• демографія: вік, стать, раса;
• сімейне оточення: кримінальне минуле родичів, сімейні обставини;
• освіта і робота: рівень освіти, трудова історія, професійні навички;
• шкідливі звички: історія наркозалежності;
• поведінкові особливості: кримінальне мислення, соціальні зв'язки, соціальна адаптивність.

Однак наявність цих наборів даних чи їх кількість не є головним фактором. Важливо те, як вони генерувалися: якщо вони будуть містити упереджені дані, то коли ми будемо навчати на їх основі алгоритми ПА без відповідних змін, ми фактично закарбуємо цю несправедливість та упередженість в алгоритм, і вони видаватимуть такий самий результат як рекомендацію. 

У випадку України ті набори даних, які можуть використовуватися для навчання алгоритмів ПА, відображатимуть проблеми сфери юстиції: непослідовність й упередженість у правозастосуванні, необґрунтованість тих чи інших рішень внаслідок неправильного розуміння норм та ін.

Тому не менш важливими є фахівці, які розроблятимуть та впроваджуватимуть алгоритми ПА – і у випадку кримінального правосуддя лише юристів буде недостатньо. Це потребує постійної залученості кола експертів з різних напрямків, аби ефективно корегувати роботу моделей. Є потреба у залученні фахівців із  статистики, наук про дані та аналітики, які можуть будувати та інтерпретувати розширені аналітичні моделі та матимуть знання із програмування, алгоритмів, методів моделювання. 

Україна має сильних інженерів з машинного навчання та статистики, успішні стартапи, що використовують такі технології. Проблема скоріш у тому, як долучити їх та мотивувати до побудови системних рішень, оскільки тут ми конкуруємо із світовими технологічними компаніями.

Висновки

Предиктивна аналітика має великий потенціал допомогти у сфері правосуддя, але існують серйозні ризики упередженості та дискримінації через упередженість даних.

В Україні є достатній рівень аналітичних навичок та технологічних можливостей для розгортання таких систем. Але бракує відкритих досліджень про рівень об’єктивності даних та щодо спроб їх реалізувати.

Тому перед впровадженням таких систем у кримінальному правосудді як мінімум необхідно:

• провести незалежні дослідження про упередженість у наявних даних та практиках збору даних у судах та органах правопорядку та під час прийняття рішень;
• створити міждисциплінарні команди, що включатимуть експертів із різних сфер для дослідження цих інструментів;
• ретельно тестувати будь-які рішення на упередженість перед широким розгортанням;
• забезпечити прозорість алгоритмів, можливість їх перегляду та постійний моніторинг результатів.

Лише так можна мінімізувати ризики та отримати максимальну користь від впровадження предиктивної аналітики в кримінальне правосуддя України. У всіх інших випадках, наприклад, швидкого впровадження задля простих рішень і змін - алгоритми ризикують просто відтворювати ту ж несправедливість, яка зараз існує при прийнятті аналогічних рішень людьми.

Матеріал підготовлено за підтримки Європейського Союзу та Міжнародного фонду «Відродження» у рамках спільної ініціативи «Європейське Відродження України». Матеріал представляє позицію авторів і не обов’язково відображає позицію Європейського Союзу чи Міжнародного фонду «Відродження».