Хоча до повноцінного використання технологій штучного інтелекту (ШІ) ще далеко, їх все ширше інтегрують з іншими  технологіями, підвищуючи  ефективність останніх. Серед таких  сфер, де технології ШІ стають все більш затребуваними,  є громадська безпека, зокрема системи відеоспостереження. 

Застосування ШІ у відеоспостереженні  створює безліч можливостей для більш надійних заходів щодо громадської безпеки. Проте є  й інший бік технологічних рішень: виклики, пов’язані з неналежним використанням отриманих даних, посиленням державного контролю та втручанням у приватне життя.

Особливості функціонування систем відеоспостереження на базі ШІ

Сучасні системи відеоспостереження, що використовують технології  ШІ, здатні  розпізнавати та аналізувати зображення та звук із підключених камер. Загалом, більшість сучасних систем використовує технологію «машинного зору»: серії алгоритмів або математичних моделей, що працюють за допомогою порівняння побаченого об’єкта з багатьма іншими у базах даних і точно ідентифікують необхідний об’єкт. 

При цьому ШІ може аналізувати не лише зовнішній вигляд об’єкта, а і його властивості, наприклад, швидкість, спосіб пересування, у якому положенні він перебуває тощо. Таким чином, за допомогою ШІ можна отримати максимальну інформацію щодо об’єктів спостереження в тому чи іншому місці й відповідно їх ідентифікувати .

Крім того, найсучасніші технології ШІ у відеоспостереженні мають змогу не тільки ідентифікувати побачені об’єкти, а й самостійно формувати власний стандарт того, як має виглядати адекватна ситуація на вулицях та дорогах. Самонавчаючись, технології ШІ можуть визначати, що є звичайною поведінкою, до прикладу, транспорту чи людини. Отже, якщо транспортний засіб пересувається по тротуару або людина перебуває на середині дороги, то ШІ може ідентифікувати це як відхилення від норми або правопорушення на основі власних автономних рішень.

Перспективи та ризики використання ШІ у сфері відеоспостереження

Як зазначає директор Milestone Systems Рахул Ядав, системи відеоспостереження на базі технологій ШІ відкривають багато можливостей для покращення безпеки громадян, наприклад:

1. Розпізнавання небезпечних людських взаємодій, таких як бійки, падіння або злочинні дії.

2.  Розуміння поведінки натовпу для виявлення ранніх ознак конфліктів.

3.  Виявлення аномалій, як-от проникнення за периметр системи безпеки.

4.  Аналіз довгострокових тенденцій для прогнозування ризиків ще до того, як певний інцидент може початися.

5.  Співставлення отриманої інформації з іншими можливостями різних систем: системи надання доступу, системи звукового виявлення тощо.

Дані, отримані із використанням відеоспостереження на основі ШІ, можуть бути використані  у кримінальному та адміністративному судочинстві. Штучний інтелект може швидко проаналізувати відео- чи аудіоматеріали та надати свою оцінку, визначивши, що саме відбулося й чи є задокументована подія порушенням закону. Теоретично це може зекономити час на ведення слідства та зменшити  ризик людського суб’єктивізму. 

Зібрані такими системами дані ШІ може систематизувати у базу даних й використовувати їх як для самонавчання, так і для ідентифікації суб’єктів, що вже раніше порушували закон. Таким чином, використання ШІ у системах відеоспостереження є корисним для розвитку предиктивної аналітики. 

Такі можливості використання ШІ мають особливі перспективи в секторі безпеки. Проте ці технології породжують і дискусії щодо наслідків, які можуть бути викликані застосуванням ШІ у відеоспостереженні, зокрема для приватного життя. 

По-перше, в технологіях ШІ існують проблеми упереджень та точності щодо нерепрезентативних даних, у такий спосіб створюючи прецеденти для посилення дискримінаційних ризиків. Це є вагомою проблемою, адже деякі обставини ШІ може ідентифікувати неправильно або ігнорувати взагалі. Такі побоювання повʼязані зі значною кількістю прецедентів, у яких ШІ неправильно ідентифікував людину та плутав її зі злочинцем, зокрема, в США, а саме в Техасі, Детройті, Каліфорнії та Нью-Джерсі. 

Ризики через використання ШІ також присутні у сфері предиктивної аналітики. Системи відеоспостереження на базі ШІ також можуть страждати від упередженості до деяких етнічних груп, ідентифікуючи їх на відео та некоректно інтерпретуючи їх поведінку. Наприклад, система COMPAS – алгоритм з визначення ступеня рецидивізму – схильний помилково призначати високі ризики підсудним афроамериканцям. 

Серед проблем є й т.зв. дилема “чорної скриньки” й питання прозорості алгоритмів прийняття рішень ШІ. “Чорна скринька” означає труднощі у визначенні причинно-наслідкового зв’язку прийняття того чи іншого рішення ШІ, адже процес визначення алгоритму, який вплинув на прийняття відповідного рішення, є незрозумілим та малодослідженим. Це створює недовіру до результатів, що продукує ШІ, та створює занепокоєння щодо якості даних, на яких він навчається. 

По-друге, зі стрімким розвитком ШІ суспільство все більше ставиться з підозрою та упередженням до подібних технологій. 

Природно, що у цій ситуації велику роль має взяти на себе держава, запропонувавши стандарти регулювання, які б захистили населення від неналежного збору та використання даних.  

Проте й сама держава може використовувати технології ШІ не лише в цілях громадської безпеки, а й для нагляду та контролю за ними, що є особливо небезпечним для громадян у країнах з авторитарними режимами. 

Практика використання систем відеоспостереження на базі ШІ в світі та Україні

Системи відеоспостереження із використанням  технологій ШІ вже почали широко використовуватися у багатьох країнах світу. 

Зокрема, гучний прецедент розгортання технологій масового відеоспостереження із ШІ мав місце у Франції напередодні Літніх Олімпійських ігор 2024 року в Парижі. Французький уряд прийняв низку законів, що дозволяють французьким органам правопорядку та їх технічним підрядникам експериментувати з системами інтелектуального відеоспостереження та використовувати технології ШІ для аналізу відеоматеріалів. 

Ці інновації викликали занепокоєння серед громадянського суспільства, адже гостро постали питання належного й законного використання відповідних технологій країнами-членами ЄС, особливо якщо це може вступати у протиріччя із законодавством ЄС у питаннях ШІ та захисту персональних даних. Регулювання у Франції суперечить вимогам Закону ЄС про ШІ (AI Act) та його положенням щодо запобігання шкідливому використанню технологій ШІ. Також французьке законодавство дозволяє експериментувати з ШІ не тільки органам правопорядку, а й технічним підрядникам, які є приватними компаніями. У звʼязку з цим, виникає питання дотримання принципів Загального регламенту про захист персональних даних (GDPR). 

Французький уряд є не єдиним, що намагається використовувати ШІ у відеоспостереженні. До Франції під час Олімпійських Ігор в Токіо це намагався робити уряд  Японії у 2021 році. Експерименти із застосуванням ШІ та наглядом відбувалися також й у Великобританії, де зазначені технології проявили себе відносно ефективно.

Проте найширше розгортання систем відеоспостереження зі елементами ШІ відбувається у Китаї. Очевидно, що уряд Китаю використовує системи масового спостереження не лише в цілях громадської безпеки, а й задля посилення нагляду та контролю населення. Згідно із 50 загальнодоступними документами, що були проаналізовані Reuters, десятки організацій у Китаї протягом 2018-2022 років придбали програмне забезпечення під назвою «одна особа, один файл». 

«Одна особа, один файл» – специфічна програма, яка може точно ідентифікувати та архівувати вигляд обличчя, навіть якщо воно сховане під маскою чи окулярами. До того ж ця система має здатність до самонавчання та створення потрібної кількості файлів залежно від обсягу отриманих даних. Паралельно із розробкою та впровадженням програмного забезпечення «одна людина, один файл», китайський уряд масово почав встановлювати камери відеоспостереження під назвою «Гостре око», створені для збору даних та інтеграції в одну загальнонаціональну платформу для їхнього обміну. 

В Україні теж висувають ініціативи щодо розгортання систем масового відеоспостереження із технологіями ШІ. Активні процеси у цьому напряму уже відбувалися у 2015-2019 роках у найбільших містах України. Наприклад, у березні 2021 року чинний начальник львівської поліції Олександр Шляховський говорив про «тотальний відеонагляд», заявляючи про наміри уніфікувати всі наявні камери спостереження на Львівщині в єдину систему в межах проєкту “Безпечна Львівщина” та наголошуючи на доцільності застосування технології розпізнавання облич. 

Вже тоді піднімали питання щодо доцільності та коректності використання систем відеоспостереження із технологіями розпізнавання облич та пропонували рішення цього питання.

У лютому 2024 року до Верховної Ради України було подано законопроєкт, який має на меті упорядкувати системи відеоспостереження в Україні в межах проєкту «Безпечне місто». Хоча в законопроєкті прямо не йдеться про використання технологій ШІ, однак “автоматизований аналіз відцифрованих даних”, передбачений у ньому, очевидно, передбачає використання цих технологій.

Зазначений законопроєкт має на меті впровадити автоматизований збір метаданих у реальному часі. Такими метаданими є ім’я, дата народження, відомості про зареєстроване або задеклароване місце проживання (перебування), відцифрований образ обличчя особи та реєстраційний номер облікової картки платника податків. Відповідно, саме за цими даними буде ідентифікуватися та чи інша фізична особа. У свою чергу, найпріоритетнішим об'єктами, що підпадають під відеомоніторинг, будуть публічні місця, території загального користування, заклади освіти, охорони здоров'я тощо, а також певні речі і предмети. 

Подібні наміри українських законодавців викликають занепокоєння у багатьох експертів  та правозахисників, адже законопроєкт має багато проблем, особливо тих, що пов’язані з визначеннями типів інформації, яка підлягає збору, та розумних меж збирання та аналізу інформації.  

Ці “прогалини” можуть бути  обмежено допустимими у разі використання систем відеоспостереження із технологіями ШІ виключно органами правопорядку, проте законопроєкт допускає встановлення подібних камер приватними особами чи компаніями, якщо поліція буде мати до них постійний доступ. Таким чином, це ставить під ризик приватність осіб, які потраплять на запис, адже зібрані дані можуть використовуватися неналежним чином. 

Інша проблема полягає у тому, що камери, які встановлюються в українських містах - китайського виробництва, зокрема таких компаній як Hikvision і Dahua. Так, видання «Схеми» у своєму розслідуванні наголошують на тому, що камери від китайських компаній є вразливими до використання  у шпигунських та хакерських цілях, а китайські спецслужби можуть мати доступ до зібраних через них даних.

Зрештою, побоювання щодо китайського урядового контролю за такими технологіями не є безпідставними. Після масштабних протестів 2019 року в Гонконзі, Китай реалізує політику максимального посилення контролю над громадянами, залучаючи технології ШІ.

У цьому контексті експерти Інституту масової інформації наголошують на питаннях, які потребують додаткового регулювання, а саме зазначення переліку видів та категорій даних, що можуть збиратися у ході відеоспостереження, встановлення розумних меж збирання та аналізу інформації та гарантії захисту права на повагу до приватного і сімейного життя громадян.

Висновки і рекомендації 

Використання систем ШІ у сфері відеоспостереження може бути перспективним інструментом для забезпечення громадської безпеки. Ефективна система відеоспостереження здатна посилити безпекові заходи, особливо під час воєнного стану, коли правоохоронні органи мають справу не тільки з охороною громадського порядку, а також і з розвідувальними й диверсійними операціями ворожої країни. 

Проте очевидним є й те, що перспектива використання відеоспостереження на базі ШІ може спричинити ряд проблем, що наразі не враховані законопроєктом. 

Одна з найголовніших полягає у тому, чи зможуть органи влади ефективно забезпечити захист зібраних даних. Особливо це питання актуальне в розрізі нинішньої війни Росії проти України. Неможливо виключити й можливість “витоку” даних, якими можуть скористатися зловмисники або служби розвідки ворожої країни задля нанесення шкоди громадянам України. 

До того ж, мають бути обрані безпечні постачальники відповідних технологій. Як зазначалося вище, видання “Схеми” зазначає, що більшість камер в Україні виробляються китайськими компаніями, що потенційно надає уряду Китаю можливість отримувати інформацію не тільки про українських громадян, а й про стратегічні об'єкти України. У поєднанні з технологіями ШІ та враховуючи союзницькі відносини між Москвою та Пекіном, це може створити критичні ризики для національної безпеки України.

Реакція представників громадянського суспільства на законопроєктну ініціативу свідчить, що існують  занепокоєння щодо постійного моніторингу та збору приватної інформації. Очевидно, що такі занепокоєння підвищують рівень суспільного занепокоєння, особливо в умовах воєнного стану та призупинення демократичних процесів у країні. 

Невизначеними залишаються й проблеми, що стосуються самих технологій ШІ, моніторингу їх застосування та механізмів розв’язання. Упередженість та системні помилки, очевидно, будуть супроводжувати українську систему правопорядку, й вирішення цих помилок залежить від загального прогресу у розвитку технологій ШІ. 

У звʼязку з цим, у ході впровадження таких технологій необхідно врахувати наступне:

1. Забезпечення підзвітності: впровадження такої масштабної системи відеоспостереження неможливе без ефективних контрольних механізмів за її функціонуванням та діяльністю органів і посадових осіб, які матимуть доступ до зібраних даних. У разі, якщо в таку систему будуть інтегровані елементи ШІ, необхідно забезпечити контрольні механізми щодо цих технологій теж.

Інституційні механізми контролю за діяльністю правоохоронних органів на сьогодні не мають спроможності забезпечити ефективний нагляд за використанням такої системи, особливо в умовах війни. Діяльність Уповноваженого Верховної Ради з прав людини в сфері захисту прав людини та приватності є ефективною, проте обмеженою, в силу браку ресурсів та відповідної кількості працівників. Що ж до регулювання і контролю за використанням ШІ технологій, то уряд планує запровадити відповідне регулювання після скасування воєнного стану.

Крім того, відсутні чіткі та послідовні механізми розгляду скарг і вирішення спорів щодо впровадження такої системи.

У зв’язку із цим впровадження таких технологій у короткостроковій перспективі видається таким, що не зможе забезпечити баланс між інтересами національної безпеки та правами людини. Воно може відбуватися на основі ризик-орієнтованого підходу після створення чи вдосконалення відповідних регуляторних й інституційних механізмів.

2. Контроль за постачальниками: слід обережно підходити до вибору постачальників як камер відеоспостереження, так і програмного забезпечення і технологій ШІ, які забезпечуватимуть їхнє функціонування як єдиної системи. Інтереси національної безпеки мають превалювати над комерційною складовою, швидкістю поставок чи простотою інтеграції. Відповідний процес має санкціонуватися на найвищому рівні із залученням представників експертного середовища та громадянського суспільства.

3. Відповідність євроінтеграційним зобов’язанням: автоматизована обробка персональних даних у таких масштабах може становити жорстке втручання у приватність мільйонів українців та резидентів України, що не відповідатиме стандартам ЄС. У зв’язку із цим необхідно перевірити впровадження такої системи на відповідність законодавству ЄС, зокрема щодо захисту персональних даних (GDPR) та штучного інтелекту (AI Act), а також загалом відповідності вимогам Європейського Союзу щодо забезпечення прав та свобод людини і підзвітності органів правопорядку.

4. Співпраця з українською ІТ індустрією: такі проблеми, як якість інформації, “чорна скринька” та упередженість ШІ, вже вирішуються провідними IT-компаніями. До прикладу, компанія Statworx наводить три методи боротьби з проблемами “чорної скриньки” та упередженості: метод важливості часткових функцій, метод функцій SHAP та метод накопичення локальних ефектів. Кожен із цих методів направлений на виявлення найважливіших для ШІ змінних, що впливають на прийняття його рішень. 

Також Trigyn technologies описує низку заходів, що мають бути спрямовані для забезпечення належної якості інформації, яку ШІ використовує для свого навчання. Найважливішими можна виділити способи маркування даних, а також їх відстеження, збільшення та належне управління ними. Разом із цим важливим є видалення “шуму”, тобто інформації, що є нерелеватною та шкідливою для навчання ШІ. 

Українські ІТ-компанії можуть також направити свої зусилля на вирішення найпоширеніших проблем ШІ, продукуючи нові продукти на ринку технологій. Розвиток подібних проєктів від ІТ-компаній може здійснюватися за рахунок державних замовлень чи інших видів фінансової підтримки.

В основі будь-якого регулювання технологій ШІ у сфері відеоспостереження має лежати дотримання належного захисту прав людини. У цьому контексті необхідно забезпечувати механізми правового захисту від несправедливих рішень, спричинених використанням систем на основі ШІ, та відповідальності за порушення принципів обробки персональних даних. У ході використання відеоспостереження на основі ШІ важливо пріоритезувати прозорість та підзвітність, адже саме ці принципи сприятимуть балансу між інтересами національної безпеки та громадянського суспільства.

Автори: Назар Демченко, Іван Городиський, Дарина Бойко