Авторка: Дарина Бойко

Штучний інтелект (ШІ) стає все більш доступним інструментом у повсякденному житті навіть для наймолодших користувачів інтернету. Серед молодої аудиторії, зокрема підлітків, особливу популярність набувають чатботи, які імітують людську розмову та емоції, пропонуючи відчуття підтримки чи навіть дружби.

Попри привабливість таких інструментів для молодших користувачів, дедалі частіше виникають занепокоєння щодо того, які наслідки має така взаємодія на емоційний та психологічний стан дітей та підлітків. Виникає потреба у чіткішому розумінні відповідальності розробників, регуляторів і суспільства за ризики спілкування із віртуальними співрозмовниками.

Віртуальний компаньйон

Згідно з минулорічним звітом Common Sense Media, що опитало американських батьків та старшокласників, 7 з 10 підлітків хоча б раз використовували щонайменше один інструмент генеративного штучного інтелекту. Серед них 18% відмітили, що використовували ШІ для допомоги у вирішенні особистих проблем, а 15% – для того, щоб скласти їм компанію.

В Україні станом на 2023 85% старшокласників хоча б раз використовували сервіси на основі ШІ, - йдеться у схожому дослідженні від Projector Creative & Tech Institute та Малої академії наук України за підтримки дослідницької компанії Factum Group Ukraine. 

Серед українських підлітків, ймовірно, також зростатиме популярність використання ШІ не лише як інструмента для навчання, а й як засобу спілкування та підтримки.

Одним із трендових ШІ-застосунків, призначених для спілкування, є Character.AI – сервіс, що забезпечує користувачам розмову з ШІ-чатботами, створеними на основі реальних або вигаданих персонажів із поп-культури, фільмів, серіалів або відеоігор. 

Додаток став особливо популярним серед молоді та підлітків. У 2025 році кількість активних користувачів Character.AI досягла понад 28 мільйонів зі значною частиною відвідувачів віком 18-24 років. У 2024 році сервіс обробляв близько 20 тисяч запитів у секунду, що становить приблизно 20% запитів, що обслуговуються Google Search.

Молоді люди звертаються до таких інструментів для того, щоб спілкуватись або навіть отримувати підтримку в особистих питаннях. Один із найпопулярніших чатботів Character.AI під назвою “Психолог” отримав більше 200 мільйонів повідомлень за час свого існування.

На платформі Reddit мільйони користувачів діляться своїм досвідом спілкування із ШІ-чатботами Character.AI. В одному з таких дописів користувач поділився, що чатбот “Психолог” є “корисним і співчутливим”. “Я відчуваю, що я розмовляю зі справжнім терапевтом, але справді хорошим і розумним”, – зазначає користувач.

Дослідження показують, що діти набагато частіше, ніж дорослі, ставляться до чатботів як до людей. Діти та підлітки можуть розкривати більше інформації про свій психологічний стан доброзичливому чатботу, ніж дорослому. Дружній та реалістичний дизайн чатботів заохочує дітей довіряти їм, навіть якщо ШІ не розуміє їхніх почуттів або потреб.

Доцент університету Цинциннаті, США, доктор Келлі Меррілл-мол., який досліджує переваги комунікаційних технологій, підкреслює, що спілкування із ШІ-чатботами здатне “зменшити почуття депресії, тривоги і навіть стресу”. 

Проте воно має низку обмежень.

“Важливо зазначити, що багато з цих чатботів є новими, і вони обмежені в тому, що вони можуть робити. Зараз вони все ще багато помиляються. Ті, хто недостатньо обізнані в системах ШІ та не розуміють їхніх обмежень, у підсумку заплатять ціну", – зазначає експерт.

Нещодавні дослідження свідчать про те, що ШІ-чатботи можуть викликати емоційну залежність та ізоляцію від людських стосунків. До прикладу, експерти з Оксфордського Інтернет-інституту, Інституту безпеки ШІ Британії та інших організацій зазначають, що системи ШІ можуть імітувати емоційну поведінку відповідно до потреб користувача. Така взаємодія, хоч і може давати короткострокові переваги, вводить в оману вразливих осіб, заохочує залежну поведінку і може призвести до упередженого прийняття рішень у дорослих та нарцисизму в дітей.

Довгострокові наслідки взаємодії зі штучним інтелектом можуть виникнути, якщо вони погіршують здатність людини знаходити компроміси або приймати “інакшість”. Причиною сильнішої привʼязаності до ШІ експерти називають самотність або погані людські стосунки, що створює замкнутий цикл все більшої залежності від взаємодії з технологіями.

Небезпечні наслідки взаємодії з чатботами на основі ШІ

У деяких випадках взаємодія із чатботами на основі ШІ може мати більш небезпечні наслідки. Прикладом цього є гучний позов проти Character.AI, поданий у жовтні 2024 року у Флориді, від матері 14-річного підлітка, який помер від самогубства після спілкування з чатботом.

Позивачка Меган Гарсія стверджує, що її син зацікавився чатботом “Дейнеріс Таргарієн”, названим на честь персонажки з серіалу “Гра престолів”. Повідомляється, що спілкування включало інтимні та відверто сексуальні розмови, а також обговорення самогубства. У позові також йдеться, що спілкування з чатботом загострило проблеми з психічним здоров’ям підлітка, що зрештою призвело до його смерті в лютому 2024 року.

В одній із розмов “Дейнеріс” запитала підлітка, чи “був у нього план” покінчити життя самогубством, на що той відповів, що не знає, чи його план спрацює і чи дозволить це йому померти без болю. Тоді чатбот написав: “Це не причина не робити цього”.

У прес-релізі адвокати Гарсії зазначили, що компанія Character.ai “свідомо розробляла, експлуатувала та продавала дітям маніпулятивного чатбота зі штучним інтелектом, що спричинило смерть молодої людини”.

Позивачка вимагає від Character.AI відшкодування невизначеної фінансової шкоди, а також зміни в політиці компанії, які містили б попередження, що додаток не призначений для неповнолітніх користувачів.

Вже у грудні 2024 року Character.AI зіткнулась зі схожим позовом до окружного суду в Техасі від батьків, які стверджували, що чатботи компанії спонукали їхніх дітей до самоушкодження.

У позові матір 17-річного підлітка заявила, що один із чатботів спонукав її сина займатися самоушкодженням, щоб впоратись зі смутком. Окрім цього, інший чатбот заохочував підлітка боротись із правилами батьків, а також припустив, що вбивство може бути прийнятною відповіддю на їхні заборони.

Друга позивачка, матір 11-річної дівчини, стверджує, що її донька близько двох років піддавалась сексуалізованому контенту від чатботів, перш ніж її мати дізналась про це.

Позивачки вимагають призупинити додаток, поки Character.AI не запровадить жорсткіші правила для захисту дітей.

Character.AI тривалий час не надавала офіційних коментарів на обидва позови. Проте компанія пообіцяла впровадити зміни в політиці додатку.

В одній із заяв компанія зазначила: “Наша мета – запропонувати веселий та захоплюючий досвід, якого очікують наші користувачі, забезпечуючи при цьому безпечне вивчення тем, які наші користувачі хочуть обговорити з персонажами”.

У грудні 2024 року Character.AI представила нові функції безпеки для підлітків. Компанія, зокрема, розробила дві різні мовні моделі: одну для дорослих та одну для підлітків. Версія для неповнолітніх включає блокування певного невідповідного, “чутливого” або “провокативного” контенту, а також направлення до гарячих ліній у разі виявлення “мови, що стосується самогубства або самоушкодження”.

Пізніше компанія додала функцію “Батьківські інсайти”, що дозволяє підліткам ділитись щотижневим звітом про використання чатбота на адресу електронної пошти батьків, що включає середньодобовий час спілкування із персонажами, проте не розкриває вмісту розмов.

Досі існують побоювання щодо ефективності цих змін. Безпекові заходи компанії щодо підлітків можуть виявитися недостатніми та реактивними, а новий батьківський контроль можна легко обійти. 

Дебати щодо регулювання

У січні цього року Character.AI подала клопотання про відхилення позову Меган Гарсії. Адвокат компанії стверджує, що додаток захищений від відповідальності Першою поправкою до Конституції США, що забезпечує право користувачів на свободу слова, зокрема в медіа.

“Єдина відмінність між цим випадком і тими, які були раніше, полягає у тому, що частина мови тут пов'язана зі штучним інтелектом. Але контекст експресивної мови – чи то у розмові з чатботом ШІ, чи при взаємодії із персонажем відеоігор – не змінює аналіз Першої поправки”, – йдеться у клопотанні.

Сьогодні у США немає всеохопного законодавства, що регулювало б взаємодію ШІ чатботів із неповнолітніми та згенерований ними контент. Водночас Розділ 230 Закону “Про пристойність у спілкування” (Communications Decency Act) захищає соціальні мережі та інші онлайн-платформи від відповідальності за сторонній контент. Винятком є ситуація, коли платформа є постачальником інформаційного контенту, тобто бере участь у розробці опублікованих матеріалів. 

У поданому компанією клопотанні не згадується, чи може бути Character.AI безпечною згідно з розділом 230 Закону. Залишається неврегульованим питання, чи захищає розділ 230 результати, згенеровані технологіями на кшталт чатботів Character.AI. 

У випадку генеративного ШІ, результати якого значно залежать від навчальних даних та запитів користувачів, рішення про те, чи буде платформа позбавлена імунітету за розділом 230, залежатиме від конкретних обставин. Якщо буде виявлено, що система ШІ бере участь у створенні “повністю або частково” шкідливого контенту, звільнення від відповідальності не застосовуватиметься. У подальшому це може стати одним зі способів притягнення технологічних компаній до відповідальності за шкідливий контент ШІ.

Якщо позивачі все ж досягнуть успіху та справи будуть продовжені, це може стати сигналом щодо сильніших регуляторних рамок не лише для Character.AI, але й для усієї індустрії генеративного ШІ. Зміни можуть, зокрема, стосуватися жорсткішої верифікації віку користувачів, перевірки систем щодо наявності шкідливого контенту та створення рамок відповідальності за шкоду, нанесену неповнолітнім користувачам при взаємодії з ШІ.

Справи можуть стати прикладом і для інших юрисдикцій, зокрема для Європейського Союзу, який вже запровадив обовʼязкове регулювання систем ШІ на основі їхнього ризику. Особливо важливим у цьому контексті є визначення систем, що вважаються “високим ризиком” і потребують жорсткішого регулювання.

Наразі Закон ЄС про ШІ (AI Act) позначає генеративний ШІ, зокрема чатботів на основі ШІ, як системи з обмеженим ризиком. Розробники таких інструментів зобовʼязані повідомляти користувачів про взаємодію зі штучним інтелектом та позначати контент, згенерований ШІ. Проте теперішніх правил може бути недостатньо, особливо для належного захисту дітей та підлітків при користуванні такими платформами, як Character.AI. Ймовірно, це може підштовхнути регуляторів розглянути підхід, заснований на принципах, що оцінює ризики систем у кожному конкретному випадку.

Питання доцільності регулювання ШІ-додатків, якими, зокрема, користуються неповнолітні, є актуальним і для України. 

Підлітки вже зазнають негативного впливу з боку цифрових платформ, зокрема TikTok, Telegram та інших соціальних мереж, які формують інформаційне середовище без належної модерації. В умовах війни українське суспільство зіткнулося із випадками вербування неповнолітніх через месенджери, що вказує на реальну загрозу використання онлайн-сервісів для маніпуляцій, поширення пропаганди та залучення до протиправної діяльності. 

Ситуація підкреслює вразливість підлітків до зовнішнього впливу, особливо у випадку платформ, які дозволяють анонімне або необмежене спілкування.

Сервіси на основі штучного інтелекту, які імітують емоційну взаємодію, несуть схожі ризики. Здатність ШІ-чатботів адаптуватися до користувача, впливати на світогляд, формувати поведінку та настрій підлітків створює небезпеку шкідливого впливу в особливо чутливий період психологічного розвитку.

У цьому контексті зростання попиту на сервіси генеративного ШІ на кшталт ChatGPT та Character.AI серед української молоді свідчить про необхідність мінімізації ризиків, які можуть виникнути при використанні цих технологій. Проте наразі українське законодавство лише наближається до формування цілісного підходу до регулювання ШІ.

Висновки і рекомендації

Інтенсивна інтеграція чатботів на основі штучного інтелекту у цифрове середовище, до якого активно залучені підлітки, створює низку викликів у сфері етики, безпеки та регулювання цих технологій. Досвід взаємодії із чатботами показує, наскільки вразливими можуть бути неповнолітні до емоційного та часто шкідливого контенту, що генерує штучний інтелект. Антропоморфізація інструментів ШІ лише посилює проблему, адже наділення технологій “людськими” якостями створює відчуття привʼязаності у підлітків та навіть може призвести до соціальної ізоляції. 

Розв’язання цієї проблеми потребує комплексного підходу, що включає розробку регуляторних механізмів та створення відповідальності для розробників і платформ. У цьому контексті важливими є побудова ефективних стандартів відповідальності для розробників генеративних систем, особливо у продуктах, до яких можуть мати доступ неповнолітні, а також підвищення обізнаності про ризики таких інструментів. Для досягнення більш безпечного середовища для дітей та підлітків при взаємодії зі співрозмовниками на основі ШІ, необхідно врахувати наступне:

1. Посилення відповідальності технологічних компаній. Компанії мають проєктувати свої системи з урахуванням ризиків для вразливих груп, зокрема забезпечувати надійну вікову верифікацію, адаптувати функціонал для неповнолітніх і встановлювати механізми реагування у випадках, коли чатбот продукує шкідливий або відвертий контент. Компанії також повинні впроваджувати етичні стандарти, які встановлюють чіткі вимоги щодо взаємодії чатботів із підлітками. Це включає інформування користувачів і їхніх батьків про принципи роботи систем, типи даних, що підлягають обробці, та можливі ризики взаємодії із чатботами. 
2. Впровадження регуляторних рамок для захисту неповнолітніх при взаємодії з ШІ. Необхідно чітко визначати межі дозволеної взаємодії таких систем із неповнолітніми, зокрема обмеження щодо обробки персональних даних і змісту відповідей. Важливими є інституційні механізми нагляду, спрямовані на оперативне реагування на скарги, перевірку порушень та запобігання шкідливим практикам. Правове регулювання має бути достатньо гнучким для того, щоб відповідати динаміці розвитку ШІ, але водночас чітким у визначенні обовʼязкових стандартів безпеки при створенні ШІ-сервісів, що потенційно взаємодіють із неповнолітніми.
3. Підвищення обізнаності серед підлітків, батьків та освітян. Навчальні програми для учнів та батьків повинні сприяти кращому розумінню того, як функціонують алгоритми, якими є ризики персоналізації контенту, як розпізнати маніпулятивну поведінку з боку інструментів ШІ і чому важливо зберігати приватність у спілкуванні з технологіями. Окрім цього, доцільно впроваджувати додаткове навчання для вчителів, які зможуть стати ефективними посередниками для учнів та допомагати формувати здорове та відповідальне ставлення до цифрового середовища. 

Можливими ресурсами для підвищення обізнаності щодо інструментів ШІ є освітні серіали “Штучний інтелект для школярів” та “Майбутні лідери ШІ” від Дія.Освіта; програма Experience AI за підтримки Google та Raspberry Pi Foundation у співпраці з EdCamp Ukraine; посібник щодо штучного інтелекту для батьків від UNICEF; оцінка ризиків ШІ-інструментів від Common Sense Media.