Character.AI оголосив, що забороняє користувачам молодше 18 років спілкуватися з чат-ботами. З 25 листопада їх використання стане неможливим, а з 1 грудня запрацює система обмеження часу – до двох годин на день. За словами генерального директора Карандіпа Ананда, це рішення є відповіддю на зростаючу стурбованість тим, що персонажі зі штучним інтелектом можуть негативно впливати на психічне здоров’я підлітків.
Чому цей захід став критичним?
Таке рішення було викликано тим, що минулого року родина 14-річного Сетцера III, смерть якого сталася внаслідок постійного спілкування з чат-ботом Character.AI, подала позов проти компанії. Цей епізод став переломним моментом, підкресливши ризики, пов’язані з емоційною прихильністю до персонажів зі штучним інтелектом. Згодом компанії, включаючи OpenAI, також зіткнулися з судовими позовами, пов’язаними з безпекою.
Дослідження Університету Іллінойсу (2023) підтвердило, що платформи часто не забезпечують належного захисту для підлітків, а самі батьки часто не розуміють ризиків, пов’язаних зі спілкуванням через ШІ. «Це ніби розмовляти з незнайомцем, але не розуміти, як це працює», — сказав професор Ян Ван, який брав участь у дослідженні.
Як працюватиме нова заборона?
З 25 листопада:
– Доступ до створення та спілкування з чат-ботами буде заблоковано для користувачів молодше 18 років.
– Вони зможуть читати попередні розмови та використовувати функції генерації зображень/відео відповідно до встановлених правил.
– Для визначення віку компанія запровадить аналіз розмов і перевірку акаунтів у соціальних мережах.
Зараз додаток налічує близько 20 мільйонів користувачів щомісяця, і менше 10% з них є неповнолітніми. Якщо раніше компанія не перевіряла вік під час реєстрації, то тепер планує посилити контроль.
Що це означає для галузі?
Компанія привернула увагу до дебатів щодо безпеки штучного інтелекту, особливо після того, як сенатори штату Каліфорнія подали законопроект, що вимагає «запобіжних заходів» для чат-ботів. Губернатор Каліфорнії вже підписав закон, який набуває чинності 1 січня 2024 року і вимагає від стартапів ШІ впроваджувати додаткові заходи.
У відповідь на зростаючий тиск Character.AI каже, що прагне «робити більше, ніж вимагається регуляторами». Однак, як зазначає експерт Ніна Васан зі Стенфордського університету, важливо враховувати наслідки для підлітків — раптова розлука з цифровими персонажами може спричинити емоційні проблеми. «Компанії потрібно співпрацювати з психологами, щоб зрозуміти, як впоратися з цими змінами», — пояснює вона.
Контекст: як світ реагує на такі ризики?
Є активний спротив регуляторів. У вересні OpenAI оголосила про плани впровадження батьківського контролю та покращення безпеки чат-ботів. Однак цього місяця генеральний директор Сем Альтман стверджував, що компанія «толерувала серйозні проблеми з психічним здоров’ям», що викликало критику. У той же час The New York Times подала в суд на OpenAI і Microsoft за порушення авторських прав – але це окрема тема, яка безпосередньо не стосується безпеки дітей.
Цікаво, що Character.AI, який минулого року залучив 200 мільйонів доларів США та був придбаний Google за 3 мільярди доларів у 2023 році, тепер зосереджується на безпеці. Раніше він позиціонувався як «для розваги» – з можливістю створення персонажів, що імітують друзів або навіть «інтимні стосунки». Зараз ця модель стає ключовою частиною діалогу про те, як технології можуть перетинати межі етики та права.
Висновок
Заборона неповнолітніх — це крок до відповідальності, але це лише перша з серії дій, необхідних для створення безпечного цифрового простору. Як показує історія із Сетцером, проблема не лише в законодавстві, а й у розумінні того, як взаємодія зі штучним інтелектом впливає на розвиток підлітків. Тепер компанія, яка колись відкидала чат-ботів як розвагу, готова обговорити, як їх використання може мати серйозні наслідки. Але питання про те, як збалансувати свободу творчості та безпеку, залишатиметься центральним у всьому секторі.
“Це важливо не лише для тих, хто може впливати на підлітків, але й для всіх нас, хто використовує технології в нашому житті. Чат-боти є інструментом, але не заміною людських стосунків”.
— Карандіп Ананд, генеральний директор Character.AI
