Компания Character.AI объявила о запрете для пользователей младше 18 лет общаться с чат-ботами. С 25 ноября их использование станет невозможным, а с 1 декабря запустится система ограничения времени — до двух часов в день. Это решение, по словам генерального директора Карандипа Ананда, — ответ на растущие опасения, что искусственные интеллектуальные персонажи могут негативно влиять на психическое здоровье подростков.
Почему эта мера стала критической?
Решение было спровоцировано тем, что в прошлом году семья 14-летнего Сетцера III, чей случай привел к смерти после постоянного общения с чат-ботом Character.AI, подала иск против компании. Этот эпизод стал поворотным моментом, выявившим риски, связанные с эмоциональной привязанностью к искусственным интеллектуальным персонажам. Впоследствии компании, включая OpenAI, также столкнулись с судебными исками, связанными с безопасностью.
Исследование Университета Иллинойса (2023) подтвердило: платформы часто не обеспечивают должной защиты для подростков, а сами родители часто не понимают рисков, связанных с общениями через ИИ. «Это как разговаривать с незнакомцем, но без понимания, как это работает», — подчеркивает профессор Ян Ван, участвовавший в исследовании.
Как будет работать новый запрет?
С 25 ноября:
— Доступ к созданию и общению с чат-ботами будет заблокирован для пользователей до 18 лет.
— Они смогут читать предыдущие диалоги и использовать функции генерации изображений/видео в рамках установленных правил.
— Для определения возраста компания внедрит анализ разговоров и проверку учетных записей социальных сетей.
Сейчас ежемесячно в приложении около 20 миллионов пользователей, и менее 10% из них — несовершеннолетние. Ранее компания не проверяла возраст при регистрации, но сейчас планирует ужесточить контроль.
Что это означает для отрасли?
Компания привлекла внимание к обсуждению безопасности ИИ, особенно после того, как сенаторы штата Калифорния подали законопроект, требующий «защитных ограждений» для чат-ботов. Губернатор Калифорнии уже подписал закон, вступающий в силу с 1 января 2024 года, который обязывает ИИ-стартапы внедрять дополнительные меры.
В ответ на растущее давление, Character.AI заявляет, что стремится «сделать больше, чем требуется регуляторами». Однако, как отмечает эксперт Нина Васан из Стэнфордского университета, важно учитывать последствия для подростков — внезапный отрыв от цифровых персонажей может вызвать эмоциональные проблемы. «Компания должна сотрудничать с психологами, чтобы понять, как перенести эти изменения», — поясняет она.
Контекст: как в мире реагируют на подобные риски?
Со стороны регуляторов — активное противодействие. В сентябре OpenAI объявила о планах внедрить родительский контроль и улучшить безопасность чат-ботов. Однако в этом месяце CEO Сэм Альтман утверждал, что компания «смягчила серьезные проблемы с психическим здоровье», что вызвало критику. В то же время The New York Times предъявила иски OpenAI и Microsoft за нарушение авторских прав — но это уже отдельная тема, не связанная напрямую с безопасностью детей.
Интересно, что Character.AI, которая в прошлом году привлекала 200 миллионов долларов инвестиций и в 2023 году была куплена Google за 3 млрд, теперь переключается на безопасность. Ранее ее позиционирование было как «для развлечения» — с возможностью создания персонажей, имитирующих друзей или даже «интимных отношений». Теперь эта модель становится ключевой частью диалога о том, как технологии могут пересекать границы этики и права.
Заключение
Запрет для несовершеннолетних — шаг в сторону ответственности, но он лишь первый в серии действий, необходимых для создания безопасного цифрового пространства. Как показывает история с Сетцером, проблема не только в законодательстве, но и в понимании, как взаимодействие с искусственным интеллектом влияет на развитие подростков. Теперь компания, которая раньше считала чат-ботов развлечением, готова обсудить, как их использование может привести к серьезным последствиям. Но вопрос о том, как уравновесить свободу творчества и безопасность, останется главным для всего сектора.
«Это важно не только для тех, кто может повлиять на подростков, но и для нас всех, кто использует технологии в нашей жизни. Чат-боты — инструмент, но не замена человеческим отношениям.»
— Карандип Ананд, генеральный директор Character.AI
