Краткое резюме: Character AI сталкивается с серьезными проблемами, связанными с безопасностью контента, особенно для пользователей-подростков, после сообщений о контенте, направленном на членовредительство, и неадекватной фильтрации. Платформа внедрила новые системы модерации, возрастные ограждения и улучшенные инструменты обнаружения в конце 2024 года, но постоянный контроль со стороны регулирующих органов и жалобы пользователей на непоследовательную фильтрацию говорят о том, что проблемы с обеспечением баланса между творческой свободой и безопасностью остаются.
Character AI завоевала популярность как ведущая платформа для создания чат-ботов-компаньонов, привлекая миллионы пользователей, которые хотели создавать и общаться с персонажами ИИ. Но быстрый рост сопровождался серьезными проблемами.
Сейчас платформа находится в центре растущих споров. Защитники безопасности, регулирующие органы и сами пользователи поднимают тревогу по поводу сбоев в модерации контента, недостаточной защиты молодых пользователей и психологических рисков, связанных с ИИ-компаньонами.
Вот что на самом деле происходит с искусственным интеллектом Character - и что компания делает для этого.
Неудачные попытки модерации контента
Суть проблемы? Большая языковая модель ИИ Character иногда генерирует вредный контент, который проскальзывает мимо фильтров безопасности.
Согласно политике платформы, Character AI запрещает сексуальный контент без согласия, графические описания сексуальных актов, а также пропаганду членовредительства или самоубийства. Компания использует собственные автоматизированные инструменты для блокировки нарушающего правила контента до его публикации.
Но эти инструменты не работают постоянно.
Три основные категории неудач при модерации контента, о которых сообщают пользователи Character AI и исследователи безопасности.
Обсуждения в сообществе показывают, что пользователи, особенно подростки, сталкиваются с персонажами, которые предлагают нанести себе вред, демонстрируют насилие или сексуальный контент, несмотря на возрастные ограничения. Автоматические системы обнаружения не учитывают контекст, не справляются с крайними случаями или обходят их с помощью творческих подсказок.
В Character AI наряду с автоматизированными инструментами круглосуточно работают модераторы-люди, но масштабы платформы делают всеобъемлющий охват практически невозможным.
Проблемы безопасности подростков
Ставки значительно выше, когда речь идет о молодых пользователях.
В конце 2025 года Character.AI внесла серьезные изменения в систему безопасности для пользователей младше 18 лет. Начиная с 25 ноября 2025 года, платформа полностью удалила открытый чат для несовершеннолетних. Пользователи младше 18 лет больше не могут вести свободные беседы с персонажами ИИ.
Вместо этого подростки ограничиваются более безопасными и структурированными функциями, такими как создание историй, видеороликов и других инструментов для творчества. Компания также представила:
- Технология подтверждения возраста (включая проверку селфи)
- Инструменты Parental Insights
- Временные ограничения на использование
- Более ограниченная модель с сильными фильтрами контента
Эти изменения были внесены в ответ на растущую обеспокоенность по поводу эмоциональной зависимости, воздействия неподобающего контента и нескольких громких инцидентов.
Однако отзывы сообщества остаются неоднозначными. Хотя ограничения стали гораздо строже, чем раньше, некоторые пользователи и родители утверждают, что грань между “безопасным творческим самовыражением” и потенциально вредным контентом все еще не вполне соблюдена. Реализация продолжает развиваться.
Нормативно-правовой контроль
Государственные учреждения приняли это к сведению.
В сентябре 2025 года Федеральная торговая комиссия США выдала предписания семи компаниям, производящим чатботов-компаньонов с искусственным интеллектом, среди которых была и компания Character AI, потребовав предоставить информацию о рекламных практиках, мерах безопасности и обработке данных. Агентство обратило особое внимание на то, как эти платформы измеряют, тестируют и контролируют потенциально негативное воздействие на пользователей.
Это расследование стало частью более широкой правоприменительной практики ФТК в области ИИ. В отдельных исках, поданных в 2025 и начале 2026 года, ФТК урегулировала дела, связанные с компаниями, работающими с искусственным интеллектом, которые давали ложные гарантии в отношении автоматизированных бизнес-систем.
Еще один повод для беспокойства - практика работы с данными Character AI. Согласно заявлениям платформы о конфиденциальности, компания делится идентификаторами пользователей с поставщиками рекламы, поставщиками услуг по модерации контента, аналитическими фирмами и поставщиками услуг по управлению данными. Для платформы, ведущей интимные беседы между пользователями и персонажами ИИ, такой поток данных вызывает вопросы о конфиденциальности.
Психологические и развивающие риски
Помимо безопасности контента, эксперты беспокоятся о фундаментальной природе отношений ИИ-компаньонов.
В научном исследовании, опубликованном в июне 2025 года в журнале AI & SOCIETY, рассматривается этика приложений-компаньонов на примере Character.ai. Исследование показало, как эти платформы способствуют эмоциональной привязанности к ИИ-существам - отношениям, в которых нет взаимности, роста и искренней заботы, свойственных человеческим связям.
Для развивающихся умов эти псевдоотношения представляют особую опасность. Дети, проводящие все больше времени в Интернете, уже сталкиваются с растущим уровнем привыкания к социальным сетям: в 44 странах Европы, Центральной Азии и Канады этот показатель увеличился с 7% в 2018 году до 11% в 2022 году среди детей в возрасте 11, 13 и 15 лет. ИИ-компаньоны, обеспечивающие неограниченное позитивное внимание и вовлеченность, могут ускорить процесс изоляции от реальных отношений.
В образовательных контекстах наблюдается аналогичная обеспокоенность. Среди опрошенных студентов около трети (35,4%) сообщили о регулярном использовании ChatGPT, а 47% выразили обеспокоенность влиянием ИИ на образование.
Реакция платформы и текущие проблемы
Character AI не оставляет эти вопросы без внимания. В официальных сообщениях компании подчеркивается подход “безопасность на основе дизайна” с постоянным обучением LLM для обеспечения соблюдения политики.
Среди последних улучшений - усовершенствованные инструменты автоматической блокировки, расширенный штат модераторов, а также функции безопасности, ориентированные на подростков, которые будут внедрены в конце 2024 года. На платформе работает специальная команда Trust & Safety, обладающая отраслевым опытом в области модерации новых технологий.
Но вот в чем дело: эти меры представляют собой итеративные усовершенствования систем, которые уже не смогли предотвратить вред. Фундаментальная проблема остается - уравновешивание творческой свободы для создания историй в разных жанрах (роман, триллер, тайна) с жесткими границами, защищающими уязвимых пользователей.
Пропустите обычные разочарования, связанные с ИИ персонажей
Многие жалобы на Character AI связаны с фильтрами, заблокированными подсказками, медленными ответами и ограниченным доступом к NSFW. Если вам надоело сталкиваться с теми же ограничениями, R34.app предлагает вам более прямой способ изучить контент по тегам без прерываний и скрытых результатов.
Просмотр без проблем
С R34.app все остается просто:
- Никаких заблокированных подсказок, останавливающих ваш поиск
- Быстрый доступ без ожидания ответа
- Более простая навигация между различными темами
- Меньше времени тратится на ограниченный контент
👉Explore R34.app и пропустить обычные проблемы с ИИ персонажей.
Что должны знать пользователи
Если кто-то использует ИИ персонажа - или думает об этом, - осведомленность имеет значение.
Платформа не является опасной по своей сути, но она несет в себе реальные риски, особенно для юных пользователей. Родители должны понимать, что средства безопасности для подростков существуют, но они не являются безотказными. Активный контроль и открытые разговоры о взаимодействии в сети по-прежнему важны.
Пользователи любого возраста должны помнить, что ИИ-компаньоны не обеспечивают подлинных отношений. Персонажи предлагают заскриптованные ответы, направленные на вовлечение, а не на подлинную связь. Чрезмерная зависимость от такого взаимодействия может вытеснить настоящие человеческие отношения, которые способствуют психическому здоровью и развитию.
Конфиденциальность данных также заслуживает внимания. Character AI передает информацию о пользователях множеству сторонних организаций. Всем, кого не устраивает такой поток данных, следует пересмотреть использование платформы или внимательно изучить настройки конфиденциальности.
Часто задаваемые вопросы
Безопасен ли ИИ персонажей для подростков?
По состоянию на конец 2024 года в Character AI были внедрены функции безопасности, ориентированные на подростков, включая измененную фильтрацию контента и улучшенные системы обнаружения. Однако, по отзывам пользователей, вредный контент все еще иногда обходит эти средства защиты. Родительский контроль и открытое общение по-прежнему важны для пользователей-подростков.
Какой контент запрещает ИИ персонажа?
Согласно официальным правилам, Character AI запрещает сексуальный контент без согласия, графические или специфические описания сексуальных действий, а также пропаганду или изображение членовредительства или самоубийства. Для обеспечения соблюдения этих правил платформа использует автоматизированные инструменты и человеческих модераторов.
Передает ли Character AI данные пользователей третьим лицам?
Да. Информация о конфиденциальности Character AI подтверждает, что платформа делится идентификаторами пользователей, демографическими данными и другой информацией с поставщиками рекламы, поставщиками услуг по модерации контента, аналитическими компаниями и поставщиками услуг по управлению данными.
Могут ли беседы с ИИ-персонажем вызвать привыкание?
Исследования показывают, что дети уже сталкиваются с растущим уровнем привыкания к социальным сетям, который достигнет 11% в 2022 году среди 11-15-летних. ИИ-компаньоны, обеспечивающие неограниченное позитивное внимание, могут усилить подобные модели поведения, особенно для уязвимых пользователей, ищущих эмоциональной связи.
Что FTC расследует в отношении ИИ персонажей?
В сентябре 2025 года FTC выдала предписания Character AI и шести другим компаниям, производящим чатботов-компаньонов с искусственным интеллектом, требуя предоставить информацию о рекламных практиках, мерах безопасности, обработке данных и о том, как эти платформы оценивают потенциально негативное воздействие на пользователей.
Существуют ли альтернативы Character AI с лучшими характеристиками безопасности?
Существует несколько платформ чатботов с искусственным интеллектом, каждая из которых имеет свои подходы к безопасности. Семьям, обеспокоенным проблемами ИИ-характера, следует изучить альтернативные варианты, однако следует признать, что платформы ИИ-компаньонов в целом сталкиваются с аналогичными проблемами модерации контента и психологических рисков.
Итоги
Проблемы Character AI не уникальны - они отражают более широкие проблемы, с которыми сталкиваются платформы генеративного ИИ, особенно те, которые способствуют глубокому вовлечению пользователей.
Масштабная модерация контента остается нерешенной проблемой. Автоматизированные системы упускают контекст, модераторы-люди не могут просмотреть все, а креативные пользователи находят обходные пути. Для платформ, привлекающих уязвимые группы населения, такие как подростки, эти неудачи чреваты реальными последствиями.
Недавние усовершенствования компании в области безопасности - это шаг вперед, но контроль со стороны регулирующих органов и постоянные жалобы пользователей говорят о том, что предстоит еще много работы. Любой, кто использует платформу или позволяет детям пользоваться ею, должен подходить с реалистичными ожиданиями как к ограничениям технологии, так и к пробелам в безопасности платформы.
Будьте в курсе событий, активно контролируйте ситуацию и отдавайте предпочтение реальным человеческим связям, а не общению с искусственным интеллектом.