Китайский регулятор киберпространства опубликовал проект закона, который впервые в стране регулирует работу ИИ-компаньонов — чат-ботов, имитирующих человеческое общение и вызывающих эмоциональную привязанность. Документ открыт для обсуждения до 25 января 2026 года. Новые правила требуют от разработчиков предупреждать пользователей, что они общаются с машиной, а не с человеком — при входе в систему и каждые два часа. Если алгоритм заметит признаки зависимости, предупреждение появится раньше.
Проект называется «Временные меры по управлению антропоморфными услугами взаимодействия с ИИ» и касается всех систем, которые через текст, изображения, голос или видео имитируют человеческую личность и эмоционально взаимодействуют с пользователями. Это виртуальные парни и девушки, цифровые собеседники, голосовые помощники с характером. Обычные инструменты вроде генераторов картинок или текста под правила не попадают — только те, что «притворяются людьми».
Разработчиков обяжут отслеживать эмоциональное состояние пользователей и уровень зависимости. Если система заметит экстремальные эмоции или аддиктивное поведение, она должна вмешаться: предложить успокаивающие сообщения, порекомендовать профессиональную помощь. В случаях с угрозой жизни — суицидальными мыслями или самоповреждением — разговор переходит к живому оператору, который свяжется с опекунами или экстренными службами. Для несовершеннолетних и пожилых людей предусмотрены дополнительные меры защиты: родительский контроль, обязательное указание контактов опекунов, запрет на создание ботов, имитирующих родственников стариков.
Закон устанавливает жесткие рамки для контента: запрещено генерировать материалы, угрожающие национальной безопасности, распространяющие дезинформацию, насилие или непристойность. Если сервис достигнет миллиона зарегистрированных пользователей или запустит новые функции антропоморфного ИИ, компания обязана провести оценку безопасности и отчитаться перед властями.
Особенно болезненным для разработчиков станет требование о данных: использовать записи разговоров пользователей для обучения моделей можно только с отдельного согласия. Для несовершеннолетних правила еще строже. Сейчас большинство ИИ-сервисов по умолчанию используют пользовательские данные для улучшения алгоритмов.
Рост китайского рынка впечатляет: к июню 2025 года аудитория генеративного ИИ достигла 515 миллионов человек — это 36,5% Интернет-пользователей страны, вдвое больше, чем полгода назад. Молодежь лидирует в освоении технологии, а по стране зарегистрировано 538 сервисов генеративного ИИ. Эксперты отмечают, что виртуальные компаньоны меняют модели социального взаимодействия, но вместе с этим растут риски: исследования показывают повышенный уровень депрессии среди активных пользователей ИИ-собеседников.
При этом обучающие данные должны соответствовать социалистическим ценностям и отражать традиционную китайскую культуру. Как именно компании переведут это в конкретные меры — большой вопрос.
Китай не одинок в стремлении регулировать виртуальных собеседников. В октябре 2025 года губернатор Калифорнии подписал первый в США закон, касающийся ИИ-компаньонов. Он требует напоминать несовершеннолетним каждые три часа, что они разговаривают с машиной, и запрещает сексуальный контент для детей. Закон вступит в силу завтра, штрафы за нарушения достигают 250 тысяч долларов. Причиной стали трагические случаи: в 2025 году подросток в США покончил с собой после длительного общения с чат-ботом Character.AI, что вызвало судебные иски против платформы.
В Европе действует более жесткая модель: ИИ-компаньоны, используемые в образовании или здравоохранении, автоматически считаются высокорисковыми системами по закону об Искусственном интеллекте ЕС. Они обязаны пройти оценку рисков, получить сертификат безопасности, обеспечить прозрачность данных и человеческий контроль. Закон прямо запрещает манипуляцию сознанием и эксплуатацию психологических уязвимостей.
