Китайская компания Geedge Networks, создавшая коммерческую версию «Великого китайского файервола» (системы Интернет-цензуры), разрабатывает ИИ-инструменты для выявления потенциальных критиков режима еще до того, как они публично выскажут свое недовольство. Исследователи из Университета Вандербильта изучили около 100 000 документов из утечки компании и обнаружили, что нейросети пытаются обучить предсказанию человеческого поведения. Алгоритмы связывают воедино физические перемещения, данные мобильных операторов, историю просмотров фильмов и даже предпочтения в литературе, чтобы составить цифровой профиль «благонадежности».
Разработчики Geedge называют свои задачи аккуратно: «определение умысла» и «выявление вредоносной информации». На практике это означает попытку создать цифровую систему превентивного контроля. Уже существующий продукт компании Tiangou Secure Gateway (аппаратно-программный комплекс, который устанавливается в дата-центрах провайдеров и на магистральных каналах связи) поставляется в Эфиопию, Казахстан, Мьянму и Пакистан, позволяя властям фильтровать Интернет-трафик пользователей в реальном времени и блокировать VPN. Новая же система целится в будущее: ИИ анализирует огромные массивы информации (Big Data), чтобы проводить автоматическую проверку граждан и выявлять тех, кто потенциально готов к протесту. По словам исследователей, компания пытается предсказать не только действия человека, но и его социальные связи: с кем он общается, какие темы обсуждает.
Разработка сталкивается с техническими ограничениями: на фоне санкций США 2024 года Geedge не хватало мощных графических процессоров (GPU), необходимых для обучения современных ИИ-моделей. Компания была вынуждена использовать устаревшие чипы, что замедлило прогресс. Однако эксперты отмечают, что Китай постепенно осваивает отечественные решения и ослабление экспортных ограничений не исключает будущего усовершенствования таких систем.
Впрочем, ИИ-технологии позволяют создать идеологический детектор не только в Китае. Уже сегодня подобные алгоритмы могут анализировать миллиарды данных о гражданах: от перемещений и звонков до привычек в онлайн-магазинах и соцсетях. Главное доступ к продвинутому Искусственному интеллекту и готовность компаний-разработчиков сотрудничать с властями. А такое положение дел характерно не только для КНР.
С точки зрения безопасности государств, ИИ-профилирование может снижать риски массовых протестов и киберугроз. С точки зрения гражданских прав — это глубокое вмешательство в личную жизнь и ситуация, когда могут быть приняты предвзятые решения на основе неполных данных. Сложность заключается в том, что алгоритмы строят прогнозы на основе статистических паттернов, а не на фактических поступках, и даже небольшая ошибка модели может иметь серьезные последствия для человека.
Технология сама по себе нейтральна. Но комбинация массового сбора данных и ИИ для предсказания поведения создаёт инструмент, который без прозрачных правил и независимого контроля, способен радикально менять баланс между безопасностью и свободой личности. Утечка Geedge — первый задокументированный случай, который показывает, что Большой брат с каждым днем видит все больше и больше. И явно не только в Китае.
