«Не верь глазам своим!», — пожалуй, эта фраза как нельзя более точно передает то, что сейчас происходит в социальных сетях. Если вы на YouTube увидели трейлер «Мстителей», который потом оказался несуществующим, наблюдали, как рушится стеклянный мост в Китае, или слышали, как физик Брайан Кокс рассказывает про инопланетный корабль у Земли, то вы понимаете, что сейчас отличить правду от вымысла становится все сложнее. Именно поэтому YouTube начал автоматически маркировать ролики, созданные с помощью ИИ, не дожидаясь, пока авторы сделают это сами.
До этого момента система работала по принципу «сам украл — сам признайся». С 2024 года YouTube обязал авторов вручную указывать, содержит ли видео фотореалистичный синтетический контент. Практика оказалась другой. Каналы, зарабатывающие миллионы просмотров на убедительных фейках, ставить метки, разумеется, не торопились. Теперь платформа решила взять инициативу в свои руки.
Теперь отметка о сгенерированном контенте появится автоматически, если система обнаружит значительное использование фотореалистичного ИИ. Для длинных видео предупреждение переехало прямо под плеер, для Shorts — накладывается поверх самого ролика. Раньше эта маркировка находилась в текстовом описании видео, куда, понятное дело, большинство зрителей не заглядывает никогда.
Критерий «значительное использование» — не процент кадров и не длина фрагмента. Это качественный вопрос: может ли обычный зритель принять происходящее на экране за реальное событие, реального человека или реальное место? Замена лица, клонирование голоса конкретного человека, сгенерированные кадры реальных событий — всё это требует метки. Анимация, фантастика, незначительные цветокоррекции и ИИ, помогающий писать сценарий, под действие правил не попадают. Монетизация каналов при этом не страдает: маркировка не повлияет ни на алгоритмы рекомендаций, ни на возможность монетизации контента.
Технически платформа задействует три метода детекции. Первый — внутренние алгоритмы машинного обучения, анализирующие визуальные и аудиоартефакты: неестественное моргание, несинхронная артикуляция, цифровые текстурные несоответствия. Второй — стандарт C2PA (Coalition for Content Provenance and Authenticity, коалиция за подлинность цифрового контента), встраиваемый в метаданные файлов инструментами вроде Adobe Firefly или Google Veo: если такая «цифровая подпись» есть — метка ставится автоматически. Третий — видео, созданное во встроенных инструментах YouTube (Veo, Dream Screen), маркируется без каких-либо условий при загрузке. Авторы, получившие метку по ошибке, могут оспорить её в YouTube Studio, но для контента с C2PA-данными или собственными инструментами платформы — убрать пометку невозможно.
Почему платформа пошла на такой шаг? В мае этого года, пока поклонники ждали официальный трейлер «Мстителей: Судный день», YouTube наводнили сгенерированные ИИ версии, набравшие миллионы просмотров. Часть зрителей приняла их за настоящий материал. Куда серьёзнее история физика Брайана Кокса, который обнаружил дипфейки (deepfake — реалистичная подделка с заменой лица или голоса) с собой, продвигавшие теории заговора о комете 3I/ATLAS как инопланетном корабле, и публично обвинил YouTube в медлительности: «мы им сообщаем, а они чертовски медленно реагируют». Отдельный жанр — инвестиционные мошенничества с дипфейком Илона Маска, где жертвы переводили деньги «на криптоплатформу», поверив в лицо и голос миллиардера. Был и вирусный ролик с разрушением стеклянного моста в Чжанцзяцзе, собравший более 100 миллионов просмотров: люди выражали соболезнования, возмущались операторами и писали в комментариях слова поддержки пострадавшим, которых не существовало. Были фейковые «ИИ-доктора» в медицинских халатах на YouTube Shorts, раздававшие реальные медицинские советы. Были сфабрикованные заявления политиков перед выборами в Индии в 2024 году, потребовавшие экстренного вмешательства избирательной комиссии.
YouTube не запрещает ИИ. Генерировать видео, писать сценарии нейросетью, озвучивать текст синтетическим голосом — всё это остаётся доступным. Платформа лишь хочет, чтобы зритель об этом знал. Отдельно алгоритм в фоновом режиме сканирует видео на предмет незаконного клонирования лиц реальных авторов, и теперь любой блогер старше 18 лет может запросить удаление такого контента.
