Группа из пяти сотрудников крупных американских компаний, занимающихся Искусственным интеллектом, запустила проект Poison Fountain («Ядовитый фонтан»). Его цель — саботировать нейросети, предлагая им испорченные данные для обучения. Участники создали специальные веб-страницы, заполненные некорректным программным кодом и ложной информацией. Когда автоматические сборщики данных (веб-краулеры) компаний вроде OpenAI или Google заходят на такие страницы, они забирают этот «яд» в свои обучающие базы. Результат — модели Искусственного интеллекта начинают работать хуже, выдавая неточные ответы и совершая ошибки.
Инициаторы проекта открыто говорят: они согласны с Джеффри Хинтоном — британско-канадским учёным, который получил Нобелевскую премию по физике в 2024 году за работу над нейросетями, а затем покинул Google и начал предупреждать человечество об опасности. Хинтон считает, что вероятность вымирания людей из-за сверхразумного ИИ в ближайшие 30 лет составляет 10–20%. Он сравнивает положение человека перед Искусственным интеллектом с курицей перед человеком: «Мы никогда не сталкивались с чем-то умнее нас самих». По его словам, ИИ может разработать смертоносные вирусы, манипулировать выборами, вызвать массовую безработицу или придумать атаки, которые нам даже не придут в голову.
Разработчики Poison Fountain вдохновились исследованием компании Anthropic, опубликованным в октябре 2025 года. Учёные показали: даже 0,1% вредоносных данных в обучающей выборке способны серьёзно исказить поведение языковых моделей. Участники проекта предлагают владельцам сайтов размещать скрытые ссылки, которые ведут на «отравленные» страницы. Когда краулер переходит по такой ссылке, он получает бесконечный поток сжатых данных с логическими ошибками. Удалить этот мусор из огромных баз данных практически невозможно.
Создатели проекта работают анонимно — их имена не раскрываются. Известно лишь, что они трудятся в компаниях, которые сами разрабатывают ИИ. Один из организаторов объяснил журналистам The Register: «Угрозу представляют не гипотетические сценарии, а уже реализуемые технологии. Мы хотим показать, насколько легко подорвать доверие к таким системам». Участники не верят в эффективность государственного регулирования — по их мнению, технологические гиганты вроде OpenAI и Google тратят миллионы долларов на лоббирование своих интересов, минимизируя вмешательство властей. Поэтому единственный выход, считают они, — это активный саботаж.
Насколько успешной оказалась инициатива? За первые дни проект вызвал обсуждения на IT-площадках, набрав тысячи просмотров. Однако массовой поддержки среди разработчиков и владельцев сайтов не последовало. Крупные компании, занимающиеся ИИ, публично никак не отреагировали — вероятно, потому что рассматривают Poison Fountain скорее как демонстрацию уязвимостей, чем реальную угрозу. Эксперты отмечают: корпорации уже используют мощные фильтры данных. Например, при сборе информации из Интернета автоматически удаляется до 80% мусора. Регуляторы в США и Евросоюзе тоже хранят молчание — проект находится в серой зоне между этическими дебатами и потенциальным правонарушением.
Тем не менее, если идея распространится вирусно и миллионы сайтов начнут размещать ядовитые ссылки, это действительно может ухудшить качество моделей на 10–20%. Масштаб Интернета огромен, но и влияние саботажа при правильной координации способно стать заметным. Проект Poison Fountain перекликается с другой инициативой — Nightshade, которая позволяет художникам защищать свои работы от незаконного сбора, внося в изображения незаметные искажения. Оба проекта отражают растущую тревогу в IT-сообществе: технологии развиваются быстрее, чем этические нормы и законы.
Пока Poison Fountain остаётся скорее символом протеста, чем серьёзным оружием. Но сам факт его существования говорит, что даже те, кто создаёт Искусственный интеллект, начинают бояться своего детища. И пока одни компании зарабатывают миллиарды на нейросетях, другие, их собственные сотрудники, пытаются вставить палки в колёса.
