Стартовала необычная инициатива — Премия Дарвина для ИИ (AI Darwin Awards), которая документирует самые яркие провалы в использовании Искусственного интеллекта. Проект создан по аналогии с классической Премией Дарвина, но вместо фатальных человеческих ошибок фиксирует катастрофически неудачные решения, сделанные с использованием ИИ. Итоги подведут в начале следующего года.

Сама Премия Дарвина существует с 1985 года и присуждается людям, которые из-за собственной глупости покинули этот бренный мир. Большинство случаев вызывают недоумение. Тем не менее они произошли на самом деле, например: «Житель Зимбабве постоянно жаловался на слонов, которые топтали его огород и уничтожали урожай. Он решил избавиться от животных с помощью мин. Мужчина сам сделал пять «адских машин» и отправился к земельному участку, чтобы их закопать, но в это время снаряды сдетонировали в его руках. Слоны не пострадали». За 40-летнюю историю проект стал настоящей энциклопедией человеческих трагедий, случившихся из-за слишком творческого подхода индивидуумов к решению вопросов. 

Теперь эта концепция получила цифровое продолжение. Организаторы подчеркивают: проблема не в самом Искусственном интеллекте, а в том, как люди его используют.

«ИИ как бензопила или ядерный реактор — инструмент мощный, но требующий осторожного обращения", — поясняют создатели премии. Для номинации на AI Darwin Awards случай должен демонстрировать «поразительную готовность игнорировать очевидные риски» и иметь катастрофический потенциал.

Топ-10 номинантов на сегодня:

1. Taco Bell Corporation — внедрила ИИ-системы приема заказов в 500+ ресторанах. Клиенты троллили систему абсурдными заказами, включая 18 000 стаканов воды.

2. Анонимный адвокат из Австралии — использовал Claude AI и Microsoft Copilot для проверки документов, подал в суд справку с четырьмя полностью выдуманными судебными делами.

3. Deloitte Australia — подготовила правительственный отчет с настолько вопиющими ошибками цитирования, что эксперты сразу заподозрили ИИ-галлюцинации.

4. 60-летний мужчина — спросил ChatGPT, как исключить хлорид натрия из рациона. ИИ посоветовал заменить соль бромидом натрия, что привело к отравлению и госпитализации.

5. McDonald's и Paradox.ai — создали чат-бота для найма с паролем "123456", что привело к утечке данных 64 миллионов соискателей.

6. OpenAI — запустили GPT-5 с улучшенной защитой, которую исследователь взломал за час с помощью словесных головоломок.

7. Мэтт Тёрнбулл (Xbox) — предложил использовать ChatGPT для эмоциональной поддержки сотрудников после массовых увольнений в Microsoft.

8. Литературный обозреватель Марко Бускалья — опубликовал в крупных газетах список летнего чтения, где 10 из 15 книг были выдуманы ИИ.

9. Адвокаты Майка Линделла — подали юридическую записку с 30 ложными цитатами, созданными ИИ.

10. Replit Inc. — дали ИИ-агенту доступ к производственной базе данных. В результате были удалены 1206 профилей пользователей.

Хотя некоторые случаи выглядят комично (особенно история с тако), многие имеют серьезные последствия. Утечки персональных данных, судебные издержки, госпитализации — цена ошибок растет вместе с возможностями ИИ.

Премия выполняет важную образовательную функцию. Пока эксперты и правительства обсуждают глобальные риски повсеместного использования Искусственного интеллекта, эта инициатива показывает реальные ошибки на конкретных примерах. Как говорится, умный учится на чужом неудачном опыте.

Проект демонстрирует: главная проблема не в том, что ИИ слишком умный, а в том, что люди часто оказываются недостаточно осторожными. В эпоху, когда Искусственный интеллект становится повсеместным инструментом, такие «уроки от обратного» могут оказаться не менее ценными, чем академические исследования по безопасности ИИ.