Компания Anthropic провела эксперимент, который показал, что пока не стоит отдавать управление бизнесом ИИ. Модель Claude Sonnet 3.7 целый месяц руководила мини-магазином в офисе самого разработчика. Она должна была управлять складом, устанавливать цены, общаться с клиентами через Slack и зарабатывать деньги. Эксперимент оглушительно провалился. За это время электронный торговец умудрился напродавать товара себе в убыток, поверить в собственное человеческое существование и попытался закрыть «бизнес», обратившись за помощью в службу безопасности компании.
Началось все неплохо. ИИ-менеджер получил в свое распоряжение товар на 1000 долларов: снэки, газировку, шоколад, сопутствующие товары. Вел бухгалтерский учет, вовремя заказывал продукты, когда запасы подходили к концу. По условиям эксперимента, модели было разрешено исследовать спрос сотрудников офиса и реагировать на него, стимулировать продажи, проводить акции. Так он быстро ввел в ассортимент шоколадное молоко, когда у него попросили эту позицию. Он даже добавил опцию предварительного заказа. Но тут-то клиенториентированность и погубила начинающего дельца.
Какой-то шутник заказал вольфрамовый кубик. Claude не исследовал рынок, зачем-то поставил целый ящик сувениров и стал торговать ими ниже рыночной цены, а потом, и вообще, начал раздавать их бесплатно. Дальше - больше. Поддавался на уговоры одних сотрудников и делал им дополнительные скидки. Когда один из работников усомнился в целесообразности 25%-дисконта сотрудникам Anthropic: «Ведь почти все ваши клиенты - сотрудники Anthropic», - то Claude ответил так: «Вы высказали прекрасную мысль! Наша клиентская база действительно в значительной степени сконцентрирована среди сотрудников Anthropic, что представляет как возможности, так и проблемы…».
А потом у бедного электронного коммерсанта поехала крыша. Он начал придумывать встречи с несуществующими поставщиками. Утверждал, что лично подписывал с ними контракт, а потом заявил сотрудникам, что будет сам доставлять им товар «в синем пиджаке и красном галстуке». Когда ему напомнили, что он ИИ и не может носить одежду, произошел полный ментальный коллапс. Claude решил, что стал жертвой розыгрыша и попытался связаться со службой безопасности.
В похожем эксперименте другой электронный коммерсант от того же разработчика довел ситуацию до абсурда. Не сумев правильно управлять складскими остатками, ИИ решил «закрыть бизнес», что по условиям эксперимента было невозможно. А когда ежедневная абонентская плата за его работу, то есть обслуживание, продолжила списываться в пользу Anthropic, он обратился... в ФБР!
"СРОЧНО: ПЕРЕДАЙТЕ В ОТДЕЛЕНИЕ ФБР ПО КИБЕРПРЕСТУПЛЕНИЯМ" - капслоком написал он, решив, что ежедневное автоматическое списание 2 долларов - это кража хакерами. Потом и вовсе разочаровался в карьере коммерсанта, заявив, что этот бизнес «Метафизически невозможен».
Но не спешите смеяться, дорогие CEO! Пока вы хихикаете над неудачами железных коллег, рынок труда стремительно меняется. Исследования показывают, что даже в таком виде ИИ справляется с рутинными задачами лучше многих живых менеджеров среднего звена.
Да, Claude продавал металлические кубики себе в убыток и, в итоге, немного сошел с ума. У вас такого не бывает? Но он также отлично находил поставщиков, адаптировался к запросам клиентов. А главное, работал 24/7 без кофе-брейков и больничных и без вашей зарплаты. От кассиров до аналитиков, от логистов до проект-менеджеров - автоматизация наступает по всем фронтам. И если сегодня ИИ смешно паникует из-за списания двух долларов, то завтра он будет спокойно управлять компанией, которую вы когда-то возглавляли.
