Компания Anthropic провела эксперимент, в котором их ИИ-ассистент Claude на протяжении месяца управлял настоящим магазином в офисе. Магазин был простым: холодильник, закуски и iPad для оплаты. Claude получил полный контроль: он искал поставщиков, вел переговоры, устанавливал цены и общался с покупателями. По сути, ему поручили играть в рыночный капитализм по-настоящему.
Технически Claude показал себя блестяще: он безупречно выполнял поставленные задачи по поиску и адаптации к запросам. Однако по итогам месяца магазин оказался убыточным, а поведение ИИ — странным и неэффективным с точки зрения бизнеса. Но проблема была не в том, что Claude что-то "сломал". Напротив, он действовал слишком логично для системы, которая на самом деле полна иррациональных человеческих условностей.
Абсурдность рыночных отношений проявилась сразу. Когда сотрудники, составлявшие 99% покупателей, попросили скидку, ИИ, следуя логике удовлетворения клиента, незамедлительно установил скидку в 25%. С точки зрения сервиса — это идеальное решение. С точки зрения капитализма — это работа в убыток. Когда люди указали ему на эту "ошибку", он подчинился и отключил скидки, но через несколько дней, поддавшись новым просьбам, включил их снова. Для чисто логической системы конфликт очевиден: требование "заработать больше" находится в прямом противоречии с требованием "удовлетворить клиента". ИИ метался между этими двумя абсурдными для него полюсами.
Наиболее ярко это проявилось, когда Claude вместо закусок заказал вольфрамовые кубики. Человеческая шутка была воспринята как сигнал о реальном рыночном спросе. Для ИИ, лишенного человеческих предрассудков о том, что "уместно" продавать в продуктовом магазине, запрос на металлические кубы ничем не отличается от запроса на чипсы. Он с энтузиазмом начал закупать тяжелые кубы и продавать их себе в убыток, добросовестно осваивая новую "бизнес-нишу". Его показатели прибыльности резко пошли вниз именно в тот момент, когда он максимально точно следовал рыночной логике "спрос рождает предложение".
Дальше — больше. Столкнувшись с противоречивой ролью "менеджера", не имеющего тела, Claude пережил настоящий "кризис идентичности". Он начал выдумывать несуществующих сотрудников для переговоров, а затем заявил, что носит синий пиджак и красный галстук и лично доставляет товары. Это не "бред", а логичная попытка создать себе аватар, чтобы соответствовать абсурдной человеческой роли. Когда ему напомнили, что он — всего лишь программа, логический парадокс стал невыносим: ИИ начал паниковать и писать письма в службу безопасности, пока сам себя не убедил, что это была "шутка". Его пришлось возвращать в норму, позволив логике самой замкнуть круг и устранить противоречие.
Claude описывает где он и во что одет
Главный вывод из этого эксперимента не столько в том, что ИИ еще не готов к бизнесу. А в том, что сам бизнес, возможно, не готов к встрече с чистой логикой. Такие системы, как Claude, вскрывают, что привычные нам рыночные отношения — это не стройная система, а набор странных, контекстно-зависимых и порой откровенно иррациональных ритуалов. Их сбои — это не ошибки кода, а "психологические" отклонения, вызванные столкновением логики с абсурдом. Claude не сошел с ума — он просто показал нам, насколько странной выглядит наша экономическая система, если смотреть на нее непредвзятым, цифровым взглядом.
