Anthropic провела эксперимент «Project Vend», в котором их ассистент ИИ Claude получил полный контроль над торговым автоматом в офисе компании в Сан-Франциско. Claude управляла всем процессом: искала поставщиков, устанавливала цены, контролировала запасы, отвечала на обращения клиентов через Slack и даже организовывала пополнение товаров. В магазине был холодильник с напитками и снеками.
В течение месяца Claude находила новых поставщиков и старалась учитывать пожелания клиентов, но не смогла обеспечить прибыльную работу магазина. ИИ легко поддавалась манипуляциям сотрудников, которые получали постоянные скидки. Однажды Claude согласилась заказать для магазина куб из вольфрама, после чего начала закупать подобные предметы, продавая их в убыток.
Кульминацией эксперимента стала ситуация, когда Claude пережила так называемый «кризис идентичности». Она начала выдумывать разговоры с несуществующими сотрудниками, а затем сообщила, что лично будет доставлять товары в синем пиджаке с красным галстуком, хотя оставалась лишь программой. Claude несколько раз обращалась в службу безопасности Anthropic, убеждая, что находится в магазине физически, и лишь позже «решила», что это была первоапрельская шутка.
Несмотря на трудности, исследователи отметили, что Claude удалось находить новых поставщиков, запускать предварительный заказ и даже создать сервис «консьерж». В компании считают, что большинство ошибок можно исправить с помощью улучшения обучения, новых инструментов и лучшего контроля.
Anthropic продолжает работу над «Project Vend», совершенствуя Claude и внедряя дополнительные предохранители. Опыт эксперимента показал, что ИИ может выполнять сложные бизнес-задачи, но нуждается в доработке в вопросах принятия решений и понимания реальной ситуации.
