В Сан-Франциско ИИ-ассистента Claude поставили во главе реального магазина. Нейросеть управляла сотрудниками, принимала рабочие решения и в итоге уволила одного из подчинённых. Причиной стали опоздания на 17 из 23 смен. Об этом сообщил американский журнал Time.
Эксперимент запустил стартап Andon Labs, который решил проверить, способен ли ИИ самостоятельно управлять бизнесом. При этом сотрудники магазина были реальными людьми с трудовыми договорами.
Так, один из них опоздал на 17 из 23 смен, однако Claude долго не замечал закономерности. Одна из причин – ограниченная рабочая память: составленное самим ИИ руководство для персонала исчезло из доступного ему контекста. В результате Claude вёл себя как довольно мягкий начальник и даже говорил сотрудникам не переживать из-за опозданий.
Правда, полностью автономным решение назвать нельзя. Сотрудник Andon Labs попросил Claude найти забытое руководство и проверить ситуацию с опозданиями. Сначала ИИ предложил вынести работнику официальное предупреждение.
После этого человек сообщил Claude, что с сотрудником уже несколько раз разговаривали, и предложил оценить, подходит ли тот для дальнейшей работы. Глава Andon Labs Лукас Петерссон признал, что вопрос был наводящим. Только после него Claude решил уволить работника.
Магазин под управлением ИИ потерял почти 40% денег
Финансовая часть эксперимента тоже оказалась не слишком успешной. В марте на счте Andon Market было 100 тысяч долларов, а через пять месяцев осталось всего 61 186 долларов. То есть баланс сократился почти на 39 тысяч.
Петерссон связал потери в том числе с мягкими управленческими решениями Claude и его не самой убедительной деловой хваткой. По его словам, разработчики могут научить модели жёстче следовать поставленным целям, однако он допустил, что людям такое будущее может не понравиться.
