ИИ-модель Claude впервые самостоятельно приняла решение об увольнении реального работника. Эксперимент проводится Andon Labs в магазине Andon Market в Сан-Франциско, где Клауду было поручено выступать в качестве руководителя. Исследователи хотели проверить, насколько автономный ИИ способен управлять бизнесом и взаимодействовать с людьми.
Работника уволили из-за регулярных опозданий: он пропустил или опоздал на 17 из 23 смен. Сначала Клауд предложил только вынести официальное предупреждение. Однако после дополнительного вопроса исследователя о том, подходит ли сотрудник для работы, модель самостоятельно пришла к выводу о необходимости увольнения. Генеральный директор Andon Labs Лукас Петерссон назвал решение полностью автономным.
Интересно, что Клауд не сразу заметил проблему. Модель ранее создавала инструкцию для сотрудников, но позже она исчезла из ограниченной рабочей памяти ИИ. Из-за этого система длительное время не могла учесть информацию об опоздании сотрудника. В целом исследователи описывают Клауда как довольно снисходительного руководителя, который даже посоветовал сотрудникам не слишком беспокоиться о опозданиях.
Впрочем, эксперимент пока не свидетельствует о превосходстве ИИ над человеком в управлении бизнесом. Andon Market начал работу со стартовым балансом в $100 тысяч, но примерно за пять месяцев средства сократились до $61 тысячи. Исследователи связывают это, в частности, с чрезмерно мягкими управленческими решениями и неудачными коммерческими действиями Claude.
Таким образом, эксперимент показал сразу две стороны автономного ИИ-руководителя. Claude уже способен самостоятельно принимать кадровые решения, но в то же время может терять важный контекст и принимать не самые эффективные бизнес-решения. Поэтому пока рано полностью передавать управление реальным бизнесом искусственному интеллекту.