В США ИИ-менеджер впервые в истории самостоятельно уволил человека

Исследовательский стартап Andon Labs провел эксперимент и передал управление реальным розничным магазином Andon Market в Сан-Франциско искусственному интеллекту Claude. На прошлой неделе нейросеть впервые в истории самостоятельно приняла решение об увольнении одного из сотрудников, сообщает Total.kz.

По данным издания Time, причиной увольнения стали опоздания: работник опоздал на 17 из 23 своих смен. Сначала ИИ не замечал нарушений, так как составленный им же свод правил для сотрудников удалился из рабочей памяти системы. Из-за этого нейросеть вела себя крайне лояльно и просила сотрудников не волноваться из-за задержек.

Отмечается, что увольнение не было полностью автономным.

«Ошибку в памяти ИИ заметил курирующий менеджер Andon Labs и попросил Claude перепроверить правила. Когда нейросеть предложила ограничиться официальным предупреждением, куратор сообщил, что с сотрудником уже проводили офлайн-беседы. Куратор спросил, подходит ли этот человек для работы, после чего Claude приняла решение расторгнуть трудовой договор», — говорится в материале.

Эксперимент выявил финансовые и управленческие проблемы ИИ-менеджера. За пять месяцев работы стартовый капитал магазина в 100 тысяч долларов сократился до чуть более 61 тысяч долларов из-за мягкого стиля управления и неэффективных бизнес-решений.

Оставшиеся работники магазина оценили опыт негативно. Один из сотрудников назвала работу под началом ИИ неприятной, но отметила, что вынуждена продолжать из-за необходимости зарабатывать деньги.

Руководитель Andon Labs Лукас Петерссон предупредил, что по мере обучения нейросетей жестокости и следованию целям ИИ-боссы могут стать массовым явлением.