ИИ-агенты — не ваши "коллеги"

Представьте, что вы приходите на работу и узнаете: вам будет подчиняться новый помощник. Этот работник — не человек, а инструмент искусственного интеллекта, которому, тем не менее, ваша компания присвоила имя Алекс и называет «сотрудником» с должностью и определенными обязанностями. Как, по вашему мнению, вы будете работать с Алексом?

Если вы похожи на менеджеров, недавно изученных Эммой Уайлз, профессором бизнеса из Бостонского университета, то отношение к Алексу как к «коллеге», а не просто к программному инструменту, приведет к ухудшению вашей работы. Уайлз обнаружила, что люди выявляли на 18% меньше ошибок, когда работа, как им сообщалось, была выполнена «ИИ-сотрудником», а не обычным чат-ботом. Оказывается, название имеет значение. И очень большое.

Это тревожный взгляд на будущее, к которому нас неумолимо ведет Кремниевая долина. В прошлом году генеральный директор Nvidia Дженсен Хуанг говорил о рабочих местах с «цифровыми людьми». С апреля Microsoft, OpenAI, Anthropic и Google выпустили новые инструменты для управления командами ИИ-агентов, многие из которых прямо рекламируются как цифровые коллеги с гибкостью и когнитивной мощью реальных людей. И почти треть из 1261 менеджера, участвовавших в исследовании Уайлз, заявили, что их компании уже позиционируют ИИ-агентов как сотрудников (23% даже включают их в организационные схемы).

Технический прогресс агентского ИИ, конечно, не пустой звук. Агенты, которые по сути являются ИИ-инструментами, запрограммированными на циклическую работу до достижения цели, стали заметно лучше справляться со сложными задачами. Но называть эти инструменты «коллегами» или «сотрудниками» — это огромный скачок, который создаст нереалистичные ожидания относительно того, что может делать ИИ, и ухудшит положение человеческих сотрудников, якобы несущих за них ответственность.

Отчасти это происходит потому, что, как предполагает исследование Уайлз, это переворачивает наше представление о том, кто главный. Когда инструмент ИИ представлялся как сотрудник, участники исследования чувствовали себя менее ответственными за его результаты. Они также на 44% чаще передавали сомнительную работу ИИ менеджеру для дальнейшего рассмотрения, вместо того чтобы доверять своим собственным исправлениям (тем самым сводя на нет цель экономии времени при использовании ИИ-агента).

Это имеет значение далеко за пределами офисной культуры: по мере того как ИИ-агенты внедряются в здравоохранение, военное дело, образование и государственное управление, растет риск того, что они станут удобным местом для сброса вины за неудачи, которые на самом деле являются результатом плохих человеческих решений, стимулов и надзора.

«ИИ-агенты сейчас рекламируются как нечто, что может заменить людей, и я думаю, что это просто проигрышная стратегия», — говорит Дарон Асемоглу, экономист из Массачусетского технологического института, лауреат Нобелевской премии 2024 года, изучающий влияние ИИ на экономику. «Вместо этого их следует оптимизировать так, чтобы они могли улучшать человеческие возможности, чего в данный момент не происходит».

Как это могло бы выглядеть? Рассмотрим новую инициативу в Стэнфорде, где исследователи представили 1500 работникам из 104 профессий информацию о том, какие задачи ИИ потенциально мог бы выполнять в их работе, а затем спросили, что на самом деле было бы наиболее полезным и продуктивным. Работники действительно хотели автоматизации в определенных областях: например, помощники юристов считали, что ИИ мог бы помочь обеспечить адекватный прогресс по делам. Но часто задачи, которые эксперты по технологиям считали наиболее подходящими для ИИ — например, проверка кредитного рейтинга клиентов для торговых представителей, — были теми, которые сами работники говорили, что им определенно не нужен агент для выполнения.

Что возвращает нас к Алексу. Назвать Алекса сотрудником легко — и удобно, особенно когда что-то идет не так, — но это лишь маркетинговый ход. Это не делает инструмент более подходящим для работы, и, как показывает исследование Уайлз, это ухудшает работу людей вокруг него. И напомним, что они — это те, кто обладает способностью к действию, которую ИИ пытается воспроизвести. Они заслуживают лучшего, чем Алекс.