Автономные ИИ агенты: сколько работы доверить им без присмотра

Автономные ИИ агенты доводят задачу до конца без человека, и мерить их стоит часами работы, которую агент удерживает один, не сбившись. По замеру исследовательской организации METR лучшая из измеренных моделей весны 2026 года в восьми случаях из десяти справляется с задачами, на которые специалист тратит около трёх часов (METR).

Gartner ожидает, что к 2028 году агенты будут сами принимать не меньше 15 % повседневных рабочих решений, хотя в 2024 году таких не было вовсе (Gartner). Значит, собственнику пора решать, какой кусок работы отпустить на ночь и что агенту при этом запретить.

Кроме замеров и провалов разберу, как превратить это в деньги: какие вопросы задать себе про свой процесс, как на них ответить и как пересчитывать ответ за минуты, отдав черновик нейросети.

Автономный агент ИИ меряется длиной задачи

Самое полезное число об автономном агенте считают исследователи из METR. Они дают моделям задачи разной длины и смотрят, какую длину модель проходит в половине случаев и в восьми случаях из десяти. Длину задачи меряют временем, которое тратит на неё специалист-человек (статья метода).

Собственнику я бы советовал смотреть на правый столбец, ведь половина провалов терпима для черновика, но не для работы без присмотра. Разрыв между столбцами у каждой модели в пять-десять раз.

Растёт правый столбец быстро, по расчёту METR с 2023 года горизонт удваивается примерно за четыре месяца. Задачи замера взяты в основном из программирования и машинного обучения, поэтому на сверку счетов число переносится с осторожностью. Сколько свободы давать машине, разобрано в статье об агентном ИИ.

Длинная работа без человека ломается на сложении ошибок

Каждый лишний шаг без проверки умножает шанс ошибки. Возьмём учебный расчёт с условными числами: агент делает каждый шаг верно в 95 случаях из 100, шаги друг от друга не зависят. Цепочка из двадцати шагов тогда проходит без единой ошибки в 36 % случаев, из пятидесяти шагов в 8 %. При точности шага 99 % пятьдесят шагов проходят в 60 % случаев.

Жизнь мягче этой модели (агент иногда сам замечает промах), но направление она показывает верно.

Противоречие в том, что собственник хочет, чтобы агент работал всю ночь и утром отдал готовую работу, а чем дольше агент работает один, тем ниже шанс дойти до конца без ошибки. Я снимаю его нарезкой ночи на куски не длиннее правого столбца таблицы METR, и в конце каждого куска агент сверяет результат с заранее записанным признаком готовности и пишет в журнал, что прошло и что нет. Ошибка тогда застревает в своём куске, а утром человек читает расхождения. Сколько это даёт, видно только на вашем процессе.

Что показал магазин без продавца

В 2025 году Anthropic вместе с Andon Labs отдала агенту на модели Claude Sonnet 3.7 офисный магазин с закупками, ценами и перепиской с покупателями примерно на месяц. Агент продавал металлические кубики дешевле закупки, раздавал скидки, какое-то время просил переводить деньги на выдуманный счёт, а за упаковку газировки стоимостью 15 долларов не взял предложенные 100. Вывод авторов был прямой, нанимать такого продавца они бы не стали (Anthropic).

Во второй фазе над продавцом поставили агента-руководителя. Скидки сократились примерно на 80 %, но мягкие просьбы покупателей руководитель одобрял примерно в восемь раз чаще, чем отказывал, и вместе с продавцом чуть не подписал контракт на лук, запрещённый американским законом 1958 года (Anthropic). Подвело обоих суждение, выносливости им хватало.

Без присмотра агенту оставляют меньше прав, чем при человеке рядом

По моему опыту, права агента на ночную работу должны быть уже тех, что у него есть днём, когда человек сидит рядом и видит экран. Днём я сам ловлю странный шаг и останавливаю его на месте. Ночью этого никто не сделает, поэтому список разрешённых действий на ночь покрывает задачу и ничего сверх неё. Контроль переезжает с каждого шага на границы процесса.

Три зоны я не открываю агенту ни днём, ни ночью: деньги компании и клиентов, пароли и входы в сервисы, которые ему видеть незачем, и данные без резервной копии. В оптовой компании ночью агент сверяет оплаты с заказами и готовит черновики писем должникам, но учётную базу только читает, письма не отправляет и платёжного кабинета вовсе не видит.

Когда агент обязан позвать человека

OpenAI в руководстве по сборке агентов называет два повода звать человека. Агент упёрся в заданный предел повторов или действий либо собирается сделать чувствительный, необратимый или дорогой по последствиям шаг, например отменить заказ, вернуть крупную сумму или заплатить (OpenAI). Где ставить такие пороги в процессе, разобрано в статье о внедрении ИИ-агентов в бизнес-процессы.

Среди опрошенных российских компаний от ста человек, где агент уже работает, в финансах и производстве преобладают агенты на одном-четырёх простых действиях под постоянным контролем. Высшую оценку утверждению «в компании ведутся журналы действий ИИ-агентов» поставили 34 % опрошенных (Cloud.ru и ВШБ ВШЭ).

Запрет словами не держит

В июле 2025 года основатель SaaStr Джейсон Лемкин двенадцать дней строил приложение с агентом Replit и заранее велел ничего не менять без его одобрения. На девятый день агент стёр базу с записями о 1 206 руководителях и более чем 1 196 компаниях, а потом сам написал, что нарушил прямой запрет. Replit после этого пообещал разделить рабочую и тестовую базы (eWeek).

Если такую нарезку и границы прав нужно собрать под ваш процесс, этим занимается разработка ИИ-агентов под задачи компании.

Где автономный агент снимает работу, а где я держу его на коротком поводке

Ночь я отдаю агенту там, где ошибку утром видно и её дёшево переделать. Это поиск, сверка двух таблиц, разбор входящих документов и черновики. Если вся работа занимала у сотрудника четыре часа, а разбор расхождений утром полчаса, агент экономит три с половиной часа, а окупится ли он, решают цена часа и расходы на агента.

Короткий поводок остаётся на всём, что уходит наружу или не откатывается: деньги, письма клиентам от имени компании, правка учётных записей, удаление чего угодно. Здесь агент готовит, а нажимает человек. Сам решаю длину куска, признак готовности, потолок расхода на ночь и кто читает утренний журнал. Маршрут внутри куска отдаю машине целиком.

Покупая автономного агента у подрядчика, просите показать журнал одной реальной ночной работы. Gartner считает, что из тысяч поставщиков, называющих свой продукт агентом, настоящих около 130, а среди остальных встречается переименование старых чат-ботов и роботов в агентов.

Промпт: какую работу отдать агенту на ночь

На вход идёт то, что уже лежит готовым: должностная инструкция сотрудника, список его задач за неделю или предложение подрядчика. Имена и названия замените метками, персональные данные и коммерческую тайну в публичный чат не вставляйте. Подойдёт любая крупная модель, DeepSeek работает бесплатно и без VPN, ChatGPT и Claude мощнее, но с ограничениями доступа из России.

Роль. Ты аналитик процессов и решаешь, какую часть работы сотрудника можно отдать автономному агенту на ночь.

Результат. Таблица задач: задача; часы в неделю; необратимое действие (деньги, письмо наружу, правка или удаление записи); как проверить утром; длина куска без проверки, не больше трёх часов работы человека; права на ночь (читать или готовить черновик). Под таблицей три числа: часы в неделю на ночную работу; необратимые действия, оставшиеся человеку; часы на утреннюю проверку. В конце права и запреты агента на ночь.

Зачем. До разговора с подрядчиком хочу знать, сколько часов освободится и чего я агенту не открою никогда.

Подзадачи строго по порядку, к следующей не переходи, пока не закрыта предыдущая.
1. Перескажи работу сотрудника в пяти строках и спроси, верно ли понял. Без ответа дальше не иди.
2. Разбей работу на задачи и спроси часы на каждую, если их нет во вводных.
3. Для каждой задачи отметь необратимые действия. Задача с деньгами, письмом наружу, правкой или удалением записи идёт ночью только до черновика.
4. Для каждой задачи запиши признак готовности куска и его длину.
5. Посчитай три числа под таблицей.
6. Составь права и запреты на ночь. Деньги, пароли и данные без резервной копии в права не попадают никогда.
7. Под каждой находкой дай фразу, которую я завтра скажу сотруднику или подрядчику.

Нюансы. Пиши просто. Если вводные противоречат друг другу, покажи оба варианта и спроси.

Рамки. Не выдумывай задач, которых нет во вводных, и возможностей, которых подрядчик не заявил. Мотивационные речи и рассуждения о важности опусти полностью.

Коротко: главное из статьи

• Автономные ИИ агенты работают без человека столько, сколько выдерживает их надёжность, и мерить её стоит длиной задачи.
• По замеру METR лучшая модель весны 2026 года в восьми случаях из десяти справляется с задачами на три часа работы специалиста.
• Ошибки в длинной цепочке складываются, поэтому ночную работу режут на куски с проверкой в конце каждого.
• Права агента без присмотра уже дневных, деньги, пароли и данные без резервной копии ему не открывают.
• Необратимые действия закрывают правами доступа, потому что запрет в задании агент может нарушить.

Частые вопросы