«ИИ-агент» стал одним из самых часто употребляемых выражений в мире корпоративного программного обеспечения. Однако этим термином называют очень разные продукты: «агентом» могут представлять и простого чат-ассистента, и программу, которая подключается к системам и самостоятельно доводит работу до конца. В этой статье рассказывается, что такое ИИ-агент, чем он отличается от ассистента и от классической автоматизации и какие шаги может пройти компания, внедряя своего первого агента.
Что такое ИИ-агент?
Gartner определяет агентов, отделяя их от ИИ-ассистентов. По мнению Gartner, ассистенты облегчают работу пользователя, но зависят от ввода со стороны человека и не работают самостоятельно. Если ассистенту добавить возможности специализации под конкретную задачу, появляется агент: он способен выполнять сложные задачи от начала до конца.
Пример, который приводит Gartner, — агент реагирования на угрозы кибербезопасности: он в режиме реального времени сканирует сетевой трафик, системные журналы и поведение пользователей, оценивает ситуацию и при необходимости инициирует ответные меры. То есть агент не просто выдаёт ответ: ради достижения цели он считывает данные, принимает решение и запускает действие.
Понять это различие помогает и определение системы ИИ в Законе ЕС об ИИ (Регламент (ЕС) 2024/1689). Закон определяет систему ИИ как машинную систему, разработанную для работы с различными уровнями автономности и делающую на основе получаемых входных данных вывод о том, как формировать результаты на выходе. Агенты — это системы, находящиеся ближе к верхнему краю этого спектра автономности.
Ассистент, автоматизация, агент: что и когда применять?
Рекомендация из пресс-релиза Gartner 2025 года проста: агент — когда нужны решения, автоматизация — для рутинных рабочих процессов, ассистент — для простого поиска информации.
| Инструмент | Что делает? | Для каких задач подходит |
|---|---|---|
| Ассистент | Отвечает на вопросы пользователя, создаёт тексты; направляет работу человек | Поиск информации, резюмирование, подготовка черновиков |
| Автоматизация (напр., RPA) | Каждый раз одинаково применяет заранее заданные правила | Повторяющиеся задачи с чёткими правилами |
| Агент | Сам планирует шаги исходя из цели, использует инструменты, принимает решения | Многошаговые задачи, требующие оценки с учётом ситуации |
В том же пресс-релизе Gartner подчёркивает, что многие сценарии использования, которые сегодня подаются как агентные, на самом деле не требуют агента. Поэтому первым вопросом должно быть не «какого агента нам внедрить?», а «требует ли эта задача действительно принятия решений?». Схема выбора подробно разобрана в статье RPA или ИИ-агент?.
Составные элементы агента
Независимо от продукта и платформы, элементы, из которых состоит агент, в общих чертах таковы:
- Цель и инструкции: чего агент должен добиться и чего ни при каких условиях не должен делать.
- Модель: языковая модель, которая интерпретирует входные данные и принимает решение о следующем шаге.
- Инструменты: подключения, позволяющие агенту совершать действия, например читать записи в системе, заполнять формы, создавать черновики электронных писем.
- Контекст и данные: документы, записи и предыдущие шаги, к которым агент обращается при принятии решения.
- Полномочия и точки одобрения: к каким системам и под какой идентичностью агент получает доступ, на каком шаге он ожидает одобрения человека.
- Журналирование и мониторинг: возможность впоследствии проверить, что именно делал агент.
Агента от классической автоматизации отличает сочетание второго и третьего пунктов: модель сама решает, какой инструмент и когда использовать.
Как внедрить ИИ-агента? Шесть шагов
Приведённая ниже последовательность — не инструкция по установке какого-либо продукта, а общая рамочная схема для планирования первого агента внутри компании.
1. Выберите сценарий использования. Gartner рекомендует на этом раннем этапе следовать агентному подходу только там, где он обеспечивает очевидную ценность или отдачу от инвестиций. Хороший первый кандидат — процесс с большим объёмом операций, решения в котором опираются на определённые критерии, а допущенные ошибки можно исправить.
2. Задокументируйте процесс и критерий успеха. До ввода агента в работу необходимо зафиксировать, как эта работа выполняется сегодня, сколько времени в среднем занимает и какие ошибки возникают. Иначе по итогам пилота улучшение измерить будет невозможно.
3. Сведите инструменты и полномочия к минимуму. OWASP группирует корни риска «чрезмерных полномочий» (Excessive Agency), который приводит к неконтролируемым действиям агентов, в три категории: чрезмерная функциональность, чрезмерные разрешения и чрезмерная автономность. Его рекомендация — предоставлять агенту только те инструменты, которые нужны для его задачи, и минимальный уровень доступа. Эта тема отдельно рассмотрена в статье о полномочиях, предоставляемых ИИ-агентам.
4. Определите точки одобрения человеком. OWASP рекомендует, чтобы действия с серьёзными последствиями до их выполнения одобрялись человеком. Такие шаги, как инициирование платежа, удаление записей или отправка клиенту официального ответа, на первом этапе можно выстроить так, чтобы агент готовил черновик, а человек его одобрял.
5. Выстройте управление рисками с самого начала. Фреймворк управления рисками ИИ (AI RMF), опубликованный Национальным институтом стандартов и технологий США (NIST) 26 января 2023 года, — справочный источник, подготовленный для добровольного применения. Ядро фреймворка состоит из четырёх функций: Управление (Govern), Картирование (Map), Измерение (Measure) и Менеджмент (Manage). NIST указывает, что функция управления (Govern) является сквозной по отношению к остальным трём, а управление рисками должно продолжаться на протяжении всего жизненного цикла системы ИИ. Применительно к агенту это означает: назначить ответственного, перечислить риски, измерять показатели работы и заранее определить порядок вмешательства, если возникнет проблема.
6. Начните с малого, измеряйте, затем расширяйте. Gartner отмечает, что интеграция агентов в унаследованные системы может быть технически сложной и что в большинстве случаев более разумный путь — заново спроектировать с нуля рабочий процесс с участием агента. Пилот, начатый с ограниченной группой пользователей и узким охватом, позволяет рано увидеть и эти проблемы интеграции, и реальную ценность.
Почему стоит начинать осторожно?
Ожидания высоки. Gartner прогнозирует, что к концу 2026 года 40% корпоративных приложений будут интегрированы с ИИ-агентами, ориентированными на конкретные задачи; в 2025 году этот показатель был ниже 5%. По оценке Gartner, к 2028 году не менее 15% повседневных рабочих решений будут приниматься автономно — с помощью агентов; в 2024 году эта доля составляла 0%.
С другой стороны, та же компания прогнозирует, что более 40% проектов с ИИ-агентами будут отменены к концу 2027 года из-за роста затрат, неясной бизнес-ценности или недостаточного контроля рисков. Gartner также обращает внимание на ребрендинг ассистентов, RPA и чат-ботов в «агентов» без реальных агентных возможностей и оценивает, что из тысяч поставщиков настоящими являются лишь около 130. Причины риска отмены подробно разобраны в статье о риске отмены проектов с ИИ-агентами.
Если прочитать эти две картины вместе, вывод очевиден: агенты становятся обычной частью корпоративного программного обеспечения, но то, принесут ли они ценность, зависит от правильного сценария использования и мер контроля.
Краткое замечание с точки зрения законодательства
Закон ЕС об ИИ определяет юридическое лицо, использующее систему ИИ под своим контролем, как «пользователя» (deployer). Иными словами, компания, которая покупает готовый продукт-агент и запускает его в собственных процессах, также относится к одной из ролей, определённых Законом. Компаниям, работающим с рынком ЕС, следует вместе со своими юридическими консультантами оценить, в каком сценарии использования работает применяемый ими агент и какие обязательства из этого вытекают.
Заключение
ИИ-агент — это программное обеспечение, которое, в отличие от ассистента, планирует действия исходя из цели, использует инструменты и принимает решения. Эта способность создаёт ценность в подходящей задаче; в неподходящей она порождает лишние затраты и риски. Для компании, которая планирует внедрить первого агента, наиболее разумное начало — выбрать один процесс, требующий принятия решений, держать полномочия агента узкими, сохранять одобрение человеком на критических шагах и измерять результат, сравнивая его с сегодняшним процессом.
#interimmanagement #forwarddeployedengineering