Справочник

ИИ-агент

Вы просите ИИ-помощника подготовить ответ клиенту. Он получает обращение, находит данные о заказе, составляет письмо и показывает вам черновик. Для вас это работа одного помощника. Внутри её обеспечивают модель и несколько программных компонентов.

В этом справочнике мы используем определение: ИИ-агент = LLM + обвязки. Обе составляющие обязательны. Агент — вся рассматриваемая система, включая языковую модель, обвязки и связи между ними.

Кто какую часть работы выполняет

LLM обрабатывает переданный контекст и генерирует ответ. В примере с заказом это может быть текст письма или данные для запроса сведений о доставке.

Обвязки принимают обращение, передают модели нужную информацию, обрабатывают ответы и вызывают инструменты. Они же могут сохранять историю, проверять разрешения и показывать результат пользователю. Некоторые из этих функций не требуют обращения к модели.

Когда мы говорим «агент прочитал файл», действие относится ко всей системе: файл прочитал инструмент, обвязки передали содержимое, а модель использовала его для ответа. Такое сокращение удобно в разговоре, но при разборе устройства полезно различать роли.

Как агент выполняет задачу в несколько шагов

Допустим, нужно ответить клиенту, почему задерживается заказ. В сообщении есть номер заказа, но нет сведений о доставке. Система может работать так:

  • Обвязки передают модели обращение и описание доступных инструментов.
  • Модель генерирует ответ с данными для поиска заказа.
  • Обвязки проверяют запрос и вызывают инструмент получения сведений.
  • Результат поиска входит в следующий контекст модели.
  • Модель формирует черновик письма, а обвязки показывают его сотруднику.

Если поиск вернул ошибку или заказ не найден, дальнейшие шаги должны учитывать именно этот результат. Возможны уточнение номера, повторная попытка или сообщение о невозможности получить данные. Уверенный ответ о доставке не заменяет отсутствующие сведения.

Должен ли агент всё делать самостоятельно

По принятому здесь определению обязательны LLM и обвязки, а не полная самостоятельность. В одной системе результатом будет только черновик. В другой возможна отправка после подтверждения. В третьей отправка разрешена автоматически при выполнении заданных условий.

Поэтому слово «агент» само по себе не говорит, какие права у системы, сколько шагов она выполнит и когда обратится к человеку. Это нужно выяснять по устройству конкретного приложения. Возможность вызвать инструмент не означает разрешение использовать его без ограничений.

Агент может быть частью другого агента

В систему ответа клиентам можно включить отдельного агента для проверки черновика. У него будут собственные модель, инструкции и обвязки. Он получит текст и сведения о заказе, затем вернёт замечания или результат проверки.

Если смотреть на проверяющего отдельно, это агент со своими границами. Если смотреть на систему ответа клиентам целиком, проверяющий агент входит в её обвязки. Внутри большой системы могут быть несколько моделей, агентов и слоёв связующего кода.

Поэтому перед обсуждением возможностей или ошибок нужно определить, какое целое мы называем агентом. Ответ отдельной модели и результат работы всей системы — разные уровни рассмотрения.

Что нужно для работы всей системы

Компоненты работают в среде выполнения. Интерфейс может находиться в браузере, обвязки — на сервере приложения, модель — на другом сервере. Один агент не обязан помещаться на одном компьютере.

Результат зависит от всей цепочки: понятного запроса, нужных данных, качества модели, доступных инструментов и логики обвязок. Проверяют его по задаче: совпадают ли сведения в письме с данными заказа, разрешена ли отправка и состоялась ли она. Отчёт агента нужно соотносить с фактическими результатами его работы.

Как это устроено в Codex

Написать мне