ИИ может написать текст «На кухне включён свет», но от одной этой фразы лампа не загорится. Нужна программа, которая передаст команду системе освещения. В составе ИИ-системы такая программа играет роль инструмента.
Инструмент — программа или функция для конкретной операции: прочитать файл, найти сведения, выполнить расчёт, отправить письмо или обратиться к устройству. Его вызывают обвязки, а не сама LLM.
Откуда модель узнаёт об инструменте
Обвязки могут передать модели описание доступных операций и ожидаемый формат данных. Например, инструменту управления освещением нужны название комнаты и действие: включить или выключить.
На просьбу «Включи свет на кухне» модель генерирует ответ, который может содержать эти параметры в согласованном формате. Обвязки разбирают ответ, проверяют данные и разрешения, затем выполняют вызов. Если формат неверен или действие запрещено, вызов может не состояться.
Описание инструмента и сам инструмент — разные вещи. Текст с названием операции не создаёт подключение к устройству. В приложении должна существовать реализация, которая действительно умеет эту операцию выполнить.
Что происходит после вызова
Инструмент обращается к контроллеру освещения и возвращает результат. Это могут быть данные о состоянии, подтверждение приёма команды или ошибка связи. Обвязки могут включить результат в следующий контекст модели.
Получив сообщение об ошибке, модель может сформировать ответ пользователю или данные для следующего действия. Продолжать ли работу, повторять ли вызов и когда остановиться, определяют механизмы обвязок. Весь такой цикл относится к работе агента.
Не каждый вызов требует участия модели. Приложение может само прочитать файл или проверить состояние устройства по заданному правилу. Инструмент остаётся обычной программой независимо от того, что стало причиной его запуска.
Инструменты получают данные и меняют состояние
- Чтение файла возвращает содержимое, которое можно использовать при подготовке ответа.
- Поиск возвращает найденные сведения; их ещё нужно сопоставить с вопросом и проверить по источникам.
- Запуск проверки программы возвращает ошибки или сведения об успешном выполнении.
- Отправка письма или запись файла меняет состояние за пределами ответа модели.
Наличие инструмента не означает доступ ко всем данным и операциям. Он работает с теми ресурсами и правами, которые ему предоставлены. Например, чтение одного документа не даёт доступа ко всем файлам пользователя.
Как понять, что задача выполнена
Проверка зависит от результата, который нужен пользователю. Контроллер может подтвердить приём команды, но лампа окажется перегоревшей. Для подтверждения освещения нужны данные датчика или наблюдение человека.
Аналогично, почтовый сервис может принять письмо, но это ещё не подтверждение прочтения. В отчёте важно различать запрошенное действие, выполненный вызов и наблюдаемый результат. Фраза модели «Готово» сама по себе ни один из этих этапов не проверяет.