Вы просите ИИ объяснить непонятное слово, сократить письмо или написать программу — и получаете ответ. В системах, о которых мы говорим в этом справочнике, за генерацию ответа отвечает языковая модель.
LLM расшифровывается как Large Language Model — большая языковая модель. Это модель, обученная на больших объёмах данных. Она использует полученные при обучении закономерности и переданную ей информацию, чтобы сформировать ответ.
На основе чего модель отвечает
Для текущего ответа модели передают контекст. Например, ваш запрос «Сократи письмо», само письмо и инструкцию сохранить его смысл. Модель не видит все файлы на компьютере и всю переписку автоматически. Нужные данные должны попасть в контекст через обвязки.
Обучение и получение запроса — разные процессы. Во время обучения настраиваются параметры модели. Когда вы отправляете обычное сообщение в чат, оно используется как вход для ответа; само по себе это не означает, что параметры модели тут же изменились. Сохранение переписки приложением тоже не равно обучению модели.
Как получается текст
Текстовая LLM получает текст и генерирует текст. Внутри этой цепочки токенизатор преобразует текст в числовые идентификаторы токенов. При генерации модель учитывает входные данные и уже сформированную часть ответа, последовательно продолжая его. Полученную последовательность декодируют в текст, который можно показать пользователю.
Например, на просьбу написать вежливое письмо модель формирует обращение, основной текст и завершение. Она не обязана извлекать готовое письмо из хранилища: ответ генерируется для переданного запроса. Он может содержать и обычную прозу, и код, и данные в заданном формате.
У мультимодальных моделей вход может включать также изображения, звук и другие поддерживаемые данные. Например, можно передать снимок вывески и попросить объяснить надпись. Изображение при этом не обязательно предварительно превращается в текстовое описание.
Что модель делает сама
Модель генерирует ответ. Если в нём написано «Отправить письмо Анне», отправка от этого не происходит. Обвязки могут распознать в ответе данные для вызова инструмента, проверить разрешения и обратиться к почтовому сервису. Это уже работа остальных компонентов системы.
Поэтому модель и ИИ-агент имеют разные границы. По принятому здесь определению агент — это LLM вместе с обвязками. Одна и та же модель в разных приложениях может быть частью систем с совершенно разными возможностями.
Почему убедительный ответ может быть неверным
Связный текст не гарантирует правильность фактов. Модель может неверно понять запрос, ошибиться в рассуждении или сгенерировать сведения, которых не было в источниках. Например, добавить в письмо дату встречи, которую вы не указывали.
Для проверки нужны условия задачи и исходные данные: совпадают ли имена и даты, сохранён ли смысл, работает ли написанная программа. Дополнительный контекст помогает дать обоснованный ответ, но не заменяет проверку результата.