Когда вы общаетесь с ИИ в чате, перед вами не только модель. Вы пользуетесь приложением: оно принимает сообщения, показывает ответы, позволяет прикреплять файлы и иногда искать информацию в интернете. Модель — одна из частей этой системы. Именно она обрабатывает подготовленный для нее запрос и создает ответ.
Различие важно потому, что способности модели и возможности приложения — не одно и то же. Одна модель в разных приложениях может отвечать по-разному. А приложение с привычным названием может со временем сменить модель или использовать несколько моделей для разных задач.
Чтобы понять, откуда берутся ответы и ограничения помощника, нужно разделить две вещи: что умеет сама модель и что окружающая программа позволяет ей получить и сделать.
Модель обрабатывает информацию, приложение организует работу
Что такое модель
Модель ИИ — это обученная вычислительная система. Во время обучения ей показывают множество примеров и настраивают ее внутренние числовые значения — параметры. В них закрепляются закономерности, которые затем помогают обрабатывать новые запросы.
Языковая модель работает с текстом: может объяснять, переводить, составлять письма и решать задачи. Некоторые модели также обрабатывают изображения, звук или другие виды данных. Получив входные данные, модель вычисляет ответ. При создании текста она последовательно выбирает небольшие его фрагменты с учетом того, что ей передали и что она уже написала.
Но из этой способности не следуют автоматически доступ к интернету, память обо всех ваших разговорах или возможность отправить письмо. Умение составить текст письма еще не дает доступа к почте.
Что такое приложение с ИИ
Приложение с ИИ — это программа, которая использует модель как часть своей работы. Это может быть чат, редактор документов, переводчик, сервис поддержки или приложение для обработки фотографий. Разговорное окно ему необязательно.
Приложение отвечает за то, как способности модели становятся доступны пользователю. Например, оно может:
- Принимать сообщения, изображения и документы
- Подготавливать данные и инструкции для модели
- Подключать поиск, базы данных и внешние сервисы
- Хранить историю и пользовательские настройки
- Проверять результат и показывать его в удобном виде
- Управлять доступом, оплатой и разрешениями на действия
Поэтому приложение — не просто оформление вокруг модели. От его устройства зависит, какую информацию модель увидит, какими инструментами сможет воспользоваться и что произойдет после ее ответа.
Как они работают вместе: путь одного запроса
Допустим, вы загружаете договор и просите: «Найди условия расторжения и объясни их простыми словами». На экране это выглядит как одно действие. Внутри системы работа проходит несколько этапов.
1. Приложение готовит содержимое
Сначала нужно получить текст из файла. Если договор отсканирован, может потребоваться распознавание текста — отдельная программа или другая модель. Некоторые модели умеют непосредственно обрабатывать изображения страниц, но и тогда приложение должно передать их в подходящем виде.
Большой документ приложение может разделить на части и выбрать фрагменты, относящиеся к вопросу. Поэтому загруженный файл не всегда попадает в модель целиком.
2. Приложение собирает запрос к модели
Кроме вашего вопроса, модель может получить текст договора, часть предыдущей переписки и служебные инструкции. Например: отвечать по документу, указывать номера пунктов и не выдавать предположения за содержание договора.
Все переданные для текущего ответа материалы образуют контекст — информацию, на которую модель может опираться в этот момент. У его размера есть предел. Приложению иногда приходится сокращать историю, пересказывать ее или отбирать только нужные фрагменты.
То, что видно в интерфейсе, не обязательно целиком видно модели. История может храниться в приложении годами, но в очередной запрос попадет лишь ее часть.
3. Модель создает ответ
Модель обрабатывает полученный контекст и формулирует объяснение. Если приложение передало нужные пункты договора, она может разобрать их. Если важный пункт не попал в запрос, модель может его упустить, даже если файл был успешно загружен.
Здесь проявляются два разных источника ошибок: модель могла неверно понять доступный текст, а приложение могло не предоставить необходимый текст. Для пользователя результат похож — неправильный ответ. Но причины и способы исправления различаются.
4. Приложение показывает результат
После этого приложение выводит ответ. Оно может добавить ссылки на страницы документа, проверить формат или предложить сохранить результат. Иногда перед показом выполняются дополнительные проверки или еще один вызов модели.
Общая схема получается такой: приложение собирает данные → модель их обрабатывает → приложение использует результат. В сложных задачах этот цикл повторяется несколько раз.
Откуда берутся поиск, память и действия
Некоторые возможности особенно легко приписать самой модели, потому что они доступны в одном окне чата. Но за ними могут стоять отдельные части приложения.
Поиск приносит новые сведения
Модель при обучении усваивает сведения и закономерности, но это не постоянно обновляемая база данных. Без свежих источников она может не знать о недавнем событии или назвать устаревшую цену.
Если приложение подключило поиск, система может найти страницы и передать их содержимое модели. Тогда ответ строится не только на том, что было усвоено при обучении, но и на найденных материалах.
При этом поиск не гарантирует точность: можно найти слабый источник или неверно пересказать хороший. Доступ к информации и правильное понимание информации — разные способности.
Память возвращает нужные сведения в разговор
Если помощник помнит, что вы предпочитаете короткие ответы, это не обязательно означает, что модель переобучилась на вашей переписке. Приложение могло сохранить предпочтение и добавить его к следующему запросу.
Нужно различать три вещи: сведения, усвоенные моделью при обучении; материалы текущего запроса; записи, которые приложение хранит и при необходимости передает модели. Для пользователя все это может выглядеть как единая память, хотя работает по-разному.
Инструменты позволяют действовать вне чата
Чтобы проверить календарь или создать встречу, одного текстового ответа недостаточно. Приложению нужен доступ к соответствующему сервису. Такую подключенную возможность обычно называют инструментом.
Модель может сформировать запрос: создать встречу завтра в 15:00 с указанными участниками. Но сам запрос исполняет программа, которая проверяет доступ и обращается к календарю. После этого результат можно вернуть модели, чтобы она сообщила, что получилось.
Поэтому фраза «встреча создана» сама по себе не доказывает выполнение действия. Подтверждение должно приходить от календаря или другого сервиса. Хорошо устроенное приложение также запрашивает согласие перед важными действиями.
Почему одна модель ведет себя по-разному
Если два приложения используют одну модель, их ответы не обязаны совпадать. Модель — общая часть, но условия ее работы могут различаться.
- Инструкции. Одно приложение просит объяснять подробно, другое — отвечать только на основе внутренней базы компании
- Доступные данные. Одно передает весь нужный раздел документа, другое — только короткий фрагмент
- Инструменты. В одном есть поиск и калькулятор, в другом их нет
- Организация работы. Одно приложение получает ответ за один вызов модели, другое отдельно проверяет расчеты и дорабатывает результат
- Ограничения. Различаются длина ответа, объем передаваемой истории и доступные пользователю функции
Кроме того, даже при одинаковом запросе модель иногда дает разные формулировки: процесс генерации может допускать вариативность. Поэтому один удачный или неудачный ответ еще не показывает, какое приложение в целом лучше.
Работает и обратная ситуация: одно приложение может использовать несколько моделей. Например, одна распознает речь, другая отвечает на вопрос, третья озвучивает результат. Или система выбирает более быструю модель для простых запросов и более мощную для сложных.
Где проходит граница на практике
Различать модель и приложение удобнее по их роли, а не по названию или месту запуска. Модель выполняет обученные преобразования данных. Приложение решает, когда ее вызвать, что передать и как использовать результат.
При этом модель может работать на сервере поставщика, на сервере компании или прямо на вашем устройстве. Приложение обращается к ней через программный интерфейс — API — либо запускает ее локально. API здесь означает способ, которым одна программа отправляет другой запрос и получает ответ.
Расположение важно для скорости, стоимости и обработки данных. Но надпись «использует модель X» сама по себе не говорит, где хранится переписка и кто имеет к ней доступ. Это зависит от устройства приложения, подключенных сервисов и их правил.
Чего не стоит ожидать от этого разделения
Хорошее приложение может заметно улучшить результат: найти сведения, выполнить точный расчет, проверить формат. Но оно не делает слабую модель безошибочной. И сильная модель не компенсирует любой недостаток приложения — особенно если ей не передали нужные данные.
Поэтому качество помощника складывается из нескольких вещей: способностей модели, качества предоставленной информации и того, как приложение организует работу. Оценивать только название модели — значит видеть лишь часть системы.
Коротко о главном
- Модель обрабатывает переданные данные и создает результат; приложение организует ее использование
- Приложение определяет, какие инструкции, документы, история и инструменты будут доступны модели
- Поиск, долговременная память и действия во внешних сервисах не появляются автоматически вместе с моделью
- Одна модель может работать по-разному в разных приложениях, а одно приложение может использовать несколько моделей
- Качество ответа зависит от всей системы, а не только от модели
