В вакансиях всё чаще мелькают термины «AI-агент», «MCP», «RAG» и «кэширование промптов». Но если «AI-агент» упоминается в 1458 вакансиях на hh.ru, то «кэширование промптов» — только в 13. При этом именно кэш и токены определяют, сколько на самом деле стоит работа агента. В этой статье разберём ключевые понятия AI-инженерии и посчитаем деньги на конкретном примере.

Что такое AI-агент и агентный цикл

AI-агент — это программа, которая использует языковую модель для принятия решений и выполнения действий. В отличие от простого чат-бота, агент работает в цикле: получает задачу, анализирует контекст, выбирает инструмент, выполняет действие, проверяет результат и повторяет, пока не достигнет цели. Этот цикл называют агентным циклом (agent loop).

Ключевой элемент агента — harness (обвязка). Это код, который управляет моделью: передаёт ей запросы, обрабатывает ответы, вызывает инструменты и следит за лимитами. Хороший harness позволяет агенту работать стабильно и не уходить в бесконечные циклы.

MCP, скиллы, хуки и RAG: что это и зачем

MCP (Model Context Protocol) — протокол, который позволяет модели обмениваться данными с внешними сервисами. По сути, это стандарт для подключения инструментов и источников знаний к агенту. Скиллы — это конкретные навыки агента, например умение искать в интернете или работать с базой данных. Хуки — точки расширения, которые позволяют внедрять дополнительную логику до или после вызова модели.

RAG (Retrieval-Augmented Generation) — подход, при котором агент сначала ищет релевантную информацию в базе знаний, а затем использует её для генерации ответа. Это снижает галлюцинации и повышает точность. Evals — оценка качества работы агента: набор тестов и метрик, которые показывают, насколько хорошо агент справляется с задачами.

Токены и кэш: как считать деньги

Токены — это единицы текста, которыми оперирует модель. Каждый запрос и ответ расходует токены, а их количество напрямую влияет на стоимость. Например, за 30 шагов агент может прочитать 1,63 млн токенов, хотя за раз ему не давали больше 100 тысяч. Без оптимизации счёт может оказаться внушительным.

Кэширование промптов (prompt caching) позволяет сохранять результаты предыдущих запросов и повторно использовать их, если контекст не изменился. В примере из источника кэш сделал ту же задачу в 6,6 раза дешевле. Также важно учитывать, что русский текст в токенах Claude в 1,27 раза «дороже» английского — это значит, что на русском языке запросы обходятся дороже.

Чтобы контролировать расходы, следуйте простым шагам:

  • Считайте токены на каждом шаге агента и устанавливайте лимиты.
  • Используйте кэширование для повторяющихся запросов.
  • По возможности формулируйте промпты на английском, если модель с ним работает лучше.
  • Применяйте RAG, чтобы не передавать модели весь объём данных, а только релевантные фрагменты.

Типичные ошибки начинающих AI-инженеров

Первая ошибка — игнорировать стоимость токенов. Многие думают только о качестве ответов, а потом удивляются счетам. Вторая — отсутствие evals: без оценки качества невозможно понять, улучшается ли агент. Третья — слишком сложный harness, который душит гибкость. Четвёртая — отказ от кэша, даже когда задача повторяется.

Пример: агент для ответов на вопросы клиентов. Если не использовать RAG и кэш, он будет каждый раз отправлять в модель всю историю диалога и базу знаний, что приведёт к огромному расходу токенов. С RAG и кэшем те же ответы обойдутся в разы дешевле.

Начните с малого: определите чёткую задачу, выберите модель, настройте harness с лимитами, добавьте кэширование и простые evals. Постепенно усложняйте, следя за метриками. Так вы освоите AI-инженерию без лишних затрат.