Что такое ИИ-агент на LLM?
ИИ-агент на LLM — это система ИИ, которая использует большую языковую модель как основной механизм рассуждений, а затем сочетает её с планированием, памятью, инструментами и логикой выполнения для решения задач. Помимо генерации текстового ответа, ИИ-агент на LLM может понимать цель, определять, какие шаги нужны, использовать внешние инструменты, наблюдать за результатами и продолжать работу до достижения полезного результата.
ИИ-агенты на LLM и чат-боты: в чём разница?
Обычный чат-бот предназначен для общения. Он получает сообщение пользователя и генерирует ответ. Это хорошо работает для вопросов, на которые можно ответить одним сообщением.
ИИ-агент на LLM предназначен для выполнения задач. Он может спланировать последовательность действий. Например, чат-бот может объяснить, как создать презентацию. ИИ-агент на LLM может помочь собрать информацию, структурировать историю, сгенерировать слайды, отредактировать формулировки и подготовить более полный результат.
Именно здесь естественно вписываются такие продукты, как Kimi Agent. Kimi Agent может поддерживать такие рабочие процессы, как поиск информации, обработка документов, создание содержимого для PPT, анализ таблиц и выполнение многошаговых задач, требующих больше, чем одного ответа.
Архитектура ИИ-агента на LLM
Типичная архитектура ИИ-агента на LLM включает несколько связанных частей. LLM выступает ядром рассуждений, но не является всей системой. Чтобы выполнять реальные задачи, агенту также нужны планирование, память, инструменты, наблюдения и механизмы безопасности.
Упрощённая архитектура ИИ-агента на LLM выглядит так:
Каждый компонент играет свою роль. Ядро агента решает, что делать, планирование разбивает работу на шаги, память отслеживает контекст, а инструменты позволяют агенту взаимодействовать с внешними системами.
Ядро агента: LLM как мозг
Ядро агента — это, как правило, большая языковая модель. Она интерпретирует запрос пользователя, понимает цель, определяет, какая информация нужна, и выбирает следующее действие.
LLM можно представить как мозг агента. Она координирует рабочий процесс, но для полезной работы всё равно нужна остальная система. Без инструментов она может только генерировать текст. Без памяти она может потерять контекст задачи. Без планирования ей может быть сложно справляться с длинными или сложными рабочими процессами. Без границ безопасности она может совершать действия, которые должны требовать проверки.
В хорошо спроектированном агенте LLM не действует в одиночку. Она работает внутри системы, которая определяет её роль, доступные инструменты, границы задач и правила о том, когда останавливаться или запрашивать подтверждение.
Планирование: как агенты разбивают сложные задачи
Планирование позволяет агенту на базе LLM разбивать крупный запрос на более мелкие, управляемые шаги. Это особенно важно, когда ответ невозможно получить за один прогон.
Некоторые агенты составляют план в самом начале и следуют ему шаг за шагом. Другие используют более гибкий цикл: выполняют одно действие, оценивают результат, а затем пересматривают план. В этом контексте часто упоминаются такие методы, как ReAct и Reflexion, поскольку они объединяют рассуждение, действие, обратную связь и корректировку.
Именно планирование помогает агентам перейти от «ответа на запрос» к «управлению рабочим процессом».
Память: как агенты сохраняют контекст
Память помогает агенту отслеживать, что уже произошло и что еще нужно сделать.
Кратковременная память используется в течение текущей задачи. Она может включать запрос пользователя, последние результаты работы инструментов, промежуточные заметки и текущий план. Это помогает агенту оставаться последовательным при выполнении многошагового рабочего процесса.
Долговременная память хранит информацию между разными взаимодействиями. Она может включать предпочтения пользователя, предыдущие решения, историю проекта или полезные факты из прошлых задач. Долговременная память особенно полезна, когда агенту нужно персонализировать будущую работу или продолжать проект в течение длительного времени.
Память не означает, что агент «понимает» всё так же, как человек. Она означает, что у системы есть способ сохранять, извлекать и использовать релевантный контекст при принятии решений.
Инструменты: как агенты на базе LLM совершают действия
Инструменты — это то, что позволяет агентам на базе LLM действовать за пределами самой модели. К ним могут относиться поисковые системы, базы данных, интерпретаторы кода, файловые системы, браузеры, API, калькуляторы, корпоративное программное обеспечение и другие специализированные системы.
Например, агент может использовать:
Поисковый инструмент для сбора актуальной информации
Коннектор к базе данных для получения бизнес-данных
Интерпретатор кода для выполнения расчетов
Файловый инструмент для чтения и редактирования документов
Инструмент для работы с таблицами для очистки и анализа данных
API для обновления рабочего процесса или запуска действия
Инструменты — одно из главных отличий агента от чат-бота. Чат-бот может рассказать, что нужно сделать. Агент с инструментами может помочь это сделать.
Фреймворки для агентов на базе LLM
Фреймворки для агентов на базе LLM помогают разработчикам создавать, связывать и управлять агентными системами. Вместо того чтобы вручную соединять промпты, инструменты, память, логику планирования, состояние рабочего процесса, журналы и этапы оценки, разработчики могут использовать фреймворки для создания переиспользуемых рабочих процессов для агентов.
Многие фреймворки для агентов строятся вокруг оркестрации, извлечения информации, совместной работы нескольких агентов и промышленного развертывания. LangGraph ориентирован на долгоживущую, с сохранением состояния оркестрацию агентов. LlamaIndex часто используется для агентов, связанных с данными, особенно когда приложениям нужны извлечение информации, разбор документов, индексация и обработка запросов. Haystack поддерживает готовые к промышленному использованию LLM-приложения, включая извлечение информации, поиск, обработку документов и рабочие процессы агентов. CrewAI предназначен для многоагентных рабочих процессов, где разные агенты могут брать на себя разные роли и координироваться через общие процессы.
Сами по себе эти фреймворки не являются агентами. Они предоставляют инфраструктуру вокруг агентов: как агенты получают контекст, вызывают инструменты, запоминают информацию, координируют шаги, восстанавливаются после сбоев и создают результаты, которые можно проверить или улучшить. На практике выбор подходящего фреймворка зависит от целевого рабочего процесса. Исследовательскому агенту или агенту для работы с документами может понадобиться поддержка извлечения информации и цитирования. Агенту для написания кода может понадобиться доступ к файлам, выполнение команд в терминале и обратная связь по результатам тестов. Агенту для автоматизации бизнес-процессов может понадобиться состояние рабочего процесса, контрольные точки согласования, наблюдаемость и интеграция с внутренними системами.
Что умеют агенты на базе LLM?
Агенты на базе LLM стали важными инструментами во многих отраслях и профессиях. В следующем разделе на примере Kimi показано, как агенты на базе LLM можно применять в разных сценариях.
Исследования и синтез информации
Исследования — один из самых наглядных случаев применения агентов на базе LLM, поскольку обычно они требуют поиска, чтения, сравнения, извлечения, обобщения и организации информации. Агентный рабочий процесс может обработать источники и выдать более структурированный результат. В Kimi пользователи могут использовать Kimi Deep Research для более длительных исследовательских процессов — он подходит для подробных брифингов, анализа тем, обзоров рынка и отчетов с указанием источников.
Примеры промптов:
Написание текста, обобщение и планирование контента
Агенты на базе LLM могут помогать в написании текстов, превращая разрозненные входные данные в структурированные результаты: они могут обобщать длинные материалы, создавать планы, писать разделы, адаптировать тон и вносить правки на основе обратной связи. Kimi LLM-агент можно использовать для написания текстов и ведения диалога с длинным контекстом, что полезно при работе с исходными заметками, длинными документами или многошаговыми задачами по созданию контента.
Анализ данных и работа с таблицами
Многие бизнес-задачи выполняются в таблицах. Агенты на базе LLM могут помогать очищать данные, выявлять закономерности, создавать формулы, объяснять содержимое таблиц, а также создавать диаграммы или сводки в стиле сводных таблиц. С помощью Kimi Sheets можно создавать таблицы, генерировать формулы, строить сводные таблицы и диаграммы, конвертировать форматы файлов и очищать неструктурированные данные.
Возможные рабочие процессы для работы с таблицами включают:
Приведение к единому формату имен, категорий или дат
Объяснение формул и создание новых
Обобщение результатов опросов или данных о продажах
Создание диаграмм для отчета
Преобразование неструктурированных данных в таблицу
Проверка человеком по-прежнему важна. Агенты могут неправильно интерпретировать неструктурированные данные или выбрать неподходящий метод анализа, но для повторяющейся работы с таблицами они способны снизить объем ручного труда и помочь пользователям работать быстрее.
Написание кода, тестирование и автоматизация рабочих процессов
Агенты на базе LLM становятся все более полезными в разработке программного обеспечения, поскольку написание кода по своей природе представляет собой многошаговый процесс. Разработчику может потребоваться разобраться в требованиях, изучить существующую логику, сгенерировать код, протестировать результат, прочитать ошибки и внести правки в реализацию. В Kimi пользователи могут запрашивать генерацию кода, объяснение кода, идеи по отладке, небольшие скрипты и планы автоматизации рабочих процессов.
Документы, презентации, сайты и рабочие процессы бизнеса
LLM-агенты полезны, когда итоговый результат — не просто текст. Многие рабочие продукты представляют собой структурированные результаты: документы, презентации, таблицы, сайты, отчёты и планы работы. Kimi умеет планировать и выполнять такие задачи, как создание сайтов, подготовка презентаций, глубокие исследования, а также работа с документами и таблицами.
Многоагентные процессы для более крупных задач
Некоторые задачи слишком масштабны для одного линейного процесса. Конкурентные исследования, объёмные тексты, поиск большого объёма информации, пакетный анализ и синтез данных из множества источников выигрывают от работы нескольких агентов параллельно. Kimi Agent Swarm — это продукт для крупномасштабных агентных задач. Он поддерживает до 4000 параллельных вызовов инструментов и может координировать работу более 300 суб-агентов для таких задач, как масштабный поиск, объёмное написание текстов и пакетная обработка. Преимущество — скорость и охват.
Преимущества LLM-агентов
LLM-агенты полезны, потому что могут выполнять задачи, требующие больше одного ответа.
Во-первых, они умеют управлять многошаговыми процессами. Исследовательский отчёт, исправление кода, анализ таблицы или подготовка презентации редко выполняются за один шаг. Агенты могут разбивать такие задачи на этапы и последовательно проходить через них.
Во-вторых, они подключаются к инструментам и внешним системам. Это позволяет им искать информацию в интернете, читать документы, запускать код, анализировать данные или взаимодействовать с бизнес-приложениями.
В-третьих, они умеют сохранять контекст. Память позволяет агентам отслеживать, что уже сделано и что ещё нужно завершить.
В-четвёртых, они сокращают ручное переключение между инструментами. Пользователям больше не нужно переключаться между инструментами вручную, поскольку агент берёт этот процесс на себя.
В-пятых, они способны давать более персонализированные результаты. Когда у агента есть релевантный контекст, он может адаптировать результат под задачу пользователя, документ, данные или предпочитаемый формат.
Заключение
LLM-агенты сочетают языковые модели с агентными возможностями, чтобы решать задачи, выходящие за рамки одного ответа. Они умеют управлять многошаговыми процессами в исследованиях, анализе данных, программировании и создании контента, корректируя свои действия по мере поступления новой информации. По мере роста их возможностей чёткие цели и проверка человеком остаются необходимыми для получения надёжных результатов.