NVIDIA AI выпустила AgentIQ: Открытую библиотеку для эффективной связи и оптимизации команд AI-агентов
Компании все чаще принимают агентские фреймворки для построения интеллектуальных систем, способных выполнять сложные задачи путем объединения инструментов, моделей и компонентов памяти. Однако, по мере того как организации строят эти системы на разных фреймворках, возникают проблемы с совместимостью, контролем, оценкой производительности и анализом работы. Команды часто привязаны к конкретным фреймворкам, что затрудняет масштабирование или повторное использование агентов и инструментов в различных контекстах. Отладка агентских рабочих процессов или выявление неэффективности становится сложной задачей без единых инструментов профилирования и оценки.
NVIDIA представила AgentIQ — легкую и гибкую библиотеку Python, предназначенную для объединения агентских рабочих процессов в разных фреймворках, системах памяти и источниках данных. Вместо замены существующих инструментов, AgentIQ улучшает их, выводя на первый план способность к композиции, наблюдаемость и повторное использование в дизайне AI систем. С AgentIQ каждый агент, инструмент и рабочий процесс рассматриваются как вызов функции, позволяя разработчикам комбинировать компоненты из разных фреймворков с минимальными накладными расходами. Этот выпуск нацелен на упрощение процесса разработки, позволяя проводить детальное профилирование и оценку «от начала до конца» в агентных системах.
AgentIQ наполнен функциями, которые делают его привлекательным решением для разработчиков и компаний, создающих сложные агентные системы:
- Дизайн без привязки к фреймворкам: AgentIQ бесшовно интегрируется с любыми агентными фреймворками, такими как LangChain, Llama Index, Crew.ai, Microsoft Semantic Kernel, и пользовательскими Python-агентами. Это позволяет командам продолжать использовать свои текущие инструменты без необходимости перехода на другие платформы.
- Повторное использование и композировка: Каждый компонент, будь то агент, инструмент или рабочий процесс, рассматривается как вызов функции, который можно повторно использовать, переопределять и комбинировать в различных конфигурациях.
- Быстрое развитие: Разработчики могут начать с готовых компонентов и быстро настраивать рабочие процессы, экономя время на проектирование системы и экспериментах.
- Профилирование и обнаружение узких мест: Встроенный профилировщик обеспечивает детализированное отслеживание использования токенов, времени ответа и скрытых задержек на детальном уровне, помогая командам оптимизировать производительность системы.
- Интеграция для наблюдаемости: AgentIQ работает с любой платформой наблюдаемости, совместимой с OpenTelemetry, позволяя глубоко анализировать, как функционирует каждая часть рабочего процесса.
- Система оценки: Последовательный и надежный механизм оценки помогает командам валидировать и поддерживать точность как Retrieval-Augmented Generation (RAG), так и end-to-end (E2E) рабочих процессов.
- Пользовательский интерфейс: AgentIQ включает в себя чат-ориентированный интерфейс для взаимодействия с агентом в реальном времени, визуализации выходных данных и отладки рабочих процессов.
- Совместимость с MCP: AgentIQ поддерживает Model Context Protocol (MCP), упрощая включение инструментов, размещенных на MCP-серверах, в вызовы функций.
AgentIQ лучше всего описывать как дополнение к существующим фреймворкам, а не конкурента. Он не стремится быть ещё одним агентным фреймворком и не пытается решить проблему связи агент-агент, это остается в домене таких протоколов, как HTTP и gRPC. Также AgentIQ не заменяет платформы наблюдаемости, а вместо этого предоставляет хуки и телеметрические данные, которые можно направить в предпочитаемую систему мониторинга команды.
Он уникально соединяет и профилирует многопоточные агентные рабочие процессы, даже когда они глубоко вложены, используя архитектуру на основе вызова функций. Он объединяет агентов и инструменты, разработанные в разных экосистемах, и позволяет проводить надежную оценку и мониторинг с централизованной перспективы. Он полностью опционален; пользователи могут интегрировать его на любом уровне, будь то инструмент, агент или весь рабочий процесс, в зависимости от своих нужд.
Дизайн AgentIQ открывает двери для множества случаев использования в компаниях. Например, система поддержки клиентов, разработанная с использованием LangChain и пользовательских Python-агентов, теперь может беспрепятственно интегрироваться с аналитическими инструментами, работающими в Llama Index или Semantic Kernel. Разработчики могут провести профилирование, чтобы выявить, какой агент или инструмент в рабочем процессе вызывает узкое место, или использует слишком много токенов, а также оценить консистентность и релевантность ответов системы со временем.
Установка AgentIQ проста. Он поддерживает Ubuntu и другие дистрибутивы на базе Linux, включая WSL, и использует современные инструменты управления средой Python. После клонирования репозитория GitHub пользователи инициализируют субмодули, устанавливают Git LFS для обработки наборов данных и создают виртуальную среду с помощью uv. Разработчики могут затем установить полную библиотеку AgentIQ и плагины с использованием uv sync –all-groups –all-extras или выбрать основную установку с uv sync. Плагины, такие как langchain или profiling, могут быть установлены по мере необходимости. Установка проверяется командами aiq –help и aiq –version.
В заключение, AgentIQ представляет собой значительный шаг на пути к модульным, совместимым и наблюдаемым агентным системам. Функционируя как унифицирующий слой в разных фреймворках и источниках данных, он позволяет командам разработчиков строить сложные AI-приложения без беспокойства о совместимости, узких местах производительности или несоответствиях в оценке. Его возможности профилирования, система оценки и поддержка популярных фреймворков делают его критическим инструментом в арсенале AI-разработчика. Также, подход AgentIQ, позволяющий интегрироваться по мере необходимости, гарантирует, что команды могут начать с малого, например, проводить профилирование одного инструмента или агента, и расширяться по мере обнаружения ценности.
С запланированными на будущее обновлениями, включая интеграцию с NeMo Guardrails, ускорения агента в партнёрстве с Dynamo и цикл обратной связи с данными, AgentIQ готов стать фундаментальным слоем в разработке агентных систем для компаний. Для любой команды, стремящейся строить, мониторить и оптимизировать рабочие процессы, управляемые AI, в масштабе, AgentIQ является мостом, который соединяет идеи с эффективным выполнением. Посетите страницу на GitHub. Весь кредит за это исследование принадлежит исследователям этого проекта.
