Будущее агентного ИИ

Agentic AI заменяет пассивные чат-боты целеустремленными агентами, а MCP стандартизирует инструменты для обеспечения безопасного и масштабируемого взаимодействия человека и ИИ.

Эпоха пассивных чат-ботов с искусственным интеллектом подходит к концу. Мы вступаем в эпоху агентного ИИ: систем, которые активно рассуждают, планируют и выполняют задачи.

Для организаций это представляет собой потенциальный скачок в производительности, но также создает новые инженерные проблемы. Переход от простой системы подсказок к надежной экосистеме агентов требует новой, устойчивой архитектуры.

В этой статье мы рассмотрим анатомию агентов искусственного интеллекта, как протокол контекста модели (MCP) наконец-то решил проблему узкого места в интеграции, и как можно проектировать безопасные и масштабируемые системы, в которых люди и агенты эффективно взаимодействуют.

Что такое ИИ-агент?

Некоторые агенты ИИ представляют собой просто системную подсказку и набор инструментов, которые отправляются модели, выполняющей все мыслительные процессы. Однако существуют и более мощные агенты ИИ, которые используют LLM для рекомендации и предложения действий, после чего агент ИИ запускает собственный код для выполнения таких функций, как:

- Управление выполнением : конечные автоматы, графы задач, повторные попытки, тайм-ауты.

- Применение политики : аутентификация, области действия, RBAC, правила разрешения/запрета

- Проверка действий : проверка схемы, фильтры безопасности, песочница.

- Управление памятью/состоянием : базы данных, векторные хранилища, состояние сессии.

- Координация агентов : передача сообщений, разделение ролей, голосование

- Обработка сбоев : откаты, автоматические выключатели, участие человека в процессе.

В то время как стандартная большая языковая модель (LLM) пассивна и ожидает вашего ввода для генерации ответа, агент искусственного интеллекта активен. Он использует логическое мышление для разбиения цели на этапы, решает, какие инструменты использовать, и выполняет действия для достижения результата.

Системы агентного ИИ начинают сессию, отправляя LLM системный запрос, который может включать определение нескольких агентов и их инструментов. Некоторые из этих инструментов могут позволять агентам вызывать других агентов, управлять самим контекстом и даже выбирать модель для следующего шага.

Чат-бот LLM

Даёт советы, но работу нужно делать самому.

Ввод данных пользователем -> Модель -> Вывод данных

ИИ-агент

Вы ставите перед агентами задачу и предоставляете им доступ к программному обеспечению, а они возвращаются, когда работа выполнена.

Цель пользователя -> LLM -> Обоснование/Планирование -> Использование инструмента -> Действие -> Проверка -> Результат

Мастерство создания агентных систем искусственного интеллекта заключается в поиске правильного сочетания агентов, инструментов и подсказок, которые позволят LLM достичь поставленных целей, обеспечивая при этом адекватные механизмы контроля и проверки.

В связи с этим, одним из главных направлений является управление инструментами и другими ресурсами, доступными агентам ИИ. Именно здесь вступает в действие протокол контекста модели (MCP).

Протокол контекста модели

MCP — это открытый стандарт, представленный организацией Anthropic в ноябре 2024 года. Он стандартизирует способы подключения систем искусственного интеллекта к внешним данным и сервисам.

Идея MCP заключается в том, что все поставщики API для LLM позволяют LLM вызывать инструменты. Разработчики могут извлечь выгоду из структурированного способа определения этих инструментов и предоставления к ним доступа LLM единообразным и согласованным образом.

До появления MCP интеграция сторонних инструментов в системы искусственного интеллекта создавала множество проблем. Но, предоставляя универсальный интерфейс для чтения файлов, выполнения функций и обработки контекстных подсказок, MCP позволяет моделям ИИ получать доступ к необходимым данным безопасно и согласованно, независимо от того, где эта информация хранится.

С момента своего выпуска протокол был принят ведущими поставщиками решений в области искусственного интеллекта, включая OpenAI и Google, что укрепило его роль в качестве отраслевого стандарта для интеграции систем ИИ.

MCP работает на основе простой клиент-серверной архитектуры, состоящей из четырех ключевых компонентов:

- В качестве хост-приложения можно использовать, например, Claude Desktop, современные IDE или вашу систему искусственного интеллекта.

- Клиент MCP, устанавливающий прямые соединения между хостом и сервером, часто является встроенной функцией фреймворков искусственного интеллекта.

- Сервер MCP, предоставляющий доступ к инструментам, ресурсам и подсказкам.

- Транспортный уровень, который управляет обменом данными между клиентами и серверами.

MCP также открыл двери для экосистемы, в которой сторонние платформы предоставляют свои возможности агентам ИИ, публикуя собственные официальные серверы MCP. Крупные предприятия, такие как Microsoft, AWS, Atlassian и Sumo Logic, опубликовали серверы MCP.

MCP решает важную проблему, но это лишь одна из многих проблем, с которыми сталкиваются агенты. Давайте теперь рассмотрим, как проектировать безопасные системы искусственного интеллекта на основе агентов.

Разработка безопасных агентных систем искусственного интеллекта

Использование агентного ИИ может привести к катастрофическим последствиям. Существует множество рисков, таких как:

- Внедрение вредоносного ПО, которое перехватывает рабочие процессы для кражи данных или запуска программ-вымогателей.

- Повышение привилегий посредством цепочки инструментов, приводящей к истощению учетных записей или удалению производственных систем.

- Бесконечные циклы, приводящие к многомиллионным затратам на API.

- Галлюцинации, приводящие к необратимым сделкам или нарушениям нормативных требований.

- Подрыв токенов, при котором злоумышленники перехватывают токены для расходования через MCP.

Агентам часто предоставляется доступ к API, браузерам и инфраструктурным системам. Без мер защиты это значительно увеличивает риски. Безопасный агентный ИИ требует подхода «многоуровневой защиты», построенного на нескольких перекрывающихся уровнях.

- Проверка входных данных, аудит выходных данных и эскалация проблем с участием человека составляют основу верификации.

- При больших масштабах взрыва или значительных финансовых последствиях решения никогда не принимаются полностью автономно.

- Использование изолированной среды и четко обозначенных границ прав доступа предотвращает несанкционированный доступ.

- Каждый агент должен получать уникальный идентификатор с учетными данными с минимальными привилегиями и токенами с ограниченной областью действия, а не наследовать права доступа пользователей.

- Отказоустойчивость, обеспечиваемая логикой повторных попыток, моделями резервного копирования и обнаружением аномалий, гарантирует, что системы будут корректно функционировать в случае сбоя.

- Глубокая наблюдаемость, реализуемая с помощью стандартизированной телеметрии, структурированного логирования, сбора метрик и панелей мониторинга в реальном времени, обеспечивает быстрое обнаружение и реагирование.

Разработка эффективных многоагентных систем требует продуманного проектирования архитектуры, включающего один или несколько шаблонов координации:

- Централизованная система управления, в которой управляющий агент координирует работу специализированных сотрудников и поддерживает глобальное состояние.

- Децентрализованная одноранговая связь, обеспечивающая гибкое взаимодействие между агентами.

- Иерархическое делегирование, которое организует агентов по уровням абстракции.

от Sumo Logic Среды разработки, такие как Dojo AI (платформа агентного ИИ для центров управления безопасностью), могут оказать существенную помощь, предоставляя необходимую инфраструктуру для безопасного тестирования агентных систем перед развертыванием в производственной среде. Dojo AI тщательно разработана в соответствии с принципами проектирования и мерами безопасности. Клиенты могут использовать Dojo AI как есть, а также создавать собственные среды агентного ИИ (аналогичные Dojo AI) для своих основных компетенций в области ИИ. Сервер Sumo Logic MCP позволяет выполнять запросы к данным и при необходимости совершать вызовы агентов Dojo AI из собственных агентов ИИ.

Далее рассмотрим некоторые из различных способов взаимодействия людей с системами искусственного интеллекта Agentic.

Как люди сотрудничают с агентами искусственного интеллекта

Традиционные системы следуют четко определенному рабочему процессу и предварительно запрограммированным алгоритмам. Ввод и вывод данных пользователем полностью структурированы. Даже в динамических системах ввод данных пользователем может детерминированно управлять потоком.

Однако системы агентного ИИ устроены иначе. LLM контролирует поток (в рамках своих ограничений).

Итак, как нам лучше всего сотрудничать с этими агентами?

Один из наиболее распространенных способов взаимодействия с агентами искусственного интеллекта — это чат-боты, где можно обмениваться текстом, изображениями и файлами с LLM-ами и их агентами. Голосовые беседы также становятся все более популярными.

Конечно, стандартные чат-боты, такие как ChatGPT, Gemini и Claude Desktop, по умолчанию не распознают ваших агентов. Однако агентов можно внедрить в качестве инструментов MCP.

Ещё один интересный вариант — создать приложение для Slack, позволяющее агентам присоединяться к каналам, взаимодействовать с пользователями, автоматически отслеживать каналы и автоматически реагировать на события.

Это многофункциональная среда, позволяющая людям и агентам беспрепятственно взаимодействовать. Пользовательский интерфейс Slack уже поддерживает групповые каналы и ветки обсуждений, поэтому агенты могут добавлять такие детали, как цепочка мыслей или цитаты, не загромождая экран. Несколько пользователей могут взаимодействовать друг с другом и с агентами ИИ в одном канале.

Если вам требуется еще более специализированный пользовательский опыт, вы можете разработать для своих агентов собственное веб-приложение, приложение для настольных компьютеров или мобильное приложение.

Вы даже можете создать чат-бота, подобного Mobot, интегрировать его с приложением Slack или разработать собственный набор агентов, например, Dojo AI.

Будущее агентов

Пожалуй, самое важное, что нужно понимать об агентах искусственного интеллекта, это то, что они появляются быстрее, чем вы думаете. В прошлом крупные технологические революции, такие как персональные компьютеры, интернет и мобильные телефоны, требовали десятилетий, чтобы стать повсеместными, и темпы инноваций были управляемыми. С искусственным интеллектом все иначе.

Многие эксперты предсказывают, что уже в ближайшие несколько лет агенты искусственного интеллекта смогут выполнять любую интеллектуальную работу лучше, чем лучшие люди. Они откроют новые научные возможности и обеспечат беспрецедентный рост производительности. Ручной труд не за горами: человекоподобные роботы, работающие на основе агентов искусственного интеллекта, демонстрируют впечатляющие успехи.

LLM-ы уже способны выполнять многие задачи так же хорошо, как и люди, хотя им не хватает способности планировать и действовать в долгосрочной перспективе, справляться со сложностями и поддерживать согласованность. Но благодаря тщательно выстроенной сети агентов и подобранному набору инструментов, которые взаимодействуют на протяжении множества итераций для решения задач в долгосрочной перспективе, эти ограничения снимаются. В этой области наблюдается множество инноваций, выходящих за рамки простого MCP, таких как оркестрация агентов, инструментальные средства и уровни верификации.

Отраслевая стандартизация

Сейчас мы наблюдаем стандартизацию методов, инструментов и форматов для агентов искусственного интеллекта. Например, Agentic AI Foundation (AAIF) — это новая инициатива в рамках Linux Foundation, призванная обеспечить открытое и совместное развитие агентного ИИ. В число её членов входят Anthropic, OpenAI, Amazon, Google, Microsoft и Block. Она объединяет несколько известных технологий для создания агентов, включая MCP, goose и AGENTS.md.

Существуют и другие известные открытые проекты, в том числе протокол Agent2Agent (A2A) от Google и Agent Skills (также разработанный компанией Anthropic).

Динамический пользовательский опыт

Будущее пользовательского опыта связано с генеративным интерфейсом. LLM и агенты будут генерировать соответствующий интерфейс на лету в зависимости от запроса, пользователя, истории диалога и многого другого.

Например, если вы спросите о фондовом рынке, вместо общего обзора сегодняшних деловых новостей система искусственного интеллекта может показать историческую хронологию и круговую диаграмму с вашими текущими позициями, а также ссылки на соответствующие образовательные материалы. Все будет адаптировано под конкретного пользователя.

Переход к агентам искусственного интеллекта

Сдвиг в сторону самостоятельности уже произошёл. Мы переходим от пассивного создания текста к активной, автономной работе. Как мы уже убедились, этот сдвиг требует не только новых моделей, но и тщательно продуманной архитектуры.

Для достижения успеха организациям следует сосредоточиться на следующем:

- Использование протокола контекста модели (MCP).

- Переход от простых подсказок к стратегии «многоуровневой защиты».

- Разработка интерфейсов, таких как приложения Slack и пользовательские интерфейсы, где человек задает намерение, а агенты занимаются его выполнением.

Вскоре агенты искусственного интеллекта могут превзойти лучших специалистов-людей, обеспечить значительный научный прогресс и повышение производительности, а в конечном итоге и распространиться на физический труд благодаря робототехнике. Понимание их основных принципов — первый шаг к использованию их возможностей в интересах вашей организации.