AI-агенты представляют собой захватывающее развитие в области генеративного ИИ, позволяя большим языковым моделям (LLM) эволюционировать от помощников до агентов, способных принимать действия. Фреймворки AI-агентов позволяют разработчикам создавать приложения, которые дают LLM доступ к инструментам и управлению состоянием. Эти фреймворки также повышают видимость, позволяя пользователям и разработчикам отслеживать действия, запланированные LLM, тем самым улучшая управление опытом.
В уроке будут рассмотрены следующие области:
- Понимание того, что такое AI-агент - Что именно такое AI-агент?
- Изучение четырех различных фреймворков AI-агентов - Чем они уникальны?
- Применение этих AI-агентов к различным случаям использования - Когда следует использовать AI-агентов?
После прохождения этого урока вы сможете:
- Объяснить, что такое AI-агенты и как их можно использовать.
- Понять различия между некоторыми популярными фреймворками AI-агентов и чем они отличаются.
- Понять, как функционируют AI-агенты для создания приложений с их использованием.
AI-агенты - это очень захватывающее направление в мире генеративного ИИ. Вместе с этим волнением иногда возникает путаница в терминах и их применении. Чтобы сделать все просто и охватить большинство инструментов, которые относятся к AI-агентам, мы будем использовать следующее определение:
AI-агенты позволяют большим языковым моделям (LLM) выполнять задачи, предоставляя им доступ к состоянию и инструментам.
Давайте определим эти термины:
Большие языковые модели - Это модели, упоминаемые на протяжении всего курса, такие как GPT-3.5, GPT-4, Llama-2 и др.
Состояние - Это относится к контексту, в котором работает LLM. LLM использует контекст своих прошлых действий и текущий контекст, направляя свое принятие решений для последующих действий. Фреймворки AI-агентов позволяют разработчикам легче поддерживать этот контекст.
Инструменты - Для выполнения задачи, которую запросил пользователь и которую спланировал LLM, LLM необходим доступ к инструментам. Примеры инструментов могут включать базу данных, API, внешнее приложение или даже другой LLM!
Эти определения, надеюсь, дадут вам хорошую основу для дальнейшего изучения, как они реализованы. Давайте рассмотрим несколько различных фреймворков AI-агентов:
LangChain Agents - это реализация определений, которые мы привели выше.
Для управления состоянием он использует встроенную функцию, называемую AgentExecutor. Эта функция принимает определенные agent и tools, которые доступны.
Agent Executor также хранит историю чата, чтобы обеспечить контекст чата.
LangChain предлагает каталог инструментов, которые могут быть импортированы в ваше приложение, к которому LLM может получить доступ. Они созданы сообществом и командой LangChain.
Вы можете определить эти инструменты и передать их Agent Executor.
Видимость - еще один важный аспект при обсуждении AI-агентов. Важно, чтобы разработчики приложений понимали, какой инструмент использует LLM и почему. Для этого команда LangChain разработала LangSmith.
Следующий фреймворк AI-агентов, который мы обсудим, - это AutoGen. Основное внимание AutoGen уделяется разговорам. Агенты являются как разговорными, так и настраиваемыми.
Разговорные - LLM могут начать и продолжить разговор с другим LLM для выполнения задачи. Это достигается созданием AssistantAgents и предоставлением им определенного системного сообщения.
autogen.AssistantAgent( name="Coder", llm_config=llm_config, ) pm = autogen.AssistantAgent( name="Product_manager", system_message="Creative in software product ideas.", llm_config=llm_config, )Настраиваемые - Агенты могут быть определены не только как LLM, но и как пользователь или инструмент. Как разработчик, вы можете определить UserProxyAgent, который отвечает за взаимодействие с пользователем для получения обратной связи при выполнении задачи. Эта обратная связь может либо продолжить выполнение задачи, либо остановить его.
user_proxy = UserProxyAgent(name="user_proxy")Чтобы изменить и управлять состоянием, помощник-агент генерирует код на Python для выполнения задачи.
Вот пример процесса:
system_message="For weather related tasks, only use the functions you have been provided with. Reply TERMINATE when the task is done."Это системное сообщение направляет конкретный LLM на функции, которые относятся к его задаче. Помните, с AutoGen вы можете иметь несколько определенных AssistantAgents с различными системными сообщениями.
user_proxy.initiate_chat( chatbot, message="I am planning a trip to NYC next week, can you help me pick out what to wear? ", )Это сообщение от user_proxy (человека) запускает процесс агента для исследования возможных функций, которые он должен выполнить.
chatbot (to user_proxy):
***** Suggested tool Call: get_weather ***** Arguments: {"location":"New York City, NY","time_periond:"7","temperature_unit":"Celsius"} ******************************************************** --------------------------------------------------------------------------------
>>>>>>>> EXECUTING FUNCTION get_weather... user_proxy (to chatbot): ***** Response from calling function "get_weather" ***** 112.22727272727272 EUR ****************************************************************
После обработки начального чата агент отправит предложенный инструмент для вызова. В данном случае это функция get_weather. Depending on your configuration, this function can be automatically executed and read by the Agent or can be executed based on user input.
You can find a list of AutoGen code samples to further explore how to get started building.
The next agent framework we will explore is Taskweaver. It is known as a "code-first" agent because instead of working strictly with strings , it can work with DataFrames in Python. This becomes extremely useful for data analysis and generation tasks. This can be things like creating graphs and charts or generating random numbers.
To manage the state of the conversation, TaskWeaver uses the concept of a Planner. The Planner is a LLM that takes the request from the users and maps out the tasks that need to be completed to fulfill this request.
To complete the tasks the Planner is exposed to the collection of tools called Plugins. Это могут быть классы на Python или общий интерпретатор кода. Эти плагины хранятся как эмбеддинги, чтобы LLM мог лучше искать правильный плагин.
Вот пример плагина для обработки обнаружения аномалий:
class AnomalyDetectionPlugin(Plugin): def __call__(self, df: pd.DataFrame, time_col_name: str, value_col_name: str):Код проверяется перед выполнением. Еще одной функцией для управления контекстом в Taskweaver является experience. Experience allows for the context of a conversation to be stored over to the long term in a YAML file. This can be configured so that the LLM improves over time on certain tasks given that it is exposed to prior conversations.
The last agent framework we will explore is JARVIS. What makes JARVIS unique is that it uses an LLM to manage the state разговора, и tools являются другими моделями ИИ. Каждая из моделей ИИ - это специализированные модели, выполняющие определенные задачи, такие как обнаружение объектов, транскрипция или описание изображений.
LLM, будучи моделью общего назначения, получает запрос от пользователя и идентифицирует конкретную задачу и любые аргументы/данные, необходимые для выполнения задачи.
[{"task": "object-detection", "id": 0, "dep": [-1], "args": {"image": "e1.jpg" }}]Затем LLM форматирует запрос таким образом, чтобы специализированная модель ИИ могла его интерпретировать, например, в формате JSON. После того, как модель ИИ вернула свой прогноз на основе задачи, LLM получает ответ.
Если для выполнения задачи требуется несколько моделей, он также интерпретирует ответ от этих моделей, прежде чем объединить их для генерации ответа пользователю.
Пример ниже показывает, как это будет работать, когда пользователь запрашивает описание и количество объектов на картинке:
Чтобы продолжить изучение AI-агентов, вы можете создать приложение с AutoGen:
- Приложение, имитирующее деловую встречу с различными отделами стартапа в сфере образования.
- Создайте системные сообщения, которые направляют LLM в понимании различных персон и приоритетов и позволяют пользователю предложить новую идею продукта.
- LLM должен затем генерировать дополнительные вопросы от каждого отдела для уточнения и улучшения предложения и идеи продукта.
После завершения этого урока ознакомьтесь с нашей коллекцией обучения генеративному ИИ, чтобы продолжить повышение уровня ваших знаний о генеративном ИИ!
Отказ от ответственности:
Этот документ был переведен с помощью службы автоматического перевода Co-op Translator. Мы стремимся к точности, однако, пожалуйста, имейте в виду, что автоматизированные переводы могут содержать ошибки или неточности. Оригинальный документ на его родном языке следует считать авторитетным источником. Для получения критически важной информации рекомендуется профессиональный перевод человеком. Мы не несем ответственности за любые недоразумения или неверные толкования, возникшие в результате использования этого перевода.