AI代理是生成式AI的一項令人興奮的發展，它使大型語言模型（LLMs）從助理進化為能夠採取行動的代理。AI代理框架使開發者能夠創建應用程式，讓LLMs能夠使用工具並進行狀態管理。這些框架還提高了可見性，讓使用者和開發者能夠監控LLMs計劃的行動，從而改善使用體驗管理。
本課程將涵蓋以下內容：
- 了解什麼是AI代理 - AI代理究竟是什麼？
- 探索四種不同的AI代理框架 - 它們有什麼獨特之處？
- 將這些AI代理應用於不同的使用案例 - 什麼時候應該使用AI代理？
完成本課程後，您將能夠：
- 解釋什麼是AI代理以及如何使用它們。
- 了解一些流行的AI代理框架之間的差異，以及它們的不同之處。
- 理解AI代理的運作方式，以便使用它們構建應用程式。
AI代理是生成式AI領域中非常令人興奮的一部分。隨著這種興奮，有時也會出現術語和應用上的混淆。為了簡化並涵蓋大多數提到AI代理的工具，我們將使用以下定義：
AI代理允許大型語言模型（LLMs）通過提供狀態和工具來執行任務。
讓我們定義這些術語：
大型語言模型 - 這些是本課程中提到的模型，例如GPT-3.5、GPT-4、Llama-2等。
狀態 - 這指的是LLM正在處理的上下文。LLM使用其過去行動的上下文和當前上下文，指導其後續行動的決策。AI代理框架使開發者更容易維護這些上下文。
工具 - 為了完成使用者請求的任務以及LLM計劃的任務，LLM需要使用工具。一些工具的例子包括資料庫、API、外部應用程式甚至是另一個LLM！
這些定義希望能為您提供良好的基礎，接下來我們將探討它們的實現方式。讓我們來看看幾個不同的AI代理框架：
LangChain代理是我們上述定義的一種實現。
為了管理狀態，它使用了一個內建函數AgentExecutor。這個函數接受定義的agent以及可用的tools。
AgentExecutor還存儲聊天記錄，以提供聊天的上下文。
LangChain提供了一個工具目錄，可以導入到您的應用程式中，讓LLM能夠使用這些工具。這些工具由社群和LangChain團隊製作。
您可以定義這些工具並將它們傳遞給AgentExecutor。
在討論AI代理時，另一個重要方面是可見性。對於應用程式開發者來說，了解LLM正在使用哪個工具以及原因非常重要。為此，LangChain團隊開發了LangSmith。
接下來我們要討論的AI代理框架是AutoGen。AutoGen的主要重點是對話。代理既可以進行對話，也可以自定義。
進行對話 - LLM可以開始並繼續與另一個LLM進行對話，以完成任務。這是通過創建AssistantAgents並為其提供特定的系統消息來完成的。
autogen.AssistantAgent( name="Coder", llm_config=llm_config, ) pm = autogen.AssistantAgent( name="Product_manager", system_message="Creative in software product ideas.", llm_config=llm_config, )自定義 - 代理不僅可以定義為LLM，還可以定義為使用者或工具。作為開發者，您可以定義一個UserProxyAgent，負責與使用者互動以獲取完成任務的反饋。這些反饋可以用來繼續執行任務或停止執行。
user_proxy = UserProxyAgent(name="user_proxy")為了更改和管理狀態，AssistantAgent生成Python代碼來完成任務。
以下是過程的示例：
system_message="For weather related tasks, only use the functions you have been provided with. Reply TERMINATE when the task is done."這些系統消息指導特定的LLM了解哪些功能與其任務相關。請記住，使用AutoGen，您可以定義多個具有不同系統消息的AssistantAgents。
user_proxy.initiate_chat( chatbot, message="I am planning a trip to NYC next week, can you help me pick out what to wear? ", )來自user_proxy（人類）的消息將啟動代理探索應執行的可能功能的過程。
chatbot (to user_proxy):
***** Suggested tool Call: get_weather ***** Arguments: {"location":"New York City, NY","time_periond:"7","temperature_unit":"Celsius"} ******************************************************** --------------------------------------------------------------------------------
>>>>>>>> EXECUTING FUNCTION get_weather... user_proxy (to chatbot): ***** Response from calling function "get_weather" ***** 112.22727272727272 EUR ****************************************************************
一旦初始聊天被處理，代理將建議調用的工具。在這種情況下，它是一個名為get_weather的功能。根據您的配置，該功能可以由代理自動執行並讀取，或者根據使用者輸入執行。
您可以在AutoGen代碼示例中找到更多示例，進一步探索如何開始構建。
接下來我們要探討的代理框架是Taskweaver。它被稱為“以代碼為主”的代理，因為它不是僅僅處理字串，而是可以處理Python中的DataFrames。這在數據分析和生成任務中非常有用，例如創建圖表或生成隨機數。
為了管理對話的狀態，TaskWeaver使用了Planner的概念。Planner是一個LLM，它接收使用者的請求並規劃需要完成的任務。
為了完成任務，Planner可以使用一組稱為Plugins的工具。這些工具可以是Python類或通用代碼解釋器。這些插件以嵌入的形式存儲，讓LLM能夠更好地搜索正確的插件。
以下是一個處理異常檢測的插件示例：
class AnomalyDetectionPlugin(Plugin): def __call__(self, df: pd.DataFrame, time_col_name: str, value_col_name: str):代碼在執行之前會被驗證。Taskweaver管理上下文的另一個功能是experience。experience允許對話的上下文長期存儲在YAML文件中。這可以配置，使LLM在某些任務上隨著暴露於先前的對話而逐漸改進。
最後我們要探討的代理框架是JARVIS。JARVIS的獨特之處在於它使用LLM來管理對話的狀態，而工具則是其他AI模型。每個AI模型都是專門的模型，用於執行某些任務，例如物體檢測、轉錄或圖像描述。
LLM作為通用模型，接收使用者的請求並識別完成任務所需的具體任務及任何參數/數據。
[{"task": "object-detection", "id": 0, "dep": [-1], "args": {"image": "e1.jpg" }}]LLM然後以專門的AI模型可以解讀的格式（例如JSON）來格式化請求。一旦AI模型根據任務返回其預測，LLM就會接收響應。
如果需要多個模型來完成任務，LLM還會解讀這些模型的響應，然後將它們整合起來生成給使用者的響應。
以下示例展示了當使用者請求圖片中的物體描述和數量時，這將如何運作：
為了繼續學習AI代理，您可以使用AutoGen構建：
- 一個模擬教育初創公司不同部門商務會議的應用程式。
- 創建系統消息，指導LLMs理解不同的角色和優先事項，並讓使用者推銷一個新產品的想法。
- LLM應生成每個部門的後續問題，以改進和完善推銷和產品想法。
完成本課程後，請查看我們的生成式AI學習合集，繼續提升您的生成式AI知識！
免責聲明：
本文件已使用 AI 翻譯服務 Co-op Translator 進行翻譯。儘管我們努力確保翻譯的準確性，但請注意，自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於關鍵信息，建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或誤釋不承擔責任。