AI Agents 是生成式 AI 領域中一個令人振奮的發展，讓大型語言模型（LLMs）從助手進化成能夠採取行動的代理人。AI Agent 框架讓開發者能夠創建應用程式，賦予 LLMs 使用工具和狀態管理的能力。這些框架同時提升了可視性，讓用戶和開發者能監控 LLMs 計劃的行動，從而改善體驗管理。
本課程將涵蓋以下內容：
- 了解什麼是 AI Agent — AI Agent 究竟是什麼？
- 探索四種不同的 AI Agent 框架 — 它們有什麼獨特之處？
- 將這些 AI Agents 應用於不同的使用場景 — 什麼時候應該使用 AI Agents？
完成本課程後，你將能夠：
- 解釋什麼是 AI Agents 以及它們的應用方式。
- 了解一些流行 AI Agent 框架之間的差異及其不同之處。
- 理解 AI Agents 的運作原理，從而能夠用它們來構建應用程式。
AI Agents 是生成式 AI 世界中一個非常令人興奮的領域。隨著這份興奮，有時也會帶來術語和應用上的混淆。為了簡化並涵蓋大多數稱為 AI Agents 的工具，我們將採用以下定義：
AI Agents 讓大型語言模型（LLMs）能夠透過獲取狀態和工具來執行任務。
讓我們定義這些術語：
大型語言模型 — 指本課程中提及的模型，如 GPT-3.5、GPT-4、Llama-2 等。
狀態 — 指 LLM 正在運作的上下文。LLM 利用過去行動的上下文和當前情境，來指導其後續行動的決策。AI Agent 框架讓開發者更容易維護這個上下文。
工具 — 為了完成用戶請求且 LLM 已規劃的任務，LLM 需要使用工具。工具的例子包括資料庫、API、外部應用程式，甚至是另一個 LLM！
這些定義希望能為你後續了解它們的實作方式打下良好基礎。接下來讓我們探索幾個不同的 AI Agent 框架：
LangChain Agents 是上述定義的實作範例。
為了管理狀態，它使用一個內建函式 AgentExecutor。這個函式接受已定義的 agent 和可用的 tools。
AgentExecutor 也會儲存聊天歷史，以提供聊天的上下文。
LangChain 提供了一個工具目錄，可以匯入到你的應用程式中，讓 LLM 獲得使用權限。這些工具由社群和 LangChain 團隊共同開發。
你可以定義這些工具並傳遞給 AgentExecutor。
在談論 AI Agents 時，可視性是另一個重要面向。應用程式開發者需要了解 LLM 正在使用哪個工具以及原因。為此，LangChain 團隊開發了 LangSmith。
接下來要介紹的 AI Agent 框架是 AutoGen。AutoGen 的主要焦點是對話。Agents 同時具備可對話性和可自訂性。
可對話性 — LLMs 可以與另一個 LLM 開始並持續對話，以完成任務。這是透過建立 AssistantAgents 並給予它們特定的系統訊息來實現的。
autogen.AssistantAgent( name="Coder", llm_config=llm_config, ) pm = autogen.AssistantAgent( name="Product_manager", system_message="Creative in software product ideas.", llm_config=llm_config, )可自訂性 — Agents 不僅可以定義為 LLM，也可以是使用者或工具。作為開發者，你可以定義一個 UserProxyAgent，負責與使用者互動以獲取完成任務的回饋。這些回饋可以用來繼續執行任務或停止任務。
user_proxy = UserProxyAgent(name="user_proxy")為了變更和管理狀態，助理 Agent 會生成 Python 程式碼來完成任務。
以下是流程範例：
system_message="For weather related tasks, only use the functions you have been provided with. Reply TERMINATE when the task is done."這個系統訊息指示特定的 LLM 哪些函式與其任務相關。記住，使用 AutoGen 你可以定義多個具有不同系統訊息的 AssistantAgents。
user_proxy.initiate_chat( chatbot, message="I am planning a trip to NYC next week, can you help me pick out what to wear? ", )這條來自 user_proxy（人類）的訊息會啟動 Agent 探索應該執行的可能函式的過程。
chatbot (to user_proxy):
***** Suggested tool Call: get_weather ***** Arguments: {"location":"New York City, NY","time_periond:"7","temperature_unit":"Celsius"} ******************************************************** --------------------------------------------------------------------------------
>>>>>>>> EXECUTING FUNCTION get_weather... user_proxy (to chatbot): ***** Response from calling function "get_weather" ***** 112.22727272727272 EUR ****************************************************************
初始聊天處理完後，Agent 會發送建議呼叫的工具。在此例中，是一個名為 get_weather 的函式。根據你的設定，這個函式可以自動執行並由 Agent 讀取，或根據使用者輸入執行。
你可以參考一系列 AutoGen 程式碼範例，進一步了解如何開始構建。
接下來要探討的代理框架是 Taskweaver。它被稱為「以程式碼為先」的代理，因為它不僅處理 strings，還能處理 Python 中的 DataFrames。這對於資料分析和生成任務非常有用，例如製作圖表或生成隨機數字。
為了管理對話狀態，TaskWeaver 採用 Planner 的概念。Planner 是一個 LLM，負責接收用戶請求並規劃完成該請求所需的任務。
為了完成任務，Planner 可使用一組稱為 Plugins 的工具。這些可以是 Python 類別或通用程式碼解譯器。這些插件會以嵌入向量形式儲存，讓 LLM 更容易搜尋到正確的插件。
以下是一個用於異常檢測的插件範例：
class AnomalyDetectionPlugin(Plugin): def __call__(self, df: pd.DataFrame, time_col_name: str, value_col_name: str):程式碼會在執行前進行驗證。Taskweaver 管理上下文的另一個功能是 experience。Experience 允許將對話上下文長期儲存在 YAML 檔案中。這可以設定讓 LLM 隨著時間累積先前對話的經驗，在特定任務上持續進步。
最後要介紹的代理框架是 JARVIS。JARVIS 的獨特之處在於它使用 LLM 來管理對話的 state，而 tools 則是其他 AI 模型。這些 AI 模型是專門執行特定任務的模型，例如物件偵測、語音轉錄或圖片描述。
這個通用模型 LLM 接收用戶請求，識別具體任務及完成任務所需的參數或資料。
[{"task": "object-detection", "id": 0, "dep": [-1], "args": {"image": "e1.jpg" }}]LLM 接著會將請求格式化成專門 AI 模型能理解的格式，例如 JSON。當 AI 模型根據任務回傳預測結果後，LLM 會接收該回應。
如果任務需要多個模型協作，LLM 也會解讀這些模型的回應，然後整合它們來產生對用戶的最終回覆。
以下範例展示當用戶請求描述和計算圖片中物件數量時的運作方式：
為了繼續學習 AI Agents，你可以用 AutoGen 建立：
- 一個模擬教育新創公司不同部門商務會議的應用程式。
- 創建系統訊息，引導 LLM 理解不同角色和優先事項，並讓用戶推銷新產品構想。
- LLM 接著應該從各部門生成後續問題，以精煉和改進推銷和產品構想。
完成本課程後，請參考我們的生成式 AI 學習合集，持續提升你的生成式 AI 知識！
免責聲明：
本文件由 AI 翻譯服務 Co-op Translator 進行翻譯。雖然我們致力於確保準確性，但請注意自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於重要資訊，建議採用專業人工翻譯。我們不對因使用本翻譯而引起的任何誤解或誤釋承擔責任。