Skip to content

README.md

Latest commit

 

History

History
168 lines (103 loc) · 11.4 KB

README.md

File metadata and controls

168 lines (103 loc) · 11.4 KB

建立搜尋應用程式

生成式 AI 和大型語言模型介紹

點擊上方圖片觀看本課程的影片

大型語言模型（LLMs）不僅僅用於聊天機器人和文字生成，它們還可以用於建立基於嵌入技術的搜尋應用程式。嵌入技術是一種數值化的數據表示方式，也稱為向量，可以用於語義搜尋數據。

在本課程中，您將為我們的教育初創公司建立一個搜尋應用程式。我們的初創公司是一家非營利組織，致力於為發展中國家的學生提供免費教育。我們的初創公司擁有大量的 YouTube 教育影片，學生可以用來學習 AI。我們希望建立一個搜尋應用程式，讓學生可以透過輸入問題來搜尋相關的 YouTube 影片。

例如，學生可能會輸入「什麼是 Jupyter Notebooks？」或「什麼是 Azure ML」，而搜尋應用程式將返回與問題相關的 YouTube 影片列表，更棒的是，搜尋應用程式還會返回影片中回答問題的具體時間點的連結。

課程介紹

在本課程中，我們將涵蓋以下內容：

  • 語義搜尋與關鍵字搜尋的區別。
  • 什麼是文字嵌入技術。
  • 建立文字嵌入索引。
  • 搜尋文字嵌入索引。

學習目標

完成本課程後，您將能夠：

  • 區分語義搜尋和關鍵字搜尋。
  • 解釋什麼是文字嵌入技術。
  • 使用嵌入技術建立一個搜尋數據的應用程式。

為什麼要建立搜尋應用程式？

建立搜尋應用程式將幫助您了解如何使用嵌入技術來搜尋數據。您還將學習如何建立一個搜尋應用程式，幫助學生快速找到所需資訊。

本課程包含 Microsoft AI Show YouTube 頻道的影片文字記錄嵌入索引。AI Show 是一個教授 AI 和機器學習的 YouTube 頻道。嵌入索引包含截至 2023 年 10 月的每段 YouTube 文字記錄的嵌入技術。您將使用嵌入索引為我們的初創公司建立一個搜尋應用程式。該搜尋應用程式會返回影片中回答問題的具體時間點的連結。這是一種幫助學生快速找到所需資訊的好方法。

以下是一個語義搜尋的示例，問題是「可以使用 rstudio 與 azure ml 嗎？」。查看 YouTube 的 URL，您會看到 URL 包含一個時間戳，該時間戳會直接跳轉到影片中回答問題的具體位置。

問題「可以使用 rstudio 與 Azure ML 嗎？」的語義搜尋示例

什麼是語義搜尋？

您可能會好奇，什麼是語義搜尋？語義搜尋是一種使用查詢中詞語的語義或含義來返回相關結果的搜尋技術。

以下是一個語義搜尋的例子。假設您想買一輛車，可能會搜尋「我的夢想車」，語義搜尋能理解您並不是在「夢想」一輛車，而是想要購買一輛「理想」的車。語義搜尋能理解您的意圖並返回相關結果。相反，使用「關鍵字搜尋」可能會字面上搜尋與車有關的夢想，並且經常返回不相關的結果。

什麼是文字嵌入技術？

文字嵌入技術 是一種用於自然語言處理的文字表示技術。文字嵌入是文字的語義數值表示。嵌入技術用於以機器易於理解的方式表示數據。有許多模型可以用來建立文字嵌入技術，在本課程中，我們將重點介紹如何使用 OpenAI 嵌入模型生成嵌入。

以下是一個示例，假設以下文字是 AI Show YouTube 頻道某一集的文字記錄：

Today we are going to learn about Azure Machine Learning.

我們將文字傳遞給 OpenAI 嵌入 API，它會返回由 1536 個數字組成的嵌入，也就是一個向量。向量中的每個數字代表文字的不同方面。以下是向量中的前 10 個數字（為簡潔起見）。

[-0.006655829958617687, 0.0026128944009542465, 0.008792596869170666, -0.02446001023054123, -0.008540431968867779, 0.022071078419685364, -0.010703742504119873, 0.003311325330287218, -0.011632772162556648, -0.02187200076878071, ...]

嵌入索引是如何建立的？

本課程的嵌入索引是通過一系列 Python 腳本建立的。您可以在本課程的「scripts」文件夾中的 README 中找到這些腳本及其使用說明。您不需要運行這些腳本即可完成本課程，因為嵌入索引已經為您提供。

這些腳本執行以下操作：

  1. 下載 AI Show 播放列表中每個 YouTube 影片的文字記錄。
  2. 使用 OpenAI Functions，嘗試從 YouTube 文字記錄的前 3 分鐘中提取講者姓名。每個影片的講者姓名存儲在名為 embedding_index_3m.json 的嵌入索引中。
  3. 然後將文字記錄分成3 分鐘的文字段落。每個段落包括大約 20 個與下一段重疊的詞語，以確保段落的嵌入不會被截斷，並提供更好的搜尋上下文。
  4. 每個文字段落接著傳遞給 OpenAI Chat API，將文字摘要縮短至 60 個詞語。摘要也存儲在嵌入索引 embedding_index_3m.json 中。
  5. 最後，將段落文字傳遞給 OpenAI 嵌入 API。嵌入 API 返回一個由 1536 個數字組成的向量，表示段落的語義含義。段落及其 OpenAI 嵌入向量存儲在嵌入索引 embedding_index_3m.json 中。

向量數據庫

為了簡化課程，嵌入索引存儲在名為 embedding_index_3m.json 的 JSON 文件中，並加載到 Pandas DataFrame 中。然而，在實際應用中，嵌入索引通常存儲在向量數據庫中，例如 Azure Cognitive Search、Redis、Pinecone、Weaviate 等。

理解餘弦相似度

我們已經學習了文字嵌入技術，下一步是學習如何使用文字嵌入技術來搜尋數據，特別是使用餘弦相似度找到與給定查詢最相似的嵌入。

什麼是餘弦相似度？

餘弦相似度是一種衡量兩個向量之間相似度的方法，您也可能聽過它被稱為「最近鄰搜尋」。要進行餘弦相似度搜尋，您需要使用 OpenAI 嵌入 API 將查詢文字進行向量化。然後計算查詢向量與嵌入索引中每個向量的餘弦相似度。記住，嵌入索引包含每段 YouTube 文字記錄的向量。最後，根據餘弦相似度對結果進行排序，餘弦相似度最高的文字段落與查詢最相似。

從數學角度來看，餘弦相似度衡量的是兩個向量在多維空間中投影的角度的餘弦值。這種測量方式很有用，因為即使兩個文件因大小而在歐幾里得距離上相距甚遠，它們之間的角度可能較小，因此餘弦相似度較高。更多關於餘弦相似度公式的信息，請參閱 餘弦相似度。

建立您的第一個搜尋應用程式

接下來，我們將學習如何使用嵌入技術建立搜尋應用程式。該搜尋應用程式將允許學生透過輸入問題來搜尋影片。搜尋應用程式將返回與問題相關的影片列表，並提供影片中回答問題的具體時間點的連結。

此解決方案已在 Windows 11、macOS 和 Ubuntu 22.04 上使用 Python 3.10 或更高版本進行構建和測試。您可以從 python.org 下載 Python。

作業 - 建立搜尋應用程式，幫助學生

我們在本課程開始時介紹了我們的初創公司。現在是時候幫助學生建立一個搜尋應用程式來完成他們的評估。

在此作業中，您將建立用於構建搜尋應用程式的 Azure OpenAI Services。您需要建立以下 Azure OpenAI Services。完成此作業需要一個 Azure 訂閱。

啟動 Azure Cloud Shell

  1. 登錄 Azure 入口網站。
  2. 選擇 Azure 入口網站右上角的 Cloud Shell 圖標。
  3. 選擇 Bash 作為環境類型。

建立資源群組

在這些指示中，我們使用名為 "semantic-video-search" 的資源群組，位於美國東部。 您可以更改資源群組的名稱，但在更改資源位置時， 請檢查 模型可用性表。

az group create --name semantic-video-search --location eastus

建立 Azure OpenAI Service 資源

在 Azure Cloud Shell 中運行以下命令以建立 Azure OpenAI Service 資源。

az cognitiveservices account create --name semantic-video-openai --resource-group semantic-video-search \
    --location eastus --kind OpenAI --sku s0

獲取此應用程式所需的端點和密鑰

在 Azure Cloud Shell 中運行以下命令以獲取 Azure OpenAI Service 資源的端點和密鑰。

az cognitiveservices account show --name semantic-video-openai \
   --resource-group  semantic-video-search | jq -r .properties.endpoint
az cognitiveservices account keys list --name semantic-video-openai \
   --resource-group semantic-video-search | jq -r .key1

部署 OpenAI 嵌入模型

在 Azure Cloud Shell 中運行以下命令以部署 OpenAI 嵌入模型。

az cognitiveservices account deployment create \
    --name semantic-video-openai \
    --resource-group  semantic-video-search \
    --deployment-name text-embedding-ada-002 \
    --model-name text-embedding-ada-002 \
    --model-version "2"  \
    --model-format OpenAI \
    --sku-capacity 100 --sku-name "Standard"

解決方案

在 GitHub Codespaces 中打開 解決方案筆記本，並按照 Jupyter Notebook 中的指示進行操作。

當您運行筆記本時，系統會提示您輸入查詢。輸入框看起來如下：

用戶輸入查詢的輸入框

做得好！繼續學習

完成本課程後，請查看我們的 生成式 AI 學習系列，繼續提升您的生成式 AI 知識！

前往第 9 課，我們將探討如何建立影像生成應用程式！

免責聲明：
此文件已使用人工智能翻譯服務 Co-op Translator 進行翻譯。儘管我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於重要信息，建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或誤釋不承擔責任。