README.md

Aufbau von Suchanwendungen

Klicken Sie auf das Bild oben, um das Video dieser Lektion anzusehen

LLMs können mehr als nur Chatbots und Textgenerierung. Es ist auch möglich, Suchanwendungen mithilfe von Embeddings zu erstellen. Embeddings sind numerische Darstellungen von Daten, auch bekannt als Vektoren, und können für die semantische Suche nach Daten verwendet werden.

In dieser Lektion werden Sie eine Suchanwendung für unser Bildungs-Startup entwickeln. Unser Startup ist eine gemeinnützige Organisation, die Schülern in Entwicklungsländern kostenlose Bildung bietet. Unser Startup hat eine große Anzahl von YouTube-Videos, die Schüler nutzen können, um mehr über KI zu lernen. Unser Startup möchte eine Suchanwendung entwickeln, die es Schülern ermöglicht, nach einem YouTube-Video zu suchen, indem sie eine Frage eingeben.

Zum Beispiel könnte ein Schüler 'Was sind Jupyter Notebooks?' oder 'Was ist Azure ML?' eingeben, und die Suchanwendung wird eine Liste von YouTube-Videos zurückgeben, die relevant für die Frage sind. Noch besser, die Suchanwendung wird einen Link zu der Stelle im Video zurückgeben, an der die Antwort auf die Frage zu finden ist.

Einführung

In dieser Lektion behandeln wir:

• Semantische vs. Keyword-Suche.
• Was sind Text-Embeddings.
• Erstellung eines Text-Embeddings-Index.
• Durchsuchen eines Text-Embeddings-Index.

Lernziele

Nach Abschluss dieser Lektion können Sie:

• Den Unterschied zwischen semantischer und Keyword-Suche erklären.
• Erklären, was Text-Embeddings sind.
• Eine Anwendung erstellen, die Embeddings verwendet, um nach Daten zu suchen.

Warum eine Suchanwendung erstellen?

Das Erstellen einer Suchanwendung hilft Ihnen zu verstehen, wie man Embeddings verwendet, um nach Daten zu suchen. Sie lernen auch, wie man eine Suchanwendung erstellt, die von Schülern genutzt werden kann, um schnell Informationen zu finden.

Die Lektion enthält einen Embedding-Index der YouTube-Transkripte des Microsoft AI Show YouTube-Kanals. Der AI Show ist ein YouTube-Kanal, der Ihnen KI und maschinelles Lernen näherbringt. Der Embedding-Index enthält die Embeddings für jedes der YouTube-Transkripte bis Oktober 2023. Sie werden den Embedding-Index verwenden, um eine Suchanwendung für unser Startup zu erstellen. Die Suchanwendung gibt einen Link zu der Stelle im Video zurück, an der die Antwort auf die Frage zu finden ist. Dies ist eine großartige Möglichkeit für Schüler, die benötigten Informationen schnell zu finden.

Das folgende ist ein Beispiel für eine semantische Abfrage für die Frage 'Kann man RStudio mit Azure ML verwenden?'. Schauen Sie sich die YouTube-URL an, Sie werden sehen, dass die URL einen Zeitstempel enthält, der Sie zu der Stelle im Video führt, an der die Antwort auf die Frage zu finden ist.

Was ist semantische Suche?

Nun fragen Sie sich vielleicht, was semantische Suche ist. Semantische Suche ist eine Suchtechnik, die die Semantik oder Bedeutung der Wörter in einer Abfrage verwendet, um relevante Ergebnisse zu liefern.

Hier ist ein Beispiel für eine semantische Suche. Angenommen, Sie möchten ein Auto kaufen, Sie könnten nach 'mein Traumauto' suchen, semantische Suche versteht, dass Sie nicht dreaming über ein Auto träumen, sondern dass Sie Ihr ideal Auto kaufen möchten. Die semantische Suche versteht Ihre Absicht und liefert relevante Ergebnisse. Die Alternative ist keyword search, die buchstäblich nach Träumen über Autos suchen würde und oft irrelevante Ergebnisse liefert.

Was sind Text-Embeddings?

Text-Embeddings sind eine Textdarstellungstechnik, die in der natürlichen Sprachverarbeitung verwendet wird. Text-Embeddings sind semantische numerische Darstellungen von Text. Embeddings werden verwendet, um Daten so darzustellen, dass sie für eine Maschine leicht zu verstehen sind. Es gibt viele Modelle zur Erstellung von Text-Embeddings, in dieser Lektion konzentrieren wir uns darauf, Embeddings mit dem OpenAI Embedding Model zu generieren.

Hier ist ein Beispiel: Stellen Sie sich vor, der folgende Text stammt aus einem Transkript einer der Episoden des AI Show YouTube-Kanals:

Today we are going to learn about Azure Machine Learning.

Wir würden den Text an die OpenAI Embedding API übergeben und sie würde das folgende Embedding zurückgeben, das aus 1536 Zahlen, auch als Vektor bekannt, besteht. Jede Zahl im Vektor repräsentiert einen anderen Aspekt des Textes. Der Kürze halber hier die ersten 10 Zahlen im Vektor.

[-0.006655829958617687, 0.0026128944009542465, 0.008792596869170666, -0.02446001023054123, -0.008540431968867779, 0.022071078419685364, -0.010703742504119873, 0.003311325330287218, -0.011632772162556648, -0.02187200076878071, ...]

Wie wird der Embedding-Index erstellt?

Der Embedding-Index für diese Lektion wurde mit einer Reihe von Python-Skripten erstellt. Sie finden die Skripte zusammen mit Anweisungen in der README im 'scripts'-Ordner für diese Lektion. Sie müssen diese Skripte nicht ausführen, um diese Lektion abzuschließen, da der Embedding-Index für Sie bereitgestellt wird.

Die Skripte führen die folgenden Operationen aus:

1. Das Transkript für jedes YouTube-Video in der AI Show Playlist wird heruntergeladen.
2. Mithilfe von OpenAI-Funktionen wird versucht, den Namen des Sprechers aus den ersten 3 Minuten des YouTube-Transkripts zu extrahieren. Der Sprechername für jedes Video wird im Embedding-Index namens embedding_index_3m.json gespeichert.
3. Der Transkripttext wird dann in 3-Minuten-Textsegmente unterteilt. Das Segment enthält etwa 20 Wörter, die sich mit dem nächsten Segment überschneiden, um sicherzustellen, dass das Embedding für das Segment nicht abgeschnitten wird und um einen besseren Suchkontext zu bieten.
4. Jedes Textsegment wird dann an die OpenAI Chat API übergeben, um den Text in 60 Wörtern zusammenzufassen. Die Zusammenfassung wird ebenfalls im Embedding-Index embedding_index_3m.json gespeichert.
5. Schließlich wird der Segmenttext an die OpenAI Embedding API übergeben. Die Embedding API gibt einen Vektor von 1536 Zahlen zurück, die die semantische Bedeutung des Segments repräsentieren. Das Segment zusammen mit dem OpenAI Embedding-Vektor wird in einem Embedding-Index embedding_index_3m.json gespeichert.

Vektordatenbanken

Zur Vereinfachung der Lektion wird der Embedding-Index in einer JSON-Datei namens embedding_index_3m.json gespeichert und in ein Pandas DataFrame geladen. In der Produktion würde der Embedding-Index jedoch in einer Vektordatenbank wie Azure Cognitive Search, Redis, Pinecone, Weaviate gespeichert, um nur einige zu nennen.

Verständnis von Kosinus-Ähnlichkeit

Wir haben über Text-Embeddings gelernt, der nächste Schritt ist zu lernen, wie man Text-Embeddings verwendet, um nach Daten zu suchen und insbesondere die ähnlichsten Embeddings zu einer gegebenen Abfrage mit Kosinus-Ähnlichkeit zu finden.

Was ist Kosinus-Ähnlichkeit?

Kosinus-Ähnlichkeit ist ein Maß für die Ähnlichkeit zwischen zwei Vektoren, Sie werden dies auch als nearest neighbor search hören. Um eine Kosinus-Ähnlichkeitssuche durchzuführen, müssen Sie den Abfrage Text mit der OpenAI Embedding API vektorisieren. Dann berechnen Sie die Kosinus-Ähnlichkeit zwischen dem Abfragevektor und jedem Vektor im Embedding-Index. Denken Sie daran, der Embedding-Index hat einen Vektor für jedes YouTube-Transkript-Textsegment. Schließlich sortieren Sie die Ergebnisse nach Kosinus-Ähnlichkeit, und die Textsegmente mit der höchsten Kosinus-Ähnlichkeit sind am ähnlichsten zur Abfrage.

Aus mathematischer Sicht misst die Kosinus-Ähnlichkeit den Kosinus des Winkels zwischen zwei Vektoren, die in einem mehrdimensionalen Raum projiziert werden. Diese Messung ist vorteilhaft, weil zwei Dokumente, die aufgrund ihrer Größe weit voneinander entfernt sind, dennoch einen kleineren Winkel zwischen ihnen haben könnten und daher eine höhere Kosinus-Ähnlichkeit. Weitere Informationen zu Kosinus-Ähnlichkeitsgleichungen finden Sie unter Kosinus-Ähnlichkeit.

Erstellen Ihrer ersten Suchanwendung

Als Nächstes lernen wir, wie man eine Suchanwendung mit Embeddings erstellt. Die Suchanwendung ermöglicht es Schülern, nach einem Video zu suchen, indem sie eine Frage eingeben. Die Suchanwendung gibt eine Liste von Videos zurück, die für die Frage relevant sind. Die Suchanwendung gibt auch einen Link zu der Stelle im Video zurück, an der die Antwort auf die Frage zu finden ist.

Diese Lösung wurde auf Windows 11, macOS und Ubuntu 22.04 mit Python 3.10 oder höher entwickelt und getestet. Sie können Python von python.org herunterladen.

Aufgabe - Erstellen einer Suchanwendung, um Schüler zu befähigen

Wir haben unser Startup zu Beginn dieser Lektion vorgestellt. Jetzt ist es an der Zeit, die Schüler zu befähigen, eine Suchanwendung für ihre Bewertungen zu erstellen.

In dieser Aufgabe werden Sie die Azure OpenAI Services erstellen, die zur Erstellung der Suchanwendung verwendet werden. Sie werden die folgenden Azure OpenAI Services erstellen. Sie benötigen ein Azure-Abonnement, um diese Aufgabe abzuschließen.

Starten Sie die Azure Cloud Shell

1. Melden Sie sich beim Azure-Portal an.
2. Wählen Sie das Cloud Shell-Symbol in der oberen rechten Ecke des Azure-Portals aus.
3. Wählen Sie Bash für den Umgebungstyp aus.

Erstellen einer Ressourcengruppe

Für diese Anweisungen verwenden wir die Ressourcengruppe namens "semantic-video-search" in East US. Sie können den Namen der Ressourcengruppe ändern, aber beim Ändern des Standorts für die Ressourcen überprüfen Sie die Modellverfügbarkeitstabelle.

az group create --name semantic-video-search --location eastus

Erstellen einer Azure OpenAI Service-Ressource

Führen Sie in der Azure Cloud Shell den folgenden Befehl aus, um eine Azure OpenAI Service-Ressource zu erstellen.

az cognitiveservices account create --name semantic-video-openai --resource-group semantic-video-search \
    --location eastus --kind OpenAI --sku s0

Abrufen des Endpunkts und der Schlüssel zur Verwendung in dieser Anwendung

Führen Sie in der Azure Cloud Shell die folgenden Befehle aus, um den Endpunkt und die Schlüssel für die Azure OpenAI Service-Ressource zu erhalten.

az cognitiveservices account show --name semantic-video-openai \
   --resource-group  semantic-video-search | jq -r .properties.endpoint
az cognitiveservices account keys list --name semantic-video-openai \
   --resource-group semantic-video-search | jq -r .key1

Bereitstellen des OpenAI Embedding-Modells

Führen Sie in der Azure Cloud Shell den folgenden Befehl aus, um das OpenAI Embedding-Modell bereitzustellen.

az cognitiveservices account deployment create \
    --name semantic-video-openai \
    --resource-group  semantic-video-search \
    --deployment-name text-embedding-ada-002 \
    --model-name text-embedding-ada-002 \
    --model-version "2"  \
    --model-format OpenAI \
    --sku-capacity 100 --sku-name "Standard"

Lösung

Öffnen Sie das Lösungsnotebook in GitHub Codespaces und folgen Sie den Anweisungen im Jupyter Notebook.

Wenn Sie das Notebook ausführen, werden Sie aufgefordert, eine Abfrage einzugeben. Das Eingabefeld sieht folgendermaßen aus:

Großartige Arbeit! Setzen Sie Ihr Lernen fort

Nachdem Sie diese Lektion abgeschlossen haben, schauen Sie sich unsere Generative AI Learning Collection an, um Ihr Wissen über Generative KI weiter zu vertiefen!

Gehen Sie zu Lektion 9, wo wir uns ansehen, wie man Bildgenerierungsanwendungen erstellt!

Haftungsausschluss:
Dieses Dokument wurde mit dem KI-Übersetzungsdienst Co-op Translator übersetzt. Obwohl wir uns um Genauigkeit bemühen, beachten Sie bitte, dass automatisierte Übersetzungen Fehler oder Ungenauigkeiten enthalten können. Das Originaldokument in seiner ursprünglichen Sprache sollte als maßgebliche Quelle betrachtet werden. Für kritische Informationen wird eine professionelle menschliche Übersetzung empfohlen. Wir haften nicht für Missverständnisse oder Fehlinterpretationen, die sich aus der Nutzung dieser Übersetzung ergeben.