Skip to content

README.md

Latest commit

 

History

History
169 lines (108 loc) · 12.6 KB

README.md

File metadata and controls

169 lines (108 loc) · 12.6 KB

Bygge søkeapplikasjoner

Klikk på bildet ovenfor for å se videoen av denne leksjonen

Det er mer til LLM-er enn chatbots og tekstgenerering. Det er også mulig å bygge søkeapplikasjoner ved hjelp av Embeddings. Embeddings er numeriske representasjoner av data, også kjent som vektorer, og kan brukes til semantisk søk etter data.

I denne leksjonen skal du bygge en søkeapplikasjon for vår utdanningsstartup. Startuppen vår er en ideell organisasjon som gir gratis utdanning til studenter i utviklingsland. Startuppen vår har et stort antall YouTube-videoer som studenter kan bruke for å lære om AI. Startuppen vår ønsker å bygge en søkeapplikasjon som lar studenter søke etter en YouTube-video ved å skrive inn et spørsmål.

For eksempel kan en student skrive inn 'Hva er Jupyter Notebooks?' eller 'Hva er Azure ML', og søkeapplikasjonen vil returnere en liste over YouTube-videoer som er relevante for spørsmålet, og enda bedre, søkeapplikasjonen vil returnere en lenke til stedet i videoen der svaret på spørsmålet befinner seg.

Introduksjon

I denne leksjonen vil vi dekke:

  • Semantisk vs nøkkelordssøk.
  • Hva er Tekst Embeddings.
  • Opprette en Tekst Embeddings Indeks.
  • Søke i en Tekst Embeddings Indeks.

Læringsmål

Etter å ha fullført denne leksjonen, vil du kunne:

  • Skille mellom semantisk og nøkkelordssøk.
  • Forklare hva Tekst Embeddings er.
  • Lage en applikasjon ved hjelp av Embeddings for å søke etter data.

Hvorfor bygge en søkeapplikasjon?

Å lage en søkeapplikasjon vil hjelpe deg å forstå hvordan du bruker Embeddings for å søke etter data. Du vil også lære hvordan du bygger en søkeapplikasjon som kan brukes av studenter for å finne informasjon raskt.

Leksjonen inkluderer en Embedding Indeks av YouTube-transkripsjonene for Microsoft AI Show YouTube-kanalen. AI Show er en YouTube-kanal som lærer deg om AI og maskinlæring. Embedding Indeksen inneholder Embeddings for hver av YouTube-transkripsjonene frem til okt 2023. Du vil bruke Embedding Indeksen for å bygge en søkeapplikasjon for vår startup. Søkeapplikasjonen returnerer en lenke til stedet i videoen der svaret på spørsmålet befinner seg. Dette er en flott måte for studenter å finne informasjonen de trenger raskt.

Følgende er et eksempel på en semantisk forespørsel for spørsmålet 'kan du bruke rstudio med azure ml?'. Sjekk ut YouTube-urlen, du vil se at urlen inneholder et tidsstempel som tar deg til stedet i videoen der svaret på spørsmålet befinner seg.

Hva er semantisk søk?

Nå lurer du kanskje på, hva er semantisk søk? Semantisk søk er en søketeknikk som bruker semantikken, eller betydningen, av ordene i en forespørsel for å returnere relevante resultater.

Her er et eksempel på et semantisk søk. La oss si at du ønsket å kjøpe en bil, du kan søke etter 'min drømmebil', semantisk søk forstår at du ikke dreaming om en bil, men heller at du ønsker å kjøpe din ideal bil. Semantisk søk forstår intensjonen din og returnerer relevante resultater. Alternativet er keyword search som bokstavelig talt ville søke etter drømmer om biler og ofte returnere irrelevante resultater.

Hva er Tekst Embeddings?

Text embeddings er en tekstrepresentasjonsteknikk brukt i naturlig språkbehandling. Tekst embeddings er semantiske numeriske representasjoner av tekst. Embeddings brukes til å representere data på en måte som er lett for en maskin å forstå. Det finnes mange modeller for å bygge tekst embeddings, i denne leksjonen vil vi fokusere på å generere embeddings ved hjelp av OpenAI Embedding Model.

Her er et eksempel, forestill deg at følgende tekst er i en transkripsjon fra en av episodene på AI Show YouTube-kanalen:

Today we are going to learn about Azure Machine Learning.

Vi ville sende teksten til OpenAI Embedding API, og det ville returnere følgende embedding bestående av 1536 tall, også kjent som en vektor. Hvert tall i vektoren representerer et annet aspekt av teksten. For korthetens skyld, her er de første 10 tallene i vektoren.

[-0.006655829958617687, 0.0026128944009542465, 0.008792596869170666, -0.02446001023054123, -0.008540431968867779, 0.022071078419685364, -0.010703742504119873, 0.003311325330287218, -0.011632772162556648, -0.02187200076878071, ...]

Hvordan opprettes Embedding-indeksen?

Embedding-indeksen for denne leksjonen ble opprettet med en serie Python-skript. Du finner skriptene sammen med instruksjoner i README i 'scripts'-mappen for denne leksjonen. Du trenger ikke å kjøre disse skriptene for å fullføre denne leksjonen, da Embedding-indeksen er gitt til deg.

Skriptene utfører følgende operasjoner:

  1. Transkripsjonen for hver YouTube-video i AI Show-spillelisten lastes ned.
  2. Ved hjelp av OpenAI Functions, gjøres et forsøk på å hente ut talernavnet fra de første 3 minuttene av YouTube-transkripsjonen. Talernavnet for hver video lagres i Embedding-indeksen kalt embedding_index_3m.json.
  3. Transkripsjonsteksten deles deretter opp i 3 minutters tekstsegmenter. Segmentet inkluderer omtrent 20 ord som overlapper fra neste segment for å sikre at Embedding for segmentet ikke blir avbrutt og for å gi bedre søkekontekst.
  4. Hvert tekstsegment sendes deretter til OpenAI Chat API for å oppsummere teksten til 60 ord. Sammendraget lagres også i Embedding-indeksen embedding_index_3m.json.
  5. Til slutt sendes segmentteksten til OpenAI Embedding API. Embedding API returnerer en vektor på 1536 tall som representerer den semantiske betydningen av segmentet. Segmentet sammen med OpenAI Embedding-vektoren lagres i en Embedding-indeks embedding_index_3m.json.

Vektordatabaser

For leksjonens enkelhet er Embedding-indeksen lagret i en JSON-fil kalt embedding_index_3m.json og lastet inn i en Pandas DataFrame. Imidlertid, i produksjon, ville Embedding-indeksen bli lagret i en vektordatabase som Azure Cognitive Search, Redis, Pinecone, Weaviate, for å nevne noen få.

Forstå kosinuslikhet

Vi har lært om tekst embeddings, neste steg er å lære hvordan du bruker tekst embeddings for å søke etter data og spesielt finne de mest like embeddings til en gitt forespørsel ved hjelp av kosinuslikhet.

Hva er kosinuslikhet?

Kosinuslikhet er et mål på likhet mellom to vektorer, du vil også høre dette referert til som nearest neighbor search. For å utføre et kosinuslikhetssøk trenger du å vektorisere for forespørsel tekst ved hjelp av OpenAI Embedding API. Deretter beregne kosinuslikhet mellom forespørselsvektoren og hver vektor i Embedding-indeksen. Husk, Embedding-indeksen har en vektor for hver YouTube-transkripsjonstekstsegment. Til slutt, sorter resultatene etter kosinuslikhet, og tekstsegmentene med høyest kosinuslikhet er de mest lik forespørselen.

Fra et matematisk perspektiv måler kosinuslikhet kosinus til vinkelen mellom to vektorer projisert i et multidimensjonalt rom. Denne målingen er fordelaktig, fordi hvis to dokumenter er langt fra hverandre ved euklidisk avstand på grunn av størrelse, kan de fortsatt ha en mindre vinkel mellom seg og derfor høyere kosinuslikhet. For mer informasjon om kosinuslikhetslikninger, se Cosine similarity.

Bygge din første søkeapplikasjon

Neste, skal vi lære hvordan vi bygger en søkeapplikasjon ved hjelp av Embeddings. Søkeapplikasjonen vil la studenter søke etter en video ved å skrive inn et spørsmål. Søkeapplikasjonen vil returnere en liste over videoer som er relevante for spørsmålet. Søkeapplikasjonen vil også returnere en lenke til stedet i videoen der svaret på spørsmålet befinner seg.

Denne løsningen ble bygget og testet på Windows 11, macOS og Ubuntu 22.04 ved bruk av Python 3.10 eller senere. Du kan laste ned Python fra python.org.

Oppgave - bygge en søkeapplikasjon for å gi studenter mulighet

Vi introduserte vår startup i begynnelsen av denne leksjonen. Nå er det på tide å gi studentene mulighet til å bygge en søkeapplikasjon for deres vurderinger.

I denne oppgaven vil du opprette Azure OpenAI Services som vil bli brukt til å bygge søkeapplikasjonen. Du vil opprette følgende Azure OpenAI Services. Du trenger et Azure-abonnement for å fullføre denne oppgaven.

Start Azure Cloud Shell

  1. Logg inn på Azure-portalen.
  2. Velg Cloud Shell-ikonet i øvre høyre hjørne av Azure-portalen.
  3. Velg Bash for miljøtypen.

Opprett en ressursgruppe

For disse instruksjonene bruker vi ressursgruppen kalt "semantic-video-search" i Øst-USA. Du kan endre navnet på ressursgruppen, men når du endrer plasseringen for ressursene, sjekk modelltilgjengelighetstabellen.

az group create --name semantic-video-search --location eastus

Opprett en Azure OpenAI Service-ressurs

Fra Azure Cloud Shell, kjør følgende kommando for å opprette en Azure OpenAI Service-ressurs.

az cognitiveservices account create --name semantic-video-openai --resource-group semantic-video-search \
    --location eastus --kind OpenAI --sku s0

Få endepunktet og nøklene for bruk i denne applikasjonen

Fra Azure Cloud Shell, kjør følgende kommandoer for å få endepunktet og nøklene for Azure OpenAI Service-ressursen.

az cognitiveservices account show --name semantic-video-openai \
   --resource-group  semantic-video-search | jq -r .properties.endpoint
az cognitiveservices account keys list --name semantic-video-openai \
   --resource-group semantic-video-search | jq -r .key1

Distribuer OpenAI Embedding-modellen

Fra Azure Cloud Shell, kjør følgende kommando for å distribuere OpenAI Embedding-modellen.

az cognitiveservices account deployment create \
    --name semantic-video-openai \
    --resource-group  semantic-video-search \
    --deployment-name text-embedding-ada-002 \
    --model-name text-embedding-ada-002 \
    --model-version "2"  \
    --model-format OpenAI \
    --sku-capacity 100 --sku-name "Standard"

Løsning

Åpne løsningsnotatboken i GitHub Codespaces og følg instruksjonene i Jupyter-notatboken.

Når du kjører notatboken, vil du bli bedt om å skrive inn en forespørsel. Inndataboksen vil se slik ut:

Flott arbeid! Fortsett læringen din

Etter å ha fullført denne leksjonen, sjekk ut vår Generative AI Learning-samling for å fortsette å forbedre din Generative AI-kunnskap!

Gå videre til Leksjon 9 hvor vi vil se på hvordan du bygger bildegenereringsapplikasjoner!

Ansvarsfraskrivelse:
Dette dokumentet er oversatt ved hjelp av AI-oversettelsestjenesten Co-op Translator. Selv om vi bestreber oss på nøyaktighet, vennligst vær oppmerksom på at automatiserte oversettelser kan inneholde feil eller unøyaktigheter. Det originale dokumentet på sitt opprinnelige språk bør betraktes som den autoritative kilden. For kritisk informasjon anbefales profesjonell menneskelig oversettelse. Vi er ikke ansvarlige for misforståelser eller feiltolkninger som oppstår fra bruken av denne oversettelsen.