Vi har satt upp detta repository och kurs med en development container som har en universell runtime som kan stödja utveckling i Python3, .NET, Node.js och Java. Den relaterade konfigurationen definieras i filen devcontainer.json som finns i mappen .devcontainer/ i roten av detta repository.
För att aktivera dev-containern, starta den i GitHub Codespaces (för en molnbaserad runtime) eller i Docker Desktop (för en lokal runtime på din enhet). Läs den här dokumentationen för mer information om hur dev-containrar fungerar i VS Code.
Tip
Vi rekommenderar att använda GitHub Codespaces för en snabb start med minimal ansträngning. Det erbjuder en generös gratis användningskvot för personliga konton. Konfigurera timeout för att stoppa eller ta bort inaktiva codespaces för att maximera din kvotanvändning.
Varje lektion kan ha valfria uppgifter som kan erbjudas i en eller flera programmeringsspråk, inklusive: Python, .NET/C#, Java och JavaScript/TypeScript. Denna sektion ger allmän vägledning kring hur du kör dessa uppgifter.
Python-uppgifter tillhandahålls antingen som applikationer (.py-filer) eller Jupyter-notebooks (.ipynb-filer).
- För att köra notebooken, öppna den i Visual Studio Code, klicka sedan på Select Kernel (uppe till höger) och välj standardalternativet Python 3. Du kan nu välja Run All för att köra hela notebooken.
- För att köra Python-applikationer från kommandoraden, följ uppgiftsspecifika instruktioner för att säkerställa att du väljer rätt filer och anger nödvändiga argument.
Uppgifter kan också vara inställda för att fungera mot en eller flera Large Language Model (LLM)-distributioner via en stödd tjänsteleverantör som OpenAI, Azure eller Hugging Face. Dessa erbjuder en hostad endpoint (API) som vi kan nå programmässigt med rätt autentiseringsuppgifter (API-nyckel eller token). I denna kurs diskuterar vi dessa leverantörer:
- OpenAI med olika modeller inklusive kärnserien GPT.
- Azure OpenAI för OpenAI-modeller med fokus på företagsanpassning.
- Hugging Face för öppen källkod-modeller och inferensserver.
Du behöver använda egna konton för dessa övningar. Uppgifterna är frivilliga så du kan välja att konfigurera en, alla eller inga av leverantörerna beroende på dina intressen. Här är lite vägledning för registrering:
| Registrering | Kostnad | API-nyckel | Playground | Kommentarer |
|---|---|---|---|---|
| OpenAI | Prissättning | Projektbaserad | No-Code, Web | Flera modeller tillgängliga |
| Azure | Prissättning | SDK Quickstart | Studio Quickstart | Måste ansöka i förväg för åtkomst |
| Hugging Face | Prissättning | Access Tokens | Hugging Chat | Hugging Chat har begränsade modeller |
Följ instruktionerna nedan för att konfigurera detta repository för användning med olika leverantörer. Uppgifter som kräver en specifik leverantör kommer att innehålla en av dessa taggar i filnamnet:
aoai- kräver Azure OpenAI endpoint och nyckeloai- kräver OpenAI endpoint och nyckelhf- kräver Hugging Face token
Du kan konfigurera en, inga eller alla leverantörer. Relaterade uppgifter kommer helt enkelt att ge fel om autentiseringsuppgifter saknas.
Vi förutsätter att du redan har läst vägledningen ovan, registrerat dig hos relevant leverantör och fått de nödvändiga autentiseringsuppgifterna (API_KEY eller token). I fallet med Azure OpenAI förutsätter vi också att du har en giltig distribution av en Azure OpenAI-tjänst (endpoint) med minst en GPT-modell distribuerad för chattkomplettering.
Nästa steg är att konfigurera dina lokala miljövariabler enligt följande:
-
Leta i rotmappen efter en fil som heter
.env.copysom bör innehålla något liknande detta:# OpenAI Provider OPENAI_API_KEY='<add your OpenAI API key here>' ## Azure OpenAI AZURE_OPENAI_API_VERSION='2024-02-01' # Default is set! AZURE_OPENAI_API_KEY='<add your AOAI key here>' AZURE_OPENAI_ENDPOINT='<add your AOIA service endpoint here>' AZURE_OPENAI_DEPLOYMENT='<add your chat completion model name here>' AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='<add your embeddings model name here>' ## Hugging Face HUGGING_FACE_API_KEY='<add your HuggingFace API or token here>'
-
Kopiera den filen till
.envmed kommandot nedan. Denna fil är gitignore-ad, vilket håller hemligheter säkra.cp .env.copy .env
-
Fyll i värdena (ersätt platshållarna till höger om
=) enligt beskrivningen i nästa avsnitt. -
(Valfritt) Om du använder GitHub Codespaces kan du spara miljövariabler som Codespaces secrets kopplade till detta repository. I så fall behöver du inte skapa en lokal .env-fil. Observera dock att detta alternativ endast fungerar om du använder GitHub Codespaces. Du måste fortfarande skapa .env-filen om du använder Docker Desktop.
Låt oss snabbt titta på variabelnamnen för att förstå vad de representerar:
| Variabel | Beskrivning |
|---|---|
| HUGGING_FACE_API_KEY | Detta är användarens access-token som du ställt in i din profil |
| OPENAI_API_KEY | Detta är auktoriseringsnyckeln för att använda tjänsten för icke-Azure OpenAI endpoints |
| AZURE_OPENAI_API_KEY | Detta är auktoriseringsnyckeln för att använda den tjänsten |
| AZURE_OPENAI_ENDPOINT | Detta är den distribuerade endpointen för en Azure OpenAI-resurs |
| AZURE_OPENAI_DEPLOYMENT | Detta är endpointen för textgenererings-modellens distribution |
| AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT | Detta är endpointen för text embeddings-modellens distribution |
Notera: De två sista Azure OpenAI-variablerna speglar en standardmodell för chattkomplettering (textgenerering) respektive vektorsökning (embeddings). Instruktioner för att ställa in dem kommer att definieras i relevanta uppgifter.
Värdena för Azure OpenAI endpoint och nyckel finns i Azure-portalen, så vi börjar där.
- Gå till Azure-portalen
- Klicka på alternativet Keys and Endpoint i sidomenyn (menyn till vänster).
- Klicka på Show Keys – du bör se följande: KEY 1, KEY 2 och Endpoint.
- Använd värdet för KEY 1 som AZURE_OPENAI_API_KEY
- Använd värdet för Endpoint som AZURE_OPENAI_ENDPOINT
Nästa steg är att hitta endpoints för de specifika modeller vi har distribuerat.
- Klicka på alternativet Model deployments i sidomenyn (vänster meny) för Azure OpenAI-resursen.
- På destinationssidan klickar du på Manage Deployments
Detta tar dig till Azure OpenAI Studio-webbplatsen, där vi hittar de andra värdena enligt beskrivningen nedan.
- Navigera till Azure OpenAI Studio från din resurs som beskrivits ovan.
- Klicka på fliken Deployments (sidomeny, vänster) för att se de modeller som är distribuerade.
- Om din önskade modell inte är distribuerad, använd Create new deployment för att distribuera den.
- Du behöver en text-generation-modell – vi rekommenderar: gpt-35-turbo
- Du behöver en text-embedding-modell – vi rekommenderar text-embedding-ada-002
Uppdatera nu miljövariablerna för att spegla det Deployment name som används. Detta är vanligtvis samma som modellnamnet om du inte ändrat det explicit. Så, som exempel, kan du ha:
AZURE_OPENAI_DEPLOYMENT='gpt-35-turbo'
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='text-embedding-ada-002'Glöm inte att spara .env-filen när du är klar. Du kan nu stänga filen och återgå till instruktionerna för att köra notebooken.
Din OpenAI API-nyckel finns i ditt OpenAI-konto. Om du inte har en kan du registrera dig och skapa en API-nyckel. När du har nyckeln kan du använda den för att fylla i variabeln OPENAI_API_KEY i .env-filen.
Din Hugging Face-token finns i din profil under Access Tokens. Dela inte dessa offentligt. Skapa istället en ny token för detta projekt och kopiera in den i .env-filen under variabeln HUGGING_FACE_API_KEY. Notera: Detta är tekniskt sett inte en API-nyckel men används för autentisering, så vi behåller namngivningen för konsekvensens skull.
Ansvarsfriskrivning:
Detta dokument har översatts med hjälp av AI-översättningstjänsten Co-op Translator. Även om vi strävar efter noggrannhet, vänligen observera att automatiska översättningar kan innehålla fel eller brister. Det ursprungliga dokumentet på dess modersmål bör betraktas som den auktoritativa källan. För kritisk information rekommenderas professionell mänsklig översättning. Vi ansvarar inte för några missförstånd eller feltolkningar som uppstår till följd av användningen av denna översättning.