Vi har sat dette repository og kursus op med en development container, som har et universelt runtime-miljø, der understøtter Python3, .NET, Node.js og Java-udvikling. Den tilhørende konfiguration er defineret i filen devcontainer.json, som ligger i .devcontainer/ mappen i roden af dette repository.
For at aktivere dev containeren, start den i GitHub Codespaces (for et cloud-hostet runtime) eller i Docker Desktop (for et lokalt enhed-hostet runtime). Læs denne dokumentation for flere detaljer om, hvordan dev containere fungerer i VS Code.
Tip
Vi anbefaler at bruge GitHub Codespaces for en hurtig start med minimal indsats. Det giver en generøs gratis brugskvote for personlige konti. Konfigurer timeouts til at stoppe eller slette inaktive codespaces for at maksimere din kvoteudnyttelse.
Hver lektion vil have valgfri opgaver, som kan være tilgængelige i et eller flere programmeringssprog, herunder: Python, .NET/C#, Java og JavaScript/TypeScript. Dette afsnit giver generelle retningslinjer for, hvordan du udfører disse opgaver.
Python-opgaver leveres enten som applikationer (.py filer) eller Jupyter notebooks (.ipynb filer).
- For at køre notebook’en, åbn den i Visual Studio Code, klik derefter på Select Kernel (øverst til højre) og vælg standard Python 3-muligheden. Du kan nu vælge Run All for at køre hele notebook’en.
- For at køre Python-applikationer fra kommandolinjen, følg de opgavespecifikke instruktioner for at sikre, at du vælger de rigtige filer og angiver nødvendige argumenter.
Opgaver kan også være sat op til at arbejde med en eller flere Large Language Model (LLM) deployment gennem en understøttet serviceudbyder som OpenAI, Azure eller Hugging Face. Disse tilbyder et hostet endpoint (API), som vi kan tilgå programmatisk med de rette legitimationsoplysninger (API-nøgle eller token). I dette kursus gennemgår vi disse udbydere:
- OpenAI med forskellige modeller, herunder den centrale GPT-serie.
- Azure OpenAI for OpenAI-modeller med fokus på enterprise-klarhed
- Hugging Face for open source-modeller og inference-server
Du skal bruge dine egne konti til disse øvelser. Opgaverne er valgfrie, så du kan vælge at sætte én, alle eller ingen af udbyderne op, alt efter dine interesser. Her er lidt vejledning til tilmelding:
| Tilmelding | Pris | API-nøgle | Playground | Kommentarer |
|---|---|---|---|---|
| OpenAI | Priser | Projektbaseret | No-Code, Web | Flere modeller tilgængelige |
| Azure | Priser | SDK Quickstart | Studio Quickstart | Adgang kræver forudgående ansøgning |
| Hugging Face | Priser | Access Tokens | Hugging Chat | Hugging Chat har begrænsede modeller |
Følg nedenstående vejledning for at konfigurere dette repository til brug med forskellige udbydere. Opgaver, der kræver en specifik udbyder, vil indeholde et af disse tags i deres filnavn:
aoai- kræver Azure OpenAI endpoint og nøgleoai- kræver OpenAI endpoint og nøglehf- kræver Hugging Face token
Du kan konfigurere én, ingen eller alle udbydere. Relaterede opgaver vil blot fejle, hvis legitimationsoplysninger mangler.
Vi antager, at du allerede har læst vejledningen ovenfor, tilmeldt dig den relevante udbyder og fået de nødvendige autentificeringsoplysninger (API_KEY eller token). I tilfælde af Azure OpenAI antager vi også, at du har en gyldig deployment af en Azure OpenAI Service (endpoint) med mindst én GPT-model deployeret til chat completion.
Næste skridt er at konfigurere dine lokale miljøvariabler som følger:
-
Kig i rodmappen efter en
.env.copyfil, som burde indeholde noget i stil med:# OpenAI Provider OPENAI_API_KEY='<add your OpenAI API key here>' ## Azure OpenAI AZURE_OPENAI_API_VERSION='2024-02-01' # Default is set! AZURE_OPENAI_API_KEY='<add your AOAI key here>' AZURE_OPENAI_ENDPOINT='<add your AOIA service endpoint here>' AZURE_OPENAI_DEPLOYMENT='<add your chat completion model name here>' AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='<add your embeddings model name here>' ## Hugging Face HUGGING_FACE_API_KEY='<add your HuggingFace API or token here>'
-
Kopiér denne fil til
.envmed kommandoen nedenfor. Denne fil er gitignore-d, så hemmeligheder holdes sikre.cp .env.copy .env
-
Udfyld værdierne (erstat pladsholdere til højre for
=) som beskrevet i næste afsnit. -
(Valgfrit) Hvis du bruger GitHub Codespaces, har du mulighed for at gemme miljøvariabler som Codespaces secrets tilknyttet dette repository. I så fald behøver du ikke opsætte en lokal .env-fil. Bemærk dog, at denne mulighed kun virker, hvis du bruger GitHub Codespaces. Du skal stadig opsætte .env-filen, hvis du bruger Docker Desktop.
Lad os hurtigt se på variabelnavnene for at forstå, hvad de repræsenterer:
| Variabel | Beskrivelse |
|---|---|
| HUGGING_FACE_API_KEY | Dette er brugerens adgangstoken, som du har sat op i din profil |
| OPENAI_API_KEY | Dette er autorisationsnøglen til brug af servicen for ikke-Azure OpenAI endpoints |
| AZURE_OPENAI_API_KEY | Dette er autorisationsnøglen til brug af Azure OpenAI servicen |
| AZURE_OPENAI_ENDPOINT | Dette er det deployerede endpoint for en Azure OpenAI-ressource |
| AZURE_OPENAI_DEPLOYMENT | Dette er deployment endpoint for tekstgenererings-modellen |
| AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT | Dette er deployment endpoint for tekst-embedding-modellen |
Bemærk: De to sidste Azure OpenAI-variabler refererer til en standardmodel for chat completion (tekstgenerering) og vektorsøgning (embeddings) henholdsvis. Instruktioner til opsætning af disse vil være defineret i relevante opgaver.
Azure OpenAI endpoint og nøgle findes i Azure Portal, så lad os starte der.
- Gå til Azure Portal
- Klik på Keys and Endpoint i sidebaren (menuen til venstre).
- Klik på Show Keys - du skulle nu se følgende: KEY 1, KEY 2 og Endpoint.
- Brug værdien fra KEY 1 til AZURE_OPENAI_API_KEY
- Brug værdien fra Endpoint til AZURE_OPENAI_ENDPOINT
Dernæst skal vi finde endpoints for de specifikke modeller, vi har deployeret.
- Klik på Model deployments i sidebaren (venstre menu) for Azure OpenAI-ressourcen.
- På destinationssiden klik på Manage Deployments
Dette fører dig til Azure OpenAI Studio-websitet, hvor vi finder de øvrige værdier som beskrevet nedenfor.
- Naviger til Azure OpenAI Studio fra din ressource som beskrevet ovenfor.
- Klik på fanen Deployments (sidebar, venstre) for at se de modeller, der er deployeret.
- Hvis din ønskede model ikke er deployeret, brug Create new deployment til at deployere den.
- Du skal bruge en text-generation model – vi anbefaler: gpt-35-turbo
- Du skal bruge en text-embedding model – vi anbefaler text-embedding-ada-002
Opdater nu miljøvariablerne, så de afspejler det Deployment name, der er brugt. Det vil typisk være det samme som modelnavnet, medmindre du har ændret det eksplicit. For eksempel kan du have:
AZURE_OPENAI_DEPLOYMENT='gpt-35-turbo'
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='text-embedding-ada-002'Glem ikke at gemme .env-filen, når du er færdig. Du kan nu lukke filen og vende tilbage til instruktionerne for at køre notebook’en.
Din OpenAI API-nøgle kan findes i din OpenAI-konto. Hvis du ikke har en, kan du oprette en konto og generere en API-nøgle. Når du har nøglen, kan du bruge den til at udfylde OPENAI_API_KEY variablen i .env filen.
Din Hugging Face token kan findes i din profil under Access Tokens. Del eller offentliggør dem ikke. Opret i stedet en ny token til brug for dette projekt, og kopier den ind i .env filen under variablen HUGGING_FACE_API_KEY. Bemærk: Dette er teknisk set ikke en API-nøgle, men bruges til autentificering, så vi bevarer denne navngivningskonvention for konsistens.
Ansvarsfraskrivelse:
Dette dokument er blevet oversat ved hjælp af AI-oversættelsestjenesten Co-op Translator. Selvom vi bestræber os på nøjagtighed, bedes du være opmærksom på, at automatiserede oversættelser kan indeholde fejl eller unøjagtigheder. Det oprindelige dokument på dets oprindelige sprog bør betragtes som den autoritative kilde. For kritisk information anbefales professionel menneskelig oversættelse. Vi påtager os intet ansvar for misforståelser eller fejltolkninger, der opstår som følge af brugen af denne oversættelse.