Ehhez a tárhelyhez és tanfolyamhoz egy fejlesztői konténert állítottunk be, amely egy univerzális futtatókörnyezetet biztosít Python3, .NET, Node.js és Java fejlesztéshez. A kapcsolódó konfiguráció a devcontainer.json fájlban található, amely a .devcontainer/ mappában van a tárhely gyökérkönyvtárában.
A fejlesztői konténer aktiválásához indítsd el GitHub Codespaces-ben (felhőalapú futtatókörnyezethez) vagy Docker Desktopban (helyi gépen futtatott környezethez). További részletekért olvasd el ezt a dokumentációt arról, hogyan működnek a fejlesztői konténerek a VS Code-ban.
Tip
Ajánljuk a GitHub Codespaces használatát a gyors és egyszerű kezdéshez. Személyes fiókok számára bőséges ingyenes használati keretet biztosít. Állítsd be a timeoutokat, hogy az inaktív codespace-ek leálljanak vagy törlődjenek, így maximalizálhatod a kereted kihasználtságát.
Minden leckéhez tartozhatnak opcionális feladatok, amelyeket egy vagy több programozási nyelven biztosítunk, például Python, .NET/C#, Java és JavaScript/TypeScript. Ez a rész általános útmutatást ad a feladatok végrehajtásához.
A Python feladatok vagy alkalmazásként (.py fájlok), vagy Jupyter notebookként (.ipynb fájlok) érhetők el.
- A notebook futtatásához nyisd meg Visual Studio Code-ban, majd kattints a Select Kernel-re (jobb felső sarokban), és válaszd ki az alapértelmezett Python 3 opciót. Ezután használhatod a Run All parancsot a notebook futtatásához.
- Parancssorból Python alkalmazások futtatásához kövesd az adott feladathoz tartozó utasításokat, hogy a megfelelő fájlokat válaszd ki és megadd a szükséges argumentumokat.
A feladatok lehetnek úgy beállítva, hogy egy vagy több Nagy Nyelvi Modell (LLM) telepítésével működjenek egy támogatott szolgáltatón keresztül, mint például OpenAI, Azure vagy Hugging Face. Ezek egy hosztolt végpontot (API-t) biztosítanak, amelyhez programozottan hozzáférhetünk a megfelelő hitelesítő adatokkal (API kulcs vagy token). Ebben a tanfolyamban az alábbi szolgáltatókat tárgyaljuk:
- OpenAI különféle modellekkel, beleértve a GPT alapú sorozatot.
- Azure OpenAI, amely az OpenAI modelleket vállalati szintű felkészültséggel kínálja.
- Hugging Face nyílt forráskódú modellekhez és inferencia szerverhez.
Ezekhez a gyakorlatokhoz saját fiókok használata szükséges. A feladatok opcionálisak, így eldöntheted, hogy egy, mindegyik vagy egyik szolgáltatót sem állítod be az érdeklődésed szerint. Néhány útmutató a regisztrációhoz:
| Regisztráció | Költség | API kulcs | Playground | Megjegyzések |
|---|---|---|---|---|
| OpenAI | Árazás | Projekt alapú | Kód nélküli, webes | Több modell elérhető |
| Azure | Árazás | SDK gyorsindító | Studio gyorsindító | Előzetes hozzáférési kérelem szükséges |
| Hugging Face | Árazás | Hozzáférési tokenek | Hugging Chat | Hugging Chat korlátozott modellekkel rendelkezik |
Kövesd az alábbi utasításokat, hogy konfiguráld ezt a tárhelyet a különböző szolgáltatók használatához. Azok a feladatok, amelyek egy adott szolgáltatót igényelnek, a fájlneveikben az alábbi címkék egyikét tartalmazzák:
aoai- Azure OpenAI végpont és kulcs szükségesoai- OpenAI végpont és kulcs szükségeshf- Hugging Face token szükséges
Beállíthatsz egyet, többet vagy egyiket sem. A kapcsolódó feladatok hibát jeleznek, ha hiányoznak a hitelesítő adatok.
Feltételezzük, hogy már elolvastad a fentieket, regisztráltál a megfelelő szolgáltatónál, és megszerezted a szükséges hitelesítő adatokat (API_KEY vagy token). Azure OpenAI esetén feltételezzük, hogy rendelkezel egy érvényes Azure OpenAI Szolgáltatás telepítéssel (végponttal), amelyen legalább egy GPT modell fut chat befejezéshez.
A következő lépés a helyi környezeti változók beállítása az alábbiak szerint:
-
Nézd meg a gyökérkönyvtárban található
.env.copyfájlt, amelynek tartalma valahogy így néz ki:# OpenAI Provider OPENAI_API_KEY='<add your OpenAI API key here>' ## Azure OpenAI AZURE_OPENAI_API_VERSION='2024-02-01' # Default is set! AZURE_OPENAI_API_KEY='<add your AOAI key here>' AZURE_OPENAI_ENDPOINT='<add your AOIA service endpoint here>' AZURE_OPENAI_DEPLOYMENT='<add your chat completion model name here>' AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='<add your embeddings model name here>' ## Hugging Face HUGGING_FACE_API_KEY='<add your HuggingFace API or token here>'
-
Másold le ezt a fájlt
.envnéven az alábbi parancs segítségével. Ez a fájl gitignore-olva van, így a titkos adatok biztonságban maradnak.cp .env.copy .env
-
Töltsd ki az értékeket (cseréld ki a jobb oldali helyőrzőket) a következő szakaszban leírtak szerint.
-
(Opcionális) Ha GitHub Codespaces-t használsz, lehetőséged van a környezeti változókat Codespaces titkokként elmenteni, amelyek ehhez a tárhelyhez kapcsolódnak. Ebben az esetben nem kell helyi .env fájlt létrehoznod. Fontos azonban, hogy ez az opció csak GitHub Codespaces használata esetén működik. Docker Desktop használata esetén továbbra is szükséges a .env fájl beállítása.
Nézzük meg gyorsan a változóneveket, hogy mit jelentenek:
| Változó | Leírás |
|---|---|
| HUGGING_FACE_API_KEY | Ez a felhasználói hozzáférési token, amelyet a profilodban állítottál be |
| OPENAI_API_KEY | Ez az engedélyező kulcs a nem Azure OpenAI végpontok használatához |
| AZURE_OPENAI_API_KEY | Ez az engedélyező kulcs az Azure OpenAI szolgáltatáshoz |
| AZURE_OPENAI_ENDPOINT | Ez az Azure OpenAI erőforrás telepített végpontja |
| AZURE_OPENAI_DEPLOYMENT | Ez a szöveg generálás modell telepítési végpontja |
| AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT | Ez a szöveg beágyazás modell telepítési végpontja |
Megjegyzés: Az utolsó két Azure OpenAI változó egy alapértelmezett modellt tükröz a chat befejezéshez (szöveg generálás) és a vektoros kereséshez (beágyazások). Ezek beállítására vonatkozó utasításokat a kapcsolódó feladatokban találod majd.
Az Azure OpenAI végpont és kulcs értékei az Azure Portálon találhatók, kezdjük ott.
- Lépj be az Azure Portálra
- Kattints a bal oldali menüben a Keys and Endpoint opcióra.
- Kattints a Show Keys gombra – meg kell jelennie a következőknek: KEY 1, KEY 2 és Endpoint.
- Az AZURE_OPENAI_API_KEY értékéhez használd a KEY 1-et.
- Az AZURE_OPENAI_ENDPOINT értékéhez használd az Endpointot.
Ezután szükségünk van a telepített modellek végpontjaira.
- Kattints az Azure OpenAI erőforrás bal oldali menüjében a Model deployments opcióra.
- A megnyíló oldalon válaszd a Manage Deployments lehetőséget.
Ez az Azure OpenAI Studio weboldalára visz, ahol a további értékeket megtaláljuk az alábbiak szerint.
- Navigálj az Azure OpenAI Studio oldalra az erőforrásodból az előző pont szerint.
- Kattints a bal oldali menüben a Deployments fülre, hogy lásd a jelenleg telepített modelleket.
- Ha a kívánt modell nincs telepítve, használd a Create new deployment lehetőséget a telepítéshez.
- Szükséged lesz egy szöveg generáló modellre – ajánlott: gpt-35-turbo
- Szükséged lesz egy szöveg beágyazó modellre – ajánlott: text-embedding-ada-002
Frissítsd a környezeti változókat a használt Deployment name-nel. Ez általában megegyezik a modell nevével, hacsak nem változtattad meg kifejezetten. Például:
AZURE_OPENAI_DEPLOYMENT='gpt-35-turbo'
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='text-embedding-ada-002'Ne felejtsd el elmenteni a .env fájlt a módosítások után! Ezután kiléphetsz a fájlból, és folytathatod a notebook futtatására vonatkozó utasításokat.
Az OpenAI API kulcsodat megtalálod az OpenAI fiókodban. Ha még nincs, regisztrálj, és hozz létre egy API kulcsot. Miután megvan a kulcs, töltsd ki vele az OPENAI_API_KEY változót a .env fájlban.
A Hugging Face tokenedet a profilodban találod az Access Tokens menüpont alatt. Ne oszd meg nyilvánosan! Hozz létre egy új tokent erre a projektre, és másold be a .env fájl HUGGING_FACE_API_KEY változójába. Megjegyzés: Ez technikailag nem API kulcs, de hitelesítésre szolgál, ezért a következetesség kedvéért ezt a nevet használjuk.
Jogi nyilatkozat:
Ez a dokumentum az AI fordító szolgáltatás, a Co-op Translator segítségével készült. Bár a pontosságra törekszünk, kérjük, vegye figyelembe, hogy az automatikus fordítások hibákat vagy pontatlanságokat tartalmazhatnak. Az eredeti dokumentum az anyanyelvén tekintendő hiteles forrásnak. Fontos információk esetén szakmai, emberi fordítást javaslunk. Nem vállalunk felelősséget a fordítás használatából eredő félreértésekért vagy téves értelmezésekért.