Tento repozitár a kurz sme nastavili s vývojovým kontajnerom, ktorý obsahuje univerzálne runtime prostredie podporujúce Python3, .NET, Node.js a Java vývoj. Súvisiaca konfigurácia je definovaná v súbore devcontainer.json, ktorý sa nachádza v priečinku .devcontainer/ v koreňovom adresári tohto repozitára.
Na aktiváciu vývojového kontajnera ho spustite v GitHub Codespaces (pre cloudové runtime) alebo v Docker Desktop (pre lokálne runtime na vašom zariadení). Pre viac informácií o fungovaní vývojových kontajnerov vo VS Code si prečítajte túto dokumentáciu.
Tip
Odporúčame použiť GitHub Codespaces pre rýchly štart s minimálnym úsilím. Poskytuje štedrú bezplatnú kvótu pre osobné účty. Nastavte timeouty na zastavenie alebo vymazanie neaktívnych codespaces, aby ste čo najlepšie využili svoju kvótu.
Každá lekcia bude mať voliteľné úlohy, ktoré môžu byť poskytnuté v jednom alebo viacerých programovacích jazykoch vrátane: Python, .NET/C#, Java a JavaScript/TypeScript. Táto sekcia poskytuje všeobecné pokyny týkajúce sa spúšťania týchto úloh.
Python úlohy sú poskytované buď ako aplikácie (.py súbory) alebo Jupyter notebooky (.ipynb súbory).
- Na spustenie notebooku ho otvorte vo Visual Studio Code, kliknite na Select Kernel (vpravo hore) a vyberte predvolenú možnosť Python 3. Teraz môžete použiť Run All na spustenie celého notebooku.
- Na spustenie Python aplikácií z príkazového riadku postupujte podľa inštrukcií konkrétnej úlohy, aby ste vybrali správne súbory a zadali potrebné argumenty.
Úlohy môžu byť tiež nastavené na prácu s jedným alebo viacerými nasadeniami veľkých jazykových modelov (LLM) cez podporovaného poskytovateľa služieb ako OpenAI, Azure alebo Hugging Face. Tieto poskytujú hostovaný endpoint (API), ku ktorému môžeme programovo pristupovať s platnými povereniami (API kľúč alebo token). V tomto kurze sa venujeme týmto poskytovateľom:
- OpenAI s rôznymi modelmi vrátane základnej série GPT.
- Azure OpenAI pre OpenAI modely so zameraním na podnikové použitie.
- Hugging Face pre open-source modely a inference server.
Na tieto cvičenia budete potrebovať vlastné účty. Úlohy sú voliteľné, takže si môžete vybrať nastavenie jedného, všetkých alebo žiadneho z poskytovateľov podľa svojich záujmov. Niekoľko rád pre registráciu:
| Registrácia | Cena | API kľúč | Playground | Komentáre |
|---|---|---|---|---|
| OpenAI | Cenník | Projektové kľúče | No-Code, Web | Viacero dostupných modelov |
| Azure | Cenník | Rýchly štart SDK | Rýchly štart Studio | Nutné požiadať o prístup vopred |
| Hugging Face | Cenník | Prístupové tokeny | Hugging Chat | Hugging Chat má obmedzený počet modelov |
Postupujte podľa nasledujúcich pokynov na konfiguráciu tohto repozitára pre použitie s rôznymi poskytovateľmi. Úlohy, ktoré vyžadujú konkrétneho poskytovateľa, budú mať v názve súboru jednu z týchto značiek:
aoai- vyžaduje Azure OpenAI endpoint a kľúčoai- vyžaduje OpenAI endpoint a kľúčhf- vyžaduje Hugging Face token
Môžete nakonfigurovať jedného, žiadneho alebo všetkých poskytovateľov. Súvisiace úlohy jednoducho zlyhajú, ak chýbajú poverenia.
Predpokladáme, že ste si prečítali vyššie uvedené pokyny, zaregistrovali sa u príslušného poskytovateľa a získali potrebné autentifikačné údaje (API_KEY alebo token). V prípade Azure OpenAI predpokladáme, že máte platné nasadenie služby Azure OpenAI (endpoint) s aspoň jedným GPT modelom nasadeným pre chat completion.
Ďalším krokom je nastavenie lokálnych premenných prostredia nasledovne:
-
V koreňovom priečinku nájdite súbor
.env.copy, ktorý by mal obsahovať niečo takéto:# OpenAI Provider OPENAI_API_KEY='<add your OpenAI API key here>' ## Azure OpenAI AZURE_OPENAI_API_VERSION='2024-02-01' # Default is set! AZURE_OPENAI_API_KEY='<add your AOAI key here>' AZURE_OPENAI_ENDPOINT='<add your AOIA service endpoint here>' AZURE_OPENAI_DEPLOYMENT='<add your chat completion model name here>' AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='<add your embeddings model name here>' ## Hugging Face HUGGING_FACE_API_KEY='<add your HuggingFace API or token here>'
-
Skopírujte tento súbor do
.envpomocou nasledujúceho príkazu. Tento súbor je gitignore-ovaný, takže tajné údaje zostanú v bezpečí.cp .env.copy .env
-
Vyplňte hodnoty (nahraďte zástupné symboly napravo od
=) podľa popisu v nasledujúcej sekcii. -
(Voliteľné) Ak používate GitHub Codespaces, môžete si uložiť premenné prostredia ako Codespaces secrets priradené k tomuto repozitáru. V takom prípade nemusíte nastavovať lokálny súbor .env. Táto možnosť však funguje iba pri použití GitHub Codespaces. Ak používate Docker Desktop, stále budete musieť nastaviť súbor .env.
Pozrime sa rýchlo na názvy premenných, aby sme pochopili, čo predstavujú:
| Premenná | Popis |
|---|---|
| HUGGING_FACE_API_KEY | Toto je používateľský prístupový token, ktorý si nastavíte vo svojom profile |
| OPENAI_API_KEY | Toto je autorizačný kľúč pre použitie služby mimo Azure OpenAI endpointov |
| AZURE_OPENAI_API_KEY | Toto je autorizačný kľúč pre použitie Azure OpenAI služby |
| AZURE_OPENAI_ENDPOINT | Toto je nasadený endpoint pre Azure OpenAI zdroj |
| AZURE_OPENAI_DEPLOYMENT | Toto je endpoint nasadenia modelu pre generovanie textu |
| AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT | Toto je endpoint nasadenia modelu pre textové embeddingy |
Poznámka: Posledné dve premenné pre Azure OpenAI odrážajú predvolený model pre chat completion (generovanie textu) a vyhľadávanie vektorov (embeddingy). Inštrukcie na ich nastavenie budú uvedené v príslušných úlohách.
Hodnoty endpointu a kľúča pre Azure OpenAI nájdete v Azure Portáli, začnime teda tam.
- Prejdite na Azure Portal
- Kliknite na možnosť Keys and Endpoint v bočnom menu (vľavo).
- Kliknite na Show Keys - mali by ste vidieť: KEY 1, KEY 2 a Endpoint.
- Použite hodnotu KEY 1 pre AZURE_OPENAI_API_KEY
- Použite hodnotu Endpoint pre AZURE_OPENAI_ENDPOINT
Ďalej potrebujeme endpointy pre konkrétne modely, ktoré sme nasadili.
- Kliknite na možnosť Model deployments v bočnom menu (vľavo) pre Azure OpenAI zdroj.
- Na cieľovej stránke kliknite na Manage Deployments
Tým sa dostanete na web Azure OpenAI Studio, kde nájdeme ďalšie hodnoty podľa popisu nižšie.
- Prejdite do Azure OpenAI Studio cez svoj zdroj ako bolo popísané vyššie.
- Kliknite na záložku Deployments (bočné menu vľavo) pre zobrazenie aktuálne nasadených modelov.
- Ak váš požadovaný model nie je nasadený, použite Create new deployment na jeho nasadenie.
- Budete potrebovať model pre generovanie textu - odporúčame: gpt-35-turbo
- Budete potrebovať model pre textové embeddingy - odporúčame text-embedding-ada-002
Teraz aktualizujte premenné prostredia tak, aby odrážali názov nasadenia (Deployment name), ktorý ste použili. Zvyčajne to bude rovnaké ako názov modelu, pokiaľ ste ho výslovne nezmenili. Napríklad môžete mať:
AZURE_OPENAI_DEPLOYMENT='gpt-35-turbo'
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='text-embedding-ada-002'Nezabudnite súbor .env uložiť po úprave. Teraz môžete súbor zatvoriť a pokračovať podľa inštrukcií na spustenie notebooku.
Váš OpenAI API kľúč nájdete vo svojom OpenAI účte. Ak ho ešte nemáte, môžete si vytvoriť účet a vygenerovať API kľúč. Po získaní kľúča ho použite na vyplnenie premennej OPENAI_API_KEY v súbore .env.
Váš Hugging Face token nájdete vo svojom profile pod Access Tokens. Nezverejňujte ho ani nezdieľajte verejne. Namiesto toho si vytvorte nový token pre použitie v tomto projekte a skopírujte ho do súboru .env pod premennú HUGGING_FACE_API_KEY. Poznámka: Technicky nejde o API kľúč, ale používa sa na autentifikáciu, preto sme zachovali tento názov pre konzistenciu.
Vyhlásenie o zodpovednosti:
Tento dokument bol preložený pomocou AI prekladateľskej služby Co-op Translator. Hoci sa snažíme o presnosť, prosím, majte na pamäti, že automatizované preklady môžu obsahovať chyby alebo nepresnosti. Originálny dokument v jeho pôvodnom jazyku by mal byť považovaný za autoritatívny zdroj. Pre kritické informácie sa odporúča profesionálny ľudský preklad. Nie sme zodpovední za akékoľvek nedorozumenia alebo nesprávne interpretácie vyplývajúce z použitia tohto prekladu.