Skip to content

SETUP.md

Latest commit

 

History

History
145 lines (100 loc) · 11.4 KB

SETUP.md

File metadata and controls

145 lines (100 loc) · 11.4 KB

Sanidi Mazingira Yako ya Maendeleo

Tumesanidi hazina hii na kozi hii kwa kutumia kontena la maendeleo ambalo lina runtime ya Universal inayoweza kuunga mkono maendeleo ya Python3, .NET, Node.js na Java. Mipangilio inayohusiana imefafanuliwa katika faili la devcontainer.json lililoko katika folda ya .devcontainer/ kwenye mzizi wa hazina hii.

Ili kuanzisha kontena la maendeleo, liendeshe katika GitHub Codespaces (kwa runtime inayohudumiwa kwenye wingu) au katika Docker Desktop (kwa runtime inayohudumiwa kwenye kifaa chako). Soma nyaraka hii kwa maelezo zaidi kuhusu jinsi kontena za maendeleo zinavyofanya kazi ndani ya VS Code.

Tip

Tunapendekeza kutumia GitHub Codespaces kwa kuanza haraka na juhudi kidogo. Inatoa kiasi cha matumizi bure kwa akaunti za binafsi. Sanidi muda wa kusitisha ili kuacha au kufuta codespaces zisizotumika ili kutumia vizuri kiasi chako.

1. Kutekeleza Majukumu

Kila somo litakuwa na majukumu hiari ambayo yanaweza kutolewa kwa lugha moja au zaidi za programu ikiwa ni pamoja na: Python, .NET/C#, Java na JavaScript/TypeScript. Sehemu hii inatoa mwongozo wa jumla kuhusu jinsi ya kutekeleza majukumu hayo.

1.1 Majukumu ya Python

Majukumu ya Python hutolewa kama programu (.py files) au daftari za Jupyter (.ipynb files).

  • Ili kuendesha daftari, lifungue katika Visual Studio Code kisha bonyeza Select Kernel (juu kulia) na chagua chaguo la Python 3 la msingi lililoonyeshwa. Sasa unaweza Run All kuendesha daftari lote.
  • Ili kuendesha programu za Python kutoka kwenye mstari wa amri, fuata maelekezo maalum ya kazi ili kuhakikisha unachagua faili sahihi na kutoa hoja zinazohitajika.

2. Kusanidi Watoa Huduma

Majukumu yanaweza pia kusanidiwa kufanya kazi dhidi ya moja au zaidi ya usambazaji wa Large Language Model (LLM) kupitia mtoa huduma anayeunga mkono kama OpenAI, Azure au Hugging Face. Hawa hutoa endpoint iliyohudumiwa (API) ambayo tunaweza kufikia kwa njia ya programu kwa kutumia vyeti sahihi (funguo za API au tokeni). Katika kozi hii, tunajadili watoa huduma hawa:

  • OpenAI na mifano mbalimbali ikiwemo mfululizo wa msingi wa GPT.
  • Azure OpenAI kwa mifano ya OpenAI yenye mwelekeo wa utayari wa biashara
  • Hugging Face kwa mifano ya chanzo huria na seva ya inference

Utahitaji kutumia akaunti zako mwenyewe kwa mazoezi haya. Majukumu ni hiari hivyo unaweza kuchagua kusanidi mmoja, yote - au hakuna - wa watoa huduma kulingana na maslahi yako. Mwongozo wa usajili:

Usajili Gharama Funguo ya API Uwanja wa Mchezo Maoni
OpenAI Bei Kipindi cha mradi Bila Msimbo, Mtandao Mifano Mingi Inayopatikana
Azure Bei Mwanzilishi wa SDK Mwanzilishi wa Studio Lazima Uombe Kabla ya Kupata Ufikiaji
Hugging Face Bei Tokeni za Ufikiaji Hugging Chat Hugging Chat ina mifano michache

Fuata maelekezo hapa chini ili kusanidi hazina hii kwa matumizi na watoa huduma tofauti. Majukumu yanayohitaji mtoa huduma maalum yataonyesha moja ya lebo hizi kwenye jina la faili:

  • aoai - inahitaji endpoint na funguo za Azure OpenAI
  • oai - inahitaji endpoint na funguo za OpenAI
  • hf - inahitaji tokeni ya Hugging Face

Unaweza kusanidi mmoja, hakuna, au wote watoa huduma. Majukumu yanayohusiana yataonyesha kosa la vyeti vinapokosekana.

2.1. Tengeneza faili .env

Tunadhani tayari umesoma mwongozo hapo juu na umejisajili kwa mtoa huduma husika, na umepata vyeti vinavyohitajika vya uthibitishaji (API_KEY au tokeni). Kwa Azure OpenAI, tunadhani pia una usambazaji halali wa Azure OpenAI Service (endpoint) na angalau mfano mmoja wa GPT umewekwa kwa ajili ya kukamilisha mazungumzo.

Hatua inayofuata ni kusanidi mabadiliko ya mazingira ya eneo lako kama ifuatavyo:

  1. Tafuta katika folda ya mzizi faili la .env.copy ambalo linapaswa kuwa na maudhui kama haya:

    # OpenAI Provider
OPENAI_API_KEY='<add your OpenAI API key here>'

## Azure OpenAI
AZURE_OPENAI_API_VERSION='2024-02-01' # Default is set!
AZURE_OPENAI_API_KEY='<add your AOAI key here>'
AZURE_OPENAI_ENDPOINT='<add your AOIA service endpoint here>'
AZURE_OPENAI_DEPLOYMENT='<add your chat completion model name here>' 
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='<add your embeddings model name here>'

## Hugging Face
HUGGING_FACE_API_KEY='<add your HuggingFace API or token here>'

  2. Nakili faili hiyo kwa jina .env kwa kutumia amri ifuatayo. Faili hili limewekwa kwenye gitignore, linahifadhi siri salama.

    cp .env.copy .env

  3. Jaza thamani (badilisha sehemu za nafasi upande wa kulia wa =) kama ilivyoelezwa katika sehemu inayofuata.

  4. (Hiari) Ikiwa unatumia GitHub Codespaces, una chaguo la kuhifadhi mabadiliko ya mazingira kama siri za Codespaces zinazohusiana na hazina hii. Katika hali hiyo, hautahitaji kusanidi faili la .env la eneo lako. Hata hivyo, kumbuka kuwa chaguo hili linafanya kazi tu ikiwa unatumia GitHub Codespaces. Bado utahitaji kusanidi faili la .env ikiwa unatumia Docker Desktop badala yake.

2.2. Jaza faili .env

Tuchukue muhtasari wa majina ya mabadiliko ili kuelewa yanayowakilisha:

Kigezo Maelezo
HUGGING_FACE_API_KEY Hii ni tokeni ya ufikiaji ya mtumiaji uliyoanzisha kwenye wasifu wako
OPENAI_API_KEY Hii ni funguo ya idhini ya kutumia huduma kwa endpoints zisizo za Azure OpenAI
AZURE_OPENAI_API_KEY Hii ni funguo ya idhini ya kutumia huduma hiyo
AZURE_OPENAI_ENDPOINT Hii ni endpoint iliyosambazwa kwa rasilimali ya Azure OpenAI
AZURE_OPENAI_DEPLOYMENT Hii ni endpoint ya usambazaji wa mfano wa utengenezaji wa maandishi
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT Hii ni endpoint ya usambazaji wa mfano wa embedding za maandishi

Kumbuka: Mabadiliko mawili ya mwisho ya Azure OpenAI yanaonyesha mfano wa msingi kwa ajili ya kukamilisha mazungumzo (utengenezaji wa maandishi) na utafutaji wa vector (embedding) mtawalia. Maelekezo ya kuyapanga yatafafanuliwa katika majukumu husika.

2.3 Sanidi Azure: Kutoka Portal

Thamani za endpoint na funguo za Azure OpenAI zitapatikana katika Azure Portal hivyo tuanze hapo.

  1. Nenda kwenye Azure Portal
  2. Bonyeza chaguo la Keys and Endpoint kwenye menyu ya pembeni (kushoto).
  3. Bonyeza Show Keys - utapata yafuatayo: KEY 1, KEY 2 na Endpoint.
  4. Tumia thamani ya KEY 1 kwa AZURE_OPENAI_API_KEY
  5. Tumia thamani ya Endpoint kwa AZURE_OPENAI_ENDPOINT

Ifuatayo, tunahitaji endpoints za mifano maalum tuliyoisambaza.

  1. Bonyeza chaguo la Model deployments kwenye menyu ya pembeni (kushoto) kwa rasilimali ya Azure OpenAI.
  2. Ukifika kwenye ukurasa wa lengo, bonyeza Manage Deployments

Hii itakupeleka kwenye tovuti ya Azure OpenAI Studio, ambapo tutapata thamani nyingine kama ilivyoelezwa hapa chini.

2.4 Sanidi Azure: Kutoka Studio

  1. Nenda kwenye Azure OpenAI Studio kutoka kwenye rasilimali yako kama ilivyoelezwa hapo juu.
  2. Bonyeza kichupo cha Deployments (pembeni kushoto) kuona mifano iliyosambazwa kwa sasa.
  3. Ikiwa mfano unaotaka haujasambazwa, tumia Create new deployment kuusambaza.
  4. Utahitaji mfano wa text-generation - tunapendekeza: gpt-35-turbo
  5. Utahitaji mfano wa text-embedding - tunapendekeza text-embedding-ada-002

Sasa sasisha mabadiliko ya mazingira kuonyesha Jina la Usambazaji lililotumika. Hii kawaida itakuwa sawa na jina la mfano isipokuwa umebadilisha kwa makusudi. Kwa mfano, unaweza kuwa na:

AZURE_OPENAI_DEPLOYMENT='gpt-35-turbo'
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='text-embedding-ada-002'

Usisahau kuhifadhi faili la .env baada ya kumaliza. Sasa unaweza kutoka kwenye faili na kurudi kwenye maelekezo ya kuendesha daftari.

2.5 Sanidi OpenAI: Kutoka Wasifu

Funguo yako ya API ya OpenAI inaweza kupatikana katika akaunti yako ya OpenAI. Ikiwa huna, unaweza kujisajili na kuunda funguo ya API. Ukipata funguo, tumia kuijaza kwenye kigezo cha OPENAI_API_KEY katika faili la .env.

2.6 Sanidi Hugging Face: Kutoka Wasifu

Tokeni yako ya Hugging Face inaweza kupatikana kwenye wasifu wako chini ya Access Tokens. Usizitangaze au kuzishirikisha hadharani. Badala yake, tengeneza tokeni mpya kwa matumizi ya mradi huu na nakili hiyo kwenye faili la .env chini ya kigezo cha HUGGING_FACE_API_KEY. Kumbuka: Hii si funguo ya API kiufundi lakini hutumika kwa uthibitishaji hivyo tunahifadhi jina hili kwa usawa.

Kiarifu cha Kutotegemea:
Hati hii imetafsiriwa kwa kutumia huduma ya tafsiri ya AI Co-op Translator. Ingawa tunajitahidi kwa usahihi, tafadhali fahamu kwamba tafsiri za kiotomatiki zinaweza kuwa na makosa au upungufu wa usahihi. Hati ya asili katika lugha yake ya asili inapaswa kuchukuliwa kama chanzo cha mamlaka. Kwa taarifa muhimu, tafsiri ya kitaalamu inayofanywa na binadamu inapendekezwa. Hatubebei dhamana kwa kutoelewana au tafsiri potofu zinazotokana na matumizi ya tafsiri hii.