Skip to content

03-providers.md

Latest commit

 

History

History
122 lines (83 loc) · 18.3 KB

03-providers.md

File metadata and controls

122 lines (83 loc) · 18.3 KB

LLM வழங்குநரை தேர்வு செய்தல் மற்றும் கட்டமைத்தல் 🔑

பணிகள் சாத்தியமாக ஒரு அல்லது அதற்கு மேற்பட்ட பெரிய மொழி மாதிரி (LLM) அமர்வுகளுக்கு ஆதரவு வழங்குநர்களான OpenAI, Azure அல்லது Hugging Face போன்ற சேவையகங்களின் மூலம் அமைக்கப்படலாம். இவை நமக்கு சரியான அங்கீகாரத்துடன் (API விசை அல்லது டோக்கன்) நிரலாக்கமாக அணுகக்கூடிய ஹோஸ்ட் செய்யப்பட்ட முடிவுக்குறிப்பை (API) வழங்குகின்றன. இந்த பாடத்தில், நாம் இந்த வழங்குநர்களைப் பற்றி விவாதிக்கிறோம்:

  • OpenAI பல்வேறு மாதிரிகளுடன், முக்கியமான GPT தொடர் உட்பட.
  • Azure OpenAI OpenAI மாதிரிகளுக்கான, நிறுவன தயாரிப்புக்கு கவனம் செலுத்தி
  • Hugging Face திறந்த மூல மாதிரிகள் மற்றும் ஊக சேவையகம்

இந்த பயிற்சிகளுக்கு உங்கள் சொந்த கணக்குகளை பயன்படுத்த வேண்டும். பணிகள் விருப்பமானவை ஆகும், எனவே உங்கள் ஆர்வத்தின் அடிப்படையில் ஒரு, எல்லா அல்லது எதுவும் இல்லாமல் வழங்குநர்களை அமைக்க முடியும். பதிவு செய்ய சில வழிகாட்டுதல்கள்:

பதிவு செலவு API விசை விளையாட்டு மைதானம் கருத்துக்கள்
OpenAI விலை நிர்ணயம் திட்ட அடிப்படையிலானது கோடில்லா, வலை பல மாதிரிகள் கிடைக்கும்
Azure விலை நிர்ணயம் SDK விரைவு தொடக்கம் ஸ்டுடியோ விரைவு தொடக்கம் அணுகலுக்கு முன்பே விண்ணப்பிக்க வேண்டும்
Hugging Face விலை நிர்ணயம் அணுகல் டோக்கன்கள் Hugging Chat Hugging Chatக்கு வரையறுக்கப்பட்ட மாதிரிகள் உள்ளன

வழிமுறைகளை பின்பற்றி இந்த சேமிப்பகத்தை வெவ்வேறு வழங்குநர்களுடன் பயன்படுத்த கட்டமைக்கவும். குறிப்பிட்ட வழங்குநரை தேவைப்படுத்தும் பணிகள், அவற்றின் கோப்பு பெயரில் கீழ்க்காணும் குறிச்சொற்களில் ஒன்றை கொண்டிருக்கும்:

  • aoai - Azure OpenAI முடிவுக்குறிப்பு, விசை தேவை
  • oai - OpenAI முடிவுக்குறிப்பு, விசை தேவை
  • hf - Hugging Face டோக்கன் தேவை

நீங்கள் ஒரு, எதுவும் இல்லாமல் அல்லது எல்லா வழங்குநர்களையும் கட்டமைக்கலாம். தொடர்புடைய பணிகள் அங்கீகாரங்கள் இல்லாமல் பிழை காட்டும்.

.env கோப்பை உருவாக்குதல்

மேலே உள்ள வழிகாட்டுதலை நீங்கள் ஏற்கனவே படித்து, தொடர்புடைய வழங்குநருடன் பதிவு செய்து, தேவையான அங்கீகார அங்கீகாரங்களை (API_KEY அல்லது டோக்கன்) பெற்றிருப்பதாக நாம் கருதுகிறோம். Azure OpenAI என்றால், குறைந்தது ஒரு GPT மாதிரி உரையாடல் நிறைவு செய்யும் வகையில் Azure OpenAI சேவையின் (முடிவுக்குறிப்பு) செல்லுபடியான அமர்வு உங்களிடம் இருக்க வேண்டும்.

அடுத்த படி உங்கள் உள்ளூர் சூழல் மாறிலிகளை பின்வருமாறு கட்டமைக்க வேண்டும்:

  1. ரூட் கோப்பகத்தில் .env.copy என்ற கோப்பு இருக்கிறதா என்று பாருங்கள். அதில் பின்வருமாறு உள்ளடக்கம் இருக்கும்:

    # OpenAI வழங்குநர்
OPENAI_API_KEY='<add your OpenAI API key here>'

## அசுரே OpenAI
AZURE_OPENAI_API_VERSION='2024-02-01' # இயல்புநிலை அமைக்கப்பட்டுள்ளது!
AZURE_OPENAI_API_KEY='<add your AOAI key here>'
AZURE_OPENAI_ENDPOINT='<add your AOIA service endpoint here>'
AZURE_OPENAI_DEPLOYMENT='<add your chat completion model name here>' 
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='<add your embeddings model name here>'

## ஹக்கிங் பேஸ்
HUGGING_FACE_API_KEY='<add your HuggingFace API or token here>'

  2. கீழ்காணும் கட்டளையை பயன்படுத்தி அந்த கோப்பை .env ஆக நகலெடுக்கவும். இந்த கோப்பு gitignore-இல் உள்ளது, ரகசியங்களை பாதுகாக்கிறது.

    cp .env.copy .env

  3. அடுத்த பகுதியில் விவரிக்கப்பட்டபடி மதிப்புகளை (=`இடதுபுறம் உள்ள இடமாற்றிகளை மாற்றவும்) நிரப்பவும்.

  4. (விருப்பம்) நீங்கள் GitHub Codespaces பயன்படுத்தினால், இந்த சேமிப்பகத்துடன் தொடர்புடைய Codespaces ரகசியங்கள் ஆக சூழல் மாறிலிகளை சேமிக்கலாம். அந்த நிலையில், உள்ளூர் .env கோப்பை அமைக்க தேவையில்லை. ஆனால், இந்த விருப்பம் GitHub Codespaces பயன்படுத்தும் போது மட்டுமே வேலை செய்கிறது என்பதை கவனிக்கவும். Docker Desktop பயன்படுத்தினால் .env கோப்பை அமைக்கவேண்டும்.

.env கோப்பை நிரப்புதல்

மாறிலி பெயர்களை விரைவாக பார்ப்போம், அவை என்ன குறிக்கின்றன என்று புரிந்து கொள்வோம்:

மாறிலி விளக்கம்
HUGGING_FACE_API_KEY இது உங்கள் சுயவிவரத்தில் அமைத்த பயனர் அணுகல் டோக்கன்
OPENAI_API_KEY Azure அல்லாத OpenAI முடிவுக்குறிப்புகளுக்கான சேவை பயன்படுத்தும் அங்கீகார விசை
AZURE_OPENAI_API_KEY அந்த சேவையை பயன்படுத்தும் அங்கீகார விசை
AZURE_OPENAI_ENDPOINT Azure OpenAI வளத்திற்கான அமர்வு முடிவுக்குறிப்பு
AZURE_OPENAI_DEPLOYMENT உரை உருவாக்கும் மாதிரி அமர்வு முடிவுக்குறிப்பு
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT உரை நுழைவுகள் மாதிரி அமர்வு முடிவுக்குறிப்பு

குறிப்பு: கடைசி இரண்டு Azure OpenAI மாறிலிகள் உரையாடல் நிறைவு (உரை உருவாக்கல்) மற்றும் வெக்டர் தேடல் (நுழைவுகள்) ஆகியவற்றுக்கான இயல்புநிலை மாதிரியை பிரதிபலிக்கின்றன. அவற்றை அமைக்கும் வழிமுறைகள் தொடர்புடைய பணிகளில் வரையறுக்கப்படும்.

Azure ஐ கட்டமைத்தல்: போர்டல் மூலம்

Azure OpenAI முடிவுக்குறிப்பு மற்றும் விசை மதிப்புகள் Azure போர்டல் இல் காணப்படும், ஆகவே அங்கிருந்து தொடங்குவோம்.

  1. Azure போர்டல் செல்லவும்
  2. பக்கவாட்டில் (இடது மெனு) Keys and Endpoint விருப்பத்தை கிளிக் செய்யவும்.
  3. Show Keys கிளிக் செய்யவும் - KEY 1, KEY 2 மற்றும் Endpoint காணப்படும்.
  4. AZURE_OPENAI_API_KEY க்காக KEY 1 மதிப்பை பயன்படுத்தவும்
  5. AZURE_OPENAI_ENDPOINT க்காக Endpoint மதிப்பை பயன்படுத்தவும்

அடுத்து, நாம் அமர்த்திய குறிப்பிட்ட மாதிரிகளுக்கான முடிவுக்குறிப்புகளை தேவைப்படுத்துகிறோம்.

  1. Azure OpenAI வளத்திற்கான பக்கவாட்டில் (இடது மெனு) Model deployments விருப்பத்தை கிளிக் செய்யவும்.
  2. இலக்கு பக்கத்தில் Manage Deployments கிளிக் செய்யவும்

இது Azure OpenAI ஸ்டுடியோ இணையதளத்திற்கு கொண்டு செல்லும், அங்கு கீழே விவரிக்கப்பட்ட மற்ற மதிப்புகளை காணலாம்.

Azure ஐ கட்டமைத்தல்: ஸ்டுடியோ மூலம்

  1. மேலே விவரிக்கப்பட்டபடி உங்கள் வளத்திலிருந்து Azure OpenAI Studio செல்லவும்.
  2. தற்போது அமர்த்தப்பட்ட மாதிரிகளை காண Deployments தாவலை (பக்கவாட்டில், இடது) கிளிக் செய்யவும்.
  3. உங்கள் விருப்பமான மாதிரி அமர்த்தப்படவில்லை என்றால், Create new deployment பயன்படுத்தி அதை அமர்த்தவும்.
  4. நீங்கள் உரை உருவாக்கும் மாதிரியை தேவைப்படுத்துவீர்கள் - பரிந்துரைக்கப்படுகிறது: gpt-35-turbo
  5. நீங்கள் உரை நுழைவுகள் மாதிரியை தேவைப்படுத்துவீர்கள் - பரிந்துரைக்கப்படுகிறது text-embedding-ada-002

இப்போது, Deployment name பயன்படுத்தியதை பிரதிபலிக்க சூழல் மாறிலிகளை புதுப்பிக்கவும். இது பொதுவாக மாதிரி பெயருடன் ஒரே மாதிரியாக இருக்கும், நீங்கள் அதை தெளிவாக மாற்றவில்லை என்றால். உதாரணமாக, நீங்கள் இதுபோன்றதாக இருக்கலாம்:

AZURE_OPENAI_DEPLOYMENT='gpt-35-turbo'
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='text-embedding-ada-002'

முடிந்தவுடன் .env கோப்பை சேமிப்பதை மறக்காதீர்கள். இப்போது கோப்பை மூடி நோட்புக் இயக்கும் வழிமுறைகளுக்கு திரும்பலாம்.

OpenAI ஐ கட்டமைத்தல்: சுயவிவரத்திலிருந்து

உங்கள் OpenAI API விசை உங்கள் OpenAI கணக்கில் காணலாம். இல்லையெனில், கணக்கு பதிவு செய்து API விசை உருவாக்கலாம். விசையை பெற்றவுடன், .env கோப்பில் OPENAI_API_KEY மாறிலியை நிரப்ப பயன்படுத்தலாம்.

Hugging Face ஐ கட்டமைத்தல்: சுயவிவரத்திலிருந்து

உங்கள் Hugging Face டோக்கன் உங்கள் சுயவிவரத்தில் Access Tokens பகுதியில் காணலாம். இதை பொது இடங்களில் பகிர வேண்டாம். பதிலாக, இந்த திட்ட பயன்பாட்டிற்காக புதிய டோக்கன் உருவாக்கி அதை .env கோப்பில் HUGGING_FACE_API_KEY மாறிலியில் நகலெடுக்கவும். குறிப்பு: இது தொழில்நுட்ப ரீதியாக API விசை அல்ல, ஆனால் அங்கீகாரத்திற்காக பயன்படுத்தப்படுகிறது, எனவே ஒரே பெயரிடல் நடைமுறையை தொடர்கிறோம்.

குறிப்பு:
இந்த ஆவணம் AI மொழிபெயர்ப்பு சேவை Co-op Translator மூலம் மொழிபெயர்க்கப்பட்டுள்ளது. நாங்கள் துல்லியத்திற்காக முயற்சித்தாலும், தானியங்கி மொழிபெயர்ப்புகளில் பிழைகள் அல்லது தவறுகள் இருக்கக்கூடும் என்பதை தயவுசெய்து கவனிக்கவும். அசல் ஆவணம் அதன் சொந்த மொழியில் அதிகாரப்பூர்வ மூலமாக கருதப்பட வேண்டும். முக்கியமான தகவல்களுக்கு, தொழில்முறை மனித மொழிபெயர்ப்பு பரிந்துரைக்கப்படுகிறது. இந்த மொழிபெயர்ப்பின் பயன்பாட்டால் ஏற்படும் எந்த தவறான புரிதல்கள் அல்லது தவறான விளக்கங்களுக்கும் நாங்கள் பொறுப்பேற்கமாட்டோம்.