Skip to content

03-providers.md

Latest commit

 

History

History
131 lines (92 loc) · 16.8 KB

03-providers.md

File metadata and controls

131 lines (92 loc) · 16.8 KB

एक LLM प्रदाता चुनना और कॉन्फ़िगर करना 🔑

असाइनमेंट्स शायद एक या अधिक बड़े भाषा मॉडल (LLM) डिप्लॉयमेंट्स के खिलाफ काम करने के लिए एक समर्थित सेवा प्रदाता जैसे OpenAI, Azure या Hugging Face के माध्यम से सेटअप किए जा सकते हैं। ये एक होस्टेड एंडपॉइंट (API) प्रदान करते हैं जिसे हम सही प्रमाण-पत्रों (API कुंजी या टोकन) के साथ प्रोग्रामेटिक रूप से एक्सेस कर सकते हैं। इस कोर्स में, हम इन प्रदाताओं पर चर्चा करते हैं:

  • OpenAI जिसमें कोर GPT श्रृंखला सहित विविध मॉडल शामिल हैं।
  • Azure OpenAI OpenAI मॉडल के लिए, जिसमें एंटरप्राइज रेडीनेस पर ध्यान केंद्रित है
  • Hugging Face ओपन-सोर्स मॉडल और इन्फरेंस सर्वर के लिए

आपको इन अभ्यासों के लिए अपने स्वयं के खाते का उपयोग करना होगा। असाइनमेंट वैकल्पिक हैं इसलिए आप अपनी रुचि के आधार पर एक, सभी - या कोई भी - प्रदाता सेटअप कर सकते हैं। साइनअप के लिए कुछ मार्गदर्शन:

साइनअप लागत API कुंजी प्लेग्राउंड टिप्पणियाँ
OpenAI मूल्य निर्धारण प्रोजेक्ट-आधारित नो-कोड, वेब कई मॉडल उपलब्ध
Azure मूल्य निर्धारण SDK क्विकस्टार्ट स्टूडियो क्विकस्टार्ट पहले से एक्सेस के लिए आवेदन करना आवश्यक
Hugging Face मूल्य निर्धारण एक्सेस टोकन Hugging Chat Hugging Chat में सीमित मॉडल हैं

इस रिपॉजिटरी को विभिन्न प्रदाताओं के साथ उपयोग के लिए कॉन्फ़िगर करने के निर्देश नीचे दिए गए हैं। जिन असाइनमेंट्स को किसी विशिष्ट प्रदाता की आवश्यकता होगी, उनके फ़ाइल नाम में निम्नलिखित टैग होंगे:

  • aoai - Azure OpenAI एंडपॉइंट, कुंजी आवश्यक है
  • oai - OpenAI एंडपॉइंट, कुंजी आवश्यक है
  • hf - Hugging Face टोकन आवश्यक है

आप एक, कोई या सभी प्रदाताओं को कॉन्फ़िगर कर सकते हैं। संबंधित असाइनमेंट्स बस गुमशुदा प्रमाण-पत्रों पर त्रुटि दिखाएंगे।

.env फ़ाइल बनाएँ

हम मानते हैं कि आपने ऊपर दिए गए मार्गदर्शन को पढ़ लिया है और संबंधित प्रदाता के साथ साइन अप कर लिया है, और आवश्यक प्रमाणीकरण प्रमाण-पत्र (API_KEY या टोकन) प्राप्त कर लिए हैं। Azure OpenAI के मामले में, हम मानते हैं कि आपके पास Azure OpenAI सेवा (एंडपॉइंट) का एक वैध डिप्लॉयमेंट है जिसमें कम से कम एक GPT मॉडल चैट पूर्णता के लिए डिप्लॉय किया गया है।

अगला कदम है अपने स्थानीय पर्यावरण चर को निम्नानुसार कॉन्फ़िगर करना:

  1. रूट फ़ोल्डर में .env.copy नामक फ़ाइल देखें जिसमें इस तरह की सामग्री होनी चाहिए:

    # OpenAI प्रदाता
OPENAI_API_KEY='<add your OpenAI API key here>'

## Azure OpenAI
AZURE_OPENAI_API_VERSION='2024-02-01' # डिफ़ॉल्ट सेट किया गया है!
AZURE_OPENAI_API_KEY='<add your AOAI key here>'
AZURE_OPENAI_ENDPOINT='<add your AOIA service endpoint here>'
AZURE_OPENAI_DEPLOYMENT='<add your chat completion model name here>' 
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='<add your embeddings model name here>'

## Hugging Face
HUGGING_FACE_API_KEY='<add your HuggingFace API or token here>'

  2. नीचे दिए गए कमांड का उपयोग करके उस फ़ाइल को .env में कॉपी करें। यह फ़ाइल gitignore-d है, जो रहस्यों को सुरक्षित रखती है।

    cp .env.copy .env

  3. मान भरें (दाएँ तरफ = के बाद प्लेसहोल्डर को बदलें) जैसा कि अगले अनुभाग में वर्णित है।

  4. (वैकल्पिक) यदि आप GitHub Codespaces का उपयोग करते हैं, तो आपके पास पर्यावरण चर को इस रिपॉजिटरी से जुड़े Codespaces secrets के रूप में सहेजने का विकल्प होता है। उस स्थिति में, आपको स्थानीय .env फ़ाइल सेटअप करने की आवश्यकता नहीं होगी। हालांकि, ध्यान दें कि यह विकल्प केवल तब काम करता है जब आप GitHub Codespaces का उपयोग करते हैं। यदि आप Docker Desktop का उपयोग करते हैं तो आपको अभी भी .env फ़ाइल सेटअप करनी होगी।

.env फ़ाइल भरें

आइए जल्दी से चर नामों को देखें ताकि समझ सकें कि वे क्या दर्शाते हैं:

चर विवरण
HUGGING_FACE_API_KEY यह वह उपयोगकर्ता एक्सेस टोकन है जिसे आपने अपनी प्रोफ़ाइल में सेटअप किया है
OPENAI_API_KEY यह गैर-Azure OpenAI एंडपॉइंट्स के लिए सेवा का उपयोग करने की प्राधिकरण कुंजी है
AZURE_OPENAI_API_KEY यह उस सेवा का उपयोग करने की प्राधिकरण कुंजी है
AZURE_OPENAI_ENDPOINT यह Azure OpenAI संसाधन के लिए डिप्लॉय किया गया एंडपॉइंट है
AZURE_OPENAI_DEPLOYMENT यह टेक्स्ट जनरेशन मॉडल डिप्लॉयमेंट एंडपॉइंट है
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT यह टेक्स्ट एम्बेडिंग्स मॉडल डिप्लॉयमेंट एंडपॉइंट है

ध्यान दें: अंतिम दो Azure OpenAI चर चैट पूर्णता (टेक्स्ट जनरेशन) और वेक्टर खोज (एम्बेडिंग्स) के लिए डिफ़ॉल्ट मॉडल को दर्शाते हैं। इन्हें सेट करने के निर्देश संबंधित असाइनमेंट्स में दिए जाएंगे।

Azure कॉन्फ़िगर करें: पोर्टल से

Azure OpenAI एंडपॉइंट और कुंजी मान Azure पोर्टल में पाए जाएंगे, तो आइए वहीं से शुरू करें।

  1. Azure पोर्टल पर जाएँ
  2. साइडबार (बाएँ मेनू) में Keys and Endpoint विकल्प पर क्लिक करें।
  3. Show Keys पर क्लिक करें - आपको निम्न दिखाई देगा: KEY 1, KEY 2 और Endpoint।
  4. AZURE_OPENAI_API_KEY के लिए KEY 1 मान का उपयोग करें
  5. AZURE_OPENAI_ENDPOINT के लिए Endpoint मान का उपयोग करें

अगला, हमें उन विशिष्ट मॉडलों के एंडपॉइंट्स चाहिए जिन्हें हमने डिप्लॉय किया है।

  1. Azure OpenAI संसाधन के लिए साइडबार (बाएँ मेनू) में Model deployments विकल्प पर क्लिक करें।
  2. गंतव्य पृष्ठ में, Manage Deployments पर क्लिक करें

यह आपको Azure OpenAI Studio वेबसाइट पर ले जाएगा, जहाँ हम नीचे वर्णित अन्य मान पाएंगे।

Azure कॉन्फ़िगर करें: स्टूडियो से

  1. ऊपर वर्णित अनुसार अपने संसाधन से Azure OpenAI Studio पर जाएँ।
  2. वर्तमान में डिप्लॉय किए गए मॉडलों को देखने के लिए साइडबार (बाएँ) में Deployments टैब पर क्लिक करें।
  3. यदि आपका इच्छित मॉडल डिप्लॉय नहीं है, तो इसे डिप्लॉय करने के लिए Create new deployment का उपयोग करें।
  4. आपको एक टेक्स्ट-जनरेशन मॉडल की आवश्यकता होगी - हम सुझाव देते हैं: gpt-35-turbo
  5. आपको एक टेक्स्ट-एम्बेडिंग मॉडल की आवश्यकता होगी - हम सुझाव देते हैं text-embedding-ada-002

अब पर्यावरण चर को अपडेट करें ताकि वे उपयोग किए गए Deployment name को दर्शाएँ। यह आमतौर पर मॉडल नाम के समान होगा जब तक कि आपने इसे स्पष्ट रूप से नहीं बदला हो। उदाहरण के लिए, आपके पास हो सकता है:

AZURE_OPENAI_DEPLOYMENT='gpt-35-turbo'
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='text-embedding-ada-002'

काम पूरा होने पर .env फ़ाइल को सहेजना न भूलें। अब आप फ़ाइल से बाहर निकल सकते हैं और नोटबुक चलाने के निर्देशों पर वापस जा सकते हैं।

OpenAI कॉन्फ़िगर करें: प्रोफ़ाइल से

आपकी OpenAI API कुंजी आपकी OpenAI खाता में पाई जा सकती है। यदि आपके पास नहीं है, तो आप एक खाता बना सकते हैं और API कुंजी बना सकते हैं। कुंजी प्राप्त करने के बाद, आप इसे .env फ़ाइल में OPENAI_API_KEY चर में भर सकते हैं।

Hugging Face कॉन्फ़िगर करें: प्रोफ़ाइल से

आपका Hugging Face टोकन आपकी प्रोफ़ाइल में Access Tokens के अंतर्गत पाया जा सकता है। इन्हें सार्वजनिक रूप से पोस्ट या साझा न करें। इसके बजाय, इस प्रोजेक्ट उपयोग के लिए एक नया टोकन बनाएं और उसे .env फ़ाइल में HUGGING_FACE_API_KEY चर के अंतर्गत कॉपी करें। ध्यान दें: यह तकनीकी रूप से API कुंजी नहीं है लेकिन प्रमाणीकरण के लिए उपयोग किया जाता है इसलिए हम संगति के लिए इस नामकरण सम्मेलन को बनाए रख रहे हैं।

अस्वीकरण:
यह दस्तावेज़ AI अनुवाद सेवा Co-op Translator का उपयोग करके अनुवादित किया गया है। जबकि हम सटीकता के लिए प्रयासरत हैं, कृपया ध्यान दें कि स्वचालित अनुवादों में त्रुटियाँ या अशुद्धियाँ हो सकती हैं। मूल दस्तावेज़ अपनी मूल भाषा में ही अधिकारिक स्रोत माना जाना चाहिए। महत्वपूर्ण जानकारी के लिए, पेशेवर मानव अनुवाद की सलाह दी जाती है। इस अनुवाद के उपयोग से उत्पन्न किसी भी गलतफहमी या गलत व्याख्या के लिए हम जिम्मेदार नहीं हैं।