Skip to content

03-providers.md

Latest commit

 

History

History
131 lines (92 loc) · 12.6 KB

03-providers.md

File metadata and controls

131 lines (92 loc) · 12.6 KB

LLM فراہم کنندہ کا انتخاب اور ترتیب دینا 🔑

اسائنمنٹس ممکنہ طور پر ایک یا زیادہ بڑے زبان کے ماڈل (LLM) کی تعیناتیوں کے خلاف کام کرنے کے لیے ایک معاون سروس فراہم کنندہ جیسے OpenAI، Azure یا Hugging Face کے ذریعے ترتیب دی جا سکتی ہیں۔ یہ ایک میزبان اینڈپوائنٹ (API) فراہم کرتے ہیں جس تک ہم مناسب اسناد (API کلید یا ٹوکن) کے ساتھ پروگراماتی طور پر رسائی حاصل کر سکتے ہیں۔ اس کورس میں، ہم ان فراہم کنندگان پر بات کرتے ہیں:

  • OpenAI مختلف ماڈلز کے ساتھ بشمول بنیادی GPT سیریز۔
  • Azure OpenAI OpenAI ماڈلز کے لیے کاروباری تیاری پر توجہ کے ساتھ
  • Hugging Face اوپن سورس ماڈلز اور انفرنس سرور کے لیے

آپ کو ان مشقوں کے لیے اپنے ذاتی اکاؤنٹس استعمال کرنے ہوں گے۔ اسائنمنٹس اختیاری ہیں لہٰذا آپ اپنی دلچسپیوں کی بنیاد پر ایک، تمام یا کوئی بھی فراہم کنندہ ترتیب دے سکتے ہیں۔ سائن اپ کے لیے کچھ رہنمائی:

سائن اپ لاگت API کلید پلے گراؤنڈ تبصرے
OpenAI قیمتیں پروجیکٹ کی بنیاد پر نو-کوڈ، ویب متعدد ماڈلز دستیاب
Azure قیمتیں SDK کوئیک اسٹارٹ اسٹوڈیو کوئیک اسٹارٹ رسائی کے لیے پہلے درخواست دینا ضروری
Hugging Face قیمتیں رسائی کے ٹوکن Hugging Chat Hugging Chat میں محدود ماڈلز ہیں

نیچے دی گئی ہدایات پر عمل کریں تاکہ اس ریپوزیٹری کو مختلف فراہم کنندگان کے ساتھ استعمال کے لیے ترتیب دیا جا سکے۔ وہ اسائنمنٹس جنہیں کسی مخصوص فراہم کنندہ کی ضرورت ہو گی، ان کے فائل نام میں درج ذیل ٹیگز ہوں گے:

  • aoai - Azure OpenAI اینڈپوائنٹ، کلید کی ضرورت ہے
  • oai - OpenAI اینڈپوائنٹ، کلید کی ضرورت ہے
  • hf - Hugging Face ٹوکن کی ضرورت ہے

آپ ایک، کوئی یا تمام فراہم کنندگان کو ترتیب دے سکتے ہیں۔ متعلقہ اسائنمنٹس اسناد کی کمی پر صرف ایرر دیں گے۔

.env فائل بنائیں

ہم فرض کرتے ہیں کہ آپ نے اوپر دی گئی رہنمائی پڑھ لی ہے اور متعلقہ فراہم کنندہ کے ساتھ سائن اپ کر کے مطلوبہ توثیقی اسناد (API_KEY یا ٹوکن) حاصل کر لی ہیں۔ Azure OpenAI کی صورت میں، ہم فرض کرتے ہیں کہ آپ کے پاس Azure OpenAI سروس (اینڈپوائنٹ) کی ایک درست تعیناتی ہے جس میں کم از کم ایک GPT ماڈل چیٹ کمپلیشن کے لیے تعینات ہے۔

اگلا قدم آپ کے مقامی ماحول کے متغیرات کو درج ذیل طریقے سے ترتیب دینا ہے:

  1. روٹ فولڈر میں .env.copy فائل تلاش کریں جس میں مندرجہ ذیل مواد ہونا چاہیے:

    # اوپن اے آئی فراہم کنندہ
OPENAI_API_KEY='<add your OpenAI API key here>'

## ایزور اوپن اے آئی
AZURE_OPENAI_API_VERSION='2024-02-01' # ڈیفالٹ سیٹ ہے!
AZURE_OPENAI_API_KEY='<add your AOAI key here>'
AZURE_OPENAI_ENDPOINT='<add your AOIA service endpoint here>'
AZURE_OPENAI_DEPLOYMENT='<add your chat completion model name here>' 
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='<add your embeddings model name here>'

## ہگنگ فیس
HUGGING_FACE_API_KEY='<add your HuggingFace API or token here>'

  2. اس فائل کو نیچے دیے گئے کمانڈ سے .env میں کاپی کریں۔ یہ فائل gitignore-d ہے، رازوں کو محفوظ رکھتی ہے۔

    cp .env.copy .env

  3. اقدار کو پر کریں (دائیں جانب = کے بعد موجود جگہوں کو تبدیل کریں) جیسا کہ اگلے سیکشن میں بیان کیا گیا ہے۔

  4. (اختیاری) اگر آپ GitHub Codespaces استعمال کرتے ہیں، تو آپ کے پاس ماحول کے متغیرات کو اس ریپوزیٹری سے منسلک Codespaces secrets کے طور پر محفوظ کرنے کا اختیار ہے۔ ایسی صورت میں، آپ کو مقامی .env فائل ترتیب دینے کی ضرورت نہیں ہوگی۔ تاہم، نوٹ کریں کہ یہ اختیار صرف GitHub Codespaces استعمال کرنے پر کام کرتا ہے۔ اگر آپ Docker Desktop استعمال کرتے ہیں تو پھر بھی .env فائل ترتیب دینی ہوگی۔

.env فائل کو بھرنا

آئیے متغیرات کے ناموں پر ایک نظر ڈالیں تاکہ سمجھ سکیں کہ وہ کیا ظاہر کرتے ہیں:

متغیر وضاحت
HUGGING_FACE_API_KEY یہ وہ صارف رسائی ٹوکن ہے جو آپ نے اپنی پروفائل میں ترتیب دیا ہے
OPENAI_API_KEY یہ غیر Azure OpenAI اینڈپوائنٹس کے لیے سروس استعمال کرنے کی اجازت کی کلید ہے
AZURE_OPENAI_API_KEY یہ اس سروس کے استعمال کی اجازت کی کلید ہے
AZURE_OPENAI_ENDPOINT یہ Azure OpenAI وسائل کے لیے تعینات کردہ اینڈپوائنٹ ہے
AZURE_OPENAI_DEPLOYMENT یہ متن کی تخلیق ماڈل کی تعیناتی کا اینڈپوائنٹ ہے
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT یہ متن کے ایمبیڈنگز ماڈل کی تعیناتی کا اینڈپوائنٹ ہے

نوٹ: آخری دو Azure OpenAI متغیرات بالترتیب چیٹ کمپلیشن (متن کی تخلیق) اور ویکٹر سرچ (ایمبیڈنگز) کے لیے ایک ڈیفالٹ ماڈل کی عکاسی کرتے ہیں۔ انہیں ترتیب دینے کی ہدایات متعلقہ اسائنمنٹس میں دی جائیں گی۔

Azure کی ترتیب: پورٹل سے

Azure OpenAI اینڈپوائنٹ اور کلید کی قدریں Azure پورٹل میں ملیں گی، تو آئیے وہاں سے شروع کرتے ہیں۔

  1. Azure پورٹل پر جائیں
  2. سائڈبار (بائیں مینو) میں Keys and Endpoint آپشن پر کلک کریں۔
  3. Show Keys پر کلک کریں - آپ کو درج ذیل نظر آئے گا: KEY 1، KEY 2 اور Endpoint۔
  4. AZURE_OPENAI_API_KEY کے لیے KEY 1 کی قدر استعمال کریں
  5. AZURE_OPENAI_ENDPOINT کے لیے Endpoint کی قدر استعمال کریں

اب ہمیں ان مخصوص ماڈلز کے اینڈپوائنٹس کی ضرورت ہے جو ہم نے تعینات کیے ہیں۔

  1. Azure OpenAI وسائل کے لیے سائڈبار (بائیں مینو) میں Model deployments آپشن پر کلک کریں۔
  2. منزل کے صفحے پر، Manage Deployments پر کلک کریں

یہ آپ کو Azure OpenAI اسٹوڈیو ویب سائٹ پر لے جائے گا، جہاں ہم نیچے بیان کردہ دیگر قدریں تلاش کریں گے۔

Azure کی ترتیب: اسٹوڈیو سے

  1. Azure OpenAI Studio پر جائیں اپنے وسائل سے جیسا کہ اوپر بیان کیا گیا ہے۔
  2. موجودہ تعینات ماڈلز دیکھنے کے لیے Deployments ٹیب (سائڈبار، بائیں) پر کلک کریں۔
  3. اگر آپ کا مطلوبہ ماڈل تعینات نہیں ہے، تو اسے تعینات کرنے کے لیے Create new deployment استعمال کریں۔
  4. آپ کو ایک متن کی تخلیق ماڈل کی ضرورت ہوگی - ہم تجویز کرتے ہیں: gpt-35-turbo
  5. آپ کو ایک متن کے ایمبیڈنگ ماڈل کی ضرورت ہوگی - ہم تجویز کرتے ہیں text-embedding-ada-002

اب ماحول کے متغیرات کو اپ ڈیٹ کریں تاکہ استعمال شدہ Deployment name کی عکاسی ہو۔ یہ عام طور پر ماڈل کے نام کے برابر ہوتا ہے جب تک کہ آپ نے اسے واضح طور پر تبدیل نہ کیا ہو۔ مثال کے طور پر، آپ کے پاس ہو سکتا ہے:

AZURE_OPENAI_DEPLOYMENT='gpt-35-turbo'
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='text-embedding-ada-002'

کام مکمل ہونے پر .env فائل کو محفوظ کرنا نہ بھولیں۔ اب آپ فائل سے باہر نکل سکتے ہیں اور نوٹ بک چلانے کی ہدایات پر واپس جا سکتے ہیں۔

OpenAI کی ترتیب: پروفائل سے

آپ کی OpenAI API کلید آپ کے OpenAI اکاؤنٹ میں مل سکتی ہے۔ اگر آپ کے پاس کلید نہیں ہے، تو آپ اکاؤنٹ کے لیے سائن اپ کر کے API کلید بنا سکتے ہیں۔ کلید حاصل کرنے کے بعد، آپ اسے .env فائل میں OPENAI_API_KEY متغیر کو بھرنے کے لیے استعمال کر سکتے ہیں۔

Hugging Face کی ترتیب: پروفائل سے

آپ کا Hugging Face ٹوکن آپ کی پروفائل میں Access Tokens کے تحت مل سکتا ہے۔ انہیں عوامی طور پر پوسٹ یا شیئر نہ کریں۔ اس کے بجائے، اس پروجیکٹ کے استعمال کے لیے نیا ٹوکن بنائیں اور اسے .env فائل میں HUGGING_FACE_API_KEY متغیر کے تحت کاپی کریں۔ نوٹ: یہ تکنیکی طور پر API کلید نہیں ہے لیکن توثیق کے لیے استعمال ہوتا ہے، اس لیے ہم تسلسل کے لیے اسی نام کا استعمال کر رہے ہیں۔

دستخطی دستبرداری:
یہ دستاویز AI ترجمہ سروس Co-op Translator کے ذریعے ترجمہ کی گئی ہے۔ اگرچہ ہم درستگی کے لیے کوشاں ہیں، براہ کرم اس بات سے آگاہ رہیں کہ خودکار ترجمے میں غلطیاں یا عدم درستیاں ہو سکتی ہیں۔ اصل دستاویز اپنی مادری زبان میں معتبر ماخذ سمجھی جانی چاہیے۔ اہم معلومات کے لیے پیشہ ور انسانی ترجمہ کی سفارش کی جاتی ہے۔ اس ترجمے کے استعمال سے پیدا ہونے والی کسی بھی غلط فہمی یا غلط تشریح کی ذمہ داری ہم پر عائد نہیں ہوتی۔