اوپن سورس LLMs کی دنیا نہایت دلچسپ اور مسلسل ترقی پذیر ہے۔ اس سبق کا مقصد اوپن سورس ماڈلز پر گہرائی سے نظر ڈالنا ہے۔ اگر آپ یہ جاننا چاہتے ہیں کہ ملکیتی ماڈلز اوپن سورس ماڈلز کے مقابلے میں کیسے ہیں، تو "مختلف LLMs کا جائزہ اور موازنہ" سبق دیکھیں۔ اس سبق میں فائن ٹیوننگ کے موضوع پر بھی بات کی جائے گی، لیکن اس کی مزید تفصیل "فائن ٹیوننگ LLMs" سبق میں موجود ہے۔
- اوپن سورس ماڈلز کو سمجھنا
- اوپن سورس ماڈلز کے ساتھ کام کرنے کے فوائد کو سمجھنا
- Hugging Face اور Azure AI Studio پر دستیاب اوپن ماڈلز کا جائزہ لینا
اوپن سورس سافٹ ویئر نے مختلف شعبوں میں ٹیکنالوجی کی ترقی میں اہم کردار ادا کیا ہے۔ اوپن سورس انیشیٹو (OSI) نے سافٹ ویئر کو اوپن سورس کے طور پر درجہ بندی کرنے کے لیے 10 معیارات مقرر کیے ہیں۔ سورس کوڈ کو OSI کی منظور شدہ لائسنس کے تحت کھلے عام شیئر کیا جانا چاہیے۔
LLMs کی ترقی میں سافٹ ویئر کی ترقی جیسے عناصر شامل ہیں، لیکن یہ عمل بالکل ایک جیسا نہیں ہے۔ اس وجہ سے کمیونٹی میں LLMs کے سیاق و سباق میں اوپن سورس کی تعریف پر کافی بحث ہوئی ہے۔ ایک ماڈل کو روایتی اوپن سورس تعریف کے مطابق ہونے کے لیے درج ذیل معلومات عوامی طور پر دستیاب ہونی چاہئیں:
- ماڈل کو تربیت دینے کے لیے استعمال کیے گئے ڈیٹاسیٹس۔
- مکمل ماڈل ویٹس تربیت کے حصے کے طور پر۔
- ایویلیوایشن کوڈ۔
- فائن ٹیوننگ کوڈ۔
- مکمل ماڈل ویٹس اور تربیتی میٹرکس۔
فی الحال، صرف چند ماڈلز اس معیار پر پورا اترتے ہیں۔ OLMo ماڈل، جو Allen Institute for Artificial Intelligence (AllenAI) نے بنایا ہے، اس زمرے میں آتا ہے۔
اس سبق کے لیے، ہم ان ماڈلز کو "اوپن ماڈلز" کہیں گے کیونکہ وہ اس وقت لکھنے کے دوران مذکورہ معیار پر پورا نہیں اتر سکتے۔
انتہائی حسب ضرورت - چونکہ اوپن ماڈلز کو تفصیلی تربیتی معلومات کے ساتھ جاری کیا جاتا ہے، محققین اور ڈویلپرز ماڈل کے اندرونی حصوں میں ترمیم کر سکتے ہیں۔ یہ انتہائی مخصوص کاموں یا مطالعے کے شعبوں کے لیے فائن ٹیون کیے گئے ماڈلز بنانے کے قابل بناتا ہے۔ اس کی کچھ مثالیں کوڈ جنریشن، ریاضیاتی آپریشنز اور حیاتیات ہیں۔
لاگت - ان ماڈلز کو استعمال کرنے اور تعینات کرنے کی لاگت ملکیتی ماڈلز کے مقابلے میں کم ہے۔ جب جنریٹو AI ایپلیکیشنز بنائی جا رہی ہوں، تو ان ماڈلز کے ساتھ کام کرتے وقت کارکردگی بمقابلہ قیمت کا جائزہ لینا ضروری ہے۔
ماخذ: Artificial Analysis
لچک - اوپن ماڈلز کے ساتھ کام کرنے سے آپ کو مختلف ماڈلز استعمال کرنے یا انہیں یکجا کرنے میں لچک ملتی ہے۔ اس کی ایک مثال HuggingChat Assistants ہے، جہاں صارف انٹرفیس میں براہ راست استعمال ہونے والے ماڈل کا انتخاب کر سکتا ہے:
LLama2، جو Meta نے تیار کیا ہے، ایک اوپن ماڈل ہے جو چیٹ پر مبنی ایپلیکیشنز کے لیے بہتر بنایا گیا ہے۔ یہ اس کے فائن ٹیوننگ طریقے کی وجہ سے ہے، جس میں بڑی مقدار میں مکالمہ اور انسانی تاثرات شامل تھے۔ اس طریقے کے ساتھ، ماڈل ایسے نتائج پیدا کرتا ہے جو انسانی توقعات کے مطابق زیادہ ہوتے ہیں، جو ایک بہتر صارف تجربہ فراہم کرتا ہے۔
Llama کے فائن ٹیون کیے گئے ورژنز کی کچھ مثالیں Japanese Llama ہیں، جو جاپانی زبان میں مہارت رکھتا ہے، اور Llama Pro، جو بنیادی ماڈل کا ایک بہتر ورژن ہے۔
Mistral ایک اوپن ماڈل ہے جو اعلیٰ کارکردگی اور مؤثریت پر زور دیتا ہے۔ یہ Mixture-of-Experts طریقہ استعمال کرتا ہے، جو ماہر ماڈلز کے ایک گروپ کو ایک نظام میں یکجا کرتا ہے، جہاں ان پٹ کے مطابق مخصوص ماڈلز منتخب کیے جاتے ہیں۔ یہ کمپیوٹیشن کو زیادہ مؤثر بناتا ہے کیونکہ ماڈلز صرف ان ان پٹس کو ایڈریس کرتے ہیں جن میں وہ مہارت رکھتے ہیں۔
Mistral کے فائن ٹیون کیے گئے ورژنز کی کچھ مثالیں BioMistral ہیں، جو طبی شعبے پر مرکوز ہے، اور OpenMath Mistral، جو ریاضیاتی حسابات انجام دیتا ہے۔
Falcon ایک LLM ہے جو Technology Innovation Institute (TII) نے بنایا ہے۔ Falcon-40B کو 40 ارب پیرامیٹرز پر تربیت دی گئی ہے، جس نے کم کمپیوٹ بجٹ کے ساتھ GPT-3 سے بہتر کارکردگی دکھائی ہے۔ یہ FlashAttention الگورتھم اور ملٹی کوئری اٹینشن کے استعمال کی وجہ سے ہے، جو انفرنس کے وقت میموری کی ضروریات کو کم کرنے کے قابل بناتا ہے۔ اس کم انفرنس وقت کے ساتھ، Falcon-40B چیٹ ایپلیکیشنز کے لیے موزوں ہے۔
Falcon کے فائن ٹیون کیے گئے ورژنز کی کچھ مثالیں OpenAssistant ہیں، جو اوپن ماڈلز پر مبنی ایک اسسٹنٹ ہے، اور GPT4ALL، جو بنیادی ماڈل سے زیادہ کارکردگی فراہم کرتا ہے۔
اوپن ماڈل کے انتخاب کے لیے کوئی ایک جواب نہیں ہے۔ ایک اچھی شروعات Azure AI Studio کے "فلٹر بائی ٹاسک" فیچر کا استعمال ہے۔ یہ آپ کو یہ سمجھنے میں مدد دے گا کہ ماڈل کو کس قسم کے کاموں کے لیے تربیت دی گئی ہے۔ Hugging Face بھی ایک LLM لیڈر بورڈ برقرار رکھتا ہے، جو مخصوص میٹرکس کی بنیاد پر بہترین کارکردگی دکھانے والے ماڈلز کو ظاہر کرتا ہے۔
مختلف اقسام کے LLMs کا موازنہ کرنے کے لیے، Artificial Analysis ایک اور بہترین ذریعہ ہے:
ماخذ: Artificial Analysis
اگر آپ کسی مخصوص استعمال کے کیس پر کام کر رہے ہیں، تو اسی شعبے پر مرکوز فائن ٹیون کیے گئے ورژنز کی تلاش مؤثر ہو سکتی ہے۔ مختلف اوپن ماڈلز کے ساتھ تجربہ کرنا اور یہ دیکھنا کہ وہ آپ اور آپ کے صارفین کی توقعات کے مطابق کیسے کارکردگی دکھاتے ہیں، ایک اور اچھی مشق ہے۔
اوپن ماڈلز کی سب سے اچھی بات یہ ہے کہ آپ ان کے ساتھ کام کرنا جلدی شروع کر سکتے ہیں۔ Azure AI Foundry Model Catalog دیکھیں، جس میں Hugging Face کا ایک مخصوص کلیکشن شامل ہے، جس میں وہ ماڈلز شامل ہیں جن پر ہم نے یہاں بات کی۔
اس سبق کو مکمل کرنے کے بعد، ہماری Generative AI Learning collection دیکھیں تاکہ اپنی Generative AI کی معلومات کو مزید بہتر بنایا جا سکے!
ڈسکلیمر:
یہ دستاویز AI ترجمہ سروس Co-op Translator کا استعمال کرتے ہوئے ترجمہ کی گئی ہے۔ ہم درستگی کے لیے کوشش کرتے ہیں، لیکن براہ کرم آگاہ رہیں کہ خودکار ترجمے میں غلطیاں یا غیر درستیاں ہو سکتی ہیں۔ اصل دستاویز کو اس کی اصل زبان میں مستند ذریعہ سمجھا جانا چاہیے۔ اہم معلومات کے لیے، پیشہ ور انسانی ترجمہ کی سفارش کی جاتی ہے۔ ہم اس ترجمے کے استعمال سے پیدا ہونے والی کسی بھی غلط فہمی یا غلط تشریح کے ذمہ دار نہیں ہیں۔