Skip to content

03-providers.md

Latest commit

 

History

History
122 lines (83 loc) · 16.5 KB

03-providers.md

File metadata and controls

122 lines (83 loc) · 16.5 KB

একটি LLM প্রদানকারী নির্বাচন ও কনফিগার করা 🔑

অ্যাসাইনমেন্টগুলি হতে পারে এক বা একাধিক বড় ভাষা মডেল (LLM) ডিপ্লয়মেন্টের বিরুদ্ধে কাজ করার জন্য একটি সমর্থিত সার্ভিস প্রদানকারীর মাধ্যমে যেমন OpenAI, Azure বা Hugging Face। এগুলি একটি হোস্টেড এন্ডপয়েন্ট (API) প্রদান করে যা আমরা সঠিক প্রমাণপত্র (API কী বা টোকেন) দিয়ে প্রোগ্রাম্যাটিক্যালি অ্যাক্সেস করতে পারি। এই কোর্সে, আমরা এই প্রদানকারীদের আলোচনা করব:

  • OpenAI বিভিন্ন মডেল সহ যার মধ্যে মূল GPT সিরিজ অন্তর্ভুক্ত।
  • Azure OpenAI OpenAI মডেলগুলির জন্য এন্টারপ্রাইজ প্রস্তুতির উপর ফোকাস সহ
  • Hugging Face ওপেন-সোর্স মডেল এবং ইনফারেন্স সার্ভারের জন্য

এই অনুশীলনগুলির জন্য আপনাকে আপনার নিজস্ব অ্যাকাউন্ট ব্যবহার করতে হবে। অ্যাসাইনমেন্টগুলি ঐচ্ছিক, তাই আপনি আপনার আগ্রহ অনুসারে এক, সব বা কোন প্রদানকারী সেটআপ করতে পারেন। সাইনআপের জন্য কিছু নির্দেশিকা:

সাইনআপ খরচ API কী প্লেগ্রাউন্ড মন্তব্য
OpenAI মূল্য নির্ধারণ প্রকল্প-ভিত্তিক নো-কোড, ওয়েব একাধিক মডেল উপলব্ধ
Azure মূল্য নির্ধারণ SDK দ্রুত শুরু স্টুডিও দ্রুত শুরু অ্যাক্সেসের জন্য আগেই আবেদন করতে হবে
Hugging Face মূল্য নির্ধারণ অ্যাক্সেস টোকেন Hugging Chat Hugging Chat-এ সীমিত মডেল রয়েছে

নিম্নলিখিত নির্দেশাবলী অনুসরণ করে এই রিপোজিটরিটি বিভিন্ন প্রদানকারীর সাথে ব্যবহারের জন্য কনফিগার করুন। একটি নির্দিষ্ট প্রদানকারী প্রয়োজন এমন অ্যাসাইনমেন্টগুলির ফাইলনেমে নিম্নলিখিত ট্যাগগুলির একটি থাকবে:

  • aoai - Azure OpenAI এন্ডপয়েন্ট, কী প্রয়োজন
  • oai - OpenAI এন্ডপয়েন্ট, কী প্রয়োজন
  • hf - Hugging Face টোকেন প্রয়োজন

আপনি এক, কোনোটাই বা সব প্রদানকারী কনফিগার করতে পারেন। সংশ্লিষ্ট অ্যাসাইনমেন্টগুলি অনুপস্থিত প্রমাণপত্রের কারণে ত্রুটি দেখাবে।

.env ফাইল তৈরি করুন

আমরা ধরে নিচ্ছি আপনি উপরের নির্দেশিকা পড়ে প্রাসঙ্গিক প্রদানকারীর সাথে সাইন আপ করেছেন এবং প্রয়োজনীয় প্রমাণীকরণ শংসাপত্র (API_KEY বা টোকেন) পেয়েছেন। Azure OpenAI এর ক্ষেত্রে, আমরা ধরে নিচ্ছি আপনার কাছে Azure OpenAI সার্ভিসের একটি বৈধ ডিপ্লয়মেন্ট (এন্ডপয়েন্ট) রয়েছে যেখানে অন্তত একটি GPT মডেল চ্যাট সম্পন্ন করার জন্য ডিপ্লয় করা হয়েছে।

পরবর্তী ধাপ হল আপনার লোকাল পরিবেশ ভেরিয়েবলগুলি নিম্নরূপ কনফিগার করা:

  1. রুট ফোল্ডারে .env.copy ফাইলটি দেখুন, যার মধ্যে নিম্নরূপ বিষয়বস্তু থাকা উচিত:

    # OpenAI প্রদানকারী
OPENAI_API_KEY='<add your OpenAI API key here>'

## আজুর OpenAI
AZURE_OPENAI_API_VERSION='2024-02-01' # ডিফল্ট সেট করা হয়েছে!
AZURE_OPENAI_API_KEY='<add your AOAI key here>'
AZURE_OPENAI_ENDPOINT='<add your AOIA service endpoint here>'
AZURE_OPENAI_DEPLOYMENT='<add your chat completion model name here>' 
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='<add your embeddings model name here>'

## হাগিং ফেস
HUGGING_FACE_API_KEY='<add your HuggingFace API or token here>'

  2. নিচের কমান্ড ব্যবহার করে ফাইলটি .env এ কপি করুন। এই ফাইলটি gitignore-ড থাকে, গোপনীয়তা সুরক্ষিত রাখে।

    cp .env.copy .env

  3. পরবর্তী অংশে বর্ণিত অনুযায়ী মানগুলি পূরণ করুন (= এর ডান পাশে প্লেসহোল্ডারগুলি প্রতিস্থাপন করুন)।

  4. (ঐচ্ছিক) আপনি যদি GitHub Codespaces ব্যবহার করেন, তাহলে এই রিপোজিটরির সাথে সংযুক্ত Codespaces secrets হিসেবে পরিবেশ ভেরিয়েবলগুলি সংরক্ষণ করার অপশন পাবেন। সেই ক্ষেত্রে, আপনাকে লোকাল .env ফাইল সেটআপ করতে হবে না। তবে, লক্ষ্য করুন এই অপশনটি শুধুমাত্র GitHub Codespaces ব্যবহার করলে কাজ করে। Docker Desktop ব্যবহার করলে আপনাকে এখনও .env ফাইল সেটআপ করতে হবে।

.env ফাইল পূরণ করুন

চলুন দ্রুত ভেরিয়েবল নামগুলি দেখে নিই এবং বুঝি এগুলি কী প্রতিনিধিত্ব করে:

ভেরিয়েবল বর্ণনা
HUGGING_FACE_API_KEY এটি আপনার প্রোফাইলে সেটআপ করা ব্যবহারকারীর অ্যাক্সেস টোকেন
OPENAI_API_KEY এটি নন-Azure OpenAI এন্ডপয়েন্টের জন্য সার্ভিস ব্যবহারের অনুমোদন কী
AZURE_OPENAI_API_KEY এটি Azure OpenAI সার্ভিস ব্যবহারের অনুমোদন কী
AZURE_OPENAI_ENDPOINT এটি Azure OpenAI রিসোর্সের ডিপ্লয় করা এন্ডপয়েন্ট
AZURE_OPENAI_DEPLOYMENT এটি টেক্সট জেনারেশন মডেল ডিপ্লয়মেন্ট এন্ডপয়েন্ট
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT এটি টেক্সট এমবেডিং মডেল ডিপ্লয়মেন্ট এন্ডপয়েন্ট

দ্রষ্টব্য: শেষ দুইটি Azure OpenAI ভেরিয়েবল যথাক্রমে চ্যাট সম্পন্ন করার জন্য (টেক্সট জেনারেশন) এবং ভেক্টর সার্চের জন্য (এম্বেডিংস) একটি ডিফল্ট মডেল প্রতিফলিত করে। এগুলি সেটআপ করার নির্দেশনা সংশ্লিষ্ট অ্যাসাইনমেন্টে দেওয়া হবে।

Azure কনফিগার করুন: পোর্টাল থেকে

Azure OpenAI এন্ডপয়েন্ট এবং কী মানগুলি Azure পোর্টাল এ পাওয়া যাবে, তাই চলুন সেখান থেকে শুরু করি।

  1. Azure পোর্টাল এ যান
  2. সাইডবারে (বাম মেনু) Keys and Endpoint অপশনে ক্লিক করুন।
  3. Show Keys ক্লিক করুন - আপনি KEY 1, KEY 2 এবং Endpoint দেখতে পাবেন।
  4. AZURE_OPENAI_API_KEY এর জন্য KEY 1 মান ব্যবহার করুন
  5. AZURE_OPENAI_ENDPOINT এর জন্য Endpoint মান ব্যবহার করুন

এরপর, আমাদের ডিপ্লয় করা নির্দিষ্ট মডেলগুলির এন্ডপয়েন্ট দরকার।

  1. Azure OpenAI রিসোর্সের জন্য সাইডবারে (বাম মেনু) Model deployments অপশনে ক্লিক করুন।
  2. গন্তব্য পৃষ্ঠায়, Manage Deployments ক্লিক করুন

এটি আপনাকে Azure OpenAI Studio ওয়েবসাইটে নিয়ে যাবে, যেখানে আমরা নিচে বর্ণিত অন্যান্য মানগুলি পাব।

Azure কনফিগার করুন: স্টুডিও থেকে

  1. উপরে বর্ণিত আপনার রিসোর্স থেকে Azure OpenAI Studio তে যান।
  2. বর্তমানে ডিপ্লয় করা মডেলগুলি দেখতে সাইডবারে (বাম) Deployments ট্যাবে ক্লিক করুন।
  3. আপনার কাঙ্ক্ষিত মডেল ডিপ্লয় করা না থাকলে, Create new deployment ব্যবহার করে ডিপ্লয় করুন।
  4. আপনার একটি টেক্সট-জেনারেশন মডেল দরকার - আমরা সুপারিশ করি: gpt-35-turbo
  5. আপনার একটি টেক্সট-এম্বেডিং মডেল দরকার - আমরা সুপারিশ করি text-embedding-ada-002

এখন পরিবেশ ভেরিয়েবলগুলি আপডেট করুন যাতে ব্যবহৃত Deployment name প্রতিফলিত হয়। সাধারণত এটি মডেলের নামের সমান হবে যদি আপনি স্পষ্টভাবে পরিবর্তন না করে থাকেন। উদাহরণস্বরূপ, আপনার থাকতে পারে:

AZURE_OPENAI_DEPLOYMENT='gpt-35-turbo'
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='text-embedding-ada-002'

সম্পন্ন হলে .env ফাইল সংরক্ষণ করতে ভুলবেন না। এখন আপনি ফাইল থেকে বের হয়ে নোটবুক চালানোর নির্দেশাবলীতে ফিরে যেতে পারেন।

OpenAI কনফিগার করুন: প্রোফাইল থেকে

আপনার OpenAI API কী আপনার OpenAI অ্যাকাউন্টে পাওয়া যাবে। যদি না থাকে, আপনি একটি অ্যাকাউন্ট তৈরি করে API কী তৈরি করতে পারেন। কী পাওয়ার পর, .env ফাইলে OPENAI_API_KEY ভেরিয়েবলে এটি ব্যবহার করুন।

Hugging Face কনফিগার করুন: প্রোফাইল থেকে

আপনার Hugging Face টোকেন আপনার প্রোফাইলে Access Tokens এর অধীনে পাওয়া যাবে। এগুলি পাবলিকভাবে পোস্ট বা শেয়ার করবেন না। পরিবর্তে, এই প্রকল্পের ব্যবহারের জন্য একটি নতুন টোকেন তৈরি করুন এবং সেটি .env ফাইলে HUGGING_FACE_API_KEY ভেরিয়েবলে কপি করুন। দ্রষ্টব্য: এটি প্রযুক্তিগতভাবে API কী নয়, তবে প্রমাণীকরণের জন্য ব্যবহৃত হয়, তাই সামঞ্জস্যের জন্য এই নামকরণ রীতি বজায় রাখা হয়েছে।

অস্বীকৃতি:
এই নথিটি AI অনুবাদ সেবা Co-op Translator ব্যবহার করে অনূদিত হয়েছে। আমরা যথাসাধ্য সঠিকতার চেষ্টা করি, তবে স্বয়ংক্রিয় অনুবাদে ত্রুটি বা অসঙ্গতি থাকতে পারে। মূল নথিটি তার নিজস্ব ভাষায়ই কর্তৃত্বপূর্ণ উৎস হিসেবে বিবেচিত হওয়া উচিত। গুরুত্বপূর্ণ তথ্যের জন্য পেশাদার মানব অনুবাদ গ্রহণ করার পরামর্শ দেওয়া হয়। এই অনুবাদের ব্যবহারে সৃষ্ট কোনো ভুল বোঝাবুঝি বা ভুল ব্যাখ্যার জন্য আমরা দায়ী নই।