ನಿಯೋಜನೆಗಳನ್ನು ಒಂದು ಅಥವಾ ಹೆಚ್ಚು ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿ (LLM) ನಿಯೋಜನೆಗಳ ವಿರುದ್ಧ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಸಹಾಯಮಾಡುವ ಸೇವಾ ಪೂರೈಕೆದಾರರ ಮೂಲಕ ಸೆಟ್ಅಪ್ ಮಾಡಬಹುದು, ಉದಾಹರಣೆಗೆ OpenAI, Azure ಅಥವಾ Hugging Face. ಇವುಗಳು ನಾವು ಸರಿಯಾದ ಪ್ರಮಾಣಪತ್ರಗಳೊಂದಿಗೆ (API ಕೀ ಅಥವಾ ಟೋಕನ್) ಪ್ರೋಗ್ರಾಮ್ಯಾಟಿಕಾಗಿ ಪ್ರವೇಶಿಸಬಹುದಾದ ಹೋಸ್ಟ್ ಮಾಡಿದ ಎಂಡ್ಪಾಯಿಂಟ್ (API) ಅನ್ನು ಒದಗಿಸುತ್ತವೆ. ಈ ಕೋರ್ಸ್ನಲ್ಲಿ, ನಾವು ಈ ಪೂರೈಕೆದಾರರನ್ನು ಚರ್ಚಿಸುತ್ತೇವೆ:
- OpenAI ವಿವಿಧ ಮಾದರಿಗಳೊಂದಿಗೆ, ಮುಖ್ಯವಾಗಿ GPT ಸರಣಿಯನ್ನು ಒಳಗೊಂಡಂತೆ.
- Azure OpenAI OpenAI ಮಾದರಿಗಳಿಗಾಗಿ ಉದ್ಯಮ ಸಿದ್ಧತೆಯ ಮೇಲೆ ಕೇಂದ್ರೀಕೃತವಾಗಿದೆ
- Hugging Face ಮುಕ್ತ ಮೂಲ ಮಾದರಿಗಳು ಮತ್ತು ಇನ್ಫರೆನ್ಸ್ ಸರ್ವರ್ಗಾಗಿ
ನೀವು ಈ ಅಭ್ಯಾಸಗಳಿಗಾಗಿ ನಿಮ್ಮ ಸ್ವಂತ ಖಾತೆಗಳನ್ನು ಬಳಸಬೇಕಾಗುತ್ತದೆ. ನಿಯೋಜನೆಗಳು ಐಚ್ಛಿಕವಾಗಿವೆ ಆದ್ದರಿಂದ ನೀವು ನಿಮ್ಮ ಆಸಕ್ತಿಗಳ ಆಧಾರದ ಮೇಲೆ ಒಂದು, ಎಲ್ಲಾ ಅಥವಾ ಯಾವುದೂ ಇಲ್ಲದಂತೆ ಪೂರೈಕೆದಾರರನ್ನು ಸೆಟ್ಅಪ್ ಮಾಡಬಹುದು. ಸೈನ್ ಅಪ್ ಮಾಡಲು ಕೆಲವು ಮಾರ್ಗದರ್ಶನ:
| ಸೈನ್ ಅಪ್ | ವೆಚ್ಚ | API ಕೀ | ಪ್ಲೇಗ್ರೌಂಡ್ | ಟಿಪ್ಪಣಿಗಳು |
|---|---|---|---|---|
| OpenAI | ಬೆಲೆ | ಪ್ರಾಜೆಕ್ಟ್ ಆಧಾರಿತ | ನೋ-ಕೋಡ್, ವೆಬ್ | ಹಲವಾರು ಮಾದರಿಗಳು ಲಭ್ಯವಿವೆ |
| Azure | ಬೆಲೆ | SDK ಕ್ವಿಕ್ಸ್ಟಾರ್ಟ್ | ಸ್ಟುಡಿಯೋ ಕ್ವಿಕ್ಸ್ಟಾರ್ಟ್ | ಪ್ರವೇಶಕ್ಕಾಗಿ ಮುಂಚಿತವಾಗಿ ಅರ್ಜಿ ಸಲ್ಲಿಸಬೇಕು |
| Hugging Face | ಬೆಲೆ | ಪ್ರವೇಶ ಟೋಕನ್ಗಳು | Hugging Chat | Hugging Chat ನಲ್ಲಿ ಸೀಮಿತ ಮಾದರಿಗಳು ಇವೆ |
ವಿಭಿನ್ನ ಪೂರೈಕೆದಾರರೊಂದಿಗೆ ಈ ರೆಪೊಸಿಟರಿಯನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡಲು ಕೆಳಗಿನ ನಿರ್ದೇಶನಗಳನ್ನು ಅನುಸರಿಸಿ. ನಿರ್ದಿಷ್ಟ ಪೂರೈಕೆದಾರರನ್ನು ಅಗತ್ಯವಿರುವ ನಿಯೋಜನೆಗಳು ತಮ್ಮ ಫೈಲ್ಹೆಸರಿನಲ್ಲಿ ಈ ಟ್ಯಾಗ್ಗಳನ್ನು ಹೊಂದಿರುತ್ತವೆ:
aoai- Azure OpenAI ಎಂಡ್ಪಾಯಿಂಟ್, ಕೀ ಅಗತ್ಯವಿದೆoai- OpenAI ಎಂಡ್ಪಾಯಿಂಟ್, ಕೀ ಅಗತ್ಯವಿದೆhf- Hugging Face ಟೋಕನ್ ಅಗತ್ಯವಿದೆ
ನೀವು ಒಂದು, ಯಾವುದೂ ಇಲ್ಲ ಅಥವಾ ಎಲ್ಲಾ ಪೂರೈಕೆದಾರರನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡಬಹುದು. ಸಂಬಂಧಿತ ನಿಯೋಜನೆಗಳು ಪ್ರಮಾಣಪತ್ರಗಳಿಲ್ಲದಿದ್ದರೆ ದೋಷವನ್ನು ತೋರಿಸುತ್ತವೆ.
ನೀವು ಮೇಲಿನ ಮಾರ್ಗದರ್ಶನವನ್ನು ಓದಿ ಸಂಬಂಧಿತ ಪೂರೈಕೆದಾರರೊಂದಿಗೆ ಸೈನ್ ಅಪ್ ಮಾಡಿಕೊಂಡಿದ್ದು, ಅಗತ್ಯವಾದ ಪ್ರಮಾಣೀಕರಣ ಪ್ರಮಾಣಪತ್ರಗಳನ್ನು (API_KEY ಅಥವಾ ಟೋಕನ್) ಪಡೆದಿದ್ದೀರಿ ಎಂದು ನಾವು ಊಹಿಸುತ್ತೇವೆ. Azure OpenAI ಪ್ರಕರಣದಲ್ಲಿ, ನೀವು ಕನಿಷ್ಠ ಒಂದು GPT ಮಾದರಿಯನ್ನು ಚಾಟ್ ಪೂರ್ಣಗೊಳಿಸುವಿಕೆಗೆ ನಿಯೋಜಿಸಿರುವ Azure OpenAI ಸೇವೆಯ (ಎಂಡ್ಪಾಯಿಂಟ್) ಮಾನ್ಯ ನಿಯೋಜನೆಯನ್ನು ಹೊಂದಿದ್ದೀರಿ ಎಂದು ನಾವು ಊಹಿಸುತ್ತೇವೆ.
ಮುಂದಿನ ಹಂತವು ನಿಮ್ಮ ಸ್ಥಳೀಯ ಪರಿಸರ ಚರಗಳನ್ನು ಕೆಳಗಿನಂತೆ ಕಾನ್ಫಿಗರ್ ಮಾಡುವುದು:
-
ರೂಟ್ ಫೋಲ್ಡರ್ನಲ್ಲಿ
.env.copyಫೈಲ್ ಅನ್ನು ಹುಡುಕಿ, ಇದರಲ್ಲಿ ಈ ಕೆಳಗಿನಂತಿರುವ ವಿಷಯಗಳಿರಬಹುದು:# ಓಪನ್ಎಐ ಪ್ರೊವೈಡರ್ OPENAI_API_KEY='<add your OpenAI API key here>' ## ಅಜೂರ್ ಓಪನ್ಎಐ AZURE_OPENAI_API_VERSION='2024-02-01' # ಡೀಫಾಲ್ಟ್ ಸೆಟ್ ಮಾಡಲಾಗಿದೆ! AZURE_OPENAI_API_KEY='<add your AOAI key here>' AZURE_OPENAI_ENDPOINT='<add your AOIA service endpoint here>' AZURE_OPENAI_DEPLOYMENT='<add your chat completion model name here>' AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='<add your embeddings model name here>' ## ಹಗ್ಗಿಂಗ್ ಫೇಸ್ HUGGING_FACE_API_KEY='<add your HuggingFace API or token here>'
-
ಕೆಳಗಿನ ಕಮಾಂಡ್ ಬಳಸಿ ಆ ಫೈಲ್ ಅನ್ನು
.envಗೆ ನಕಲಿಸಿ. ಈ ಫೈಲ್ gitignore-ಡ ಆಗಿದ್ದು, ರಹಸ್ಯಗಳನ್ನು ಸುರಕ್ಷಿತವಾಗಿರಿಸುತ್ತದೆ.cp .env.copy .env
-
ಮುಂದಿನ ವಿಭಾಗದಲ್ಲಿ ವಿವರಿಸಿದಂತೆ ಮೌಲ್ಯಗಳನ್ನು (ಬಲಭಾಗದ ಪ್ಲೇಸ್ಹೋಲ್ಡರ್ಗಳನ್ನು ಬದಲಿಸಿ) ತುಂಬಿ.
-
(ಐಚ್ಛಿಕ) ನೀವು GitHub Codespaces ಬಳಸಿದರೆ, ಈ ರೆಪೊಸಿಟರಿಯೊಂದಿಗೆ ಸಂಬಂಧಿಸಿದ Codespaces ರಹಸ್ಯಗಳಾಗಿ ಪರಿಸರ ಚರಗಳನ್ನು ಉಳಿಸುವ ಆಯ್ಕೆಯಿದೆ. ಆ ಸಂದರ್ಭದಲ್ಲಿ, ನೀವು ಸ್ಥಳೀಯ .env ಫೈಲ್ ಅನ್ನು ಸೆಟ್ಅಪ್ ಮಾಡಬೇಕಾಗಿಲ್ಲ. ಆದರೆ, ಈ ಆಯ್ಕೆ GitHub Codespaces ಬಳಸಿದಾಗ ಮಾತ್ರ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಎಂದು ಗಮನಿಸಿ. ನೀವು Docker ಡೆಸ್ಕ್ಟಾಪ್ ಬಳಸಿದರೆ .env ಫೈಲ್ ಅನ್ನು ಇನ್ನೂ ಸೆಟ್ಅಪ್ ಮಾಡಬೇಕಾಗುತ್ತದೆ.
ನಾವು ಈ ಚರಗಳ ಹೆಸರುಗಳನ್ನು ತ್ವರಿತವಾಗಿ ನೋಡೋಣ, ಅವು ಏನು ಪ್ರತಿನಿಧಿಸುತ್ತವೆ ಎಂದು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು:
| ಚರ | ವಿವರಣೆ |
|---|---|
| HUGGING_FACE_API_KEY | ಇದು ನೀವು ನಿಮ್ಮ ಪ್ರೊಫೈಲ್ನಲ್ಲಿ ಸೆಟ್ಅಪ್ ಮಾಡಿದ ಬಳಕೆದಾರ ಪ್ರವೇಶ ಟೋಕನ್ |
| OPENAI_API_KEY | ಇದು ನಾನ್-Azure OpenAI ಎಂಡ್ಪಾಯಿಂಟ್ಗಳಿಗಾಗಿ ಸೇವೆಯನ್ನು ಬಳಸಲು ಅನುಮತಿ ಕೀ |
| AZURE_OPENAI_API_KEY | ಇದು ಆ ಸೇವೆಯನ್ನು ಬಳಸಲು ಅನುಮತಿ ಕೀ |
| AZURE_OPENAI_ENDPOINT | ಇದು Azure OpenAI ಸಂಪನ್ಮೂಲಕ್ಕಾಗಿ ನಿಯೋಜಿಸಲಾದ ಎಂಡ್ಪಾಯಿಂಟ್ |
| AZURE_OPENAI_DEPLOYMENT | ಇದು ಪಠ್ಯ ಉತ್ಪಾದನೆ ಮಾದರಿ ನಿಯೋಜನೆ ಎಂಡ್ಪಾಯಿಂಟ್ |
| AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT | ಇದು ಪಠ್ಯ ಎम्बೆಡ್ಡಿಂಗ್ ಮಾದರಿ ನಿಯೋಜನೆ ಎಂಡ್ಪಾಯಿಂಟ್ |
ಗಮನಿಸಿ: ಕೊನೆಯ ಎರಡು Azure OpenAI ಚರಗಳು ಚಾಟ್ ಪೂರ್ಣಗೊಳಿಸುವಿಕೆ (ಪಠ್ಯ ಉತ್ಪಾದನೆ) ಮತ್ತು ವೆಕ್ಟರ್ ಹುಡುಕಾಟ (ಎಂಬೆಡ್ಡಿಂಗ್ಗಳು) ಗಾಗಿ ಡೀಫಾಲ್ಟ್ ಮಾದರಿಯನ್ನು ಪ್ರತಿಬಿಂಬಿಸುತ್ತವೆ. ಅವುಗಳನ್ನು ಸೆಟ್ಅಪ್ ಮಾಡುವ ಸೂಚನೆಗಳನ್ನು ಸಂಬಂಧಿತ ನಿಯೋಜನೆಗಳಲ್ಲಿ ವಿವರಿಸಲಾಗುತ್ತದೆ.
Azure OpenAI ಎಂಡ್ಪಾಯಿಂಟ್ ಮತ್ತು ಕೀ ಮೌಲ್ಯಗಳನ್ನು Azure ಪೋರ್ಟಲ್ ನಲ್ಲಿ ಕಾಣಬಹುದು, ಆದ್ದರಿಂದ ಅಲ್ಲಿ ಪ್ರಾರಂಭಿಸೋಣ.
- Azure ಪೋರ್ಟಲ್ ಗೆ ಹೋಗಿ
- ಸೈಡ್ಬಾರ್ನಲ್ಲಿ (ಎಡ ಮೆನು) ಕೀಗಳು ಮತ್ತು ಎಂಡ್ಪಾಯಿಂಟ್ ಆಯ್ಕೆಯನ್ನು ಕ್ಲಿಕ್ ಮಾಡಿ.
- ಕೀಗಳನ್ನು ತೋರಿಸಿ ಕ್ಲಿಕ್ ಮಾಡಿ - ನೀವು ಕೆಳಗಿನವುಗಳನ್ನು ನೋಡಬೇಕು: ಕೀ 1, ಕೀ 2 ಮತ್ತು ಎಂಡ್ಪಾಯಿಂಟ್.
- AZURE_OPENAI_API_KEY ಗೆ ಕೀ 1 ಮೌಲ್ಯವನ್ನು ಬಳಸಿ
- AZURE_OPENAI_ENDPOINT ಗೆ ಎಂಡ್ಪಾಯಿಂಟ್ ಮೌಲ್ಯವನ್ನು ಬಳಸಿ
ಮುಂದೆ, ನಾವು ನಿಯೋಜಿಸಿರುವ ನಿರ್ದಿಷ್ಟ ಮಾದರಿಗಳ ಎಂಡ್ಪಾಯಿಂಟ್ಗಳನ್ನು ಬೇಕಾಗುತ್ತದೆ.
- Azure OpenAI ಸಂಪನ್ಮೂಲಕ್ಕಾಗಿ ಸೈಡ್ಬಾರ್ನಲ್ಲಿ (ಎಡ ಮೆನು) ಮಾದರಿ ನಿಯೋಜನೆಗಳು ಆಯ್ಕೆಯನ್ನು ಕ್ಲಿಕ್ ಮಾಡಿ.
- ಗಮ್ಯಸ್ಥಳ ಪುಟದಲ್ಲಿ, ನಿಯೋಜನೆಗಳನ್ನು ನಿರ್ವಹಿಸಿ ಕ್ಲಿಕ್ ಮಾಡಿ
ಇದು ನಿಮಗೆ Azure OpenAI ಸ್ಟುಡಿಯೋ ವೆಬ್ಸೈಟ್ಗೆ ಕರೆದೊಯ್ಯುತ್ತದೆ, ಅಲ್ಲಿ ನಾವು ಕೆಳಗಿನಂತೆ ಇತರ ಮೌಲ್ಯಗಳನ್ನು ಕಂಡುಹಿಡಿಯುತ್ತೇವೆ.
- ಮೇಲಿನಂತೆ ವಿವರಿಸಿದಂತೆ ನಿಮ್ಮ ಸಂಪನ್ಮೂಲದಿಂದ Azure OpenAI ಸ್ಟುಡಿಯೋ ಗೆ ನವಿಗೇಟ್ ಮಾಡಿ.
- ಪ್ರಸ್ತುತ ನಿಯೋಜಿಸಲಾದ ಮಾದರಿಗಳನ್ನು ನೋಡಲು ಸೈಡ್ಬಾರ್ನಲ್ಲಿ (ಎಡ) ನಿಯೋಜನೆಗಳು ಟ್ಯಾಬ್ ಕ್ಲಿಕ್ ಮಾಡಿ.
- ನೀವು ಬಯಸುವ ಮಾದರಿ ನಿಯೋಜಿಸಲ್ಪಟ್ಟಿಲ್ಲದಿದ್ದರೆ, ಅದನ್ನು ನಿಯೋಜಿಸಲು ಹೊಸ ನಿಯೋಜನೆ ರಚಿಸಿ ಬಳಸಿ.
- ನಿಮಗೆ ಪಠ್ಯ-ಉತ್ಪಾದನೆ ಮಾದರಿ ಬೇಕಾಗುತ್ತದೆ - ನಾವು ಶಿಫಾರಸು ಮಾಡುತ್ತೇವೆ: gpt-35-turbo
- ನಿಮಗೆ ಪಠ್ಯ-ಎಂಬೆಡ್ಡಿಂಗ್ ಮಾದರಿ ಬೇಕಾಗುತ್ತದೆ - ನಾವು ಶಿಫಾರಸು ಮಾಡುತ್ತೇವೆ text-embedding-ada-002
ಈಗ ಪರಿಸರ ಚರಗಳನ್ನು ನಿಯೋಜನೆ ಹೆಸರು ಅನ್ನು ಪ್ರತಿಬಿಂಬಿಸುವಂತೆ ನವೀಕರಿಸಿ. ಇದು ಸಾಮಾನ್ಯವಾಗಿ ಮಾದರಿ ಹೆಸರಿನಷ್ಟೇ ಇರುತ್ತದೆ, ನೀವು ಸ್ಪಷ್ಟವಾಗಿ ಬದಲಾಯಿಸದಿದ್ದರೆ. ಉದಾಹರಣೆಗೆ, ನೀವು ಹೊಂದಿರಬಹುದು:
AZURE_OPENAI_DEPLOYMENT='gpt-35-turbo'
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='text-embedding-ada-002'ಮುಗಿದ ಮೇಲೆ .env ಫೈಲ್ ಉಳಿಸುವುದನ್ನು ಮರೆತಬೇಡಿ. ನೀವು ಈಗ ಫೈಲ್ ಅನ್ನು ಬಿಟ್ಟು ನೋಟ್ಬುಕ್ ಚಾಲನೆಗಾಗಿ ಸೂಚನೆಗಳಿಗೆ ಹಿಂತಿರುಗಬಹುದು.
ನಿಮ್ಮ OpenAI API ಕೀ ನಿಮ್ಮ OpenAI ಖಾತೆಯಲ್ಲಿ ಕಾಣಬಹುದು. ನೀವು ಇದನ್ನು ಹೊಂದಿಲ್ಲದಿದ್ದರೆ, ಖಾತೆಗಾಗಿ ಸೈನ್ ಅಪ್ ಮಾಡಿ ಮತ್ತು API ಕೀ ರಚಿಸಬಹುದು. ಕೀ ಪಡೆದ ನಂತರ, ನೀವು .env ಫೈಲ್ನಲ್ಲಿ OPENAI_API_KEY ಚರವನ್ನು ತುಂಬಬಹುದು.
ನಿಮ್ಮ Hugging Face ಟೋಕನ್ ನಿಮ್ಮ ಪ್ರೊಫೈಲ್ನಲ್ಲಿರುವ ಪ್ರವೇಶ ಟೋಕನ್ಗಳಲ್ಲಿ ಕಾಣಬಹುದು. ಇದನ್ನು ಸಾರ್ವಜನಿಕವಾಗಿ ಪೋಸ್ಟ್ ಅಥವಾ ಹಂಚಬೇಡಿ. ಬದಲಿಗೆ, ಈ ಪ್ರಾಜೆಕ್ಟ್ ಬಳಕೆಗೆ ಹೊಸ ಟೋಕನ್ ರಚಿಸಿ ಮತ್ತು ಅದನ್ನು .env ಫೈಲ್ನಲ್ಲಿ HUGGING_FACE_API_KEY ಚರದ ಅಡಿಯಲ್ಲಿ ನಕಲಿಸಿ. ಗಮನಿಸಿ: ಇದು ತಾಂತ್ರಿಕವಾಗಿ API ಕೀ ಅಲ್ಲ, ಆದರೆ ಪ್ರಮಾಣೀಕರಣಕ್ಕಾಗಿ ಬಳಸಲಾಗುತ್ತದೆ ಆದ್ದರಿಂದ ನಾವು ಸुसಂಗತಿಗಾಗಿ ಆ ಹೆಸರು conventions ಅನ್ನು ಉಳಿಸಿಕೊಂಡಿದ್ದೇವೆ.
ಅಸ್ವೀಕರಣ:
ಈ ದಸ್ತಾವೇಜು AI ಅನುವಾದ ಸೇವೆ Co-op Translator ಬಳಸಿ ಅನುವಾದಿಸಲಾಗಿದೆ. ನಾವು ನಿಖರತೆಯಿಗಾಗಿ ಪ್ರಯತ್ನಿಸುತ್ತಿದ್ದರೂ, ಸ್ವಯಂಚಾಲಿತ ಅನುವಾದಗಳಲ್ಲಿ ತಪ್ಪುಗಳು ಅಥವಾ ಅಸತ್ಯತೆಗಳು ಇರಬಹುದು ಎಂದು ದಯವಿಟ್ಟು ಗಮನಿಸಿ. ಮೂಲ ಭಾಷೆಯಲ್ಲಿರುವ ಮೂಲ ದಸ್ತಾವೇಜನ್ನು ಅಧಿಕೃತ ಮೂಲವೆಂದು ಪರಿಗಣಿಸಬೇಕು. ಮಹತ್ವದ ಮಾಹಿತಿಗಾಗಿ, ವೃತ್ತಿಪರ ಮಾನವ ಅನುವಾದವನ್ನು ಶಿಫಾರಸು ಮಾಡಲಾಗುತ್ತದೆ. ಈ ಅನುವಾದ ಬಳಕೆಯಿಂದ ಉಂಟಾಗುವ ಯಾವುದೇ ತಪ್ಪು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವಿಕೆ ಅಥವಾ ತಪ್ಪು ವಿವರಣೆಗಳಿಗೆ ನಾವು ಹೊಣೆಗಾರರಾಗುವುದಿಲ್ಲ.