Skip to content

Latest commit

 

History

History
145 lines (100 loc) · 11.7 KB

File metadata and controls

145 lines (100 loc) · 11.7 KB

Sediakan Persekitaran Pembangunan Anda

Kami menyediakan repositori dan kursus ini dengan bekas pembangunan yang mempunyai runtime Universal yang menyokong pembangunan Python3, .NET, Node.js dan Java. Konfigurasi berkaitan ditakrifkan dalam fail devcontainer.json yang terletak di dalam folder .devcontainer/ di akar repositori ini.

Untuk mengaktifkan bekas pembangunan, lancarkan ia dalam GitHub Codespaces (untuk runtime yang dihoskan di awan) atau dalam Docker Desktop (untuk runtime yang dihoskan pada peranti tempatan). Baca dokumentasi ini untuk maklumat lanjut tentang cara bekas pembangunan berfungsi dalam VS Code.

Tip

Kami mengesyorkan menggunakan GitHub Codespaces untuk permulaan pantas dengan usaha minimum. Ia menyediakan kuota penggunaan percuma yang murah hati untuk akaun peribadi. Konfigurasikan timeout untuk menghentikan atau memadam codespaces yang tidak aktif bagi memaksimumkan penggunaan kuota anda.

1. Melaksanakan Tugasan

Setiap pelajaran akan mempunyai tugasan pilihan yang mungkin disediakan dalam satu atau lebih bahasa pengaturcaraan termasuk: Python, .NET/C#, Java dan JavaScript/TypeScript. Bahagian ini memberikan panduan umum berkaitan pelaksanaan tugasan tersebut.

1.1 Tugasan Python

Tugasan Python disediakan sama ada sebagai aplikasi (.py fail) atau buku nota Jupyter (.ipynb fail).

  • Untuk menjalankan buku nota, buka ia dalam Visual Studio Code kemudian klik Select Kernel (di bahagian atas kanan) dan pilih pilihan Python 3 lalai yang dipaparkan. Anda kini boleh Run All untuk melaksanakan buku nota tersebut.
  • Untuk menjalankan aplikasi Python dari baris arahan, ikut arahan khusus tugasan untuk memastikan anda memilih fail yang betul dan menyediakan argumen yang diperlukan.

2. Mengkonfigurasi Penyedia

Tugasan mungkin juga disediakan untuk berfungsi dengan satu atau lebih penempatan Large Language Model (LLM) melalui penyedia perkhidmatan yang disokong seperti OpenAI, Azure atau Hugging Face. Ini menyediakan endpoint dihoskan (API) yang boleh diakses secara programatik dengan kelayakan yang betul (kunci API atau token). Dalam kursus ini, kami membincangkan penyedia berikut:

  • OpenAI dengan pelbagai model termasuk siri GPT teras.
  • Azure OpenAI untuk model OpenAI dengan fokus kesediaan perusahaan
  • Hugging Face untuk model sumber terbuka dan pelayan inferens

Anda perlu menggunakan akaun anda sendiri untuk latihan ini. Tugasan adalah pilihan jadi anda boleh memilih untuk menyediakan satu, semua - atau tiada - penyedia berdasarkan minat anda. Beberapa panduan untuk pendaftaran:

Pendaftaran Kos Kunci API Playground Komen
OpenAI Harga Berdasarkan Projek Tanpa Kod, Web Pelbagai Model Tersedia
Azure Harga SDK Quickstart Studio Quickstart Perlu Memohon Akses Terlebih Dahulu
Hugging Face Harga Token Akses Hugging Chat Hugging Chat mempunyai model terhad

Ikuti arahan di bawah untuk mengkonfigurasi repositori ini untuk digunakan dengan penyedia yang berbeza. Tugasan yang memerlukan penyedia tertentu akan mengandungi salah satu tag ini dalam nama fail mereka:

  • aoai - memerlukan endpoint Azure OpenAI, kunci
  • oai - memerlukan endpoint OpenAI, kunci
  • hf - memerlukan token Hugging Face

Anda boleh mengkonfigurasi satu, tiada, atau semua penyedia. Tugasan berkaitan akan gagal jika kelayakan tidak disediakan.

2.1. Cipta fail .env

Kami menganggap anda telah membaca panduan di atas dan mendaftar dengan penyedia yang berkaitan, serta memperoleh kelayakan pengesahan yang diperlukan (API_KEY atau token). Dalam kes Azure OpenAI, kami menganggap anda juga mempunyai penempatan Azure OpenAI Service (endpoint) yang sah dengan sekurang-kurangnya satu model GPT yang dikerahkan untuk penyempurnaan sembang.

Langkah seterusnya adalah untuk mengkonfigurasi pembolehubah persekitaran tempatan anda seperti berikut:

  1. Cari dalam folder akar fail .env.copy yang sepatutnya mengandungi kandungan seperti ini:

    # OpenAI Provider
    OPENAI_API_KEY='<add your OpenAI API key here>'
    
    ## Azure OpenAI
    AZURE_OPENAI_API_VERSION='2024-02-01' # Default is set!
    AZURE_OPENAI_API_KEY='<add your AOAI key here>'
    AZURE_OPENAI_ENDPOINT='<add your AOIA service endpoint here>'
    AZURE_OPENAI_DEPLOYMENT='<add your chat completion model name here>' 
    AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='<add your embeddings model name here>'
    
    ## Hugging Face
    HUGGING_FACE_API_KEY='<add your HuggingFace API or token here>'
  2. Salin fail tersebut ke .env menggunakan arahan di bawah. Fail ini gitignore-d, memastikan rahsia selamat.

    cp .env.copy .env
  3. Isikan nilai (gantikan tempat letak pada sebelah kanan =) seperti yang diterangkan dalam bahagian seterusnya.

  4. (Pilihan) Jika anda menggunakan GitHub Codespaces, anda mempunyai pilihan untuk menyimpan pembolehubah persekitaran sebagai Codespaces secrets yang dikaitkan dengan repositori ini. Dalam kes itu, anda tidak perlu menyediakan fail .env tempatan. Walau bagaimanapun, ambil perhatian bahawa pilihan ini hanya berfungsi jika anda menggunakan GitHub Codespaces. Anda masih perlu menyediakan fail .env jika menggunakan Docker Desktop.

2.2. Isikan fail .env

Mari kita lihat dengan cepat nama pembolehubah untuk memahami apa yang mereka wakili:

Pembolehubah Penerangan
HUGGING_FACE_API_KEY Ini adalah token akses pengguna yang anda tetapkan dalam profil anda
OPENAI_API_KEY Ini adalah kunci kebenaran untuk menggunakan perkhidmatan bagi endpoint OpenAI bukan Azure
AZURE_OPENAI_API_KEY Ini adalah kunci kebenaran untuk menggunakan perkhidmatan tersebut
AZURE_OPENAI_ENDPOINT Ini adalah endpoint yang dikerahkan untuk sumber Azure OpenAI
AZURE_OPENAI_DEPLOYMENT Ini adalah endpoint penempatan model penjanaan teks
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT Ini adalah endpoint penempatan model embedding teks

Nota: Dua pembolehubah Azure OpenAI terakhir mencerminkan model lalai untuk penyempurnaan sembang (penjanaan teks) dan carian vektor (embedding) masing-masing. Arahan untuk menetapkannya akan diterangkan dalam tugasan berkaitan.

2.3 Konfigurasi Azure: Dari Portal

Nilai endpoint dan kunci Azure OpenAI boleh didapati dalam Azure Portal jadi mari kita mulakan di sana.

  1. Pergi ke Azure Portal
  2. Klik pilihan Keys and Endpoint di bar sisi (menu di kiri).
  3. Klik Show Keys - anda akan melihat: KEY 1, KEY 2 dan Endpoint.
  4. Gunakan nilai KEY 1 untuk AZURE_OPENAI_API_KEY
  5. Gunakan nilai Endpoint untuk AZURE_OPENAI_ENDPOINT

Seterusnya, kita perlukan endpoint untuk model tertentu yang telah kita kerahkan.

  1. Klik pilihan Model deployments di bar sisi (menu kiri) untuk sumber Azure OpenAI.
  2. Di halaman destinasi, klik Manage Deployments

Ini akan membawa anda ke laman web Azure OpenAI Studio, di mana kita akan mencari nilai lain seperti yang diterangkan di bawah.

2.4 Konfigurasi Azure: Dari Studio

  1. Navigasi ke Azure OpenAI Studio dari sumber anda seperti yang diterangkan di atas.
  2. Klik tab Deployments (bar sisi, kiri) untuk melihat model yang sedang dikerahkan.
  3. Jika model yang anda mahu tidak dikerahkan, gunakan Create new deployment untuk mengerahkannya.
  4. Anda memerlukan model text-generation - kami mengesyorkan: gpt-35-turbo
  5. Anda memerlukan model text-embedding - kami mengesyorkan text-embedding-ada-002

Kini kemas kini pembolehubah persekitaran untuk mencerminkan Nama Penempatan yang digunakan. Ini biasanya sama dengan nama model melainkan anda menukarnya secara eksplisit. Jadi, sebagai contoh, anda mungkin mempunyai:

AZURE_OPENAI_DEPLOYMENT='gpt-35-turbo'
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='text-embedding-ada-002'

Jangan lupa untuk simpan fail .env apabila selesai. Anda kini boleh keluar dari fail dan kembali ke arahan untuk menjalankan buku nota.

2.5 Konfigurasi OpenAI: Dari Profil

Kunci API OpenAI anda boleh didapati dalam akaun OpenAI anda. Jika anda belum ada, anda boleh mendaftar akaun dan cipta kunci API. Setelah anda mempunyai kunci tersebut, anda boleh menggunakannya untuk mengisi pembolehubah OPENAI_API_KEY dalam fail .env.

2.6 Konfigurasi Hugging Face: Dari Profil

Token Hugging Face anda boleh didapati dalam profil anda di bawah Access Tokens. Jangan siarkan atau kongsi ini secara terbuka. Sebaliknya, cipta token baru untuk kegunaan projek ini dan salin ke dalam fail .env di bawah pembolehubah HUGGING_FACE_API_KEY. Nota: Ini secara teknikal bukan kunci API tetapi digunakan untuk pengesahan jadi kami mengekalkan konvensyen penamaan ini untuk konsistensi.

Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila ambil maklum bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang sahih. Untuk maklumat penting, terjemahan profesional oleh manusia adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.