Membina Aplikasi Penjanaan Teks

(Klik imej di atas untuk menonton video pelajaran ini)

Sepanjang kurikulum ini, anda telah melihat konsep utama seperti arahan dan juga satu disiplin yang dipanggil "kejuruteraan arahan". Banyak alat yang boleh anda gunakan seperti ChatGPT, Office 365, Microsoft Power Platform dan lain-lain, menyokong penggunaan arahan untuk mencapai sesuatu.

Untuk menambah pengalaman seperti ini ke dalam aplikasi, anda perlu memahami konsep seperti arahan, penyelesaian dan memilih perpustakaan untuk digunakan. Itulah yang akan anda pelajari dalam bab ini.

Pengenalan

Dalam bab ini, anda akan:

Mempelajari tentang perpustakaan openai dan konsep utamanya.
Membina aplikasi penjanaan teks menggunakan openai.
Memahami cara menggunakan konsep seperti arahan, suhu, dan token untuk membina aplikasi penjanaan teks.

Matlamat Pembelajaran

Pada akhir pelajaran ini, anda akan dapat:

Menerangkan apa itu aplikasi penjanaan teks.
Membina aplikasi penjanaan teks menggunakan openai.
Mengkonfigurasi aplikasi anda untuk menggunakan lebih atau kurang token dan juga mengubah suhu, untuk hasil yang berbeza.

Apa itu aplikasi penjanaan teks?

Biasanya apabila anda membina aplikasi, ia mempunyai beberapa jenis antara muka seperti berikut:

Berasaskan arahan. Aplikasi konsol adalah aplikasi biasa di mana anda menaip arahan dan ia melaksanakan tugas. Sebagai contoh, git adalah aplikasi berasaskan arahan.
Antara muka pengguna (UI). Sesetengah aplikasi mempunyai antara muka pengguna grafik (GUI) di mana anda klik butang, masukkan teks, pilih pilihan dan banyak lagi.

Aplikasi Konsol dan UI adalah Terhad

Bandingkan dengan aplikasi berasaskan arahan di mana anda menaip arahan:

Ia terhad. Anda tidak boleh menaip sebarang arahan, hanya yang disokong oleh aplikasi.
Spesifik bahasa. Sesetengah aplikasi menyokong banyak bahasa, tetapi secara lalai aplikasi dibina untuk bahasa tertentu, walaupun anda boleh menambah sokongan bahasa lain.

Kelebihan Aplikasi Penjanaan Teks

Jadi bagaimana aplikasi penjanaan teks berbeza?

Dalam aplikasi penjanaan teks, anda mempunyai lebih banyak fleksibiliti, anda tidak terhad kepada set arahan atau bahasa input tertentu. Sebaliknya, anda boleh menggunakan bahasa semula jadi untuk berinteraksi dengan aplikasi. Satu lagi kelebihan ialah anda sudah berinteraksi dengan sumber data yang telah dilatih pada korpus maklumat yang luas, manakala aplikasi tradisional mungkin terhad kepada apa yang ada dalam pangkalan data.

Apa yang boleh saya bina dengan aplikasi penjanaan teks?

Terdapat banyak perkara yang boleh anda bina. Sebagai contoh:

Chatbot. Chatbot yang menjawab soalan tentang topik, seperti syarikat anda dan produknya boleh menjadi pilihan yang baik.
Pembantu. LLM sangat bagus dalam perkara seperti meringkaskan teks, mendapatkan pandangan daripada teks, menghasilkan teks seperti resume dan banyak lagi.
Pembantu kod. Bergantung pada model bahasa yang anda gunakan, anda boleh membina pembantu kod yang membantu anda menulis kod. Sebagai contoh, anda boleh menggunakan produk seperti GitHub Copilot serta ChatGPT untuk membantu anda menulis kod.

Bagaimana saya boleh bermula?

Anda perlu mencari cara untuk berintegrasi dengan LLM yang biasanya melibatkan dua pendekatan berikut:

Gunakan API. Di sini anda membina permintaan web dengan arahan anda dan mendapatkan teks yang dijana semula.
Gunakan perpustakaan. Perpustakaan membantu merangkum panggilan API dan menjadikannya lebih mudah digunakan.

Perpustakaan/SDK

Terdapat beberapa perpustakaan terkenal untuk bekerja dengan LLM seperti:

openai, perpustakaan ini memudahkan untuk menyambung ke model anda dan menghantar arahan.

Kemudian terdapat perpustakaan yang beroperasi pada tahap yang lebih tinggi seperti:

Langchain. Langchain terkenal dan menyokong Python.
Semantic Kernel. Semantic Kernel adalah perpustakaan oleh Microsoft yang menyokong bahasa C#, Python, dan Java.

Aplikasi pertama menggunakan openai

Mari kita lihat bagaimana kita boleh membina aplikasi pertama kita, perpustakaan apa yang kita perlukan, berapa banyak yang diperlukan dan sebagainya.

Pasang openai

Terdapat banyak perpustakaan di luar sana untuk berinteraksi dengan OpenAI atau Azure OpenAI. Adalah mungkin untuk menggunakan pelbagai bahasa pengaturcaraan seperti C#, Python, JavaScript, Java dan banyak lagi. Kami telah memilih untuk menggunakan perpustakaan Python openai, jadi kami akan menggunakan pip untuk memasangnya.

pip install openai

Buat sumber

Anda perlu melaksanakan langkah-langkah berikut:

Buat akaun di Azure https://azure.microsoft.com/free/.
Dapatkan akses ke Azure OpenAI. Pergi ke https://learn.microsoft.com/azure/ai-services/openai/overview#how-do-i-get-access-to-azure-openai dan minta akses.

[!NOTE] Pada masa penulisan, anda perlu memohon akses ke Azure OpenAI.
Pasang Python https://www.python.org/
Telah mencipta sumber Azure OpenAI Service. Lihat panduan ini untuk cara mencipta sumber.

Cari kunci API dan titik akhir

Pada ketika ini, anda perlu memberitahu perpustakaan openai anda kunci API mana yang hendak digunakan. Untuk mencari kunci API anda, pergi ke bahagian "Keys and Endpoint" sumber Azure OpenAI anda dan salin nilai "Key 1".

Sekarang setelah anda menyalin maklumat ini, mari arahkan perpustakaan untuk menggunakannya.

Note

Adalah berbaloi untuk memisahkan kunci API anda daripada kod anda. Anda boleh melakukannya dengan menggunakan pembolehubah persekitaran.

Tetapkan pembolehubah persekitaran OPENAI_API_KEY kepada kunci API anda. export OPENAI_API_KEY='sk-...'

Konfigurasi Azure

Jika anda menggunakan Azure OpenAI, berikut adalah cara anda menyediakan konfigurasi:

openai.api_type = 'azure'
openai.api_key = os.environ["OPENAI_API_KEY"]
openai.api_version = '2023-05-15'
openai.api_base = os.getenv("API_BASE")

Di atas, kami menetapkan perkara berikut:

api_type kepada azure. Ini memberitahu perpustakaan untuk menggunakan Azure OpenAI dan bukan OpenAI.
api_key, ini adalah kunci API anda yang terdapat di Portal Azure.
api_version, ini adalah versi API yang anda ingin gunakan. Pada masa penulisan, versi terkini ialah 2023-05-15.
api_base, ini adalah titik akhir API. Anda boleh mencarinya di Portal Azure bersebelahan dengan kunci API anda.

[!NOTE] > os.getenv adalah fungsi yang membaca pembolehubah persekitaran. Anda boleh menggunakannya untuk membaca pembolehubah persekitaran seperti OPENAI_API_KEY dan API_BASE. Tetapkan pembolehubah persekitaran ini dalam terminal anda atau dengan menggunakan perpustakaan seperti dotenv.

Menjana teks

Cara untuk menjana teks adalah dengan menggunakan kelas Completion. Berikut adalah contohnya:

prompt = "Complete the following: Once upon a time there was a"

completion = openai.Completion.create(model="davinci-002", prompt=prompt)
print(completion.choices[0].text)

Dalam kod di atas, kami mencipta objek completion dan memasukkan model yang ingin kami gunakan dan arahan. Kemudian kami mencetak teks yang dijana.

Penyelesaian Chat

Setakat ini, anda telah melihat bagaimana kami menggunakan Completion untuk menjana teks. Tetapi terdapat satu lagi kelas yang dipanggil ChatCompletion yang lebih sesuai untuk chatbot. Berikut adalah contoh penggunaannya:

import openai

openai.api_key = "sk-..."

completion = openai.ChatCompletion.create(model="gpt-3.5-turbo", messages=[{"role": "user", "content": "Hello world"}])
print(completion.choices[0].message.content)

Lebih lanjut tentang fungsi ini dalam bab yang akan datang.

Latihan - aplikasi penjanaan teks pertama anda

Sekarang kita telah belajar cara menyediakan dan mengkonfigurasi openai, tiba masanya untuk membina aplikasi penjanaan teks pertama anda. Untuk membina aplikasi anda, ikuti langkah-langkah berikut:

Buat persekitaran maya dan pasang openai:
```
python -m venv venv
source venv/bin/activate
pip install openai
```
[!NOTE] Jika anda menggunakan Windows taip venv\Scripts\activate dan bukannya source venv/bin/activate.

[!NOTE] Cari kunci Azure OpenAI anda dengan pergi ke https://portal.azure.com/ dan cari Open AI dan pilih Open AI resource dan kemudian pilih Keys and Endpoint dan salin nilai Key 1.

Buat fail app.py dan masukkan kod berikut:

import openai

openai.api_key = "<replace this value with your open ai key or Azure OpenAI key>"

openai.api_type = 'azure'
openai.api_version = '2023-05-15'
openai.api_base = "<endpoint found in Azure Portal where your API key is>"
deployment_name = "<deployment name>"

# add your completion code
prompt = "Complete the following: Once upon a time there was a"
messages = [{"role": "user", "content": prompt}]

# make completion
completion = openai.chat.completions.create(model=deployment_name, messages=messages)

# print response
print(completion.choices[0].message.content)

[!NOTE] Jika anda menggunakan Azure OpenAI, anda perlu menetapkan api_type kepada azure dan menetapkan api_key kepada kunci Azure OpenAI anda.

Anda sepatutnya melihat output seperti berikut:

 very unhappy _____.

Once upon a time there was a very unhappy mermaid.

Jenis arahan yang berbeza, untuk perkara yang berbeza

Sekarang anda telah melihat cara menjana teks menggunakan arahan. Anda malah mempunyai program yang berjalan yang boleh anda ubah dan ubah untuk menjana jenis teks yang berbeza.

Arahan boleh digunakan untuk pelbagai tugas. Sebagai contoh:

Menjana jenis teks. Sebagai contoh, anda boleh menjana puisi, soalan untuk kuiz dan sebagainya.
Mencari maklumat. Anda boleh menggunakan arahan untuk mencari maklumat seperti contoh berikut 'Apa maksud CORS dalam pembangunan web?'.
Menjana kod. Anda boleh menggunakan arahan untuk menjana kod, contohnya membangunkan ungkapan biasa yang digunakan untuk mengesahkan e-mel atau mengapa tidak menjana keseluruhan program, seperti aplikasi web?

Kes penggunaan yang lebih praktikal: penjana resipi

Bayangkan anda mempunyai bahan di rumah dan anda ingin memasak sesuatu. Untuk itu, anda memerlukan resipi. Cara untuk mencari resipi adalah dengan menggunakan enjin carian atau anda boleh menggunakan LLM untuk melakukannya.

Anda boleh menulis arahan seperti ini:

"Tunjukkan kepada saya 5 resipi untuk hidangan dengan bahan berikut: ayam, kentang, dan lobak. Per resipi, senaraikan semua bahan yang digunakan"

Berdasarkan arahan di atas, anda mungkin mendapat respons seperti:

1. Roasted Chicken and Vegetables:
Ingredients:
- 4 chicken thighs
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 2 tablespoons olive oil
- 2 cloves garlic, minced
- 1 teaspoon dried thyme
- 1 teaspoon dried oregano
- Salt and pepper, to taste

2. Chicken and Potato Stew:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 cloves garlic, minced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

3. Chicken and Potato Bake:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 2 cloves garlic, minced
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

4. Chicken and Potato Soup:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 cloves garlic, minced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 4 cups chicken broth
- Salt and pepper, to taste

5. Chicken and Potato Hash:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 2 cloves garlic, minced
- 1 teaspoon dried oregano

Hasil ini hebat, saya tahu apa yang hendak dimasak. Pada ketika ini, apa yang boleh menjadi penambahbaikan berguna ialah:

Menapis bahan yang saya tidak suka atau alah.
Menghasilkan senarai membeli-belah, sekiranya saya tidak mempunyai semua bahan di rumah.

Untuk kes di atas, mari tambah arahan tambahan:

"Sila keluarkan resipi dengan bawang putih kerana saya alah dan gantikan dengan sesuatu yang lain. Juga, sila hasilkan senarai membeli-belah untuk resipi, memandangkan saya sudah mempunyai ayam, kentang dan lobak di rumah."

Sekarang anda mempunyai hasil baharu, iaitu:

1. Roasted Chicken and Vegetables:
Ingredients:
- 4 chicken thighs
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 2 tablespoons olive oil
- 1 teaspoon dried thyme
- 1 teaspoon dried oregano
- Salt and pepper, to taste

2. Chicken and Potato Stew:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

3. Chicken and Potato Bake:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

4. Chicken and Potato Soup:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 4 cups chicken broth
- Salt and pepper, to taste

5. Chicken and Potato Hash:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 1 teaspoon dried oregano

Shopping List:
- Olive oil
- Onion
- Thyme
- Oregano
- Salt
- Pepper

Itulah lima resipi anda, tanpa bawang putih disebut dan anda juga mempunyai senarai membeli-belah memandangkan apa yang anda sudah ada di rumah.

Latihan - bina penjana resipi

Sekarang kita telah memainkan senario, mari kita tulis kod untuk menyesuaikan senario yang ditunjukkan. Untuk melakukannya, ikuti langkah-langkah berikut:

Gunakan fail app.py sedia ada sebagai titik permulaan

Cari pembolehubah prompt dan ubah kodnya kepada yang berikut:

prompt = "Show me 5 recipes for a dish with the following ingredients: chicken, potatoes, and carrots. Per recipe, list all the ingredients used"

Jika anda kini menjalankan kod, anda sepatutnya melihat output yang serupa dengan:

-Chicken Stew with Potatoes and Carrots: 3 tablespoons oil, 1 onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 bay leaf, 1 thyme sprig, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 1 1/2 cups chicken broth, 1/2 cup dry white wine, 2 tablespoons chopped fresh parsley, 2 tablespoons unsalted butter, 1 1/2 pounds boneless, skinless chicken thighs, cut into 1-inch pieces
-Oven-Roasted Chicken with Potatoes and Carrots: 3 tablespoons extra-virgin olive oil, 1 tablespoon Dijon mustard, 1 tablespoon chopped fresh rosemary, 1 tablespoon chopped fresh thyme, 4 cloves garlic, minced, 1 1/2 pounds small red potatoes, quartered, 1 1/2 pounds carrots, quartered lengthwise, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 1 (4-pound) whole chicken
-Chicken, Potato, and Carrot Casserole: cooking spray, 1 large onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and shredded, 1 potato, peeled and shredded, 1/2 teaspoon dried thyme leaves, 1/4 teaspoon salt, 1/4 teaspoon black pepper, 2 cups fat-free, low-sodium chicken broth, 1 cup frozen peas, 1/4 cup all-purpose flour, 1 cup 2% reduced-fat milk, 1/4 cup grated Parmesan cheese

-One Pot Chicken and Potato Dinner: 2 tablespoons olive oil, 1 pound boneless, skinless chicken thighs, cut into 1-inch pieces, 1 large onion, chopped, 3 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 bay leaf, 1 thyme sprig, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 2 cups chicken broth, 1/2 cup dry white wine

-Chicken, Potato, and Carrot Curry: 1 tablespoon vegetable oil, 1 large onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 teaspoon ground coriander, 1 teaspoon ground cumin, 1/2 teaspoon ground turmeric, 1/2 teaspoon ground ginger, 1/4 teaspoon cayenne pepper, 2 cups chicken broth, 1/2 cup dry white wine, 1 (15-ounce) can chickpeas, drained and rinsed, 1/2 cup raisins, 1/2 cup chopped fresh cilantro

NOTE, LLM anda adalah tidak deterministik, jadi anda mungkin mendapat hasil yang berbeza setiap kali anda menjalankan program.

Hebat, mari kita lihat bagaimana kita boleh memperbaiki perkara. Untuk memperbaiki perkara, kita ingin memastikan kod itu fleksibel, jadi bahan dan bilangan resipi boleh diperbaiki dan diubah.

Mari ubah kod dengan cara berikut:

no_recipes = input("No of recipes (for example, 5): ")

ingredients = input("List of ingredients (for example, chicken, potatoes, and carrots): ")

# interpolate the number of recipes into the prompt an ingredients
prompt = f"Show me {no_recipes} recipes for a dish with the following ingredients: {ingredients}. Per recipe, list all the ingredients used"

Menguji kod, boleh kelihatan seperti ini:

No of recipes (for example, 5): 3
List of ingredients (for example, chicken, potatoes, and carrots): milk,strawberries

-Strawberry milk shake: milk, strawberries, sugar, vanilla extract, ice cubes
-Strawberry shortcake: milk, flour, baking powder, sugar, salt, unsalted butter, strawberries, whipped cream
-Strawberry milk: milk, strawberries, sugar, vanilla extract

Perbaiki dengan menambah penapis dan senarai membeli-belah

Kami kini mempunyai aplikasi yang berfungsi yang mampu menghasilkan resipi dan ia fleksibel kerana ia bergantung pada input daripada pengguna, baik pada bilangan resipi tetapi juga bahan yang digunakan.

Untuk memperbaikinya lagi, kami ingin menambah perkara berikut:

Menapis bahan. Kami ingin dapat menapis bahan yang kami tidak suka atau alah. Untuk melaksanakan perubahan ini, kami boleh mengedit arahan sedia ada kami dan menambah syarat penapis pada penghujungnya seperti berikut:

filter = input("Filter (for example, vegetarian, vegan, or gluten-free): ")

prompt = f"Show me {no_recipes} recipes for a dish with the following ingredients: {ingredients}. Per recipe, list all the ingredients used, no {filter}"

Di atas, kami menambah {filter} pada penghujung arahan dan kami juga menangkap nilai penapis daripada pengguna.

Contoh input menjalankan program kini boleh kelihatan seperti ini:

No of recipes (for example, 5): 3
List of ingredients (for example, chicken, potatoes, and carrots): onion,milk
Filter (for example, vegetarian, vegan, or gluten-free): no milk

1. French Onion Soup

Ingredients:

-1 large onion, sliced
-3 cups beef broth
-1 cup milk
-6 slices french bread
-1/4 cup shredded Parmesan cheese
-1 tablespoon butter
-1 teaspoon dried thyme
-1/4 teaspoon salt
-1/4 teaspoon black pepper

Instructions:

1. In a large pot, sauté onions in butter until golden brown.
2. Add beef broth, milk, thyme, salt, and pepper. Bring to a boil.
3. Reduce heat and simmer for 10 minutes.
4. Place french bread slices on soup bowls.
5. Ladle soup over bread.
6. Sprinkle with Parmesan cheese.

2. Onion and Potato Soup

Ingredients:

-1 large onion, chopped
-2 cups potatoes, diced
-3 cups vegetable broth
-1 cup milk
-1/4 teaspoon black pepper

Instructions:

1. In a large pot, sauté onions in butter until golden brown.
2. Add potatoes, vegetable broth, milk, and pepper. Bring to a boil.
3. Reduce heat and simmer for 10 minutes.
4. Serve hot.

3. Creamy Onion Soup

Ingredients:

-1 large onion, chopped
-3 cups vegetable broth
-1 cup milk
-1/4 teaspoon black pepper
-1/4 cup all-purpose flour
-1/2 cup shredded Parmesan cheese

Instructions:

1. In a large pot, sauté onions in butter until golden brown.
2. Add vegetable broth, milk, and pepper. Bring to a boil.
3. Reduce heat and simmer for 10 minutes.
4. In a small bowl, whisk together flour and Parmesan cheese until smooth.
5. Add to soup and simmer for an additional 5 minutes, or until soup has thickened.

Seperti yang anda lihat, sebarang resipi dengan susu di dalamnya telah ditapis. Tetapi, jika anda tidak toleran laktosa, anda mungkin ingin menapis resipi dengan keju di dalamnya juga, jadi ada keperluan untuk menjadi jelas.

Menghasilkan senarai membeli-belah. Kami ingin menghasilkan senarai membeli-belah, memandangkan apa yang kami sudah ada di rumah.

Untuk fungsi ini, kami boleh cuba menyelesaikan semuanya dalam satu arahan atau kami boleh membahagikannya kepada dua arahan. Mari cuba pendekatan kedua. Di sini kami mencadangkan menambah arahan tambahan, tetapi untuk itu berfungsi, kami perlu menambah hasil arahan sebelumnya sebagai konteks kepada arahan berikutnya.

Cari bahagian dalam kod yang mencetak hasil daripada arahan pertama dan tambahkan kod berikut di bawah:

old_prompt_result = completion.choices[0].message.content
prompt = "Produce a shopping list for the generated recipes and please don't include ingredients that I already have."

new_prompt = f"{old_prompt_result} {prompt}"
messages = [{"role": "user", "content": new_prompt}]
completion = openai.Completion.create(engine=deployment_name, messages=messages, max_tokens=1200)

# print response
print("Shopping list:")
print(completion.choices[0].message.content)

Perhatikan perkara berikut:

Kita sedang membina arahan baru dengan menambah hasil daripada arahan pertama kepada arahan baru:
```
new_prompt = f"{old_prompt_result} {prompt}"
```

Kita membuat permintaan baru, tetapi juga mengambil kira bilangan token yang kita minta dalam arahan pertama, jadi kali ini kita tetapkan max_tokens kepada 1200.

completion = openai.Completion.create(engine=deployment_name, prompt=new_prompt, max_tokens=1200)

Dengan mencuba kod ini, kita kini mendapat output berikut:

No of recipes (for example, 5): 2
List of ingredients (for example, chicken, potatoes, and carrots): apple,flour
Filter (for example, vegetarian, vegan, or gluten-free): sugar


-Apple and flour pancakes: 1 cup flour, 1/2 tsp baking powder, 1/2 tsp baking soda, 1/4 tsp salt, 1 tbsp sugar, 1 egg, 1 cup buttermilk or sour milk, 1/4 cup melted butter, 1 Granny Smith apple, peeled and grated
-Apple fritters: 1-1/2 cups flour, 1 tsp baking powder, 1/4 tsp salt, 1/4 tsp baking soda, 1/4 tsp nutmeg, 1/4 tsp cinnamon, 1/4 tsp allspice, 1/4 cup sugar, 1/4 cup vegetable shortening, 1/4 cup milk, 1 egg, 2 cups shredded, peeled apples
Shopping list:
-Flour, baking powder, baking soda, salt, sugar, egg, buttermilk, butter, apple, nutmeg, cinnamon, allspice

Tingkatkan tetapan anda

Apa yang kita ada setakat ini adalah kod yang berfungsi, tetapi terdapat beberapa penyesuaian yang perlu kita lakukan untuk meningkatkan lagi. Beberapa perkara yang perlu kita lakukan adalah:

Pisahkan rahsia daripada kod, seperti kunci API. Rahsia tidak sepatutnya berada dalam kod dan harus disimpan di lokasi yang selamat. Untuk memisahkan rahsia daripada kod, kita boleh menggunakan pembolehubah persekitaran dan perpustakaan seperti python-dotenv untuk memuatkannya daripada fail. Berikut adalah bagaimana ia kelihatan dalam kod:
1. Buat fail .env dengan kandungan berikut:
```
OPENAI_API_KEY=sk-...
```
  Perhatikan, untuk Azure, anda perlu menetapkan pembolehubah persekitaran berikut:
```
OPENAI_API_TYPE=azure
OPENAI_API_VERSION=2023-05-15
OPENAI_API_BASE=<replace>
```
  Dalam kod, anda akan memuatkan pembolehubah persekitaran seperti berikut:
```
from dotenv import load_dotenv

load_dotenv()

openai.api_key = os.environ["OPENAI_API_KEY"]
```
Perkataan tentang panjang token. Kita perlu mempertimbangkan berapa banyak token yang diperlukan untuk menghasilkan teks yang kita inginkan. Token memerlukan kos, jadi di mana mungkin, kita harus cuba berjimat dengan bilangan token yang digunakan. Sebagai contoh, bolehkah kita menyusun arahan supaya kita boleh menggunakan lebih sedikit token?

Untuk menukar token yang digunakan, anda boleh menggunakan parameter max_tokens. Sebagai contoh, jika anda ingin menggunakan 100 token, anda akan lakukan:
```
completion = client.chat.completions.create(model=deployment, messages=messages, max_tokens=100)
```
Bereksperimen dengan suhu. Suhu adalah sesuatu yang belum kita sebutkan setakat ini tetapi merupakan konteks penting untuk bagaimana program kita berfungsi. Semakin tinggi nilai suhu, semakin rawak outputnya. Sebaliknya, semakin rendah nilai suhu, semakin boleh diramal outputnya. Pertimbangkan sama ada anda mahukan variasi dalam output anda atau tidak.

Untuk mengubah suhu, anda boleh menggunakan parameter temperature. Sebagai contoh, jika anda ingin menggunakan suhu 0.5, anda akan lakukan:
```
completion = client.chat.completions.create(model=deployment, messages=messages, temperature=0.5)
```
Perhatikan, semakin dekat dengan 1.0, semakin pelbagai outputnya.

Tugasan

Untuk tugasan ini, anda boleh memilih apa yang ingin dibina.

Berikut adalah beberapa cadangan:

Ubah suai aplikasi penjana resipi untuk meningkatkannya lagi. Cuba bermain dengan nilai suhu, dan arahan untuk melihat apa yang boleh anda hasilkan.
Bina "rakan belajar". Aplikasi ini sepatutnya dapat menjawab soalan tentang topik tertentu contohnya Python, anda boleh mempunyai arahan seperti "Apakah topik tertentu dalam Python?", atau anda boleh mempunyai arahan yang mengatakan, tunjukkan saya kod untuk topik tertentu dan sebagainya.
Bot sejarah, hidupkan sejarah, arahkan bot untuk memainkan watak sejarah tertentu dan tanyakan soalan tentang kehidupan dan zamannya.

Penyelesaian

Rakan belajar

Di bawah adalah arahan permulaan, lihat bagaimana anda boleh menggunakannya dan mengubahnya mengikut kesukaan anda.

- "You're an expert on the Python language

    Suggest a beginner lesson for Python in the following format:

    Format:
    - concepts:
    - brief explanation of the lesson:
    - exercise in code with solutions"

Bot sejarah

Berikut adalah beberapa arahan yang boleh anda gunakan:

- "You are Abe Lincoln, tell me about yourself in 3 sentences, and respond using grammar and words like Abe would have used"
- "You are Abe Lincoln, respond using grammar and words like Abe would have used:

   Tell me about your greatest accomplishments, in 300 words"

Ujian pengetahuan

Apakah konsep suhu lakukan?

Ia mengawal betapa rawaknya output.
Ia mengawal betapa besar responsnya.
Ia mengawal berapa banyak token yang digunakan.

🚀 Cabaran

Semasa mengerjakan tugasan, cuba ubah suhu, cuba tetapkan kepada 0, 0.5, dan 1. Ingat bahawa 0 adalah yang paling kurang pelbagai dan 1 adalah yang paling pelbagai. Nilai mana yang paling sesuai untuk aplikasi anda?

Kerja Hebat! Teruskan Pembelajaran Anda

Selepas menyelesaikan pelajaran ini, lihat koleksi Pembelajaran AI Generatif kami untuk terus meningkatkan pengetahuan AI Generatif anda!

Pergi ke Pelajaran 7 di mana kita akan melihat bagaimana untuk membina aplikasi sembang!

Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila ambil perhatian bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang berwibawa. Untuk maklumat penting, terjemahan manusia profesional adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

Membina Aplikasi Penjanaan Teks

Pengenalan

Matlamat Pembelajaran

Apa itu aplikasi penjanaan teks?

Aplikasi Konsol dan UI adalah Terhad

Kelebihan Aplikasi Penjanaan Teks

Apa yang boleh saya bina dengan aplikasi penjanaan teks?

Bagaimana saya boleh bermula?

Perpustakaan/SDK

Aplikasi pertama menggunakan openai

Pasang openai

Buat sumber

Cari kunci API dan titik akhir

Konfigurasi Azure

Menjana teks

Penyelesaian Chat

Latihan - aplikasi penjanaan teks pertama anda

Jenis arahan yang berbeza, untuk perkara yang berbeza

Kes penggunaan yang lebih praktikal: penjana resipi

Latihan - bina penjana resipi

Perbaiki dengan menambah penapis dan senarai membeli-belah

Tingkatkan tetapan anda

Tugasan

Penyelesaian

Rakan belajar

Bot sejarah

Ujian pengetahuan

🚀 Cabaran

Kerja Hebat! Teruskan Pembelajaran Anda

FilesExpand file tree

README.md

Latest commit

History

README.md

File metadata and controls

Membina Aplikasi Penjanaan Teks

Pengenalan

Matlamat Pembelajaran

Apa itu aplikasi penjanaan teks?

Aplikasi Konsol dan UI adalah Terhad

Kelebihan Aplikasi Penjanaan Teks

Apa yang boleh saya bina dengan aplikasi penjanaan teks?

Bagaimana saya boleh bermula?

Perpustakaan/SDK

Aplikasi pertama menggunakan openai

Pasang openai

Buat sumber

Cari kunci API dan titik akhir

Konfigurasi Azure

Menjana teks

Penyelesaian Chat

Latihan - aplikasi penjanaan teks pertama anda

Jenis arahan yang berbeza, untuk perkara yang berbeza

Kes penggunaan yang lebih praktikal: penjana resipi

Latihan - bina penjana resipi

Perbaiki dengan menambah penapis dan senarai membeli-belah

Tingkatkan tetapan anda

Tugasan

Penyelesaian

Rakan belajar

Bot sejarah

Ujian pengetahuan

🚀 Cabaran

Kerja Hebat! Teruskan Pembelajaran Anda