Xây dựng ứng dụng tạo văn bản

(Nhấp vào hình ảnh trên để xem video bài học này)

Cho đến nay, bạn đã thấy trong chương trình học này rằng có những khái niệm cốt lõi như lời nhắc (prompts) và thậm chí là một lĩnh vực hoàn toàn mới gọi là "kỹ thuật lời nhắc". Nhiều công cụ mà bạn có thể tương tác như ChatGPT, Office 365, Microsoft Power Platform và nhiều công cụ khác hỗ trợ bạn sử dụng lời nhắc để thực hiện một điều gì đó.

Để bạn có thể thêm trải nghiệm như vậy vào ứng dụng, bạn cần hiểu các khái niệm như lời nhắc, kết quả hoàn thành và chọn một thư viện để làm việc. Đó chính xác là những gì bạn sẽ học trong chương này.

Giới thiệu

Trong chương này, bạn sẽ:

Tìm hiểu về thư viện openai và các khái niệm cốt lõi của nó.
Xây dựng một ứng dụng tạo văn bản sử dụng openai.
Hiểu cách sử dụng các khái niệm như lời nhắc, nhiệt độ và tokens để xây dựng một ứng dụng tạo văn bản.

Mục tiêu học tập

Kết thúc bài học này, bạn sẽ có thể:

Giải thích ứng dụng tạo văn bản là gì.
Xây dựng một ứng dụng tạo văn bản sử dụng openai.
Cấu hình ứng dụng của bạn để sử dụng nhiều hoặc ít tokens và thay đổi nhiệt độ để có kết quả đa dạng.

Ứng dụng tạo văn bản là gì?

Thông thường khi bạn xây dựng một ứng dụng, nó có một loại giao diện nào đó như sau:

Dựa trên lệnh. Các ứng dụng console là những ứng dụng điển hình nơi bạn nhập một lệnh và nó thực hiện một nhiệm vụ. Ví dụ, git là một ứng dụng dựa trên lệnh.
Giao diện người dùng (UI). Một số ứng dụng có giao diện người dùng đồ họa (GUI) nơi bạn nhấp vào nút, nhập văn bản, chọn tùy chọn và nhiều hơn nữa.

Ứng dụng console và UI bị giới hạn

So sánh với một ứng dụng dựa trên lệnh nơi bạn nhập một lệnh:

Bị giới hạn. Bạn không thể chỉ nhập bất kỳ lệnh nào, chỉ những lệnh mà ứng dụng hỗ trợ.
Cụ thể ngôn ngữ. Một số ứng dụng hỗ trợ nhiều ngôn ngữ, nhưng mặc định ứng dụng được xây dựng cho một ngôn ngữ cụ thể, ngay cả khi bạn có thể thêm hỗ trợ ngôn ngữ khác.

Lợi ích của ứng dụng tạo văn bản

Vậy ứng dụng tạo văn bản khác biệt như thế nào?

Trong một ứng dụng tạo văn bản, bạn có nhiều sự linh hoạt hơn, bạn không bị giới hạn bởi một tập hợp lệnh hoặc một ngôn ngữ nhập cụ thể. Thay vào đó, bạn có thể sử dụng ngôn ngữ tự nhiên để tương tác với ứng dụng. Một lợi ích khác là bạn đang tương tác với một nguồn dữ liệu đã được huấn luyện trên một tập hợp thông tin rộng lớn, trong khi một ứng dụng truyền thống có thể bị giới hạn bởi những gì có trong cơ sở dữ liệu.

Tôi có thể xây dựng gì với ứng dụng tạo văn bản?

Có rất nhiều thứ bạn có thể xây dựng. Ví dụ:

Chatbot. Một chatbot trả lời các câu hỏi về các chủ đề, như công ty của bạn và sản phẩm của nó, có thể là một lựa chọn tốt.
Trợ lý. Các mô hình ngôn ngữ lớn (LLM) rất tốt trong việc tóm tắt văn bản, tìm hiểu thông tin từ văn bản, tạo ra văn bản như sơ yếu lý lịch và nhiều hơn nữa.
Trợ lý mã hóa. Tùy thuộc vào mô hình ngôn ngữ bạn sử dụng, bạn có thể xây dựng một trợ lý mã hóa giúp bạn viết mã. Ví dụ, bạn có thể sử dụng sản phẩm như GitHub Copilot cũng như ChatGPT để giúp bạn viết mã.

Làm thế nào để bắt đầu?

Bạn cần tìm cách tích hợp với một LLM, thường bao gồm hai cách tiếp cận sau:

Sử dụng API. Ở đây bạn tạo các yêu cầu web với lời nhắc của mình và nhận lại văn bản được tạo.
Sử dụng thư viện. Các thư viện giúp đóng gói các cuộc gọi API và làm cho chúng dễ sử dụng hơn.

Thư viện/SDK

Có một số thư viện nổi tiếng để làm việc với LLM như:

openai, thư viện này giúp dễ dàng kết nối với mô hình của bạn và gửi lời nhắc.

Sau đó, có các thư viện hoạt động ở mức cao hơn như:

Langchain. Langchain rất nổi tiếng và hỗ trợ Python.
Semantic Kernel. Semantic Kernel là một thư viện của Microsoft hỗ trợ các ngôn ngữ C#, Python và Java.

Ứng dụng đầu tiên sử dụng openai

Hãy xem cách chúng ta có thể xây dựng ứng dụng đầu tiên, cần những thư viện nào, yêu cầu bao nhiêu và v.v.

Cài đặt openai

Có rất nhiều thư viện ngoài kia để tương tác với OpenAI hoặc Azure OpenAI. Có thể sử dụng nhiều ngôn ngữ lập trình như C#, Python, JavaScript, Java và nhiều hơn nữa. Chúng tôi đã chọn sử dụng thư viện Python openai, vì vậy chúng tôi sẽ sử dụng pip để cài đặt nó.

pip install openai

Tạo tài nguyên

Bạn cần thực hiện các bước sau:

Tạo tài khoản trên Azure https://azure.microsoft.com/free/.
Truy cập vào Azure OpenAI. Truy cập https://learn.microsoft.com/azure/ai-services/openai/overview#how-do-i-get-access-to-azure-openai và yêu cầu quyền truy cập.

[!NOTE] Tại thời điểm viết bài, bạn cần đăng ký để truy cập vào Azure OpenAI.
Cài đặt Python https://www.python.org/
Đã tạo một tài nguyên Azure OpenAI Service. Xem hướng dẫn này để tạo tài nguyên.

Xác định khóa API và điểm cuối

Tại thời điểm này, bạn cần cho thư viện openai biết khóa API nào để sử dụng. Để tìm khóa API của bạn, hãy vào phần "Keys and Endpoint" của tài nguyên Azure OpenAI và sao chép giá trị "Key 1".

Bây giờ bạn đã sao chép thông tin này, hãy hướng dẫn các thư viện sử dụng nó.

Note

Đáng để tách biệt khóa API của bạn khỏi mã. Bạn có thể làm điều này bằng cách sử dụng các biến môi trường.

Đặt biến môi trường OPENAI_API_KEY thành khóa API của bạn. export OPENAI_API_KEY='sk-...'

Cấu hình Azure

Nếu bạn đang sử dụng Azure OpenAI, đây là cách bạn cấu hình:

openai.api_type = 'azure'
openai.api_key = os.environ["OPENAI_API_KEY"]
openai.api_version = '2023-05-15'
openai.api_base = os.getenv("API_BASE")

Ở trên, chúng ta đang thiết lập các thông số sau:

api_type là azure. Điều này cho thư viện biết rằng sử dụng Azure OpenAI thay vì OpenAI.
api_key, đây là khóa API của bạn được tìm thấy trong Azure Portal.
api_version, đây là phiên bản API bạn muốn sử dụng. Tại thời điểm viết bài, phiên bản mới nhất là 2023-05-15.
api_base, đây là điểm cuối của API. Bạn có thể tìm thấy nó trong Azure Portal bên cạnh khóa API của bạn.

[!NOTE] > os.getenv là một hàm đọc các biến môi trường. Bạn có thể sử dụng nó để đọc các biến môi trường như OPENAI_API_KEY và API_BASE. Đặt các biến môi trường này trong terminal của bạn hoặc bằng cách sử dụng một thư viện như dotenv.

Tạo văn bản

Cách để tạo văn bản là sử dụng lớp Completion. Đây là một ví dụ:

prompt = "Complete the following: Once upon a time there was a"

completion = openai.Completion.create(model="davinci-002", prompt=prompt)
print(completion.choices[0].text)

Trong đoạn mã trên, chúng ta tạo một đối tượng completion và truyền vào mô hình chúng ta muốn sử dụng và lời nhắc. Sau đó, chúng ta in ra văn bản được tạo.

Hoàn thành chat

Cho đến nay, bạn đã thấy cách chúng ta sử dụng Completion để tạo văn bản. Nhưng có một lớp khác gọi là ChatCompletion phù hợp hơn cho chatbot. Đây là một ví dụ sử dụng nó:

import openai

openai.api_key = "sk-..."

completion = openai.ChatCompletion.create(model="gpt-3.5-turbo", messages=[{"role": "user", "content": "Hello world"}])
print(completion.choices[0].message.content)

Chức năng này sẽ được trình bày chi tiết hơn trong chương tiếp theo.

Bài tập - ứng dụng tạo văn bản đầu tiên của bạn

Bây giờ chúng ta đã học cách thiết lập và cấu hình openai, đã đến lúc xây dựng ứng dụng tạo văn bản đầu tiên của bạn. Để xây dựng ứng dụng của bạn, hãy làm theo các bước sau:

Tạo một môi trường ảo và cài đặt openai:
```
python -m venv venv
source venv/bin/activate
pip install openai
```
[!NOTE] Nếu bạn sử dụng Windows, hãy gõ venv\Scripts\activate thay vì source venv/bin/activate.

[!NOTE] Xác định khóa Azure OpenAI của bạn bằng cách truy cập https://portal.azure.com/ và tìm kiếm Open AI, chọn Open AI resource, sau đó chọn Keys and Endpoint và sao chép giá trị Key 1.

Tạo một tệp app.py và thêm đoạn mã sau:

import openai

openai.api_key = "<replace this value with your open ai key or Azure OpenAI key>"

openai.api_type = 'azure'
openai.api_version = '2023-05-15'
openai.api_base = "<endpoint found in Azure Portal where your API key is>"
deployment_name = "<deployment name>"

# add your completion code
prompt = "Complete the following: Once upon a time there was a"
messages = [{"role": "user", "content": prompt}]

# make completion
completion = openai.chat.completions.create(model=deployment_name, messages=messages)

# print response
print(completion.choices[0].message.content)

[!NOTE] Nếu bạn sử dụng Azure OpenAI, bạn cần đặt api_type thành azure và đặt api_key thành khóa Azure OpenAI của bạn.

Bạn sẽ thấy một kết quả đầu ra như sau:

 very unhappy _____.

Once upon a time there was a very unhappy mermaid.

Các loại lời nhắc khác nhau cho các mục đích khác nhau

Bây giờ bạn đã thấy cách tạo văn bản bằng một lời nhắc. Bạn thậm chí đã có một chương trình hoạt động mà bạn có thể sửa đổi và thay đổi để tạo các loại văn bản khác nhau.

Lời nhắc có thể được sử dụng cho nhiều nhiệm vụ khác nhau. Ví dụ:

Tạo một loại văn bản. Ví dụ, bạn có thể tạo một bài thơ, câu hỏi cho một bài kiểm tra, v.v.
Tra cứu thông tin. Bạn có thể sử dụng lời nhắc để tìm kiếm thông tin như ví dụ sau 'CORS có nghĩa là gì trong phát triển web?'.
Tạo mã. Bạn có thể sử dụng lời nhắc để tạo mã, ví dụ phát triển một biểu thức chính quy để xác thực email hoặc thậm chí tạo một chương trình hoàn chỉnh, như một ứng dụng web.

Một trường hợp sử dụng thực tế hơn: trình tạo công thức nấu ăn

Hãy tưởng tượng bạn có nguyên liệu ở nhà và muốn nấu một món gì đó. Để làm điều đó, bạn cần một công thức. Một cách để tìm công thức là sử dụng công cụ tìm kiếm hoặc bạn có thể sử dụng một LLM.

Bạn có thể viết một lời nhắc như sau:

"Hiển thị cho tôi 5 công thức nấu ăn cho một món ăn với các nguyên liệu sau: gà, khoai tây và cà rốt. Với mỗi công thức, liệt kê tất cả các nguyên liệu được sử dụng."

Với lời nhắc trên, bạn có thể nhận được một phản hồi tương tự như:

1. Roasted Chicken and Vegetables:
Ingredients:
- 4 chicken thighs
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 2 tablespoons olive oil
- 2 cloves garlic, minced
- 1 teaspoon dried thyme
- 1 teaspoon dried oregano
- Salt and pepper, to taste

2. Chicken and Potato Stew:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 cloves garlic, minced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

3. Chicken and Potato Bake:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 2 cloves garlic, minced
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

4. Chicken and Potato Soup:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 cloves garlic, minced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 4 cups chicken broth
- Salt and pepper, to taste

5. Chicken and Potato Hash:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 2 cloves garlic, minced
- 1 teaspoon dried oregano

Kết quả này rất tuyệt, tôi biết mình sẽ nấu gì. Tại thời điểm này, những cải tiến hữu ích có thể là:

Loại bỏ các nguyên liệu tôi không thích hoặc bị dị ứng.
Tạo danh sách mua sắm, trong trường hợp tôi không có tất cả các nguyên liệu ở nhà.

Đối với các trường hợp trên, hãy thêm một lời nhắc bổ sung:

"Vui lòng loại bỏ các công thức có tỏi vì tôi bị dị ứng và thay thế bằng một thứ khác. Ngoài ra, hãy tạo danh sách mua sắm cho các công thức, xem xét tôi đã có gà, khoai tây và cà rốt ở nhà."

Bây giờ bạn có một kết quả mới, cụ thể là:

1. Roasted Chicken and Vegetables:
Ingredients:
- 4 chicken thighs
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 2 tablespoons olive oil
- 1 teaspoon dried thyme
- 1 teaspoon dried oregano
- Salt and pepper, to taste

2. Chicken and Potato Stew:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

3. Chicken and Potato Bake:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 1 cup chicken broth
- Salt and pepper, to taste

4. Chicken and Potato Soup:
Ingredients:
- 2 tablespoons olive oil
- 1 onion, diced
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 teaspoon dried oregano
- 1 teaspoon dried thyme
- 4 cups chicken broth
- Salt and pepper, to taste

5. Chicken and Potato Hash:
Ingredients:
- 2 tablespoons olive oil
- 2 chicken breasts, cut into cubes
- 2 potatoes, cut into cubes
- 2 carrots, cut into cubes
- 1 onion, diced
- 1 teaspoon dried oregano

Shopping List:
- Olive oil
- Onion
- Thyme
- Oregano
- Salt
- Pepper

Đó là năm công thức của bạn, không có tỏi được đề cập và bạn cũng có một danh sách mua sắm xem xét những gì bạn đã có ở nhà.

Bài tập - xây dựng trình tạo công thức nấu ăn

Bây giờ chúng ta đã thực hiện một kịch bản, hãy viết mã để phù hợp với kịch bản đã trình bày. Để làm điều đó, hãy làm theo các bước sau:

Sử dụng tệp app.py hiện có làm điểm bắt đầu

Xác định biến prompt và thay đổi mã của nó thành:

prompt = "Show me 5 recipes for a dish with the following ingredients: chicken, potatoes, and carrots. Per recipe, list all the ingredients used"

Nếu bạn chạy mã bây giờ, bạn sẽ thấy một kết quả đầu ra tương tự như:

-Chicken Stew with Potatoes and Carrots: 3 tablespoons oil, 1 onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 bay leaf, 1 thyme sprig, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 1 1/2 cups chicken broth, 1/2 cup dry white wine, 2 tablespoons chopped fresh parsley, 2 tablespoons unsalted butter, 1 1/2 pounds boneless, skinless chicken thighs, cut into 1-inch pieces
-Oven-Roasted Chicken with Potatoes and Carrots: 3 tablespoons extra-virgin olive oil, 1 tablespoon Dijon mustard, 1 tablespoon chopped fresh rosemary, 1 tablespoon chopped fresh thyme, 4 cloves garlic, minced, 1 1/2 pounds small red potatoes, quartered, 1 1/2 pounds carrots, quartered lengthwise, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 1 (4-pound) whole chicken
-Chicken, Potato, and Carrot Casserole: cooking spray, 1 large onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and shredded, 1 potato, peeled and shredded, 1/2 teaspoon dried thyme leaves, 1/4 teaspoon salt, 1/4 teaspoon black pepper, 2 cups fat-free, low-sodium chicken broth, 1 cup frozen peas, 1/4 cup all-purpose flour, 1 cup 2% reduced-fat milk, 1/4 cup grated Parmesan cheese

-One Pot Chicken and Potato Dinner: 2 tablespoons olive oil, 1 pound boneless, skinless chicken thighs, cut into 1-inch pieces, 1 large onion, chopped, 3 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 bay leaf, 1 thyme sprig, 1/2 teaspoon salt, 1/4 teaspoon black pepper, 2 cups chicken broth, 1/2 cup dry white wine

-Chicken, Potato, and Carrot Curry: 1 tablespoon vegetable oil, 1 large onion, chopped, 2 cloves garlic, minced, 1 carrot, peeled and chopped, 1 potato, peeled and chopped, 1 teaspoon ground coriander, 1 teaspoon ground cumin, 1/2 teaspoon ground turmeric, 1/2 teaspoon ground ginger, 1/4 teaspoon cayenne pepper, 2 cups chicken broth, 1/2 cup dry white wine, 1 (15-ounce) can chickpeas, drained and rinsed, 1/2 cup raisins, 1/2 cup chopped fresh cilantro

LƯU Ý, LLM của bạn là không xác định, vì vậy bạn có thể nhận được kết quả khác nhau mỗi lần chạy chương trình.

Tuyệt vời, hãy xem cách chúng ta có thể cải thiện mọi thứ. Để cải thiện mọi thứ, chúng ta muốn đảm bảo mã linh hoạt, để các nguyên liệu và số lượng công thức có thể được cải thiện và thay đổi.

Hãy thay đổi mã theo cách sau:

no_recipes = input("No of recipes (for example, 5): ")

ingredients = input("List of ingredients (for example, chicken, potatoes, and carrots): ")

# interpolate the number of recipes into the prompt an ingredients
prompt = f"Show me {no_recipes} recipes for a dish with the following ingredients: {ingredients}. Per recipe, list all the ingredients used"

Chạy thử nghiệm mã, có thể trông như thế này:

No of recipes (for example, 5): 3
List of ingredients (for example, chicken, potatoes, and carrots): milk,strawberries

-Strawberry milk shake: milk, strawberries, sugar, vanilla extract, ice cubes
-Strawberry shortcake: milk, flour, baking powder, sugar, salt, unsalted butter, strawberries, whipped cream
-Strawberry milk: milk, strawberries, sugar, vanilla extract

Cải thiện bằng cách thêm bộ lọc và danh sách mua sắm

Bây giờ chúng ta đã có một ứng dụng hoạt động có khả năng tạo ra các công thức và nó linh hoạt vì nó dựa vào đầu vào từ người dùng, cả về số lượng công thức và các nguyên liệu được sử dụng.

Để cải thiện thêm, chúng ta muốn thêm các điều sau:

Loại bỏ nguyên liệu. Chúng ta muốn có thể loại bỏ các nguyên liệu mà chúng ta không thích hoặc bị dị ứng. Để thực hiện thay đổi này, chúng ta có thể chỉnh sửa lời nhắc hiện có và thêm điều kiện lọc vào cuối như sau:

filter = input("Filter (for example, vegetarian, vegan, or gluten-free): ")

prompt = f"Show me {no_recipes} recipes for a dish with the following ingredients: {ingredients}. Per recipe, list all the ingredients used, no {filter}"

Ở trên, chúng ta thêm {filter} vào cuối lời nhắc và cũng lấy giá trị bộ lọc từ người dùng.

Một ví dụ đầu vào khi chạy chương trình bây giờ có thể trông như sau:

No of recipes (for example, 5): 3
List of ingredients (for example, chicken, potatoes, and carrots): onion,milk
Filter (for example, vegetarian, vegan, or gluten-free): no milk

1. French Onion Soup

Ingredients:

-1 large onion, sliced
-3 cups beef broth
-1 cup milk
-6 slices french bread
-1/4 cup shredded Parmesan cheese
-1 tablespoon butter
-1 teaspoon dried thyme
-1/4 teaspoon salt
-1/4 teaspoon black pepper

Instructions:

1. In a large pot, sauté onions in butter until golden brown.
2. Add beef broth, milk, thyme, salt, and pepper. Bring to a boil.
3. Reduce heat and simmer for 10 minutes.
4. Place french bread slices on soup bowls.
5. Ladle soup over bread.
6. Sprinkle with Parmesan cheese.

2. Onion and Potato Soup

Ingredients:

-1 large onion, chopped
-2 cups potatoes, diced
-3 cups vegetable broth
-1 cup milk
-1/4 teaspoon black pepper

Instructions:

1. In a large pot, sauté onions in butter until golden brown.
2. Add potatoes, vegetable broth, milk, and pepper. Bring to a boil.
3. Reduce heat and simmer for 10 minutes.
4. Serve hot.

3. Creamy Onion Soup

Ingredients:

-1 large onion, chopped
-3 cups vegetable broth
-1 cup milk
-1/4 teaspoon black pepper
-1/4 cup all-purpose flour
-1/2 cup shredded Parmesan cheese

Instructions:

1. In a large pot, sauté onions in butter until golden brown.
2. Add vegetable broth, milk, and pepper. Bring to a boil.
3. Reduce heat and simmer for 10 minutes.
4. In a small bowl, whisk together flour and Parmesan cheese until smooth.
5. Add to soup and simmer for an additional 5 minutes, or until soup has thickened.

Như bạn thấy, bất kỳ công thức nào có sữa đã bị loại bỏ. Nhưng, nếu bạn không dung nạp lactose, bạn có thể muốn loại bỏ các công thức có phô mai trong đó, vì vậy cần phải rõ ràng.

Tạo danh sách mua sắm. Chúng ta muốn tạo danh sách mua sắm, xem xét những gì chúng ta đã có ở nhà.

Đối với chức năng này, chúng ta có thể cố gắng giải quyết mọi thứ trong một lời nhắc hoặc chúng ta có thể chia nó thành hai lời nhắc. Hãy thử cách tiếp cận thứ hai. Ở đây chúng ta đề xuất thêm một lời nhắc bổ sung, nhưng để điều đó hoạt động, chúng ta cần thêm kết quả của lời nhắc trước đó làm ngữ cảnh cho lời nhắc sau.

Xác định phần trong mã in ra kết quả từ lời nhắc đầu tiên và thêm đoạn mã sau bên dưới:

old_prompt_result = completion.choices[0].message.content
prompt = "Produce a shopping list for the generated recipes and please don't include ingredients that I already have."

new_prompt = f"{old_prompt_result} {prompt}"
messages = [{"role": "user", "content": new_prompt}]
completion = openai.Completion.create(engine=deployment_name, messages=messages, max_tokens=1200)

# print response
print("Shopping list:")
print(completion.choices[0].message.content)

Lưu ý những điều sau:

Chúng ta đang tạo một prompt mới bằng cách thêm kết quả từ prompt đầu tiên vào prompt mới:
```
new_prompt = f"{old_prompt_result} {prompt}"
```

Chúng ta thực hiện một yêu cầu mới, nhưng cũng xem xét số lượng token mà chúng ta đã yêu cầu trong prompt đầu tiên, vì vậy lần này chúng ta đặt max_tokens là 1200.

completion = openai.Completion.create(engine=deployment_name, prompt=new_prompt, max_tokens=1200)

Khi chạy đoạn mã này, chúng ta sẽ nhận được kết quả sau:

No of recipes (for example, 5): 2
List of ingredients (for example, chicken, potatoes, and carrots): apple,flour
Filter (for example, vegetarian, vegan, or gluten-free): sugar


-Apple and flour pancakes: 1 cup flour, 1/2 tsp baking powder, 1/2 tsp baking soda, 1/4 tsp salt, 1 tbsp sugar, 1 egg, 1 cup buttermilk or sour milk, 1/4 cup melted butter, 1 Granny Smith apple, peeled and grated
-Apple fritters: 1-1/2 cups flour, 1 tsp baking powder, 1/4 tsp salt, 1/4 tsp baking soda, 1/4 tsp nutmeg, 1/4 tsp cinnamon, 1/4 tsp allspice, 1/4 cup sugar, 1/4 cup vegetable shortening, 1/4 cup milk, 1 egg, 2 cups shredded, peeled apples
Shopping list:
-Flour, baking powder, baking soda, salt, sugar, egg, buttermilk, butter, apple, nutmeg, cinnamon, allspice

Cải thiện thiết lập của bạn

Những gì chúng ta có cho đến nay là mã hoạt động, nhưng có một số điều chỉnh chúng ta nên thực hiện để cải thiện hơn nữa. Một số điều chúng ta nên làm là:

Tách biệt thông tin bí mật khỏi mã, như khóa API. Thông tin bí mật không nên nằm trong mã và cần được lưu trữ ở một nơi an toàn. Để tách biệt thông tin bí mật khỏi mã, chúng ta có thể sử dụng biến môi trường và các thư viện như python-dotenv để tải chúng từ một tệp. Đây là cách thực hiện trong mã:
1. Tạo một tệp .env với nội dung sau:
```
OPENAI_API_KEY=sk-...
```
  Lưu ý, đối với Azure, bạn cần thiết lập các biến môi trường sau:
```
OPENAI_API_TYPE=azure
OPENAI_API_VERSION=2023-05-15
OPENAI_API_BASE=<replace>
```
  Trong mã, bạn sẽ tải các biến môi trường như sau:
```
from dotenv import load_dotenv

load_dotenv()

openai.api_key = os.environ["OPENAI_API_KEY"]
```
Một lời về độ dài token. Chúng ta nên xem xét số lượng token cần thiết để tạo ra văn bản mong muốn. Token tốn tiền, vì vậy nếu có thể, chúng ta nên cố gắng tiết kiệm số lượng token sử dụng. Ví dụ, liệu chúng ta có thể diễn đạt prompt sao cho sử dụng ít token hơn không?

Để thay đổi số lượng token sử dụng, bạn có thể sử dụng tham số max_tokens. Ví dụ, nếu bạn muốn sử dụng 100 token, bạn sẽ làm như sau:
```
completion = client.chat.completions.create(model=deployment, messages=messages, max_tokens=100)
```
Thử nghiệm với nhiệt độ. Nhiệt độ là một yếu tố mà chúng ta chưa đề cập đến nhưng rất quan trọng đối với cách chương trình hoạt động. Giá trị nhiệt độ càng cao thì kết quả càng ngẫu nhiên. Ngược lại, giá trị nhiệt độ càng thấp thì kết quả càng dễ đoán. Hãy xem xét liệu bạn có muốn sự đa dạng trong kết quả hay không.

Để thay đổi nhiệt độ, bạn có thể sử dụng tham số temperature. Ví dụ, nếu bạn muốn sử dụng nhiệt độ là 0.5, bạn sẽ làm như sau:
```
completion = client.chat.completions.create(model=deployment, messages=messages, temperature=0.5)
```
Lưu ý, giá trị càng gần 1.0 thì kết quả càng đa dạng.

Bài tập

Đối với bài tập này, bạn có thể chọn những gì muốn xây dựng.

Dưới đây là một số gợi ý:

Điều chỉnh ứng dụng tạo công thức nấu ăn để cải thiện hơn nữa. Thử nghiệm với các giá trị nhiệt độ và các prompt để xem bạn có thể tạo ra điều gì.
Xây dựng một "người bạn học". Ứng dụng này nên có khả năng trả lời các câu hỏi về một chủ đề, ví dụ như Python. Bạn có thể có các prompt như "Chủ đề này trong Python là gì?", hoặc bạn có thể có một prompt yêu cầu hiển thị mã cho một chủ đề cụ thể, v.v.
Bot lịch sử, làm cho lịch sử trở nên sống động, hướng dẫn bot đóng vai một nhân vật lịch sử cụ thể và đặt câu hỏi về cuộc sống và thời đại của họ.

Giải pháp

Người bạn học

Dưới đây là một prompt khởi đầu, xem cách bạn có thể sử dụng và điều chỉnh nó theo ý thích.

- "You're an expert on the Python language

    Suggest a beginner lesson for Python in the following format:

    Format:
    - concepts:
    - brief explanation of the lesson:
    - exercise in code with solutions"

Bot lịch sử

Dưới đây là một số prompt bạn có thể sử dụng:

- "You are Abe Lincoln, tell me about yourself in 3 sentences, and respond using grammar and words like Abe would have used"
- "You are Abe Lincoln, respond using grammar and words like Abe would have used:

   Tell me about your greatest accomplishments, in 300 words"

Kiểm tra kiến thức

Khái niệm nhiệt độ làm gì?

Nó kiểm soát mức độ ngẫu nhiên của kết quả.
Nó kiểm soát kích thước của phản hồi.
Nó kiểm soát số lượng token được sử dụng.

🚀 Thử thách

Khi làm bài tập, hãy thử thay đổi nhiệt độ, thử đặt nó ở mức 0, 0.5 và 1. Hãy nhớ rằng 0 là ít đa dạng nhất và 1 là đa dạng nhất. Giá trị nào hoạt động tốt nhất cho ứng dụng của bạn?

Làm tốt lắm! Tiếp tục học tập

Sau khi hoàn thành bài học này, hãy xem bộ sưu tập Học về AI tạo sinh để tiếp tục nâng cao kiến thức về AI tạo sinh của bạn!

Hãy chuyển sang Bài học 7, nơi chúng ta sẽ tìm hiểu cách xây dựng ứng dụng trò chuyện!

Tuyên bố miễn trừ trách nhiệm:
Tài liệu này đã được dịch bằng dịch vụ dịch thuật AI Co-op Translator. Mặc dù chúng tôi cố gắng đảm bảo độ chính xác, xin lưu ý rằng các bản dịch tự động có thể chứa lỗi hoặc không chính xác. Tài liệu gốc bằng ngôn ngữ bản địa nên được coi là nguồn thông tin chính thức. Đối với thông tin quan trọng, chúng tôi khuyến nghị sử dụng dịch vụ dịch thuật chuyên nghiệp từ con người. Chúng tôi không chịu trách nhiệm cho bất kỳ sự hiểu lầm hoặc diễn giải sai nào phát sinh từ việc sử dụng bản dịch này.

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

Xây dựng ứng dụng tạo văn bản

Giới thiệu

Mục tiêu học tập

Ứng dụng tạo văn bản là gì?

Ứng dụng console và UI bị giới hạn

Lợi ích của ứng dụng tạo văn bản

Tôi có thể xây dựng gì với ứng dụng tạo văn bản?

Làm thế nào để bắt đầu?

Thư viện/SDK

Ứng dụng đầu tiên sử dụng openai

Cài đặt openai

Tạo tài nguyên

Xác định khóa API và điểm cuối

Cấu hình Azure

Tạo văn bản

Hoàn thành chat

Bài tập - ứng dụng tạo văn bản đầu tiên của bạn

Các loại lời nhắc khác nhau cho các mục đích khác nhau

Một trường hợp sử dụng thực tế hơn: trình tạo công thức nấu ăn

Bài tập - xây dựng trình tạo công thức nấu ăn

Cải thiện bằng cách thêm bộ lọc và danh sách mua sắm

Cải thiện thiết lập của bạn

Bài tập

Giải pháp

Người bạn học

Bot lịch sử

Kiểm tra kiến thức

🚀 Thử thách

Làm tốt lắm! Tiếp tục học tập

FilesExpand file tree

README.md

Latest commit

History

README.md

File metadata and controls

Xây dựng ứng dụng tạo văn bản

Giới thiệu

Mục tiêu học tập

Ứng dụng tạo văn bản là gì?

Ứng dụng console và UI bị giới hạn

Lợi ích của ứng dụng tạo văn bản

Tôi có thể xây dựng gì với ứng dụng tạo văn bản?

Làm thế nào để bắt đầu?

Thư viện/SDK

Ứng dụng đầu tiên sử dụng openai

Cài đặt openai

Tạo tài nguyên

Xác định khóa API và điểm cuối

Cấu hình Azure

Tạo văn bản

Hoàn thành chat

Bài tập - ứng dụng tạo văn bản đầu tiên của bạn

Các loại lời nhắc khác nhau cho các mục đích khác nhau

Một trường hợp sử dụng thực tế hơn: trình tạo công thức nấu ăn

Bài tập - xây dựng trình tạo công thức nấu ăn

Cải thiện bằng cách thêm bộ lọc và danh sách mua sắm

Cải thiện thiết lập của bạn

Bài tập

Giải pháp

Người bạn học

Bot lịch sử

Kiểm tra kiến thức

🚀 Thử thách

Làm tốt lắm! Tiếp tục học tập