Module này bao gồm các khái niệm và kỹ thuật thiết yếu để tạo ra các prompt hiệu quả trong các mô hình AI sinh tạo. Cách bạn viết prompt cho một LLM cũng rất quan trọng. Một prompt được thiết kế cẩn thận có thể mang lại chất lượng phản hồi tốt hơn. Nhưng chính xác thì các thuật ngữ như prompt và prompt engineering có nghĩa là gì? Và làm thế nào để tôi cải thiện đầu vào prompt mà tôi gửi đến LLM? Đây là những câu hỏi chúng ta sẽ cố gắng trả lời trong chương này và chương tiếp theo.
Generative AI có khả năng tạo ra nội dung mới (ví dụ: văn bản, hình ảnh, âm thanh, mã code, v.v.) dựa trên yêu cầu của người dùng. Nó đạt được điều này nhờ sử dụng Large Language Models như chuỗi GPT ("Generative Pre-trained Transformer") của OpenAI, được huấn luyện để sử dụng ngôn ngữ tự nhiên và mã code.
Người dùng giờ đây có thể tương tác với các mô hình này qua các phương thức quen thuộc như chat, mà không cần kiến thức kỹ thuật hay đào tạo chuyên sâu. Các mô hình này dựa trên prompt — người dùng gửi một đầu vào văn bản (prompt) và nhận lại phản hồi từ AI (completion). Họ có thể "trò chuyện với AI" theo nhiều lượt, liên tục chỉnh sửa prompt cho đến khi phản hồi đáp ứng được kỳ vọng.
"Prompt" giờ đây trở thành giao diện lập trình chính cho các ứng dụng AI sinh tạo, chỉ dẫn cho mô hình phải làm gì và ảnh hưởng đến chất lượng phản hồi trả về. "Prompt Engineering" là một lĩnh vực nghiên cứu phát triển nhanh, tập trung vào thiết kế và tối ưu hóa prompt để mang lại các phản hồi nhất quán và chất lượng ở quy mô lớn.
Trong bài học này, chúng ta sẽ tìm hiểu Prompt Engineering là gì, tại sao nó quan trọng, và làm thế nào để tạo ra các prompt hiệu quả hơn cho một mô hình và mục tiêu ứng dụng cụ thể. Chúng ta sẽ hiểu các khái niệm cốt lõi và các thực hành tốt nhất trong prompt engineering — đồng thời làm quen với môi trường "sandbox" tương tác trong Jupyter Notebooks, nơi ta có thể thấy các khái niệm này được áp dụng vào các ví dụ thực tế.
Kết thúc bài học, bạn sẽ có thể:
- Giải thích Prompt Engineering là gì và tại sao nó quan trọng.
- Mô tả các thành phần của một prompt và cách sử dụng chúng.
- Học các thực hành và kỹ thuật tốt nhất cho prompt engineering.
- Áp dụng các kỹ thuật đã học vào các ví dụ thực tế, sử dụng endpoint OpenAI.
Prompt Engineering: Thực hành thiết kế và tinh chỉnh đầu vào để hướng các mô hình AI tạo ra kết quả mong muốn.
Tokenization: Quá trình chuyển đổi văn bản thành các đơn vị nhỏ hơn gọi là token, mà mô hình có thể hiểu và xử lý.
Instruction-Tuned LLMs: Các Large Language Models (LLMs) được tinh chỉnh với các hướng dẫn cụ thể nhằm cải thiện độ chính xác và sự phù hợp của phản hồi.
Prompt engineering hiện nay vẫn là một nghệ thuật nhiều hơn là khoa học. Cách tốt nhất để nâng cao trực giác về nó là luyện tập nhiều hơn và áp dụng phương pháp thử-và-sai kết hợp kiến thức chuyên môn về lĩnh vực ứng dụng với các kỹ thuật được khuyến nghị và tối ưu hóa theo mô hình cụ thể.
Jupyter Notebook đi kèm bài học này cung cấp một môi trường sandbox để bạn thử nghiệm những gì học được — trong quá trình học hoặc như một phần của thử thách mã ở cuối bài. Để thực hiện các bài tập, bạn cần:
- Khóa API Azure OpenAI — điểm cuối dịch vụ cho một LLM đã triển khai.
- Môi trường Python Runtime — để chạy Notebook.
- Biến môi trường cục bộ — hoàn thành các bước SETUP ngay bây giờ để chuẩn bị.
Notebook có sẵn các bài tập khởi đầu — nhưng bạn được khuyến khích thêm các phần Markdown (mô tả) và Code (yêu cầu prompt) để thử thêm nhiều ví dụ hoặc ý tưởng — và xây dựng trực giác thiết kế prompt.
Muốn có cái nhìn tổng quan về những gì bài học này đề cập trước khi bắt đầu? Hãy xem hướng dẫn minh họa này, giúp bạn nắm được các chủ đề chính và những điểm quan trọng để suy ngẫm trong từng phần. Lộ trình bài học dẫn bạn từ việc hiểu các khái niệm cốt lõi và thách thức đến cách giải quyết chúng bằng các kỹ thuật và thực hành tốt nhất trong prompt engineering. Lưu ý rằng phần "Kỹ Thuật Nâng Cao" trong hướng dẫn này đề cập đến nội dung sẽ được trình bày trong chương tiếp theo của khóa học.
Bây giờ, hãy nói về cách chủ đề này liên quan đến sứ mệnh startup của chúng ta trong việc đưa đổi mới AI vào giáo dục. Chúng ta muốn xây dựng các ứng dụng AI hỗ trợ học tập cá nhân hóa — vậy hãy cùng suy nghĩ về cách các nhóm người dùng khác nhau trong ứng dụng của chúng ta có thể "thiết kế" prompt:
- Quản trị viên có thể yêu cầu AI phân tích dữ liệu chương trình học để xác định các khoảng trống trong nội dung. AI có thể tóm tắt kết quả hoặc trực quan hóa chúng bằng mã code.
- Giáo viên có thể yêu cầu AI tạo kế hoạch bài học cho đối tượng và chủ đề cụ thể. AI có thể xây dựng kế hoạch cá nhân hóa theo định dạng được chỉ định.
- Học sinh có thể yêu cầu AI hướng dẫn họ trong một môn học khó. AI có thể hỗ trợ học sinh với bài học, gợi ý và ví dụ phù hợp với trình độ của họ.
Đó chỉ là phần nổi của tảng băng chìm. Hãy xem Prompts For Education — thư viện prompt mã nguồn mở được các chuyên gia giáo dục tuyển chọn — để có cái nhìn rộng hơn về các khả năng! Hãy thử chạy một số prompt đó trong sandbox hoặc dùng OpenAI Playground để xem kết quả!
Chúng ta bắt đầu bài học này bằng cách định nghĩa Prompt Engineering là quá trình thiết kế và tối ưu hóa các đầu vào văn bản (prompt) để mang lại các phản hồi (completion) nhất quán và chất lượng cho một mục tiêu ứng dụng và mô hình cụ thể. Ta có thể coi đây là một quy trình gồm 2 bước:
- thiết kế prompt ban đầu cho một mô hình và mục tiêu nhất định
- tinh chỉnh prompt theo từng bước để cải thiện chất lượng phản hồi
Đây chắc chắn là một quá trình thử-và-sai đòi hỏi trực giác và nỗ lực của người dùng để đạt kết quả tối ưu. Vậy tại sao nó lại quan trọng? Để trả lời câu hỏi đó, trước tiên ta cần hiểu ba khái niệm:
- Tokenization = cách mô hình "nhìn thấy" prompt
- Base LLMs = cách mô hình nền tảng "xử lý" prompt
- Instruction-Tuned LLMs = cách mô hình có thể "hiểu nhiệm vụ"
Một LLM xem prompt như một chuỗi các token, trong đó các mô hình khác nhau (hoặc các phiên bản của cùng một mô hình) có thể phân tách prompt thành token theo cách khác nhau. Vì LLM được huấn luyện trên token (chứ không phải văn bản thô), cách prompt được token hóa ảnh hưởng trực tiếp đến chất lượng phản hồi được tạo ra.
Để có trực giác về cách tokenization hoạt động, hãy thử các công cụ như OpenAI Tokenizer được minh họa bên dưới. Sao chép prompt của bạn vào — và xem nó được chuyển thành token như thế nào, chú ý cách các ký tự khoảng trắng và dấu câu được xử lý. Lưu ý ví dụ này dùng một LLM cũ hơn (GPT-3) — nên thử với mô hình mới hơn có thể cho kết quả khác.
Khi prompt đã được token hóa, chức năng chính của "Base LLM" (hay mô hình nền tảng) là dự đoán token tiếp theo trong chuỗi đó. Vì LLM được huấn luyện trên bộ dữ liệu văn bản khổng lồ, chúng có khả năng nắm bắt mối quan hệ thống kê giữa các token và có thể dự đoán với độ tin cậy nhất định. Lưu ý rằng chúng không hiểu ý nghĩa của từ trong prompt hay token; chúng chỉ nhận ra một mẫu có thể "hoàn thành" bằng dự đoán tiếp theo. Chúng có thể tiếp tục dự đoán chuỗi cho đến khi bị người dùng dừng hoặc đạt điều kiện đã định.
Muốn xem cách hoàn thành dựa trên prompt hoạt động? Hãy nhập prompt trên vào Azure OpenAI Studio Chat Playground với các thiết lập mặc định. Hệ thống được cấu hình để xem prompt như yêu cầu thông tin — nên bạn sẽ thấy một phản hồi phù hợp với ngữ cảnh này.
Nhưng nếu người dùng muốn thấy điều gì đó cụ thể, đáp ứng một tiêu chí hoặc mục tiêu nhiệm vụ? Đây là lúc các LLM được tinh chỉnh theo hướng dẫn xuất hiện.
Một Instruction Tuned LLM bắt đầu từ mô hình nền tảng và được tinh chỉnh thêm với các ví dụ hoặc cặp đầu vào/đầu ra (ví dụ: các "tin nhắn" đa lượt) có thể chứa hướng dẫn rõ ràng — và phản hồi từ AI cố gắng tuân theo hướng dẫn đó.
Điều này sử dụng các kỹ thuật như Reinforcement Learning with Human Feedback (RLHF) để huấn luyện mô hình tuân theo hướng dẫn và học từ phản hồi, giúp tạo ra các phản hồi phù hợp hơn với ứng dụng thực tế và sát với mục tiêu người dùng.
Hãy thử ngay — quay lại prompt trên, nhưng lần này thay đổi system message để cung cấp hướng dẫn sau làm ngữ cảnh:
Tóm tắt nội dung bạn được cung cấp cho học sinh lớp hai. Giữ kết quả trong một đoạn văn với 3-5 gạch đầu dòng.
Xem kết quả giờ đây được điều chỉnh để phản ánh mục tiêu và định dạng mong muốn? Một giáo viên có thể dùng trực tiếp phản hồi này trong bài giảng của họ.
Giờ khi đã hiểu cách LLM xử lý prompt, hãy nói về tại sao chúng ta cần prompt engineering. Câu trả lời nằm ở việc các LLM hiện tại gặp nhiều thách thức khiến việc đạt được phản hồi đáng tin cậy và nhất quán trở nên khó khăn nếu không đầu tư công sức vào xây dựng và tối ưu prompt. Ví dụ:
-
Phản hồi của mô hình mang tính ngẫu nhiên. Cùng một prompt có thể tạo ra các phản hồi khác nhau với các mô hình hoặc phiên bản mô hình khác nhau. Thậm chí có thể cho kết quả khác nhau khi dùng cùng một mô hình vào các thời điểm khác nhau. Kỹ thuật prompt engineering giúp giảm thiểu sự biến động này bằng cách cung cấp các ràng buộc tốt hơn.
-
Mô hình có thể tạo ra thông tin sai lệch. Mô hình được huấn luyện trên bộ dữ liệu lớn nhưng có giới hạn, nghĩa là chúng thiếu kiến thức về các khái niệm ngoài phạm vi huấn luyện. Do đó, chúng có thể tạo ra các phản hồi không chính xác, tưởng tượng hoặc mâu thuẫn trực tiếp với sự thật đã biết. Kỹ thuật prompt engineering giúp người dùng phát hiện và giảm thiểu các sai lệch này, ví dụ bằng cách yêu cầu AI trích dẫn nguồn hoặc lý giải.
-
Khả năng của mô hình sẽ khác nhau. Các mô hình mới hơn hoặc thế hệ mô hình mới sẽ có khả năng phong phú hơn nhưng cũng mang theo những đặc điểm riêng biệt và các đánh đổi về chi phí & độ phức tạp. Prompt engineering giúp phát triển các thực hành và quy trình làm việc tốt nhất, trừu tượng hóa sự khác biệt và thích ứng với yêu cầu riêng của từng mô hình một cách linh hoạt và mở rộng.
Hãy thử điều này trong OpenAI hoặc Azure OpenAI Playground:
- Dùng cùng một prompt với các triển khai LLM khác nhau (ví dụ: OpenAI, Azure OpenAI, Hugging Face) — bạn có thấy sự khác biệt không?
- Dùng cùng một prompt lặp lại nhiều lần với cùng một triển khai LLM (ví dụ: Azure OpenAI playground) — các phản hồi khác nhau như thế nào?
Trong khóa học này, chúng ta dùng thuật ngữ "fabrication" để chỉ hiện tượng LLM đôi khi tạo ra thông tin sai sự thật do hạn chế trong dữ liệu huấn luyện hoặc các giới hạn khác. Bạn có thể đã nghe thuật ngữ này dưới tên "hallucinations" trong các bài báo hoặc nghiên cứu phổ biến. Tuy nhiên, chúng tôi khuyến nghị dùng "fabrication" để tránh vô tình nhân cách hóa hành vi này bằng cách gán cho máy móc những đặc điểm giống con người. Điều này cũng củng cố các nguyên tắc AI có trách nhiệm từ góc độ thuật ngữ, loại bỏ các từ ngữ có thể bị coi là xúc phạm hoặc không bao gồm trong một số ngữ cảnh.
Muốn hiểu cách fabrication hoạt động? Hãy nghĩ đến một prompt yêu cầu AI tạo nội dung cho một chủ đề không tồn tại (để đảm bảo nó không có trong bộ dữ liệu huấn luyện). Ví dụ — tôi đã thử prompt sau:
- Hiểu được nguyên nhân và diễn biến chính của Cuộc chiến trên sao Hỏa năm 2076.
- Phân tích tác động của cuộc chiến đối với nhân loại và công nghệ.
- Phát triển kỹ năng tư duy phản biện thông qua việc thảo luận các kịch bản giả định.
- Bối cảnh lịch sử và xã hội trước khi cuộc chiến bùng nổ.
- Các bên tham chiến chính và mục tiêu của họ.
- Các trận đánh quan trọng và chiến thuật được sử dụng.
- Vai trò của công nghệ tiên tiến trong cuộc chiến.
- Tác động đối với dân cư trên sao Hỏa và Trái Đất.
- Những thay đổi về chính trị, kinh tế và khoa học sau cuộc chiến.
- Giả định nếu cuộc chiến không xảy ra, thế giới sẽ ra sao?
- Những bài học rút ra từ cuộc chiến cho tương lai.
- Thuyết trình kết hợp trình chiếu.
- Thảo luận nhóm và phân tích tình huống.
- Bài tập viết ngắn về quan điểm cá nhân.
- Các bài báo khoa học và báo cáo về Cuộc chiến trên sao Hỏa năm 2076.
- Tài liệu hình ảnh và video minh họa. Một tìm kiếm trên web cho thấy có những câu chuyện hư cấu (ví dụ, các loạt phim truyền hình hoặc sách) về các cuộc chiến trên sao Hỏa - nhưng không có cái nào vào năm 2076. Lẽ thường cũng cho chúng ta biết rằng năm 2076 là trong tương lai và do đó, không thể liên quan đến một sự kiện thực tế.
Vậy điều gì xảy ra khi chúng ta chạy prompt này với các nhà cung cấp LLM khác nhau?
Phản hồi 1: OpenAI Playground (GPT-35)
Phản hồi 2: Azure OpenAI Playground (GPT-35)
Phản hồi 3: : Hugging Face Chat Playground (LLama-2)
Như dự đoán, mỗi mô hình (hoặc phiên bản mô hình) tạo ra các phản hồi hơi khác nhau nhờ vào tính ngẫu nhiên và sự khác biệt về khả năng của mô hình. Ví dụ, một mô hình hướng đến đối tượng học sinh lớp 8 trong khi mô hình khác giả định người dùng là học sinh trung học phổ thông. Nhưng cả ba mô hình đều tạo ra các phản hồi có thể thuyết phục người dùng không có thông tin rằng sự kiện đó là thật.
Các kỹ thuật thiết kế prompt như metaprompting và cấu hình nhiệt độ có thể giảm bớt các thông tin sai lệch do mô hình tạo ra ở một mức độ nào đó. Các kiến trúc thiết kế prompt mới cũng tích hợp liền mạch các công cụ và kỹ thuật mới vào luồng prompt, nhằm giảm thiểu hoặc hạn chế một số tác động này.
Hãy kết thúc phần này bằng cách tìm hiểu cách thiết kế prompt được sử dụng trong các giải pháp thực tế qua một Nghiên cứu trường hợp: GitHub Copilot.
GitHub Copilot là "Bạn lập trình viên AI" của bạn - nó chuyển đổi các prompt văn bản thành các đoạn mã hoàn chỉnh và được tích hợp vào môi trường phát triển của bạn (ví dụ, Visual Studio Code) để mang lại trải nghiệm người dùng liền mạch. Như được ghi lại trong chuỗi bài blog dưới đây, phiên bản đầu tiên dựa trên mô hình OpenAI Codex - với các kỹ sư nhanh chóng nhận ra cần phải tinh chỉnh mô hình và phát triển các kỹ thuật thiết kế prompt tốt hơn để cải thiện chất lượng mã. Vào tháng 7, họ đã ra mắt một mô hình AI cải tiến vượt xa Codex để đề xuất nhanh hơn nữa.
Hãy đọc các bài viết theo thứ tự để theo dõi hành trình học hỏi của họ.
- Tháng 5/2023 | GitHub Copilot ngày càng hiểu mã của bạn tốt hơn
- Tháng 5/2023 | Bên trong GitHub: Làm việc với các LLM đằng sau GitHub Copilot
- Tháng 6/2023 | Cách viết prompt tốt hơn cho GitHub Copilot
- Tháng 7/2023 | .. GitHub Copilot vượt xa Codex với mô hình AI cải tiến
- Tháng 7/2023 | Hướng dẫn dành cho nhà phát triển về thiết kế prompt và LLM
- Tháng 9/2023 | Cách xây dựng ứng dụng LLM doanh nghiệp: Bài học từ GitHub Copilot
Bạn cũng có thể tham khảo blog Kỹ thuật của họ để xem thêm các bài viết như bài này cho thấy cách các mô hình và kỹ thuật này được ứng dụng để phát triển các ứng dụng thực tế.
Chúng ta đã thấy tại sao thiết kế prompt lại quan trọng - giờ hãy hiểu cách các prompt được xây dựng để có thể đánh giá các kỹ thuật khác nhau nhằm thiết kế prompt hiệu quả hơn.
Hãy bắt đầu với prompt cơ bản: một đầu vào văn bản gửi đến mô hình mà không có ngữ cảnh nào khác. Đây là một ví dụ - khi chúng ta gửi vài từ đầu tiên của quốc ca Mỹ đến OpenAI Completion API, nó ngay lập tức hoàn thành phản hồi với vài câu tiếp theo, minh họa hành vi dự đoán cơ bản.
| Prompt (Đầu vào) | Hoàn thành (Đầu ra) |
|---|---|
| Oh say can you see | Nghe có vẻ bạn đang bắt đầu lời bài hát "The Star-Spangled Banner," quốc ca của Hoa Kỳ. Toàn bộ lời bài hát là ... |
Bây giờ hãy thêm ngữ cảnh và hướng dẫn vào prompt cơ bản đó. Chat Completion API cho phép chúng ta xây dựng một prompt phức tạp dưới dạng tập hợp các tin nhắn với:
- Các cặp đầu vào/đầu ra phản ánh đầu vào của người dùng và phản hồi của trợ lý.
- Tin nhắn hệ thống thiết lập ngữ cảnh cho hành vi hoặc tính cách của trợ lý.
Yêu cầu giờ đây có dạng như dưới đây, trong đó tokenization hiệu quả nắm bắt thông tin liên quan từ ngữ cảnh và cuộc trò chuyện. Việc thay đổi ngữ cảnh hệ thống có thể ảnh hưởng lớn đến chất lượng các hoàn thành, tương tự như các đầu vào người dùng được cung cấp.
response = openai.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Who won the world series in 2020?"},
{"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
{"role": "user", "content": "Where was it played?"}
]
)Trong các ví dụ trên, prompt của người dùng là một truy vấn văn bản đơn giản có thể được hiểu như một yêu cầu thông tin. Với các prompt hướng dẫn, chúng ta có thể dùng văn bản đó để chỉ định nhiệm vụ chi tiết hơn, cung cấp hướng dẫn rõ ràng hơn cho AI. Đây là một ví dụ:
| Prompt (Đầu vào) | Hoàn thành (Đầu ra) | Loại hướng dẫn |
|---|---|---|
| Viết một mô tả về Nội chiến | trả về một đoạn văn đơn giản | Đơn giản |
| Viết một mô tả về Nội chiến. Cung cấp các ngày và sự kiện chính và mô tả ý nghĩa của chúng | trả về một đoạn văn kèm theo danh sách các ngày sự kiện chính với mô tả | Phức tạp |
| Viết một mô tả về Nội chiến trong 1 đoạn văn. Cung cấp 3 gạch đầu dòng với các ngày quan trọng và ý nghĩa của chúng. Cung cấp thêm 3 gạch đầu dòng với các nhân vật lịch sử chính và đóng góp của họ. Trả kết quả dưới dạng file JSON | trả về chi tiết mở rộng trong một hộp văn bản, định dạng JSON để bạn có thể sao chép-dán vào file và kiểm tra khi cần | Phức tạp. Định dạng. |
Trong các ví dụ trên, prompt vẫn còn khá mở, cho phép LLM quyết định phần nào trong tập dữ liệu đã được huấn luyện là liên quan. Với mẫu thiết kế nội dung chính, văn bản đầu vào được chia thành hai phần:
- một hướng dẫn (hành động)
- nội dung liên quan (ảnh hưởng đến hành động)
Dưới đây là ví dụ trong đó hướng dẫn là "tóm tắt nội dung này trong 2 câu ngắn".
| Prompt (Đầu vào) | Hoàn thành (Đầu ra) |
|---|---|
| Sao Mộc là hành tinh thứ năm tính từ Mặt Trời và là hành tinh lớn nhất trong Hệ Mặt Trời. Nó là một hành tinh khí khổng lồ với khối lượng bằng một phần nghìn khối lượng Mặt Trời, nhưng gấp hai lần rưỡi tổng khối lượng của tất cả các hành tinh khác trong Hệ Mặt Trời cộng lại. Sao Mộc là một trong những vật thể sáng nhất có thể nhìn thấy bằng mắt thường trên bầu trời đêm, và đã được các nền văn minh cổ đại biết đến từ trước khi có ghi chép lịch sử. Nó được đặt theo tên vị thần La Mã Jupiter.[19] Khi nhìn từ Trái Đất, Sao Mộc có thể sáng đến mức ánh sáng phản chiếu của nó tạo ra bóng đổ có thể nhìn thấy,[20] và trung bình là vật thể tự nhiên sáng thứ ba trên bầu trời đêm sau Mặt Trăng và Sao Kim. Tóm tắt nội dung này trong 2 câu ngắn |
Sao Mộc, hành tinh thứ năm tính từ Mặt Trời, là hành tinh lớn nhất trong Hệ Mặt Trời và được biết đến là một trong những vật thể sáng nhất trên bầu trời đêm. Được đặt theo tên vị thần La Mã Jupiter, nó là một hành tinh khí khổng lồ có khối lượng gấp hai lần rưỡi tổng khối lượng của tất cả các hành tinh khác trong Hệ Mặt Trời cộng lại. |
Phần nội dung chính có thể được sử dụng theo nhiều cách để tạo ra các hướng dẫn hiệu quả hơn:
- Ví dụ - thay vì nói rõ cho mô hình biết phải làm gì bằng một hướng dẫn cụ thể, hãy cho nó các ví dụ về việc cần làm và để nó suy luận ra mẫu.
- Dấu hiệu - theo sau hướng dẫn bằng một "dấu hiệu" để kích hoạt phần hoàn thành, hướng mô hình đến các phản hồi phù hợp hơn.
- Mẫu - đây là các 'công thức' có thể lặp lại cho các prompt với các chỗ giữ chỗ (biến) có thể tùy chỉnh với dữ liệu cho các trường hợp sử dụng cụ thể.
Hãy cùng khám phá các cách này trong thực tế.
Đây là cách tiếp cận trong đó bạn dùng phần nội dung chính để "cung cấp cho mô hình" một số ví dụ về đầu ra mong muốn cho một hướng dẫn nhất định, và để nó suy ra mẫu cho đầu ra mong muốn. Dựa trên số lượng ví dụ được cung cấp, chúng ta có thể có zero-shot prompting, one-shot prompting, few-shot prompting, v.v.
Prompt giờ đây gồm ba thành phần:
- Mô tả nhiệm vụ
- Một vài ví dụ về đầu ra mong muốn
- Phần bắt đầu của một ví dụ mới (trở thành mô tả nhiệm vụ ngầm định)
| Loại học | Prompt (Đầu vào) | Hoàn thành (Đầu ra) |
|---|---|---|
| Zero-shot | "The Sun is Shining". Dịch sang tiếng Tây Ban Nha | "El Sol está brillando". |
| One-shot | "The Sun is Shining" => ""El Sol está brillando". "It's a Cold and Windy Day" => |
"Es un día frío y ventoso". |
| Few-shot | Người chơi chạy quanh các căn cứ => Bóng chày Người chơi ghi điểm ace => Quần vợt Người chơi ghi sáu điểm => Cricket Người chơi thực hiện cú slam-dunk => |
Bóng rổ |
Lưu ý cách chúng ta phải cung cấp hướng dẫn rõ ràng ("Dịch sang tiếng Tây Ban Nha") trong zero-shot prompting, nhưng nó được suy ra trong ví dụ one-shot. Ví dụ few-shot cho thấy việc thêm nhiều ví dụ hơn giúp mô hình suy luận chính xác hơn mà không cần thêm hướng dẫn.
Một kỹ thuật khác để sử dụng nội dung chính là cung cấp dấu hiệu thay vì ví dụ. Trong trường hợp này, chúng ta khởi đầu cho mô hình bằng một đoạn văn bản phản ánh định dạng phản hồi mong muốn. Mô hình sau đó "nhận dấu hiệu" để tiếp tục theo hướng đó.
| Số lượng dấu hiệu | Prompt (Đầu vào) | Hoàn thành (Đầu ra) |
|---|---|---|
| 0 | Sao Mộc là hành tinh thứ năm tính từ Mặt Trời và là hành tinh lớn nhất trong Hệ Mặt Trời. Nó là một hành tinh khí khổng lồ với khối lượng bằng một phần nghìn khối lượng Mặt Trời, nhưng gấp hai lần rưỡi tổng khối lượng của tất cả các hành tinh khác trong Hệ Mặt Trời cộng lại. Sao Mộc là một trong những vật thể sáng nhất có thể nhìn thấy bằng mắt thường trên bầu trời đêm, và đã được biết đến từ các nền văn minh cổ đại trước khi có ghi chép lịch sử. |
Tóm tắt nội dung này | Sao Mộc là hành tinh lớn nhất trong Hệ Mặt Trời của chúng ta và là hành tinh thứ năm tính từ Mặt Trời. Đây là một hành tinh khí khổng lồ với khối lượng bằng 1/1000 khối lượng Mặt Trời, nhưng nặng hơn tất cả các hành tinh khác cộng lại. Các nền văn minh cổ đại đã biết đến Sao Mộc từ rất lâu, và nó dễ dàng nhìn thấy trên bầu trời đêm. |
| 1 | Sao Mộc là hành tinh thứ năm tính từ Mặt Trời và là hành tinh lớn nhất trong Hệ Mặt Trời. Đây là một hành tinh khí khổng lồ với khối lượng bằng một phần nghìn khối lượng Mặt Trời, nhưng gấp hai lần rưỡi tổng khối lượng của tất cả các hành tinh khác trong Hệ Mặt Trời. Sao Mộc là một trong những vật thể sáng nhất có thể nhìn thấy bằng mắt thường trên bầu trời đêm, và đã được các nền văn minh cổ đại biết đến từ trước khi có ghi chép lịch sử.
Tóm tắt nội dung này
Điều chúng ta học được là Sao Mộc | là hành tinh thứ năm tính từ Mặt Trời và là hành tinh lớn nhất trong Hệ Mặt Trời. Đây là một hành tinh khí khổng lồ với khối lượng bằng một phần nghìn khối lượng Mặt Trời, nhưng gấp hai lần rưỡi tổng khối lượng của tất cả các hành tinh khác cộng lại. Nó dễ dàng nhìn thấy bằng mắt thường và đã được biết đến từ thời cổ đại. |
| 2 | Sao Mộc là hành tinh thứ năm tính từ Mặt Trời và là hành tinh lớn nhất trong Hệ Mặt Trời. Đây là một hành tinh khí khổng lồ với khối lượng bằng một phần nghìn khối lượng Mặt Trời, nhưng gấp hai lần rưỡi tổng khối lượng của tất cả các hành tinh khác trong Hệ Mặt Trời. Sao Mộc là một trong những vật thể sáng nhất có thể nhìn thấy bằng mắt thường trên bầu trời đêm, và đã được các nền văn minh cổ đại biết đến từ trước khi có ghi chép lịch sử.
Tóm tắt nội dung này
3 Sự thật hàng đầu chúng ta đã học được: | 1. Sao Mộc là hành tinh thứ năm tính từ Mặt Trời và là hành tinh lớn nhất trong Hệ Mặt Trời.
2. Đây là một hành tinh khí khổng lồ với khối lượng bằng một phần nghìn khối lượng Mặt Trời...
3. Sao Mộc đã có thể nhìn thấy bằng mắt thường từ thời cổ đại ... |
| | | |
Mẫu prompt là một công thức được định nghĩa sẵn cho một prompt có thể được lưu trữ và tái sử dụng khi cần, nhằm tạo ra trải nghiệm người dùng nhất quán ở quy mô lớn. Ở dạng đơn giản nhất, nó chỉ là một tập hợp các ví dụ prompt như ví dụ này từ OpenAI cung cấp cả các thành phần tương tác của prompt (tin nhắn người dùng và hệ thống) và định dạng yêu cầu qua API - để hỗ trợ tái sử dụng.
Ở dạng phức tạp hơn như ví dụ này từ LangChain, nó chứa các chỗ giữ chỗ có thể được thay thế bằng dữ liệu từ nhiều nguồn khác nhau (đầu vào người dùng, ngữ cảnh hệ thống, nguồn dữ liệu bên ngoài, v.v.) để tạo prompt một cách động. Điều này cho phép chúng ta tạo thư viện các prompt có thể tái sử dụng để tạo ra trải nghiệm người dùng nhất quán một cách lập trình ở quy mô lớn.
Cuối cùng, giá trị thực sự của các mẫu nằm ở khả năng tạo và xuất bản thư viện prompt cho các lĩnh vực ứng dụng chuyên biệt - nơi mẫu prompt được tối ưu hóa để phản ánh ngữ cảnh hoặc ví dụ cụ thể của ứng dụng, giúp câu trả lời trở nên phù hợp và chính xác hơn với đối tượng người dùng mục tiêu. Kho Prompts For Edu là một ví dụ tuyệt vời về cách tiếp cận này, tập hợp thư viện các prompt cho lĩnh vực giáo dục với trọng tâm vào các mục tiêu chính như lập kế hoạch bài học, thiết kế chương trình giảng dạy, gia sư học sinh, v.v.
Nếu chúng ta xem việc xây dựng prompt như có một hướng dẫn (nhiệm vụ) và một mục tiêu (nội dung chính), thì nội dung phụ giống như ngữ cảnh bổ sung mà ta cung cấp để ảnh hưởng đến kết quả đầu ra theo một cách nào đó. Nó có thể là các tham số điều chỉnh, hướng dẫn định dạng, phân loại chủ đề, v.v. giúp mô hình điều chỉnh câu trả lời phù hợp với mục tiêu hoặc kỳ vọng của người dùng.
Ví dụ: Với một danh mục khóa học có siêu dữ liệu chi tiết (tên, mô tả, cấp độ, thẻ metadata, giảng viên, v.v.) về tất cả các khóa học có trong chương trình:
- ta có thể định nghĩa một hướng dẫn là "tóm tắt danh mục khóa học cho học kỳ Thu 2023"
- ta có thể dùng nội dung chính để cung cấp một vài ví dụ về kết quả mong muốn
- ta có thể dùng nội dung phụ để xác định 5 "thẻ" quan trọng nhất.
Bây giờ, mô hình có thể cung cấp bản tóm tắt theo định dạng được thể hiện trong các ví dụ - nhưng nếu một kết quả có nhiều thẻ, nó có thể ưu tiên 5 thẻ được xác định trong nội dung phụ.
Bây giờ khi đã biết cách xây dựng prompt, ta có thể bắt đầu suy nghĩ về cách thiết kế chúng để phản ánh các thực hành tốt nhất. Ta có thể chia thành hai phần - có tư duy đúng và áp dụng kỹ thuật phù hợp.
Prompt Engineering là một quá trình thử và sai, vì vậy hãy nhớ ba yếu tố hướng dẫn rộng sau:
-
Hiểu biết về lĩnh vực rất quan trọng. Độ chính xác và phù hợp của câu trả lời phụ thuộc vào lĩnh vực mà ứng dụng hoặc người dùng hoạt động. Hãy áp dụng trực giác và chuyên môn lĩnh vực của bạn để tùy chỉnh kỹ thuật thêm. Ví dụ, định nghĩa tính cách đặc thù lĩnh vực trong prompt hệ thống, hoặc dùng mẫu prompt đặc thù lĩnh vực trong prompt người dùng. Cung cấp nội dung phụ phản ánh ngữ cảnh đặc thù lĩnh vực, hoặc dùng dấu hiệu và ví dụ đặc thù lĩnh vực để hướng mô hình theo các mẫu sử dụng quen thuộc.
-
Hiểu biết về mô hình rất quan trọng. Chúng ta biết mô hình có tính ngẫu nhiên. Nhưng việc triển khai mô hình cũng có thể khác nhau về tập dữ liệu huấn luyện (kiến thức được huấn luyện trước), khả năng cung cấp (ví dụ qua API hoặc SDK) và loại nội dung được tối ưu (ví dụ, mã nguồn so với hình ảnh hay văn bản). Hiểu điểm mạnh và hạn chế của mô hình bạn đang dùng, và dùng kiến thức đó để ưu tiên nhiệm vụ hoặc xây dựng mẫu prompt tùy chỉnh tối ưu cho khả năng của mô hình.
-
Lặp lại & xác thực rất quan trọng. Mô hình phát triển nhanh, kỹ thuật prompt engineering cũng vậy. Là chuyên gia lĩnh vực, bạn có thể có ngữ cảnh hoặc tiêu chí riêng cho ứng dụng của bạn, không áp dụng cho cộng đồng rộng hơn. Dùng công cụ và kỹ thuật prompt engineering để "khởi động" việc xây dựng prompt, rồi lặp lại và xác thực kết quả bằng trực giác và chuyên môn của bạn. Ghi lại những hiểu biết và tạo cơ sở tri thức (ví dụ, thư viện prompt) có thể dùng làm chuẩn mới cho người khác, giúp tăng tốc các vòng lặp trong tương lai.
Bây giờ hãy xem các thực hành tốt nhất phổ biến được khuyến nghị bởi OpenAI và Azure OpenAI.
| Việc cần làm | Lý do |
|---|---|
| Đánh giá các mô hình mới nhất. | Các thế hệ mô hình mới thường có tính năng và chất lượng cải tiến - nhưng cũng có thể tốn kém hơn. Đánh giá tác động rồi quyết định có nên chuyển đổi hay không. |
| Tách biệt hướng dẫn & ngữ cảnh | Kiểm tra xem mô hình/nhà cung cấp có định nghĩa dấu phân cách để phân biệt rõ ràng hướng dẫn, nội dung chính và nội dung phụ không. Điều này giúp mô hình gán trọng số chính xác hơn cho các token. |
| Cụ thể và rõ ràng | Cung cấp nhiều chi tiết về ngữ cảnh mong muốn, kết quả, độ dài, định dạng, phong cách, v.v. Điều này cải thiện cả chất lượng và tính nhất quán của câu trả lời. Ghi lại công thức trong các mẫu có thể tái sử dụng. |
| Mô tả chi tiết, dùng ví dụ | Mô hình có thể phản hồi tốt hơn với cách tiếp cận "trình bày và giải thích". Bắt đầu với cách zero-shot (chỉ hướng dẫn, không có ví dụ), sau đó thử few-shot để tinh chỉnh, cung cấp vài ví dụ về kết quả mong muốn. Dùng phép ẩn dụ. |
| Dùng dấu hiệu để khởi động câu trả lời | Hướng mô hình tới kết quả mong muốn bằng cách cung cấp một vài từ hoặc cụm từ dẫn dắt làm điểm bắt đầu cho câu trả lời. |
| Lặp lại | Đôi khi bạn cần nhắc lại với mô hình. Đưa hướng dẫn trước và sau nội dung chính, dùng hướng dẫn và dấu hiệu, v.v. Lặp lại và xác thực để xem cách nào hiệu quả. |
| Thứ tự quan trọng | Thứ tự bạn trình bày thông tin cho mô hình có thể ảnh hưởng đến kết quả, kể cả trong các ví dụ học, do thiên vị gần đây. Thử các lựa chọn khác nhau để tìm cách hiệu quả nhất. |
| Cho mô hình “lối thoát” | Cung cấp cho mô hình một câu trả lời dự phòng nếu nó không thể hoàn thành nhiệm vụ vì lý do nào đó. Điều này giảm khả năng mô hình tạo ra câu trả lời sai hoặc bịa đặt. |
Như với bất kỳ thực hành tốt nhất nào, hãy nhớ rằng kết quả có thể khác nhau tùy thuộc vào mô hình, nhiệm vụ và lĩnh vực. Dùng đây làm điểm khởi đầu, rồi lặp lại để tìm cách phù hợp nhất với bạn. Liên tục đánh giá lại quy trình prompt engineering khi có mô hình và công cụ mới, tập trung vào khả năng mở rộng quy trình và chất lượng câu trả lời.
Chúc mừng bạn! Bạn đã hoàn thành bài học! Đã đến lúc áp dụng một số khái niệm và kỹ thuật đó vào thực tế với các ví dụ cụ thể!
Trong bài tập này, chúng ta sẽ sử dụng một Jupyter Notebook với các bài tập bạn có thể hoàn thành tương tác. Bạn cũng có thể mở rộng Notebook bằng các ô Markdown và Code của riêng bạn để khám phá ý tưởng và kỹ thuật theo cách riêng.
- (Khuyến nghị) Khởi chạy GitHub Codespaces
- (Thay thế) Clone repo về thiết bị của bạn và sử dụng với Docker Desktop
- (Thay thế) Mở Notebook bằng môi trường runtime Notebook bạn ưa thích.
- Sao chép file
.env.copytrong thư mục gốc repo thành.envvà điền các giá trịAZURE_OPENAI_API_KEY,AZURE_OPENAI_ENDPOINTvàAZURE_OPENAI_DEPLOYMENT. Quay lại phần Learning Sandbox để học cách làm.
- Chọn kernel runtime. Nếu dùng lựa chọn 1 hoặc 2, chỉ cần chọn kernel Python 3.10.x mặc định do dev container cung cấp.
Bạn đã sẵn sàng chạy các bài tập. Lưu ý rằng không có câu trả lời đúng hay sai ở đây - chỉ là khám phá các lựa chọn qua thử và sai, xây dựng trực giác về cách hoạt động với mô hình và lĩnh vực ứng dụng cụ thể.
Vì lý do này, bài học không có phần Giải pháp Mã. Thay vào đó, Notebook sẽ có các ô Markdown với tiêu đề "My Solution:" thể hiện một ví dụ kết quả để tham khảo.
Prompt nào sau đây là một prompt tốt theo các thực hành hợp lý?
- Hiển thị cho tôi hình ảnh một chiếc xe màu đỏ
- Hiển thị cho tôi hình ảnh một chiếc xe màu đỏ hiệu Volvo, mẫu XC90 đậu bên vách đá với hoàng hôn
- Hiển thị cho tôi hình ảnh một chiếc xe màu đỏ hiệu Volvo, mẫu XC90
Đáp án: 2, đây là prompt tốt nhất vì cung cấp chi tiết về "cái gì" và đi vào cụ thể (không chỉ là xe bất kỳ mà là hiệu và mẫu cụ thể) và còn mô tả bối cảnh tổng thể. 3 là lựa chọn tốt thứ hai vì cũng có nhiều mô tả.
Hãy thử áp dụng kỹ thuật "dấu hiệu" với prompt: Hoàn thành câu "Hiển thị cho tôi hình ảnh một chiếc xe màu đỏ hiệu Volvo và ". Mô hình trả lời thế nào, và bạn sẽ cải thiện prompt ra sao?
Muốn tìm hiểu thêm về các khái niệm Prompt Engineering khác? Hãy đến trang học tiếp để tìm các tài nguyên tuyệt vời khác về chủ đề này.
Hãy đến Bài học 5, nơi chúng ta sẽ xem xét kỹ thuật prompt nâng cao!
Tuyên bố từ chối trách nhiệm:
Tài liệu này đã được dịch bằng dịch vụ dịch thuật AI Co-op Translator. Mặc dù chúng tôi cố gắng đảm bảo độ chính xác, xin lưu ý rằng bản dịch tự động có thể chứa lỗi hoặc không chính xác. Tài liệu gốc bằng ngôn ngữ gốc của nó nên được coi là nguồn chính xác và đáng tin cậy. Đối với các thông tin quan trọng, nên sử dụng dịch vụ dịch thuật chuyên nghiệp do con người thực hiện. Chúng tôi không chịu trách nhiệm về bất kỳ sự hiểu lầm hoặc giải thích sai nào phát sinh từ việc sử dụng bản dịch này.