讓我們回顧上一章的一些學習內容：
提示 工程 是透過提供更有用的指示或背景來引導模型產生更相關的回應的過程。
撰寫提示有兩個步驟：構建提示，提供相關背景；以及_優化_，逐步改進提示。
到目前為止，我們已經對如何撰寫提示有了一些基本了解，但我們需要更深入地探討。在本章中，您將從嘗試各種提示到理解為什麼某個提示比另一個提示更好。您將學習如何遵循一些基本技術來構建提示，這些技術可以應用於任何 LLM。
在本章中，我們將涵蓋以下主題：
- 通過在提示中應用不同技術來擴展您對提示工程的知識。
- 配置您的提示以改變輸出。
完成本課程後，您將能夠：
- 應用提示工程技術以改善提示的結果。
- 執行變化或確定性的提示。
提示工程是創建能夠產生期望結果的提示的過程。提示工程不僅僅是撰寫文字提示，它更像是一組技術，您可以應用這些技術來獲得期望的結果。
讓我們看一個基本的提示範例：
生成 10 個地理問題。
在這個提示中，您實際上應用了不同的提示技術。
讓我們來拆解一下。
- 背景，您指定它應該是關於「地理」。
- 限制輸出，您希望不超過 10 個問題。
您可能會或可能不會得到期望的結果。您會得到生成的問題，但地理是一個很大的主題，您可能無法得到您想要的結果，原因如下：
- 主題太廣，您不知道它是否會涉及國家、首都、河流等。
- 格式，如果您希望問題以特定格式呈現呢？
如您所見，創建提示時需要考慮很多因素。
到目前為止，我們已經看過一個簡單的提示範例，但生成式 AI 能夠做得更多，可以幫助各種角色和行業的人們。接下來讓我們探索一些基本技術。
首先，我們需要了解提示是 LLM 的一種_突現_特性，這意味著這不是模型內建的功能，而是我們在使用模型時發現的。
我們可以使用一些基本技術來提示 LLM。讓我們來探索它們。
- 零樣本提示，這是最基本的提示形式。它是一個單一的提示，僅基於 LLM 的訓練數據請求回應。
- 少樣本提示，這種提示通過提供一個或多個範例來引導 LLM 生成回應。
- 思維鏈，這種提示告訴 LLM 如何將問題分解成步驟。
- 生成知識，為了改善提示的回應，您可以在提示中額外提供生成的事實或知識。
- 由簡至繁，像思維鏈一樣，這種技術是將問題分解成一系列步驟，然後按順序執行這些步驟。
- 自我改進，這種技術是批判 LLM 的輸出，然後要求它改進。
- 產婆式提示，這種技術旨在確保 LLM 的答案是正確的，並要求它解釋答案的各個部分。這是一種自我改進的形式。
這種提示風格非常簡單，它由一個單一的提示組成。這種技術可能是您在學習 LLM 時最先使用的技術。以下是一個範例：
- 提示：「什麼是代數？」
- 回答：「代數是數學的一個分支，研究數學符號及其操作規則。」
這種提示風格通過提供一些範例來幫助模型完成請求。它由一個單一的提示和額外的任務特定數據組成。以下是一個範例：
- 提示：「用莎士比亞的風格寫一首詩。以下是一些莎士比亞十四行詩的範例： 十四行詩 18：『我是否應該將你比作夏日？你更美麗更溫和……』 十四行詩 116：『讓我不承認真心相愛的婚姻有障礙。愛不是愛，若因改變而改變……』 十四行詩 132：『我愛你的眼睛，它們憐憫我，知道你的心因輕蔑而折磨我……』 現在，請寫一首關於月亮美麗的十四行詩。」
- 回答：「在天空中，月亮柔和地閃耀，銀色的光芒散發著溫柔的優雅……」
範例為 LLM 提供了所需輸出的背景、格式或風格。它們幫助模型理解特定任務並生成更準確和相關的回應。
思維鏈是一種非常有趣的技術，因為它是關於通過一系列步驟引導 LLM。其理念是以某種方式指導 LLM 如何完成某件事。考慮以下範例，有和沒有思維鏈的情況：
- 提示：「Alice 有 5 顆蘋果，丟掉 3 顆，給了 Bob 2 顆，Bob 又還了她一顆，Alice 還有幾顆蘋果？」
- 回答：5
LLM 回答 5，這是錯誤的。正確答案是 1 顆蘋果，計算方式為 (5 - 3 - 2 + 1 = 1)。
那麼我們如何教 LLM 正確計算呢？
讓我們嘗試使用思維鏈。應用思維鏈意味著：
- 給 LLM 一個類似的範例。
- 顯示計算方式，以及如何正確計算。
- 提供原始提示。
以下是範例：
- 提示：「Lisa 有 7 顆蘋果，丟掉 1 顆，給了 Bart 4 顆，Bart 又還了一顆：
7 - 1 = 6
6 - 4 = 2
2 + 1 = 3
Alice 有 5 顆蘋果，丟掉 3 顆，給了 Bob 2 顆，Bob 又還了她一顆，Alice 還有幾顆蘋果？」 - 回答：1
注意我們如何撰寫更長的提示，提供另一個範例、計算方式，然後是原始提示，最終得出正確答案 1。
如您所見，思維鏈是一種非常強大的技術。
很多時候，當您想要構建提示時，您可能希望使用自己公司的數據。您希望提示的一部分來自公司，另一部分是您感興趣的實際提示。
例如，如果您在保險行業，您的提示可能如下所示：
{{company}}: {{company_name}}
{{products}}:
{{products_list}}
Please suggest an insurance given the following budget and requirements:
Budget: {{budget}}
Requirements: {{requirements}}
上面您可以看到提示是如何使用模板構建的。在模板中，有一些變數以 {{variable}} 表示，這些變數將被公司 API 的實際值替換。
以下是替換變數後的提示範例：
Insurance company: ACME Insurance
Insurance products (cost per month):
- Car, cheap, 500 USD
- Car, expensive, 1100 USD
- Home, cheap, 600 USD
- Home, expensive, 1200 USD
- Life, cheap, 100 USD
Please suggest an insurance given the following budget and requirements:
Budget: $1000
Requirements: Car, Home, and Life insurance
將此提示運行於 LLM 中將產生如下回應：
Given the budget and requirements, we suggest the following insurance package from ACME Insurance:
- Car, cheap, 500 USD
- Home, cheap, 600 USD
- Life, cheap, 100 USD
Total cost: $1,200 USD
如您所見，它還建議了人壽保險，這是不應該的。這一結果表明我們需要通過更清晰地表達提示來進行優化。經過一些_試驗和錯誤_，我們得出了以下提示：
Insurance company: ACME Insurance
Insurance products (cost per month):
- type: Car, cheap, cost: 500 USD
- type: Car, expensive, cost: 1100 USD
- type: Home, cheap, cost: 600 USD
- type: Home, expensive, cost: 1200 USD
- type: Life, cheap, cost: 100 USD
Please suggest an insurance given the following budget and requirements:
Budget: $1000 restrict choice to types: Car, Home
注意如何添加 類型 和 成本，以及使用關鍵字 限制 幫助 LLM 理解我們的需求。
現在我們得到了以下回應：
Given the budget and requirements, we suggest the Car, Cheap insurance product which costs 500 USD per month.
這個範例的重點是展示即使我們使用像_生成知識_這樣的基本技術，我們在大多數情況下仍需要優化提示以獲得期望的結果。
由簡至繁提示的理念是將一個更大的問題分解成子問題。這樣，您可以幫助引導 LLM「征服」更大的問題。一個好的範例可能是數據科學，您可以要求 LLM 將問題分解如下：
提示：如何分五步進行數據科學？
您的 AI 助手可能會回答：
- 收集數據
- 清理數據
- 分析數據
- 繪製數據
- 呈現數據
使用生成式 AI 和 LLM 時，您不能完全信任其輸出。您需要進行驗證。畢竟，LLM 只是呈現最可能的下一步，而不是正確的答案。因此，一個好方法是要求 LLM 自我批判，這引導我們進入自我改進技術。
其運作方式如下：
- 初始提示，要求 LLM 解決問題
- LLM 回答
- 您批判答案並要求 AI 改進
- LLM 再次回答，這次考慮了批判並提出改進建議
您可以根據需要重複此過程。
以下是使用此技術的範例：
提示：「創建一個具有產品和客戶路由的 Python Web API」
AI 回答：
import flask
app = Flask(__name__)
@app.route('/products')
def products():
return 'Products'
@app.route('/customers')
def customers():
return 'Customers'提示：建議上述代碼的三個改進
AI 回答：
Sure, here are three suggestions to improve the code:
Import the correct module: The first line should import Flask instead of flask. The correct import statement should be from flask import Flask.
Add a main function: Add a if __name__ == '__main__': block to the end of the file to run the application when the file is executed.
Use f-strings: Use f-strings to format the return statements in the route functions. For example, return 'Products' can be changed to return f'This is the {request.path} page'.
from flask import Flask, request
app = Flask(__name__)
@app.route('/products')
def products():
return f'This is the {request.path} page'
@app.route('/customers')
def customers():
return f'This is the {request.path} page'
if __name__ == '__main__':
app.run()如您所見，以上 AI 回應通過批判第一個答案改進了最初建議的代碼。
產婆式提示是一種類似於自我改進的技術，但它更側重於要求 LLM 解釋自己的答案。目標是減少 LLM 輸出中的不一致性，以確保其得出正確答案。遵循的工作流程如下：
- 要求 LLM 回答問題
- 對答案的每個部分要求 LLM 更深入地解釋。
- 如果有不一致的地方，則丟棄不一致的部分。
重複第 2 和第 3 步，直到您檢查完所有部分並對答案感到滿意。
以下是提示範例：
提示：如何分五步制定危機計劃以減輕疫情影響？ LLM 回答：
1. Identify the risks
1. Identify the stakeholders
1. Identify the resources
1. Identify the actions
1. Identify the communication channels
它識別了五個步驟，但我們能否確定這是正確的？讓我們要求 LLM 更詳細地解釋每一步：
提示：更詳細地解釋第一步，疫情的詳細風險是什麼？
The risks are the following:
- Loss of life
- Loss of business
- Loss of reputation
- Loss of customers
- Loss of employees
此時，我們希望確保 LLM 是正確的，因此我們要求它更詳細地解釋第一個風險，希望它與上述答案一致：
提示：在疫情中，最大的風險是什麼，為什麼？
The biggest risk is loss of life because it's the most important thing to protect.
疫情中的兩個最大風險是什麼？
The two biggest risks are loss of life and loss of business.
此時，LLM 是一致的，並提到「生命」和「業務」是兩個最大的風險。我們現在可以繼續下一步並感到相當有信心。然而，我們不應盲目相信 LLM，我們應該始終驗證輸出。
LLM 本質上是非確定性的，這意味著每次運行相同的提示時，您都會得到不同的結果。試試以下提示：
「生成一個 Python Web API 的代碼」
# Import necessary modules
import flask
from flask import request, jsonify
# Create a Flask app
app = flask.Flask(__name__)
# Create a route for the API
@app.route('/api', methods=['GET'])
def api():
# Get the data from the request
data = request.args
# Process the data
result = process_data(data)
# Return the result as JSON
return jsonify(result)
# Function to process the data
def process_data(data):
# Do something with the data
result = data + 1
# Return the result
return result
# Run the app
if __name__ == '__main__':
app.run()再次運行相同的提示會生成稍有不同的回應：
#import necessary packages
import flask
from flask import request, jsonify
#create the Flask application
app = flask.Flask(__name__)
app.config["DEBUG"] = True
#create a list of books
books = [
{'id': 0,
'title': 'A Fire Upon the Deep',
'author': 'Vernor Vinge',
'first_sentence': 'The coldsleep itself was dreamless.',
'year_published': '1992'},
{'id': 1,
'title': 'The Ones Who Walk Away From Omelas',
'author': 'Ursula K. Le Guin',
'first_sentence': 'With a clamor of bells that set the swallows soaring, the Festival of Summer came to the city Omelas, bright-towered by the sea.',
'published': '1973'},
{'id': 2,
'title': 'Dhalgren',
'author': 'Samuel R. Delany',
'first_sentence': 'to wound the autumnal city.',
'published': '1975'}
]
#create an endpoint for the API
@app.route('/', methods=['GET'])
def home():
return '''<h1>Books API</h1>
<p>A prototype API for retrieving books.</p>'''
#create an endpoint to return all books
@app.route('/api/v1/resources/books/all', methods=['GET'])
def api_all():
return jsonify(books)
#create an endpoint to return a single book
@app.route('/api/v1/resources/books', methods=['GET'])
def api_id():
#check if an ID was provided as part of the URL
#if ID is provided, assign it to a variable
#if no ID is provided, display an error
if 'id' in request.args:
id = int(request.args['id'])
else:
return "Error: No id field provided. Please specify an id."
#create an empty list for our results
results = []
#loop through the data and match results that fit the requested ID
#IDs are unique, but other fields might return many results
for book in books:
if book['id'] == id:
results.append(book)
#use the jsonify function from Flask to convert our list of
#Python dictionaries to the JSON format
return jsonify(results)
app.run()那麼輸出的變化是一個問題嗎？
這取決於您想要達到的目標。如果您希望獲得特定的回應，那麼這是一個問題。如果您對變化的輸出感到滿意，例如「生成任何 3 個地理問題」，那麼這不是問題。
好的，那麼我們已經決定希望限制輸出以使其更具可預測性，也就是更具確定性。我們該如何做到這一點？
溫度是一個介於 0 到 1 之間的值，其中 0 是最確定的，1 是最具變化的。默認值是 0.7。讓我們看看當溫度設置為 0.1 時，兩次運行相同的提示會發生什麼：
「生成一個 Python Web API 的代碼」
#import necessary libraries
import flask
from flask import request, jsonify
#create an instance of the Flask class
app = flask.Flask(__name__)
#create an endpoint for the API
@app.route('/api/v1/endpoint', methods=['GET'])
def api_endpoint():
#get the request data
data = request.get_json()
#process the data
result = process_data(data)
#return the result
return jsonify(result)
#function to process the data
def process_data(data):
#process the data
result = {'result': 'success'}
#return the result
return result
#run the Flask app
if __name__ == '__main__':
app.run()再次運行提示會產生以下結果：
#import necessary libraries
import flask
from flask import request, jsonify
#create a Flask app
app = flask.Flask(__name__)
#create a route for the API
@app.route('/api', methods=['GET'])
def api_call():
#get the data from the request
data = request.get_json()
#process the data
result = process_data(data)
#return the result
return jsonify(result)
#define the process_data function
def process_data(data):
#do something with the data
result = data + 1
#return the result
return result
#run the app
if __name__ == '__main__':
app.run()這兩個輸出之間只有很小的差異。這次我們做相反的事情，將溫度設置為 0.9：
# Import necessary libraries
import flask
from flask import request, jsonify
# Create a Flask app
app = flask.Flask(__name__)
# Create a route for the API
@app.route('/api', methods=['GET'])
def api_call():
# Get the data from the request
data = request.args
# Process the data
result = process_data(data)
# Return the result
return jsonify(result)
# Function to process the data
def process_data(data):
# Do something with the data
result = data + 1
# Return the result
return result
# Run the app
if __name__ == '__main__':
app.run()第二次嘗試溫度值設為 0.9：
import flask
from flask import request, jsonify
# create the Flask app
app = flask.Flask(__name__)
app.config['DEBUG'] = True
# create some test data
books = [
{'id': 0, 'title': 'A Fire Upon The Deep', 'author': 'Vernor Vinge', 'first_sentence': 'The coldsleep itself was dreamless.', 'year_published': '1992'},
{'id': 1, 'title': 'The Ones Who Walk Away From Omelas', 'author': 'Ursula K. Le Guin', 'first_sentence': 'With a clamor of bells that set the swallows soaring, the Festival of Summer came to the city Omelas, bright-towered by the sea.', 'published': '1973'},
{'id': 2, 'title': 'Dhalgren', 'author': 'Samuel R. Delany', 'first_sentence': 'to wound the autumnal city.', 'published': '1975'}
]
# create an endpoint
@app.route('/', methods=['GET'])
def home():
return '''<h1>Welcome to our book API!</h1>'''
@app.route('/api/v1/resources/books正如您所見，結果可能會非常多樣化。
請注意，還有更多參數可以更改以改變輸出，例如 top-k、top-p、重複懲罰、長度懲罰和多樣性懲罰，但這些超出了本課程的範圍。
有許多實踐方法可以幫助您獲得所需的結果。隨著您越來越多地使用提示，您會找到自己的風格。
除了我們已經涵蓋的技術之外，還有一些良好的實踐需要在提示 LLM 時考慮。
以下是一些良好的實踐建議：
- 指定上下文。上下文很重要，您指定的越多，例如領域、主題等，效果越好。
- 限制輸出。如果您需要特定數量的項目或特定的長度，請明確說明。
- 指定內容和方式。記得同時說明您需要什麼以及如何實現，例如「創建一個 Python Web API，包含產品和客戶的路由，並將其分成三個文件」。
- 使用模板。通常，您可能希望使用公司數據來豐富您的提示。使用模板來完成這一點。模板可以包含變數，您可以用實際數據替換這些變數。
- 拼寫正確。LLM 可能會提供正確的回應，但如果您拼寫正確，回應的質量會更好。
以下是使用 Flask 建立簡單 API 的 Python 代碼：
from flask import Flask, request
app = Flask(__name__)
@app.route('/')
def hello():
name = request.args.get('name', 'World')
return f'Hello, {name}!'
if __name__ == '__main__':
app.run()使用 AI 助手，例如 GitHub Copilot 或 ChatGPT，並應用「自我改進」技術來改進代碼。
請嘗試通過向代碼添加合適的提示來完成作業。
Tip
設計提示以要求改進，限制改進的數量是一個好主意。您也可以要求以特定方式改進，例如架構、性能、安全性等。
為什麼我會使用 chain-of-thought 提示？請展示 1 個正確答案和 2 個錯誤答案。
- 教 LLM 如何解決問題。
- B，教 LLM 找出代碼中的錯誤。
- C，指導 LLM 提出不同的解決方案。
A: 1，因為 chain-of-thought 是通過提供一系列步驟以及類似問題及其解決方法來向 LLM 展示如何解決問題。
您剛剛在作業中使用了自我改進技術。選擇您建立的任何程序，考慮您希望對其進行哪些改進。現在使用自我改進技術來應用所提出的更改。您認為結果如何，更好還是更差？
完成本課程後，請查看我們的 生成式 AI 學習合集，繼續提升您的生成式 AI 知識！
前往第 6 課，我們將應用提示工程知識來 構建文本生成應用。
免責聲明：
本文件已使用 AI 翻譯服務 Co-op Translator 進行翻譯。儘管我們努力確保準確性，但請注意，自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於關鍵信息，建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或誤釋不承擔責任。