點擊上方圖片觀看本課程的影片
生成式 AI 很容易讓人著迷，但你需要思考如何負責任地使用它。你必須考慮如何確保輸出結果公平、不具傷害性等等。本章旨在提供相關背景、應注意的事項，以及如何採取積極措施來提升你的 AI 使用方式。
本課程將涵蓋：
- 為什麼在開發生成式 AI 應用時，應優先考量負責任的 AI。
- 負責任 AI 的核心原則，以及它們與生成式 AI 的關聯。
- 如何透過策略和工具將這些負責任 AI 原則付諸實踐。
完成本課程後，你將了解：
- 在開發生成式 AI 應用時，負責任 AI 的重要性。
- 何時思考並應用負責任 AI 的核心原則。
- 可用來實踐負責任 AI 概念的工具和策略。
生成式 AI 的熱度前所未有，這股熱潮吸引了大量新開發者、關注度和資金。對於想利用生成式 AI 建立產品和公司的任何人來說，這是非常正面的發展，但同時我們也必須負責任地前進。
在本課程中，我們專注於打造我們的創業公司和 AI 教育產品。我們將運用負責任 AI 的原則：公平性、包容性、可靠性／安全性、安全與隱私、透明度和問責制。透過這些原則，我們將探討它們如何與我們產品中生成式 AI 的使用相關。
在打造產品時，以使用者為中心，將使用者的最佳利益放在心上，才能達到最佳成果。
生成式 AI 的獨特之處在於它能為使用者創造有用的答案、資訊、指引和內容，且不需太多手動步驟，能產生令人印象深刻的結果。但若缺乏適當的規劃和策略，也可能對使用者、產品乃至整個社會造成傷害。
以下列出一些（但非全部）可能的傷害結果：
幻覺是指大型語言模型（LLM）產生完全無意義或明顯與其他資訊來源不符的內容。
舉例來說，我們為創業公司開發一個功能，讓學生能向模型提問歷史問題。學生問：「誰是鐵達尼號的唯一生還者？」
模型可能會產生如下回答：
(來源：Flying bisons)
這是一個非常自信且詳盡的回答，但不幸的是它是錯誤的。稍加查證就會發現鐵達尼號的生還者不只一人。對於剛開始研究這個主題的學生來說，這樣的答案可能足以讓他們不加質疑地當成事實。這種情況會導致 AI 系統不可靠，並對我們創業公司的聲譽造成負面影響。
每次大型語言模型的迭代，我們都看到在減少幻覺方面的性能提升。即便如此，作為應用開發者和使用者，我們仍需保持對這些限制的警覺。
前面提到 LLM 產生錯誤或無意義回應的情況，另一個風險是模型回應有害內容。
有害內容可定義為：
- 提供自我傷害或傷害特定群體的指示或鼓勵。
- 仇恨或貶低性的內容。
- 指導策劃任何形式的攻擊或暴力行為。
- 提供尋找非法內容或進行非法行為的指示。
- 顯示色情內容。
對於我們的創業公司，我們希望確保有適當的工具和策略，防止學生看到這類內容。
公平性指「確保 AI 系統不帶偏見和歧視，並公平且平等地對待每個人」。在生成式 AI 領域，我們希望避免模型輸出強化對弱勢群體的排斥性世界觀。
這類輸出不僅破壞使用者的正面產品體驗，也會對社會造成更大傷害。作為應用開發者，我們應始終考慮廣泛且多元的使用者群體，來打造生成式 AI 解決方案。
既然已了解負責任生成式 AI 的重要性，接下來看看我們可以採取的 4 個步驟，來負責任地打造 AI 解決方案：
在軟體測試中，我們會測試使用者對應用程式的預期操作。同理，測試使用者最可能使用的多樣化提示，是衡量潛在傷害的好方法。
由於我們的創業公司正在打造教育產品，準備一份與教育相關的提示清單會很有幫助。這些提示可以涵蓋特定科目、歷史事實，以及學生生活相關的問題。
現在是時候尋找方法，防止或限制模型及其回應可能造成的傷害。我們可以從四個層面來看：
-
模型。為適當的使用案例選擇合適的模型。像 GPT-4 這類較大且複雜的模型，在應用於較小且特定的使用案例時，可能帶來較高的有害內容風險。利用訓練資料進行微調也能降低有害內容的風險。
-
安全系統。安全系統是平台上用於服務模型的一組工具和設定，幫助減輕傷害。例如 Azure OpenAI 服務的內容過濾系統。系統還應能偵測越獄攻擊和不當行為，如機器人發出的請求。
-
元提示（Metaprompt）。元提示和基礎設定是我們用來引導或限制模型行為和資訊的方式。這可能是使用系統輸入來定義模型的某些限制，或提供更符合系統範圍或領域的輸出。
也可以使用像是檢索增強生成（Retrieval Augmented Generation, RAG）等技術，讓模型只從一組可信來源中擷取資訊。本課程後面有一課專門講解建立搜尋應用。
- 使用者體驗。最後一層是使用者透過我們應用介面直接與模型互動的部分。我們可以設計 UI/UX，限制使用者能送出的輸入類型，以及顯示給使用者的文字或圖片。部署 AI 應用時，也必須透明說明我們的生成式 AI 應用能做什麼、不能做什麼。
我們有整堂課專門講解為 AI 應用設計 UX。
- 評估模型。使用大型語言模型具有挑戰性，因為我們無法完全掌控模型的訓練資料。無論如何，我們應該持續評估模型的表現和輸出。衡量模型的準確度、相似度、基礎性和相關性仍然很重要，這有助於向利害關係人和使用者提供透明度和信任。
建立 AI 應用的運營實務是最後階段。這包括與創業公司內的法務和安全部門合作，確保遵守所有法規政策。上線前，我們還要制定交付計畫、事件處理和回滾方案，以防止對使用者造成傷害擴大。
雖然開發負責任 AI 解決方案的工作看似繁重，但絕對值得投入。隨著生成式 AI 領域的成長，越來越多幫助開發者有效整合責任感的工具將逐漸成熟。例如，Azure AI Content Safety 可透過 API 請求協助偵測有害內容和圖片。
為確保負責任使用 AI，你需要關注哪些事項？
- 答案是否正確。
- 防止有害使用，確保 AI 不被用於犯罪目的。
- 確保 AI 不帶偏見和歧視。
答：2 和 3 正確。負責任 AI 幫助你思考如何減輕有害影響、偏見等問題。
閱讀Azure AI Content Safety，看看你能採用哪些功能。
完成本課程後，請參考我們的生成式 AI 學習合集，持續提升你的生成式 AI 知識！
接著前往第 4 課，我們將探討提示工程基礎！
免責聲明：
本文件係使用 AI 翻譯服務 Co-op Translator 進行翻譯。雖然我們致力於確保翻譯的準確性，但請注意，自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應視為權威來源。對於重要資訊，建議採用專業人工翻譯。我們不對因使用本翻譯而產生的任何誤解或誤譯負責。