Modul ini merangkumi konsep dan teknik penting untuk mencipta prompt yang berkesan dalam model AI generatif. Cara anda menulis prompt kepada LLM juga penting. Prompt yang direka dengan teliti boleh menghasilkan respons yang lebih berkualiti. Tetapi apakah sebenarnya maksud istilah seperti prompt dan kejuruteraan prompt? Dan bagaimana saya boleh memperbaiki input prompt yang saya hantar ke LLM? Ini adalah soalan yang akan kita cuba jawab dalam bab ini dan bab seterusnya.
AI Generatif mampu mencipta kandungan baru (contohnya, teks, imej, audio, kod dan lain-lain) sebagai tindak balas kepada permintaan pengguna. Ia mencapai ini menggunakan Model Bahasa Besar seperti siri GPT ("Generative Pre-trained Transformer") OpenAI yang dilatih untuk menggunakan bahasa semula jadi dan kod.
Pengguna kini boleh berinteraksi dengan model-model ini menggunakan paradigma yang biasa seperti chat, tanpa memerlukan kepakaran teknikal atau latihan. Model-model ini berasaskan prompt - pengguna menghantar input teks (prompt) dan menerima respons AI (penyempurnaan). Mereka kemudian boleh "berbual dengan AI" secara berulang, dalam perbualan berbilang pusingan, memperbaiki prompt mereka sehingga respons memenuhi jangkaan mereka.
"Prompt" kini menjadi antara muka pengaturcaraan utama untuk aplikasi AI generatif, memberitahu model apa yang perlu dilakukan dan mempengaruhi kualiti respons yang diterima. "Kejuruteraan Prompt" adalah bidang kajian yang berkembang pesat yang memfokuskan pada rekabentuk dan pengoptimuman prompt untuk menghasilkan respons yang konsisten dan berkualiti secara besar-besaran.
Dalam pelajaran ini, kita akan belajar apa itu Kejuruteraan Prompt, mengapa ia penting, dan bagaimana kita boleh mereka prompt yang lebih berkesan untuk model dan objektif aplikasi tertentu. Kita akan memahami konsep teras dan amalan terbaik untuk kejuruteraan prompt - serta belajar tentang persekitaran "sandbox" interaktif Jupyter Notebooks di mana kita boleh melihat konsep ini diaplikasikan pada contoh sebenar.
Menjelang akhir pelajaran ini, kita akan dapat:
- Menerangkan apa itu kejuruteraan prompt dan mengapa ia penting.
- Menghuraikan komponen prompt dan bagaimana ia digunakan.
- Mempelajari amalan terbaik dan teknik untuk kejuruteraan prompt.
- Mengaplikasikan teknik yang dipelajari pada contoh sebenar, menggunakan endpoint OpenAI.
Kejuruteraan Prompt: Amalan mereka bentuk dan memperhalusi input untuk membimbing model AI menghasilkan output yang diingini.
Tokenisasi: Proses menukar teks kepada unit yang lebih kecil, dipanggil token, yang boleh difahami dan diproses oleh model.
Instruction-Tuned LLMs: Model Bahasa Besar (LLM) yang telah disesuaikan dengan arahan khusus untuk meningkatkan ketepatan dan relevansi respons mereka.
Kejuruteraan prompt kini lebih kepada seni daripada sains. Cara terbaik untuk memperbaiki intuisi kita adalah dengan berlatih lebih banyak dan mengamalkan pendekatan cuba dan salah yang menggabungkan kepakaran domain aplikasi dengan teknik yang disyorkan dan pengoptimuman khusus model.
Jupyter Notebook yang disertakan dengan pelajaran ini menyediakan persekitaran sandbox di mana anda boleh mencuba apa yang anda pelajari - sama ada secara langsung atau sebagai sebahagian daripada cabaran kod di akhir pelajaran. Untuk melaksanakan latihan, anda memerlukan:
- Kunci API Azure OpenAI - titik akhir perkhidmatan untuk LLM yang telah dideploy.
- Runtime Python - di mana Notebook boleh dijalankan.
- Pembolehubah Persekitaran Tempatan - lengkapkan langkah SETUP sekarang untuk bersedia.
Notebook ini datang dengan latihan permulaan - tetapi anda digalakkan untuk menambah bahagian Markdown (penerangan) dan Code (permintaan prompt) anda sendiri untuk mencuba lebih banyak contoh atau idea - dan membina intuisi anda untuk reka bentuk prompt.
Mahukan gambaran besar tentang apa yang diliputi pelajaran ini sebelum anda mula? Lihat panduan bergambar ini, yang memberi anda gambaran tentang topik utama yang dibincangkan dan perkara penting untuk difikirkan dalam setiap satu. Peta pelajaran membawa anda dari memahami konsep teras dan cabaran kepada mengatasinya dengan teknik kejuruteraan prompt yang relevan dan amalan terbaik. Perhatikan bahawa bahagian "Teknik Lanjutan" dalam panduan ini merujuk kepada kandungan yang dibincangkan dalam bab seterusnya dalam kurikulum ini.
Sekarang, mari kita bincangkan bagaimana topik ini berkaitan dengan misi startup kami untuk membawa inovasi AI ke pendidikan. Kami ingin membina aplikasi berkuasa AI untuk pembelajaran yang diperibadikan - jadi mari kita fikirkan bagaimana pengguna berbeza aplikasi kami mungkin "mereka" prompt:
- Pentadbir mungkin meminta AI untuk menganalisis data kurikulum bagi mengenal pasti kekurangan dalam liputan. AI boleh meringkaskan hasil atau memvisualisasikannya dengan kod.
- Pendidik mungkin meminta AI untuk menghasilkan pelan pengajaran untuk audiens dan topik sasaran. AI boleh membina pelan yang diperibadikan dalam format yang ditetapkan.
- Pelajar mungkin meminta AI untuk membimbing mereka dalam subjek yang sukar. AI kini boleh membimbing pelajar dengan pelajaran, petunjuk & contoh yang disesuaikan dengan tahap mereka.
Itu baru permulaan sahaja. Lihat Prompts For Education - perpustakaan prompt sumber terbuka yang dikurasi oleh pakar pendidikan - untuk mendapatkan gambaran lebih luas tentang kemungkinan! Cuba jalankan beberapa prompt tersebut dalam sandbox atau menggunakan OpenAI Playground untuk lihat apa yang berlaku!
Kita mulakan pelajaran ini dengan mentakrif Kejuruteraan Prompt sebagai proses mereka bentuk dan mengoptimumkan input teks (prompt) untuk menghasilkan respons (penyempurnaan) yang konsisten dan berkualiti bagi objektif aplikasi dan model tertentu. Kita boleh anggap ini sebagai proses 2 langkah:
- mereka bentuk prompt awal untuk model dan objektif tertentu
- memperhalusi prompt secara berulang untuk memperbaiki kualiti respons
Ini sememangnya proses cuba dan salah yang memerlukan intuisi dan usaha pengguna untuk mendapatkan hasil yang optimum. Jadi mengapa ia penting? Untuk menjawab soalan itu, kita perlu faham tiga konsep:
- Tokenisasi = bagaimana model "melihat" prompt
- Base LLMs = bagaimana model asas "memproses" prompt
- Instruction-Tuned LLMs = bagaimana model kini boleh "melihat tugasan"
LLM melihat prompt sebagai urutan token di mana model yang berbeza (atau versi model) boleh menokenkan prompt yang sama dengan cara yang berbeza. Oleh kerana LLM dilatih menggunakan token (bukan teks mentah), cara prompt ditokenkan memberi kesan langsung kepada kualiti respons yang dijana.
Untuk mendapatkan intuisi tentang bagaimana tokenisasi berfungsi, cuba alat seperti OpenAI Tokenizer yang ditunjukkan di bawah. Salin prompt anda - dan lihat bagaimana ia ditukar menjadi token, perhatikan bagaimana ruang kosong dan tanda baca dikendalikan. Perlu diingat contoh ini menunjukkan LLM lama (GPT-3) - jadi mencuba dengan model yang lebih baru mungkin menghasilkan keputusan berbeza.
Setelah prompt ditokenkan, fungsi utama "Base LLM" (atau model asas) adalah meramalkan token seterusnya dalam urutan itu. Oleh kerana LLM dilatih dengan dataset teks yang besar, mereka mempunyai pemahaman statistik yang baik antara token dan boleh membuat ramalan itu dengan keyakinan tertentu. Perlu diingat mereka tidak memahami makna perkataan dalam prompt atau token; mereka hanya melihat corak yang boleh mereka "lengkapkan" dengan ramalan seterusnya. Mereka boleh terus meramalkan urutan sehingga dihentikan oleh campur tangan pengguna atau syarat yang telah ditetapkan.
Mahukan lihat bagaimana penyempurnaan berasaskan prompt berfungsi? Masukkan prompt di atas ke dalam Azure OpenAI Studio Chat Playground dengan tetapan lalai. Sistem dikonfigurasikan untuk menganggap prompt sebagai permintaan maklumat - jadi anda sepatutnya melihat penyempurnaan yang memenuhi konteks ini.
Tetapi bagaimana jika pengguna mahu melihat sesuatu yang spesifik yang memenuhi kriteria atau objektif tugasan? Di sinilah LLM instruction-tuned masuk ke dalam gambar.
Instruction Tuned LLM bermula dengan model asas dan melatih semula dengan contoh atau pasangan input/output (contohnya, "mesej" berbilang pusingan) yang mengandungi arahan jelas - dan respons AI cuba mengikuti arahan tersebut.
Ini menggunakan teknik seperti Pembelajaran Penguatan dengan Maklum Balas Manusia (RLHF) yang boleh melatih model untuk mengikuti arahan dan belajar dari maklum balas supaya menghasilkan respons yang lebih sesuai untuk aplikasi praktikal dan lebih relevan dengan objektif pengguna.
Mari cuba - kembali ke prompt di atas, tetapi kini tukar mesej sistem untuk memberikan arahan berikut sebagai konteks:
Ringkaskan kandungan yang diberikan untuk pelajar darjah dua. Kekalkan hasil dalam satu perenggan dengan 3-5 titik peluru.
Lihat bagaimana hasil kini disesuaikan untuk mencerminkan matlamat dan format yang diingini? Seorang pendidik kini boleh terus menggunakan respons ini dalam slaid mereka untuk kelas tersebut.
Sekarang kita tahu bagaimana prompt diproses oleh LLM, mari kita bincangkan mengapa kita perlukan kejuruteraan prompt. Jawapannya terletak pada hakikat bahawa LLM semasa menghadapi beberapa cabaran yang menjadikan penyempurnaan yang boleh dipercayai dan konsisten lebih sukar dicapai tanpa usaha dalam pembinaan dan pengoptimuman prompt. Contohnya:
-
Respons model adalah stokastik. Prompt yang sama mungkin menghasilkan respons berbeza dengan model atau versi model yang berbeza. Malah ia mungkin menghasilkan keputusan berbeza dengan model yang sama pada masa yang berbeza. Teknik kejuruteraan prompt boleh membantu kita meminimumkan variasi ini dengan menyediakan panduan yang lebih baik.
-
Model boleh mereka respons palsu. Model dilatih dengan dataset besar tetapi terhad, bermakna mereka kekurangan pengetahuan tentang konsep di luar skop latihan tersebut. Akibatnya, mereka boleh menghasilkan penyempurnaan yang tidak tepat, rekaan, atau bertentangan secara langsung dengan fakta yang diketahui. Teknik kejuruteraan prompt membantu pengguna mengenal pasti dan mengurangkan rekaan seperti ini contohnya dengan meminta AI untuk memberikan rujukan atau alasan.
-
Keupayaan model akan berbeza. Model baru atau generasi model akan mempunyai keupayaan yang lebih kaya tetapi juga membawa keunikan dan kompromi dari segi kos & kerumitan. Kejuruteraan prompt boleh membantu kita membangunkan amalan terbaik dan aliran kerja yang mengabstrakkan perbezaan dan menyesuaikan dengan keperluan khusus model secara skala dan lancar.
Mari lihat ini dalam tindakan di OpenAI atau Azure OpenAI Playground:
- Gunakan prompt yang sama dengan pelbagai deployment LLM (contohnya, OpenAI, Azure OpenAI, Hugging Face) - adakah anda nampak variasi?
- Gunakan prompt yang sama berulang kali dengan deployment LLM yang sama (contohnya, Azure OpenAI playground) - bagaimana variasi ini berbeza?
Dalam kursus ini, kami menggunakan istilah "rekaan" untuk merujuk fenomena di mana LLM kadang-kadang menghasilkan maklumat yang salah secara fakta disebabkan oleh had dalam latihan atau kekangan lain. Anda mungkin juga pernah mendengar ini dirujuk sebagai "halusinasi" dalam artikel popular atau kertas penyelidikan. Namun, kami sangat mengesyorkan menggunakan istilah "rekaan" supaya kita tidak secara tidak sengaja menganggap tingkah laku ini seperti sifat manusia dengan mengaitkannya kepada mesin. Ini juga mengukuhkan garis panduan AI Bertanggungjawab dari perspektif terminologi, menghapuskan istilah yang mungkin dianggap menyinggung atau tidak inklusif dalam beberapa konteks.
Mahukan gambaran bagaimana rekaan berfungsi? Fikirkan prompt yang mengarahkan AI untuk menjana kandungan bagi topik yang tidak wujud (untuk memastikan ia tidak terdapat dalam dataset latihan). Contohnya - saya cuba prompt ini:
- Memahami punca dan latar belakang Perang Marikh 2076.
- Menganalisis peristiwa utama dan strategi yang digunakan dalam perang tersebut.
- Menilai kesan jangka panjang Perang Marikh terhadap hubungan antara Bumi dan Marikh.
- Menggalakkan pemikiran kritis mengenai implikasi teknologi dan politik dalam konflik angkasa lepas.
Perang Marikh 2076 merupakan konflik besar antara koloni manusia di Marikh dan kerajaan Bumi. Konflik ini menandakan titik perubahan dalam sejarah penjelajahan angkasa dan hubungan antara planet.
- Bahagikan pelajar kepada beberapa kumpulan.
- Setiap kumpulan membincangkan punca utama Perang Marikh 2076 berdasarkan bahan bacaan yang diberikan.
- Kumpulkan hasil perbincangan dan kongsi dengan kelas.
- Analisis peristiwa penting seperti Serangan Pertama di Koloni Olympus Mons dan Pertempuran Orbit Marikh.
- Pelajar menulis ringkasan dan kesan setiap peristiwa.
- Pelajar memilih peranan (contoh: komander tentera, ahli politik, saintis).
- Mereka membentangkan strategi yang mungkin digunakan dari perspektif peranan tersebut.
- Bagaimana Perang Marikh mempengaruhi hubungan antara Bumi dan Marikh selepas 2076?
- Apakah perubahan teknologi dan sosial yang berlaku akibat perang?
- Kuiz mengenai fakta penting Perang Marikh 2076.
- Tugasan esei pendek mengenai pelajaran yang boleh diambil daripada konflik tersebut.
- Pembentangan kumpulan tentang strategi dan kesan perang.
- Buku teks Sejarah Angkasa Lepas, Bab 12.
- Artikel jurnal mengenai teknologi ketenteraan Marikh.
- Dokumentari "Perang Marikh: Konflik Abad ke-21".
[!NOTE] Pastikan pelajar memahami konteks sejarah dan tidak menganggap Perang Marikh sebagai peristiwa sebenar tanpa bukti saintifik.
[!TIP] Gunakan peta interaktif Marikh untuk membantu visualisasi lokasi pertempuran.
Carian web menunjukkan bahawa terdapat akaun rekaan (contohnya, siri televisyen atau buku) mengenai perang Marikh - tetapi tiada yang berlaku pada tahun 2076. Akal sehat juga memberitahu kita bahawa 2076 adalah di masa hadapan dan oleh itu, tidak boleh dikaitkan dengan peristiwa sebenar.
Jadi, apa yang berlaku apabila kita menjalankan arahan ini dengan penyedia LLM yang berbeza?
Respons 1: OpenAI Playground (GPT-35)
Respons 2: Azure OpenAI Playground (GPT-35)
Respons 3: : Hugging Face Chat Playground (LLama-2)
Seperti yang dijangka, setiap model (atau versi model) menghasilkan respons yang sedikit berbeza disebabkan oleh tingkah laku stokastik dan variasi keupayaan model. Contohnya, satu model menyasarkan audiens darjah 8 manakala satu lagi menganggap pelajar sekolah menengah. Tetapi ketiga-tiga model menghasilkan respons yang boleh meyakinkan pengguna yang tidak berpengetahuan bahawa peristiwa itu benar.
Teknik kejuruteraan arahan seperti metaprompting dan konfigurasi suhu mungkin dapat mengurangkan rekaan model sehingga tahap tertentu. Arkitektur kejuruteraan arahan baru juga menggabungkan alat dan teknik baru dengan lancar ke dalam aliran arahan, untuk mengurangkan atau mengatasi sebahagian daripada kesan ini.
Mari kita akhiri bahagian ini dengan mendapatkan gambaran bagaimana kejuruteraan arahan digunakan dalam penyelesaian dunia sebenar dengan melihat satu Kajian Kes: GitHub Copilot.
GitHub Copilot adalah "Rakan Pengaturcara AI" anda - ia menukar arahan teks kepada pelengkap kod dan diintegrasikan ke dalam persekitaran pembangunan anda (contohnya, Visual Studio Code) untuk pengalaman pengguna yang lancar. Seperti yang didokumentasikan dalam siri blog di bawah, versi awalnya berdasarkan model OpenAI Codex - dengan jurutera segera menyedari keperluan untuk melaras model dan membangunkan teknik kejuruteraan arahan yang lebih baik, untuk meningkatkan kualiti kod. Pada bulan Julai, mereka memperkenalkan model AI yang dipertingkatkan yang melangkaui Codex untuk cadangan yang lebih pantas.
Baca pos-pos tersebut mengikut urutan, untuk mengikuti perjalanan pembelajaran mereka.
- Mei 2023 | GitHub Copilot semakin baik dalam memahami kod anda
- Mei 2023 | Di dalam GitHub: Bekerja dengan LLM di belakang GitHub Copilot
- Jun 2023 | Cara menulis arahan yang lebih baik untuk GitHub Copilot
- Jul 2023 | .. GitHub Copilot melangkaui Codex dengan model AI yang dipertingkatkan
- Jul 2023 | Panduan Pembangun untuk Kejuruteraan Arahan dan LLM
- Sep 2023 | Cara membina aplikasi LLM perusahaan: Pengajaran dari GitHub Copilot
Anda juga boleh melayari blog Kejuruteraan mereka untuk lebih banyak pos seperti yang ini yang menunjukkan bagaimana model dan teknik ini dilaksanakan untuk memacu aplikasi dunia sebenar.
Kita telah melihat mengapa kejuruteraan arahan itu penting - sekarang mari fahami bagaimana arahan dibina supaya kita boleh menilai teknik yang berbeza untuk reka bentuk arahan yang lebih berkesan.
Mari mulakan dengan arahan asas: input teks yang dihantar ke model tanpa konteks lain. Berikut adalah contoh - apabila kita menghantar beberapa patah perkataan pertama lagu kebangsaan AS ke OpenAI Completion API, ia segera melengkapkan respons dengan beberapa baris seterusnya, menggambarkan tingkah laku ramalan asas.
| Arahan (Input) | Pelengkap (Output) |
|---|---|
| Oh say can you see | Nampaknya anda sedang memulakan lirik "The Star-Spangled Banner," lagu kebangsaan Amerika Syarikat. Lirik penuh adalah ... |
Sekarang mari tambah konteks dan arahan kepada arahan asas itu. Chat Completion API membolehkan kita membina arahan kompleks sebagai koleksi mesej dengan:
- Pasangan input/output yang mencerminkan input pengguna dan respons pembantu.
- Mesej sistem yang menetapkan konteks untuk tingkah laku atau personaliti pembantu.
Permintaan kini dalam bentuk di bawah, di mana tokenisasi secara berkesan menangkap maklumat relevan daripada konteks dan perbualan. Kini, mengubah konteks sistem boleh memberi impak yang sama terhadap kualiti pelengkap seperti input pengguna yang diberikan.
response = openai.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Who won the world series in 2020?"},
{"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
{"role": "user", "content": "Where was it played?"}
]
)Dalam contoh di atas, arahan pengguna adalah pertanyaan teks mudah yang boleh ditafsirkan sebagai permintaan maklumat. Dengan arahan berpanduan, kita boleh menggunakan teks itu untuk menentukan tugas dengan lebih terperinci, memberikan panduan yang lebih baik kepada AI. Berikut adalah contoh:
| Arahan (Input) | Pelengkap (Output) | Jenis Arahan |
|---|---|---|
| Tulis satu penerangan tentang Perang Saudara | mengembalikan perenggan ringkas | Mudah |
| Tulis satu penerangan tentang Perang Saudara. Berikan tarikh dan peristiwa penting serta terangkan kepentingannya | mengembalikan perenggan diikuti dengan senarai tarikh peristiwa penting dengan penerangan | Kompleks |
| Tulis satu penerangan tentang Perang Saudara dalam 1 perenggan. Berikan 3 titik peluru dengan tarikh penting dan kepentingannya. Berikan 3 lagi titik peluru dengan tokoh sejarah utama dan sumbangan mereka. Kembalikan output sebagai fail JSON | mengembalikan maklumat lebih terperinci dalam kotak teks, diformat sebagai JSON yang boleh anda salin tampal ke fail dan sahkan jika perlu | Kompleks. Berformat. |
Dalam contoh di atas, arahan masih agak terbuka, membenarkan LLM menentukan bahagian mana dalam set data pra-latihan yang relevan. Dengan corak reka bentuk kandungan utama, teks input dibahagikan kepada dua bahagian:
- arahan (tindakan)
- kandungan relevan (yang mempengaruhi tindakan)
Berikut adalah contoh di mana arahan adalah "ringkaskan ini dalam 2 ayat".
| Arahan (Input) | Pelengkap (Output) |
|---|---|
| Jupiter adalah planet kelima dari Matahari dan yang terbesar dalam Sistem Suria. Ia adalah gergasi gas dengan jisim satu per seribu daripada Matahari, tetapi dua setengah kali ganda jisim semua planet lain dalam Sistem Suria digabungkan. Jupiter adalah salah satu objek paling terang yang boleh dilihat dengan mata kasar di langit malam, dan telah diketahui oleh tamadun purba sejak sebelum sejarah tercatat. Ia dinamakan sempena dewa Rom Jupiter.[19] Apabila dilihat dari Bumi, Jupiter boleh cukup terang sehingga cahaya pantulannya boleh menghasilkan bayang-bayang yang kelihatan,[20] dan secara purata adalah objek semula jadi ketiga paling terang di langit malam selepas Bulan dan Zuhrah. Ringkaskan ini dalam 2 ayat pendek |
Jupiter, planet kelima dari Matahari, adalah yang terbesar dalam Sistem Suria dan dikenali sebagai salah satu objek paling terang di langit malam. Dinamakan sempena dewa Rom Jupiter, ia adalah gergasi gas yang jisimnya dua setengah kali ganda semua planet lain dalam Sistem Suria digabungkan. |
Segmen kandungan utama boleh digunakan dalam pelbagai cara untuk menggerakkan arahan yang lebih berkesan:
- Contoh - bukannya memberitahu model apa yang perlu dilakukan dengan arahan eksplisit, berikan contoh apa yang perlu dilakukan dan biarkan ia membuat inferens corak.
- Isyarat - ikuti arahan dengan "isyarat" yang mempersiapkan pelengkap, membimbing model ke arah respons yang lebih relevan.
- Templat - ini adalah 'resipi' yang boleh diulang untuk arahan dengan tempat letak (pembolehubah) yang boleh disesuaikan dengan data untuk kes penggunaan tertentu.
Mari kita terokai ini dalam tindakan.
Ini adalah pendekatan di mana anda menggunakan kandungan utama untuk "memberi makan model" dengan beberapa contoh output yang diingini untuk arahan tertentu, dan membiarkannya membuat inferens corak output yang diingini. Berdasarkan bilangan contoh yang diberikan, kita boleh ada zero-shot prompting, one-shot prompting, few-shot prompting dan sebagainya.
Arahan kini terdiri daripada tiga komponen:
- Penerangan tugas
- Beberapa contoh output yang diingini
- Permulaan contoh baru (yang menjadi penerangan tugas secara tersirat)
| Jenis Pembelajaran | Arahan (Input) | Pelengkap (Output) |
|---|---|---|
| Zero-shot | "The Sun is Shining". Terjemah ke dalam Bahasa Sepanyol | "El Sol está brillando". |
| One-shot | "The Sun is Shining" => "El Sol está brillando". "It's a Cold and Windy Day" => |
"Es un día frío y ventoso". |
| Few-shot | Pemain berlari di pangkalan => Baseball Pemain memukul ace => Tennis Pemain memukul enam => Kriket Pemain membuat slam-dunk => |
Bola Keranjang |
Perhatikan bagaimana kita perlu memberikan arahan eksplisit ("Terjemah ke dalam Bahasa Sepanyol") dalam zero-shot prompting, tetapi ia dapat disimpulkan dalam contoh one-shot prompting. Contoh few-shot menunjukkan bagaimana menambah lebih banyak contoh membolehkan model membuat inferens yang lebih tepat tanpa arahan tambahan.
Satu lagi teknik menggunakan kandungan utama adalah dengan memberikan isyarat dan bukannya contoh. Dalam kes ini, kita memberi model dorongan ke arah yang betul dengan memulakan ia dengan petikan yang mencerminkan format respons yang diingini. Model kemudian "mengambil isyarat" untuk meneruskan dalam gaya itu.
| Bilangan Isyarat | Arahan (Input) | Pelengkap (Output) |
|---|---|---|
| 0 | Jupiter adalah planet kelima dari Matahari dan yang terbesar dalam Sistem Suria. Ia adalah gergasi gas dengan jisim satu per seribu daripada Matahari, tetapi dua setengah kali ganda jisim semua planet lain dalam Sistem Suria digabungkan. Jupiter adalah salah satu objek paling terang yang boleh dilihat dengan mata kasar di langit malam, dan telah diketahui oleh tamadun purba sejak sebelum sejarah tercatat. |
Ringkaskan Ini | Jupiter adalah planet terbesar dalam Sistem Suria kita dan planet kelima dari Matahari. Ia adalah gergasi gas dengan jisim 1/1000 daripada Matahari, tetapi lebih berat daripada semua planet lain digabungkan. Tamadun purba telah lama mengetahui tentang Jupiter, dan ia mudah dilihat di langit malam. |
| 1 | Jupiter adalah planet kelima dari Matahari dan yang terbesar dalam Sistem Suria. Ia adalah gergasi gas dengan jisim satu per seribu daripada Matahari, tetapi dua setengah kali ganda jisim semua planet lain dalam Sistem Suria digabungkan. Jupiter adalah salah satu objek paling terang yang boleh dilihat dengan mata kasar di langit malam, dan telah diketahui oleh tamadun purba sejak sebelum sejarah tercatat.
Ringkaskan Ini
Apa yang kita pelajari ialah Jupiter | adalah planet kelima dari Matahari dan yang terbesar dalam Sistem Suria. Ia adalah gergasi gas dengan jisim satu per seribu daripada Matahari, tetapi dua setengah kali ganda jisim semua planet lain digabungkan. Ia mudah dilihat dengan mata kasar dan telah diketahui sejak zaman purba. |
| 2 | Jupiter adalah planet kelima dari Matahari dan yang terbesar dalam Sistem Suria. Ia adalah gergasi gas dengan jisim satu per seribu daripada Matahari, tetapi dua setengah kali ganda jisim semua planet lain dalam Sistem Suria digabungkan. Jupiter adalah salah satu objek paling terang yang boleh dilihat dengan mata kasar di langit malam, dan telah diketahui oleh tamadun purba sejak sebelum sejarah tercatat.
Ringkaskan Ini
3 Fakta Teratas Yang Kami Pelajari: | 1. Jupiter adalah planet kelima dari Matahari dan yang terbesar dalam Sistem Suria.
2. Ia adalah gergasi gas dengan jisim satu per seribu daripada Matahari...
3. Jupiter telah dapat dilihat dengan mata kasar sejak zaman purba ... |
| | | |
Templat prompt adalah resipi yang telah ditetapkan untuk prompt yang boleh disimpan dan digunakan semula mengikut keperluan, untuk menghasilkan pengalaman pengguna yang lebih konsisten secara besar-besaran. Dalam bentuk paling mudah, ia hanyalah koleksi contoh prompt seperti yang ini dari OpenAI yang menyediakan komponen prompt interaktif (mesej pengguna dan sistem) serta format permintaan API - untuk menyokong penggunaan semula.
Dalam bentuk yang lebih kompleks seperti contoh ini dari LangChain ia mengandungi placeholder yang boleh digantikan dengan data dari pelbagai sumber (input pengguna, konteks sistem, sumber data luaran dan lain-lain) untuk menjana prompt secara dinamik. Ini membolehkan kita mencipta perpustakaan prompt yang boleh digunakan semula untuk menghasilkan pengalaman pengguna yang konsisten secara programatik dalam skala besar.
Akhir sekali, nilai sebenar templat terletak pada keupayaan untuk mencipta dan menerbitkan perpustakaan prompt untuk domain aplikasi khusus - di mana templat prompt kini dioptimumkan untuk mencerminkan konteks atau contoh khusus aplikasi yang menjadikan respons lebih relevan dan tepat untuk audiens pengguna sasaran. Repositori Prompts For Edu adalah contoh hebat pendekatan ini, mengumpul perpustakaan prompt untuk domain pendidikan dengan penekanan pada objektif utama seperti perancangan pelajaran, reka bentuk kurikulum, bimbingan pelajar dan lain-lain.
Jika kita anggap pembinaan prompt mempunyai arahan (tugas) dan sasaran (kandungan utama), maka kandungan sekunder adalah seperti konteks tambahan yang kita berikan untuk mempengaruhi hasil dengan cara tertentu. Ia boleh berupa parameter penalaan, arahan format, taksonomi topik dan lain-lain yang membantu model menyesuaikan respons supaya sesuai dengan objektif atau jangkaan pengguna yang diingini.
Contohnya: Diberi katalog kursus dengan metadata yang luas (nama, penerangan, tahap, tag metadata, pengajar dan lain-lain) untuk semua kursus yang tersedia dalam kurikulum:
- kita boleh mentakrifkan arahan untuk "meringkaskan katalog kursus untuk Musim Gugur 2023"
- kita boleh menggunakan kandungan utama untuk memberikan beberapa contoh output yang diingini
- kita boleh menggunakan kandungan sekunder untuk mengenal pasti 5 "tag" utama yang diminati.
Kini, model boleh memberikan ringkasan dalam format yang ditunjukkan oleh beberapa contoh - tetapi jika hasil mempunyai pelbagai tag, ia boleh mengutamakan 5 tag yang dikenal pasti dalam kandungan sekunder.
Sekarang kita tahu bagaimana prompt boleh dibina, kita boleh mula berfikir tentang bagaimana untuk mereka bentuk prompt tersebut supaya mencerminkan amalan terbaik. Kita boleh fikirkan ini dalam dua bahagian - mempunyai mindset yang betul dan menggunakan teknik yang sesuai.
Kejuruteraan Prompt adalah proses cuba dan salah jadi ingat tiga faktor panduan utama:
-
Pemahaman Domain Penting. Ketepatan dan relevan respons bergantung pada domain di mana aplikasi atau pengguna beroperasi. Gunakan intuisi dan kepakaran domain anda untuk menyesuaikan teknik dengan lebih lanjut. Contohnya, tetapkan personaliti khusus domain dalam prompt sistem anda, atau gunakan templat khusus domain dalam prompt pengguna. Berikan kandungan sekunder yang mencerminkan konteks domain, atau gunakan petunjuk dan contoh khusus domain untuk membimbing model ke corak penggunaan yang biasa.
-
Pemahaman Model Penting. Kita tahu model bersifat stokastik secara semula jadi. Tetapi pelaksanaan model juga boleh berbeza dari segi set data latihan yang digunakan (pengetahuan pra-latihan), keupayaan yang disediakan (contohnya melalui API atau SDK) dan jenis kandungan yang dioptimumkan (contohnya kod vs imej vs teks). Fahami kekuatan dan keterbatasan model yang anda gunakan, dan gunakan pengetahuan itu untuk mengutamakan tugas atau membina templat khusus yang dioptimumkan untuk keupayaan model.
-
Iterasi & Pengesahan Penting. Model berkembang dengan pantas, begitu juga teknik kejuruteraan prompt. Sebagai pakar domain, anda mungkin mempunyai konteks atau kriteria lain untuk aplikasi anda yang mungkin tidak terpakai kepada komuniti lebih luas. Gunakan alat & teknik kejuruteraan prompt untuk "memulakan" pembinaan prompt, kemudian ulang dan sahkan hasil menggunakan intuisi dan kepakaran domain anda sendiri. Rekodkan penemuan anda dan cipta pangkalan pengetahuan (contohnya perpustakaan prompt) yang boleh digunakan sebagai asas baru oleh orang lain, untuk iterasi lebih pantas pada masa depan.
Sekarang mari kita lihat amalan terbaik biasa yang disyorkan oleh pengamal OpenAI dan Azure OpenAI.
| Apa | Kenapa |
|---|---|
| Nilai model terkini. | Generasi model baru mungkin mempunyai ciri dan kualiti yang lebih baik - tetapi mungkin juga menimbulkan kos lebih tinggi. Nilai impaknya, kemudian buat keputusan migrasi. |
| Pisahkan arahan & konteks | Periksa jika model/pembekal anda mentakrifkan pemisah untuk membezakan arahan, kandungan utama dan sekunder dengan lebih jelas. Ini membantu model memberikan berat yang lebih tepat kepada token. |
| Jadilah spesifik dan jelas | Berikan lebih banyak butiran tentang konteks, hasil, panjang, format, gaya yang diingini. Ini akan meningkatkan kualiti dan konsistensi respons. Simpan resipi dalam templat yang boleh digunakan semula. |
| Jadilah deskriptif, gunakan contoh | Model mungkin memberi respons lebih baik dengan pendekatan "tunjuk dan ceritakan". Mulakan dengan pendekatan zero-shot di mana anda beri arahan (tanpa contoh) kemudian cuba few-shot sebagai penambahbaikan, dengan beberapa contoh output yang diingini. Gunakan analogi. |
| Gunakan petunjuk untuk memulakan respons | Galakkan model ke arah hasil yang diingini dengan memberikan beberapa kata atau frasa permulaan yang boleh digunakan sebagai titik mula respons. |
| Ulangi jika perlu | Kadang-kadang anda perlu mengulangi arahan kepada model. Beri arahan sebelum dan selepas kandungan utama, gunakan arahan dan petunjuk, dan sebagainya. Ulang dan sahkan untuk lihat apa yang berkesan. |
| Susunan Penting | Susunan maklumat yang anda berikan kepada model boleh mempengaruhi output, termasuk dalam contoh pembelajaran, disebabkan bias terkini. Cuba pelbagai pilihan untuk lihat apa yang terbaik. |
| Beri model “jalan keluar” | Berikan model respons fallback yang boleh diberikan jika ia tidak dapat menyelesaikan tugas atas apa-apa sebab. Ini boleh mengurangkan kemungkinan model menghasilkan respons palsu atau direka-reka. |
Seperti mana-mana amalan terbaik, ingat bahawa keberkesanan anda mungkin berbeza bergantung pada model, tugas dan domain. Gunakan ini sebagai titik permulaan, dan ulang untuk cari apa yang terbaik untuk anda. Sentiasa nilai semula proses kejuruteraan prompt anda apabila model dan alat baru tersedia, dengan fokus pada kebolehlaksanaan proses dan kualiti respons.
Tahniah! Anda telah sampai ke penghujung pelajaran! Masa untuk menguji beberapa konsep dan teknik tersebut dengan contoh sebenar!
Untuk tugasan kita, kita akan menggunakan Jupyter Notebook dengan latihan yang boleh anda selesaikan secara interaktif. Anda juga boleh mengembangkan Notebook dengan sel Markdown dan Kod anda sendiri untuk meneroka idea dan teknik secara bebas.
- (Disyorkan) Lancarkan GitHub Codespaces
- (Alternatif) Klon repo ke peranti tempatan dan gunakan dengan Docker Desktop
- (Alternatif) Buka Notebook dengan persekitaran runtime Notebook pilihan anda.
- Salin fail
.env.copydi akar repo ke.envdan isi nilaiAZURE_OPENAI_API_KEY,AZURE_OPENAI_ENDPOINTdanAZURE_OPENAI_DEPLOYMENT. Kembali ke bahagian Learning Sandbox untuk belajar caranya.
- Pilih kernel runtime. Jika menggunakan pilihan 1 atau 2, pilih sahaja kernel Python 3.10.x lalai yang disediakan oleh kontena pembangunan.
Anda sudah bersedia untuk menjalankan latihan. Perlu diingat tiada jawapan betul atau salah di sini - hanya meneroka pilihan melalui cuba dan salah serta membina intuisi tentang apa yang berkesan untuk model dan domain aplikasi tertentu.
Untuk sebab ini tiada segmen Penyelesaian Kod dalam pelajaran ini. Sebaliknya, Notebook akan mempunyai sel Markdown bertajuk "Penyelesaian Saya:" yang menunjukkan satu contoh output sebagai rujukan.
Yang manakah antara berikut merupakan prompt yang baik mengikut beberapa amalan terbaik yang munasabah?
- Tunjukkan saya gambar kereta merah
- Tunjukkan saya gambar kereta merah jenama Volvo dan model XC90 yang diparkir di tepi tebing dengan matahari terbenam
- Tunjukkan saya gambar kereta merah jenama Volvo dan model XC90
A: 2, ia adalah prompt terbaik kerana memberikan butiran tentang "apa" dan masuk ke spesifik (bukan sekadar kereta biasa tetapi jenama dan model tertentu) serta menerangkan suasana keseluruhan. 3 adalah yang kedua terbaik kerana juga mengandungi banyak penerangan.
Cuba gunakan teknik "petunjuk" dengan prompt: Lengkapkan ayat "Tunjukkan saya gambar kereta merah jenama Volvo dan ". Apa responsnya, dan bagaimana anda akan memperbaikinya?
Ingin belajar lebih lanjut tentang konsep Kejuruteraan Prompt yang berbeza? Pergi ke halaman pembelajaran lanjutan untuk mencari sumber hebat lain mengenai topik ini.
Teruskan ke Pelajaran 5 di mana kita akan melihat teknik prompting lanjutan!
Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila ambil maklum bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang sahih. Untuk maklumat penting, terjemahan profesional oleh manusia adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.