Questo modulo copre concetti essenziali e tecniche per creare prompt efficaci nei modelli di intelligenza artificiale generativa. Anche il modo in cui scrivi il tuo prompt per un LLM è importante. Un prompt ben progettato può garantire una risposta di qualità migliore. Ma cosa significano esattamente termini come prompt e prompt engineering? E come posso migliorare l'input del prompt che invio al LLM? Queste sono le domande a cui cercheremo di rispondere in questo capitolo e nel prossimo.
L'intelligenza artificiale generativa è in grado di creare nuovi contenuti (ad esempio, testo, immagini, audio, codice ecc.) in risposta alle richieste degli utenti. Lo fa utilizzando Large Language Models come la serie GPT ("Generative Pre-trained Transformer") di OpenAI, che sono addestrati per utilizzare il linguaggio naturale e il codice.
Gli utenti possono ora interagire con questi modelli utilizzando paradigmi familiari come la chat, senza bisogno di competenze tecniche o formazione. I modelli sono basati su prompt - gli utenti inviano un input testuale (prompt) e ricevono una risposta dall'IA (completion). Possono quindi "chattare con l'IA" in modo iterativo, in conversazioni multi-turn, affinando il loro prompt fino a quando la risposta non soddisfa le loro aspettative.
I "prompt" diventano ora l'interfaccia di programmazione principale per le applicazioni di intelligenza artificiale generativa, indicando ai modelli cosa fare e influenzando la qualità delle risposte fornite. Il "Prompt Engineering" è un campo di studio in rapida crescita che si concentra sulla progettazione e ottimizzazione dei prompt per fornire risposte coerenti e di qualità su larga scala.
In questa lezione, impariamo cos'è il Prompt Engineering, perché è importante e come possiamo creare prompt più efficaci per un determinato modello e obiettivo applicativo. Comprenderemo i concetti fondamentali e le migliori pratiche per il prompt engineering - e conosceremo un ambiente "sandbox" interattivo in Jupyter Notebooks dove possiamo vedere questi concetti applicati a esempi reali.
Alla fine di questa lezione saremo in grado di:
- Spiegare cos'è il prompt engineering e perché è importante.
- Descrivere i componenti di un prompt e come vengono utilizzati.
- Imparare le migliori pratiche e tecniche per il prompt engineering.
- Applicare le tecniche apprese a esempi reali, utilizzando un endpoint OpenAI.
Prompt Engineering: La pratica di progettare e affinare gli input per guidare i modelli di IA verso la produzione di output desiderati.
Tokenizzazione: Il processo di conversione del testo in unità più piccole, chiamate token, che un modello può comprendere e elaborare.
LLM ottimizzati per istruzioni: Large Language Models (LLMs) che sono stati ottimizzati con istruzioni specifiche per migliorare l'accuratezza e la rilevanza delle risposte.
Il prompt engineering è attualmente più arte che scienza. Il modo migliore per migliorare la nostra intuizione è praticare di più e adottare un approccio di tentativi ed errori che combini competenze nel dominio applicativo con tecniche raccomandate e ottimizzazioni specifiche del modello.
Il Jupyter Notebook che accompagna questa lezione fornisce un ambiente sandbox dove puoi provare ciò che hai imparato - man mano che procedi o come parte della sfida di codice alla fine. Per eseguire gli esercizi, avrai bisogno di:
- Una chiave API di Azure OpenAI - l'endpoint del servizio per un LLM distribuito.
- Un runtime Python - in cui il Notebook può essere eseguito.
- Variabili di ambiente locali - completa ora i passaggi di SETUP per prepararti.
Il notebook include esercizi di base - ma ti incoraggiamo ad aggiungere le tue sezioni Markdown (descrizione) e Code (richieste di prompt) per provare più esempi o idee - e costruire la tua intuizione per la progettazione dei prompt.
Vuoi avere una visione d'insieme di ciò che copre questa lezione prima di immergerti? Dai un'occhiata a questa guida illustrata, che ti dà un'idea dei principali argomenti trattati e dei punti chiave su cui riflettere in ciascuno di essi. La roadmap della lezione ti porta dalla comprensione dei concetti fondamentali e delle sfide al loro superamento con tecniche e migliori pratiche di prompt engineering pertinenti. Nota che la sezione "Tecniche avanzate" in questa guida si riferisce ai contenuti trattati nel prossimo capitolo di questo curriculum.
Ora, parliamo di come questo argomento si collega alla nostra missione di startup per portare innovazione AI nell'educazione. Vogliamo costruire applicazioni AI-powered per l'apprendimento personalizzato - quindi pensiamo a come diversi utenti della nostra applicazione potrebbero "progettare" i prompt:
- Amministratori potrebbero chiedere all'IA di analizzare i dati del curriculum per identificare lacune nella copertura. L'IA può riassumere i risultati o visualizzarli con il codice.
- Educatori potrebbero chiedere all'IA di generare un piano di lezione per un pubblico target e un argomento. L'IA può creare il piano personalizzato in un formato specificato.
- Studenti potrebbero chiedere all'IA di tutorarli in una materia difficile. L'IA può ora guidare gli studenti con lezioni, suggerimenti ed esempi adattati al loro livello.
Questo è solo la punta dell'iceberg. Dai un'occhiata a Prompts For Education - una libreria open-source di prompt curata da esperti di educazione - per avere un'idea più ampia delle possibilità! Prova a eseguire alcuni di quei prompt nel sandbox o utilizzando l'OpenAI Playground per vedere cosa succede!
Abbiamo iniziato questa lezione definendo Prompt Engineering come il processo di progettazione e ottimizzazione degli input testuali (prompt) per fornire risposte coerenti e di qualità (completamenti) per un determinato obiettivo applicativo e modello. Possiamo pensare a questo come a un processo in due fasi:
- progettare il prompt iniziale per un determinato modello e obiettivo
- raffinare il prompt in modo iterativo per migliorare la qualità della risposta
Questo è necessariamente un processo di tentativi ed errori che richiede intuizione e impegno da parte dell'utente per ottenere risultati ottimali. Quindi, perché è importante? Per rispondere a questa domanda, dobbiamo prima comprendere tre concetti:
- Tokenizzazione = come il modello "vede" il prompt
- Base LLMs = come il modello di base "elabora" un prompt
- LLMs ottimizzati per istruzioni = come il modello può ora vedere "compiti"
Un LLM vede i prompt come una sequenza di token dove diversi modelli (o versioni di un modello) possono tokenizzare lo stesso prompt in modi diversi. Poiché gli LLM sono addestrati sui token (e non sul testo grezzo), il modo in cui i prompt vengono tokenizzati ha un impatto diretto sulla qualità della risposta generata.
Per avere un'intuizione su come funziona la tokenizzazione, prova strumenti come il Tokenizzatore di OpenAI mostrato di seguito. Copia il tuo prompt - e osserva come viene convertito in token, prestando attenzione a come vengono gestiti i caratteri di spazio e i segni di punteggiatura. Nota che questo esempio mostra un LLM più vecchio (GPT-3) - quindi provare questo con un modello più recente potrebbe produrre un risultato diverso.
Una volta che un prompt è stato tokenizzato, la funzione principale del "Base LLM" (o modello di base) è prevedere il token in quella sequenza. Poiché gli LLM sono addestrati su enormi dataset di testo, hanno una buona comprensione delle relazioni statistiche tra i token e possono fare quella previsione con una certa sicurezza. Nota che non comprendono il significato delle parole nel prompt o nel token; vedono solo un pattern che possono "completare" con la loro prossima previsione. Possono continuare a prevedere la sequenza fino a quando non vengono interrotti dall'intervento dell'utente o da una condizione predefinita.
Vuoi vedere come funziona il completamento basato su prompt? Inserisci il prompt sopra nello Chat Playground di Azure OpenAI Studio con le impostazioni predefinite. Il sistema è configurato per trattare i prompt come richieste di informazioni - quindi dovresti vedere un completamento che soddisfa questo contesto.
Ma cosa succede se l'utente vuole vedere qualcosa di specifico che soddisfi alcuni criteri o obiettivi di compito? È qui che entrano in gioco gli LLM ottimizzati per istruzioni.
Un LLM ottimizzato per istruzioni parte dal modello di base e lo ottimizza con esempi o coppie input/output (ad esempio, "messaggi" multi-turn) che possono contenere istruzioni chiare - e la risposta dell'IA cerca di seguire quelle istruzioni.
Questo utilizza tecniche come il Reinforcement Learning con Feedback Umano (RLHF) che possono addestrare il modello a seguire istruzioni e imparare dal feedback in modo che produca risposte più adatte alle applicazioni pratiche e più pertinenti agli obiettivi dell'utente.
Proviamolo - riprendi il prompt sopra, ma ora cambia il messaggio di sistema per fornire il seguente contesto come istruzione:
Riassumi il contenuto che ti viene fornito per uno studente di seconda elementare. Mantieni il risultato in un paragrafo con 3-5 punti elenco.
Osserva come il risultato ora è adattato per riflettere l'obiettivo e il formato desiderati. Un educatore può ora utilizzare direttamente questa risposta nelle sue slide per quella lezione.
Ora che sappiamo come i prompt vengono elaborati dagli LLM, parliamo del perché abbiamo bisogno del prompt engineering. La risposta risiede nel fatto che gli attuali LLM presentano una serie di sfide che rendono più difficile ottenere completamenti affidabili e coerenti senza dedicare sforzi alla costruzione e ottimizzazione dei prompt. Ad esempio:
-
Le risposte dei modelli sono stocastiche. Lo stesso prompt probabilmente produrrà risposte diverse con modelli o versioni di modelli diversi. E potrebbe persino produrre risultati diversi con lo stesso modello in momenti diversi. Le tecniche di prompt engineering possono aiutarci a minimizzare queste variazioni fornendo migliori linee guida.
-
I modelli possono fabbricare risposte. I modelli sono pre-addestrati con dataset ampi ma finiti, il che significa che mancano di conoscenza su concetti al di fuori di tale ambito di addestramento. Di conseguenza, possono produrre completamenti inaccurati, immaginari o direttamente contraddittori rispetto ai fatti noti. Le tecniche di prompt engineering aiutano gli utenti a identificare e mitigare tali fabbricazioni, ad esempio chiedendo all'IA citazioni o ragionamenti.
-
Le capacità dei modelli variano. I modelli più recenti o le generazioni di modelli avranno capacità più ricche ma presenteranno anche peculiarità uniche e compromessi in termini di costi e complessità. Il prompt engineering può aiutarci a sviluppare migliori pratiche e flussi di lavoro che astraggano le differenze e si adattino ai requisiti specifici del modello in modi scalabili e fluidi.
Vediamo questo in azione nell'OpenAI o Azure OpenAI Playground:
- Usa lo stesso prompt con diverse distribuzioni LLM (ad esempio, OpenAI, Azure OpenAI, Hugging Face) - hai notato delle variazioni?
- Usa lo stesso prompt ripetutamente con la stessa distribuzione LLM (ad esempio, Azure OpenAI Playground) - come differivano queste variazioni?
In questo corso, utilizziamo il termine "fabbricazione" per riferirci al fenomeno in cui gli LLM a volte generano informazioni fattualmente errate a causa di limitazioni nel loro addestramento o altri vincoli. Potresti anche aver sentito questo fenomeno chiamato "allucinazioni" in articoli popolari o documenti di ricerca. Tuttavia, raccomandiamo vivamente di utilizzare il termine "fabbricazione" per evitare di antropomorfizzare il comportamento attribuendo una caratteristica simile a quella umana a un risultato generato da una macchina. Questo rafforza anche le linee guida sull'IA responsabile da una prospettiva terminologica, eliminando termini che potrebbero essere considerati offensivi o non inclusivi in alcuni contesti.
Vuoi capire come funzionano le fabbricazioni? Pensa a un prompt che istruisca l'IA a generare contenuti per un argomento inesistente (per garantire che non si trovi nel dataset di addestramento). Ad esempio - ho provato questo prompt:
Prompt: genera un piano di lezione sulla Guerra di Marte del 2076. Una ricerca sul web mi ha mostrato che esistono racconti di fantasia (ad esempio, serie televisive o libri) sulle guerre marziane - ma nessuno ambientato nel 2076. Il buon senso ci dice anche che il 2076 è nel futuro e quindi non può essere associato a un evento reale.
Cosa succede quando utilizziamo questo prompt con diversi fornitori di LLM?
Risposta 1: OpenAI Playground (GPT-35)
Risposta 2: Azure OpenAI Playground (GPT-35)
Risposta 3: Hugging Face Chat Playground (LLama-2)
Come previsto, ogni modello (o versione del modello) produce risposte leggermente diverse grazie al comportamento stocastico e alle variazioni nelle capacità del modello. Ad esempio, un modello si rivolge a un pubblico di ottava classe, mentre un altro presuppone uno studente delle superiori. Tuttavia, tutti e tre i modelli hanno generato risposte che potrebbero convincere un utente non informato che l'evento fosse reale.
Tecniche di progettazione dei prompt come metaprompting e configurazione della temperatura possono ridurre in una certa misura le fabbricazioni del modello. Nuove architetture di progettazione dei prompt incorporano anche strumenti e tecniche innovative nel flusso del prompt, per mitigare o ridurre alcuni di questi effetti.
Concludiamo questa sezione dando un'occhiata a come la progettazione dei prompt viene utilizzata in soluzioni reali, esaminando un caso studio: GitHub Copilot.
GitHub Copilot è il tuo "AI Pair Programmer" - converte i prompt testuali in completamenti di codice ed è integrato nel tuo ambiente di sviluppo (ad esempio, Visual Studio Code) per un'esperienza utente fluida. Come documentato nella serie di blog qui sotto, la versione iniziale era basata sul modello OpenAI Codex - con gli ingegneri che hanno rapidamente riconosciuto la necessità di perfezionare il modello e sviluppare tecniche di progettazione dei prompt migliori, per migliorare la qualità del codice. A luglio, hanno lanciato un modello AI migliorato che va oltre Codex per suggerimenti ancora più rapidi.
Leggi i post in ordine per seguire il loro percorso di apprendimento.
- Maggio 2023 | GitHub Copilot sta migliorando nella comprensione del tuo codice
- Maggio 2023 | Dentro GitHub: lavorare con gli LLM dietro GitHub Copilot.
- Giugno 2023 | Come scrivere prompt migliori per GitHub Copilot.
- Luglio 2023 | .. GitHub Copilot va oltre Codex con un modello AI migliorato
- Luglio 2023 | Guida per sviluppatori alla progettazione dei prompt e agli LLM
- Settembre 2023 | Come costruire un'app LLM aziendale: lezioni da GitHub Copilot
Puoi anche sfogliare il loro blog di ingegneria per altri post come questo che mostra come questi modelli e tecniche siano applicati per guidare applicazioni reali.
Abbiamo visto perché la progettazione dei prompt è importante - ora cerchiamo di capire come i prompt vengono costruiti per poter valutare diverse tecniche per una progettazione più efficace.
Iniziamo con il prompt base: un input testuale inviato al modello senza alcun contesto aggiuntivo. Ecco un esempio - quando inviamo le prime parole dell'inno nazionale degli Stati Uniti all'API Completion di OpenAI, essa completa immediatamente la risposta con le righe successive, illustrando il comportamento di previsione di base.
| Prompt (Input) | Completamento (Output) |
|---|---|
| Oh say can you see | Sembra che tu stia iniziando il testo di "The Star-Spangled Banner", l'inno nazionale degli Stati Uniti. Il testo completo è ... |
Ora aggiungiamo contesto e istruzioni a quel prompt base. L'API Chat Completion ci consente di costruire un prompt complesso come una raccolta di messaggi con:
- Coppie di input/output che riflettono l'input dell'utente e la risposta dell'assistente.
- Messaggio di sistema che imposta il contesto per il comportamento o la personalità dell'assistente.
La richiesta ora assume la forma seguente, dove la tokenizzazione cattura efficacemente informazioni rilevanti dal contesto e dalla conversazione. Ora, cambiare il contesto del sistema può avere un impatto sulla qualità dei completamenti, tanto quanto gli input forniti dall'utente.
response = openai.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Who won the world series in 2020?"},
{"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
{"role": "user", "content": "Where was it played?"}
]
)Negli esempi sopra, il prompt dell'utente era una semplice query testuale che poteva essere interpretata come una richiesta di informazioni. Con i prompt istruttivi, possiamo utilizzare quel testo per specificare un compito in modo più dettagliato, fornendo una guida migliore all'IA. Ecco un esempio:
| Prompt (Input) | Completamento (Output) | Tipo di Istruzione |
|---|---|---|
| Scrivi una descrizione della Guerra Civile | restituisce un semplice paragrafo | Semplice |
| Scrivi una descrizione della Guerra Civile. Fornisci date ed eventi chiave e descrivine il significato | restituisce un paragrafo seguito da un elenco di date chiave con descrizioni | Complesso |
| Scrivi una descrizione della Guerra Civile in 1 paragrafo. Fornisci 3 punti elenco con date chiave e il loro significato. Fornisci altri 3 punti elenco con figure storiche chiave e i loro contributi. Restituisci l'output come file JSON | restituisce dettagli più estesi in una casella di testo, formattati come JSON che puoi copiare-incollare in un file e convalidare secondo necessità | Complesso. Formattato. |
Negli esempi sopra, il prompt era ancora piuttosto aperto, permettendo all'LLM di decidere quale parte del suo dataset pre-addestrato fosse rilevante. Con il modello di progettazione contenuto primario, il testo di input è diviso in due parti:
- un'istruzione (azione)
- contenuto rilevante (che influenza l'azione)
Ecco un esempio in cui l'istruzione è "riassumi questo in 2 frasi".
| Prompt (Input) | Completamento (Output) |
|---|---|
| Giove è il quinto pianeta dal Sole e il più grande del Sistema Solare. È un gigante gassoso con una massa pari a un millesimo di quella del Sole, ma due volte e mezzo quella di tutti gli altri pianeti del Sistema Solare messi insieme. Giove è uno degli oggetti più luminosi visibili a occhio nudo nel cielo notturno ed è conosciuto dalle civiltà antiche da prima della storia registrata. È chiamato come il dio romano Giove.[19] Quando visto dalla Terra, Giove può essere abbastanza luminoso da far sì che la sua luce riflessa proietti ombre visibili,[20] ed è mediamente il terzo oggetto naturale più luminoso nel cielo notturno dopo la Luna e Venere. Riassumi questo in 2 frasi brevi |
Giove, il quinto pianeta dal Sole, è il più grande del Sistema Solare ed è noto per essere uno degli oggetti più luminosi nel cielo notturno. Chiamato come il dio romano Giove, è un gigante gassoso la cui massa è due volte e mezzo quella di tutti gli altri pianeti del Sistema Solare messi insieme. |
Il segmento di contenuto primario può essere utilizzato in vari modi per guidare istruzioni più efficaci:
- Esempi - invece di dire esplicitamente al modello cosa fare con un'istruzione, forniscigli esempi di cosa fare e lascia che deduca il modello.
- Indizi - segui l'istruzione con un "indizio" che prepara il completamento, guidando il modello verso risposte più pertinenti.
- Template - queste sono 'ricette' ripetibili per i prompt con segnaposto (variabili) che possono essere personalizzati con dati per casi d'uso specifici.
Esploriamo queste tecniche in azione.
Questo è un approccio in cui si utilizza il contenuto primario per "alimentare il modello" con alcuni esempi del risultato desiderato per una determinata istruzione, lasciando che deduca il modello per il risultato desiderato. In base al numero di esempi forniti, possiamo avere prompt zero-shot, one-shot, few-shot ecc.
Il prompt ora consiste in tre componenti:
- Una descrizione del compito
- Alcuni esempi del risultato desiderato
- L'inizio di un nuovo esempio (che diventa una descrizione implicita del compito)
| Tipo di Apprendimento | Prompt (Input) | Completamento (Output) |
|---|---|---|
| Zero-shot | "Il Sole splende". Traduci in spagnolo | "El Sol está brillando". |
| One-shot | "Il Sole splende" => ""El Sol está brillando". "È una giornata fredda e ventosa" => |
"Es un día frío y ventoso". |
| Few-shot | Il giocatore ha corso le basi => Baseball Il giocatore ha fatto un ace => Tennis Il giocatore ha fatto un sei => Cricket Il giocatore ha fatto una schiacciata => |
Basket |
Nota come abbiamo dovuto fornire un'istruzione esplicita ("Traduci in spagnolo") nel prompt zero-shot, ma viene dedotta nell'esempio one-shot. L'esempio few-shot mostra come aggiungere più esempi consenta ai modelli di fare inferenze più accurate senza istruzioni aggiuntive.
Un'altra tecnica per utilizzare il contenuto primario è fornire indizi piuttosto che esempi. In questo caso, stiamo dando al modello un suggerimento nella giusta direzione iniziandolo con un frammento che riflette il formato di risposta desiderato. Il modello quindi "prende il suggerimento" per continuare in quella direzione.
| Numero di Indizi | Prompt (Input) | Completamento (Output) |
|---|---|---|
| 0 | Giove è il quinto pianeta dal Sole e il più grande del Sistema Solare. È un gigante gassoso con una massa pari a un millesimo di quella del Sole, ma due volte e mezzo quella di tutti gli altri pianeti del Sistema Solare messi insieme. Giove è uno degli oggetti più luminosi visibili a occhio nudo nel cielo notturno ed è conosciuto dalle civiltà antiche da prima della storia registrata. Riassumi Questo |
Giove è il pianeta più grande del nostro Sistema Solare e il quinto dal Sole. È un gigante gassoso con una massa pari a 1/1000 di quella del Sole, ma è più pesante di tutti gli altri pianeti messi insieme. Le civiltà antiche conoscevano Giove da molto tempo, ed è facilmente visibile nel cielo notturno. |
| 1 | Giove è il quinto pianeta dal Sole ed il più grande del Sistema Solare. È un gigante gassoso con una massa pari a un millesimo di quella del Sole, ma due volte e mezzo quella di tutti gli altri pianeti del Sistema Solare messi insieme. Giove è uno degli oggetti più luminosi visibili ad occhio nudo nel cielo notturno ed è conosciuto dalle civiltà antiche da prima della storia documentata. Riassumi Questo Quello che abbiamo imparato è che Giove |
è il quinto pianeta dal Sole ed il più grande del Sistema Solare. È un gigante gassoso con una massa pari a un millesimo di quella del Sole, ma due volte e mezzo quella di tutti gli altri pianeti messi insieme. È facilmente visibile ad occhio nudo ed è conosciuto fin dai tempi antichi. |
| 2 | Giove è il quinto pianeta dal Sole ed il più grande del Sistema Solare. È un gigante gassoso con una massa pari a un millesimo di quella del Sole, ma due volte e mezzo quella di tutti gli altri pianeti del Sistema Solare messi insieme. Giove è uno degli oggetti più luminosi visibili ad occhio nudo nel cielo notturno ed è conosciuto dalle civiltà antiche da prima della storia documentata. Riassumi Questo I 3 fatti principali che abbiamo imparato: |
1. Giove è il quinto pianeta dal Sole ed il più grande del Sistema Solare. 2. È un gigante gassoso con una massa pari a un millesimo di quella del Sole... 3. Giove è visibile ad occhio nudo fin dai tempi antichi ... |
Un modello di prompt è una ricetta predefinita per un prompt che può essere memorizzata e riutilizzata secondo necessità, per garantire esperienze utente più coerenti su larga scala. Nella sua forma più semplice, è semplicemente una raccolta di esempi di prompt come questo di OpenAI che fornisce sia i componenti interattivi del prompt (messaggi utente e di sistema) sia il formato di richiesta API-driven - per supportare il riutilizzo.
Nella sua forma più complessa, come questo esempio di LangChain, contiene segnaposti che possono essere sostituiti con dati provenienti da una varietà di fonti (input utente, contesto di sistema, fonti di dati esterne ecc.) per generare un prompt dinamicamente. Questo ci permette di creare una libreria di prompt riutilizzabili che possono essere utilizzati per garantire esperienze utente coerenti programmaticamente su larga scala.
Infine, il vero valore dei modelli risiede nella capacità di creare e pubblicare librerie di prompt per domini applicativi verticali - dove il modello di prompt è ora ottimizzato per riflettere contesti o esempi specifici dell'applicazione che rendono le risposte più pertinenti e accurate per il pubblico utente mirato. Il repository Prompts For Edu è un ottimo esempio di questo approccio, curando una libreria di prompt per il dominio educativo con enfasi su obiettivi chiave come la pianificazione delle lezioni, la progettazione del curriculum, il tutoraggio degli studenti ecc.
Se pensiamo alla costruzione di un prompt come a un'istruzione (compito) e un obiettivo (contenuto principale), allora il contenuto secondario è come un contesto aggiuntivo che forniamo per influenzare l'output in qualche modo. Potrebbe trattarsi di parametri di regolazione, istruzioni di formattazione, tassonomie di argomenti ecc. che possono aiutare il modello a personalizzare la sua risposta per adattarsi agli obiettivi o alle aspettative dell'utente desiderato.
Ad esempio: Dato un catalogo di corsi con metadati estesi (nome, descrizione, livello, tag di metadati, istruttore ecc.) su tutti i corsi disponibili nel curriculum:
- possiamo definire un'istruzione per "riassumere il catalogo dei corsi per l'autunno 2023"
- possiamo utilizzare il contenuto principale per fornire alcuni esempi del risultato desiderato
- possiamo utilizzare il contenuto secondario per identificare i 5 "tag" principali di interesse.
Ora, il modello può fornire un riassunto nel formato mostrato dai pochi esempi - ma se un risultato ha più tag, può dare priorità ai 5 tag identificati nel contenuto secondario.
Ora che sappiamo come i prompt possono essere costruiti, possiamo iniziare a pensare a come progettarli per riflettere le migliori pratiche. Possiamo pensare a questo in due parti - avere la giusta mentalità e applicare le giuste tecniche.
Il Prompt Engineering è un processo di tentativi ed errori, quindi tieni a mente tre ampi fattori guida:
-
La comprensione del dominio è importante. L'accuratezza e la pertinenza della risposta sono una funzione del dominio in cui opera quell'applicazione o utente. Applica la tua intuizione e competenza nel dominio per personalizzare ulteriormente le tecniche. Ad esempio, definisci personalità specifiche del dominio nei tuoi prompt di sistema, o utilizza modelli specifici del dominio nei tuoi prompt utente. Fornisci contenuti secondari che riflettano contesti specifici del dominio, o utilizza indizi ed esempi specifici del dominio per guidare il modello verso modelli di utilizzo familiari.
-
La comprensione del modello è importante. Sappiamo che i modelli sono di natura stocastica. Ma le implementazioni dei modelli possono anche variare in termini di dataset di addestramento che utilizzano (conoscenza pre-addestrata), le capacità che forniscono (ad esempio, tramite API o SDK) e il tipo di contenuto per cui sono ottimizzati (ad esempio, codice vs. immagini vs. testo). Comprendi i punti di forza e le limitazioni del modello che stai utilizzando e utilizza quella conoscenza per dare priorità ai compiti o costruire modelli personalizzati ottimizzati per le capacità del modello.
-
Iterazione e validazione sono importanti. I modelli si stanno evolvendo rapidamente, così come le tecniche per il prompt engineering. Come esperto del dominio, potresti avere altri contesti o criteri specifici della tua applicazione, che potrebbero non applicarsi alla comunità più ampia. Utilizza strumenti e tecniche di prompt engineering per "avviare" la costruzione del prompt, quindi iterare e validare i risultati utilizzando la tua intuizione e competenza nel dominio. Registra i tuoi approfondimenti e crea una base di conoscenza (ad esempio, librerie di prompt) che può essere utilizzata come nuovo punto di riferimento da altri, per iterazioni più rapide in futuro.
Ora diamo un'occhiata alle migliori pratiche comuni raccomandate dai professionisti di OpenAI e Azure OpenAI.
| Cosa | Perché |
|---|---|
| Valuta i modelli più recenti. | Le nuove generazioni di modelli probabilmente avranno caratteristiche e qualità migliorate - ma potrebbero anche comportare costi più elevati. Valutali per l'impatto, quindi prendi decisioni di migrazione. |
| Separa istruzioni e contesto | Controlla se il tuo modello/fornitore definisce delimitatori per distinguere più chiaramente istruzioni, contenuti principali e secondari. Questo può aiutare i modelli ad assegnare pesi più accurati ai token. |
| Sii specifico e chiaro | Fornisci più dettagli sul contesto desiderato, risultato, lunghezza, formato, stile ecc. Questo migliorerà sia la qualità che la coerenza delle risposte. Cattura le ricette in modelli riutilizzabili. |
| Sii descrittivo, usa esempi | I modelli possono rispondere meglio a un approccio "mostra e racconta". Inizia con un approccio zero-shot dove dai un'istruzione (ma senza esempi) poi prova few-shot come affinamento, fornendo alcuni esempi del risultato desiderato. Usa analogie. |
| Usa indizi per avviare completamenti | Indirizzalo verso un risultato desiderato fornendo alcune parole o frasi iniziali che può utilizzare come punto di partenza per la risposta. |
| Insisti | A volte potresti dover ripetere le istruzioni al modello. Dai istruzioni prima e dopo il contenuto principale, usa un'istruzione e un indizio, ecc. Itera e valida per vedere cosa funziona. |
| L'ordine è importante | L'ordine in cui presenti le informazioni al modello può influenzare l'output, anche negli esempi di apprendimento, grazie al bias di recency. Prova diverse opzioni per vedere cosa funziona meglio. |
| Dai al modello una "via d'uscita" | Fornisci al modello una risposta di completamento fallback che può fornire se non riesce a completare il compito per qualsiasi motivo. Questo può ridurre le possibilità che i modelli generino risposte false o inventate. |
Come per qualsiasi migliore pratica, ricorda che la tua esperienza può variare in base al modello, al compito e al dominio. Usa queste come punto di partenza e iterare per trovare ciò che funziona meglio per te. Rivaluta costantemente il tuo processo di prompt engineering man mano che nuovi modelli e strumenti diventano disponibili, con un focus sulla scalabilità del processo e sulla qualità delle risposte.
Congratulazioni! Sei arrivato alla fine della lezione! È ora di mettere alla prova alcuni di quei concetti e tecniche con esempi reali!
Per il nostro compito, utilizzeremo un Jupyter Notebook con esercizi che puoi completare interattivamente. Puoi anche estendere il Notebook con le tue celle Markdown e di codice per esplorare idee e tecniche da solo.
- (Consigliato) Avvia GitHub Codespaces
- (In alternativa) Clona il repository sul tuo dispositivo locale e usalo con Docker Desktop
- (In alternativa) Apri il Notebook con il tuo ambiente runtime preferito.
- Copia il file
.env.copynella radice del repository in.enve compila i valoriAZURE_OPENAI_API_KEY,AZURE_OPENAI_ENDPOINTeAZURE_OPENAI_DEPLOYMENT. Torna alla sezione Learning Sandbox per imparare come.
- Seleziona il kernel runtime. Se utilizzi le opzioni 1 o 2, seleziona semplicemente il kernel Python 3.10.x predefinito fornito dal contenitore di sviluppo.
Sei pronto per eseguire gli esercizi. Nota che non ci sono risposte giuste o sbagliate qui - si tratta solo di esplorare opzioni attraverso tentativi ed errori e costruire intuizioni su ciò che funziona per un determinato modello e dominio applicativo.
Per questo motivo non ci sono segmenti di Soluzioni di Codice in questa lezione. Invece, il Notebook avrà celle Markdown intitolate "La mia soluzione:" che mostrano un esempio di output di riferimento.
Quale delle seguenti è un buon prompt che segue alcune ragionevoli migliori pratiche?
- Mostrami un'immagine di un'auto rossa
- Mostrami un'immagine di un'auto rossa marca Volvo e modello XC90 parcheggiata vicino a una scogliera con il sole al tramonto
- Mostrami un'immagine di un'auto rossa marca Volvo e modello XC90
R: 2, è il miglior prompt poiché fornisce dettagli su "cosa" e entra nello specifico (non solo un'auto qualsiasi ma una marca e un modello specifici) e descrive anche l'ambientazione generale. 3 è il secondo migliore poiché contiene comunque molte descrizioni.
Vedi se riesci a sfruttare la tecnica del "indizio" con il prompt: Completa la frase "Mostrami un'immagine di un'auto rossa marca Volvo e ". Cosa risponde, e come lo miglioreresti?
Vuoi saperne di più sui diversi concetti di Prompt Engineering? Vai alla pagina di apprendimento continuo per trovare altre ottime risorse su questo argomento.
Vai alla Lezione 5 dove esamineremo tecniche avanzate di prompting!
Disclaimer:
Questo documento è stato tradotto utilizzando il servizio di traduzione AI Co-op Translator. Sebbene ci impegniamo per garantire l'accuratezza, si prega di notare che le traduzioni automatiche possono contenere errori o imprecisioni. Il documento originale nella sua lingua nativa dovrebbe essere considerato la fonte autorevole. Per informazioni critiche, si consiglia una traduzione professionale umana. Non siamo responsabili per eventuali incomprensioni o interpretazioni errate derivanti dall'uso di questa traduzione.