Questo modulo copre i concetti e le tecniche essenziali per creare prompt efficaci nei modelli di AI generativa. Anche il modo in cui scrivi il tuo prompt per un LLM è importante. Un prompt ben progettato può ottenere una risposta di qualità superiore. Ma cosa significano esattamente termini come prompt e prompt engineering? E come posso migliorare l’input del prompt che invio all’LLM? Queste sono le domande a cui cercheremo di rispondere in questo capitolo e nel successivo.
L’AI generativa è in grado di creare nuovi contenuti (ad esempio testo, immagini, audio, codice ecc.) in risposta alle richieste degli utenti. Lo fa utilizzando Large Language Models come la serie GPT di OpenAI ("Generative Pre-trained Transformer") addestrati per usare il linguaggio naturale e il codice.
Gli utenti possono ora interagire con questi modelli usando paradigmi familiari come la chat, senza necessità di competenze tecniche o formazione. I modelli sono basati su prompt - gli utenti inviano un input testuale (prompt) e ricevono la risposta dell’AI (completion). Possono quindi "chattare con l’AI" in modo iterativo, in conversazioni multi-turno, perfezionando il prompt finché la risposta non corrisponde alle loro aspettative.
I "prompt" diventano così l’interfaccia di programmazione principale per le app di AI generativa, indicando ai modelli cosa fare e influenzando la qualità delle risposte restituite. Il "Prompt Engineering" è un campo di studio in rapida crescita che si concentra sul design e l’ottimizzazione dei prompt per fornire risposte coerenti e di qualità su larga scala.
In questa lezione, impareremo cos’è il Prompt Engineering, perché è importante e come possiamo creare prompt più efficaci per un dato modello e obiettivo applicativo. Comprenderemo i concetti chiave e le migliori pratiche per il prompt engineering - e scopriremo un ambiente interattivo "sandbox" in Jupyter Notebooks dove possiamo vedere questi concetti applicati a esempi reali.
Al termine di questa lezione saremo in grado di:
- Spiegare cos’è il prompt engineering e perché è importante.
- Descrivere i componenti di un prompt e come vengono utilizzati.
- Apprendere le migliori pratiche e tecniche per il prompt engineering.
- Applicare le tecniche apprese a esempi reali, usando un endpoint OpenAI.
Prompt Engineering: La pratica di progettare e perfezionare gli input per guidare i modelli AI a produrre output desiderati.
Tokenizzazione: Il processo di conversione del testo in unità più piccole, chiamate token, che un modello può comprendere e elaborare.
Instruction-Tuned LLMs: Large Language Models (LLM) che sono stati affinati con istruzioni specifiche per migliorare accuratezza e pertinenza delle risposte.
Il prompt engineering è attualmente più un’arte che una scienza. Il modo migliore per migliorare la nostra intuizione è praticare di più e adottare un approccio di tentativi ed errori che combina competenze nel dominio applicativo con tecniche raccomandate e ottimizzazioni specifiche per modello.
Il Jupyter Notebook che accompagna questa lezione fornisce un ambiente sandbox dove puoi mettere in pratica ciò che impari - man mano o come parte della sfida di codice alla fine. Per eseguire gli esercizi, ti serviranno:
- Una chiave API Azure OpenAI - l’endpoint del servizio per un LLM distribuito.
- Un runtime Python - in cui eseguire il Notebook.
- Variabili d’ambiente locali - completa ora i passaggi di SETUP per prepararti.
Il notebook include esercizi starter - ma sei incoraggiato ad aggiungere tue sezioni di Markdown (descrizione) e Codice (richieste di prompt) per provare più esempi o idee - e costruire la tua intuizione per il design dei prompt.
Vuoi avere una panoramica di cosa tratta questa lezione prima di iniziare? Dai un’occhiata a questa guida illustrata, che ti dà un’idea degli argomenti principali trattati e dei punti chiave su cui riflettere in ciascuno. La roadmap della lezione ti porta dalla comprensione dei concetti fondamentali e delle sfide fino ad affrontarli con tecniche di prompt engineering e best practice rilevanti. Nota che la sezione "Tecniche Avanzate" in questa guida si riferisce ai contenuti trattati nel capitolo successivo di questo percorso.
Ora, parliamo di come questo argomento si collega alla missione della nostra startup di portare l’innovazione AI nell’educazione. Vogliamo costruire applicazioni AI per l’apprendimento personalizzato - quindi pensiamo a come diversi utenti della nostra applicazione potrebbero "progettare" i prompt:
- Amministratori potrebbero chiedere all’AI di analizzare i dati del curriculum per identificare lacune nella copertura. L’AI può riassumere i risultati o visualizzarli con codice.
- Educatori potrebbero chiedere all’AI di generare un piano di lezione per un pubblico e un argomento specifici. L’AI può costruire il piano personalizzato in un formato specificato.
- Studenti potrebbero chiedere all’AI di fare da tutor in una materia difficile. L’AI può ora guidare gli studenti con lezioni, suggerimenti ed esempi su misura per il loro livello.
Questo è solo la punta dell’iceberg. Dai un’occhiata a Prompts For Education - una libreria open-source di prompt curata da esperti di educazione - per avere un’idea più ampia delle possibilità! Prova a eseguire alcuni di questi prompt nella sandbox o usando l’OpenAI Playground per vedere cosa succede!
Abbiamo iniziato questa lezione definendo il Prompt Engineering come il processo di progettare e ottimizzare input testuali (prompt) per fornire risposte coerenti e di qualità (completion) per un dato obiettivo applicativo e modello. Possiamo pensarlo come un processo in 2 fasi:
- progettare il prompt iniziale per un dato modello e obiettivo
- perfezionare il prompt in modo iterativo per migliorare la qualità della risposta
Si tratta necessariamente di un processo di tentativi ed errori che richiede intuizione e impegno da parte dell’utente per ottenere risultati ottimali. Ma perché è importante? Per rispondere a questa domanda, dobbiamo prima capire tre concetti:
- Tokenizzazione = come il modello "vede" il prompt
- Base LLMs = come il modello di base "elabora" un prompt
- Instruction-Tuned LLMs = come il modello può ora interpretare "compiti"
Un LLM vede i prompt come una sequenza di token dove modelli diversi (o versioni di un modello) possono tokenizzare lo stesso prompt in modi differenti. Poiché gli LLM sono addestrati su token (e non su testo grezzo), il modo in cui i prompt vengono tokenizzati ha un impatto diretto sulla qualità della risposta generata.
Per farti un’idea di come funziona la tokenizzazione, prova strumenti come l’OpenAI Tokenizer mostrato qui sotto. Incolla il tuo prompt e guarda come viene convertito in token, prestando attenzione a come vengono gestiti spazi bianchi e segni di punteggiatura. Nota che questo esempio mostra un LLM più vecchio (GPT-3) - quindi provare con un modello più recente potrebbe dare risultati diversi.
Una volta che un prompt è tokenizzato, la funzione principale del "Base LLM" (o modello di base) è prevedere il token successivo nella sequenza. Poiché gli LLM sono addestrati su enormi dataset testuali, hanno una buona comprensione delle relazioni statistiche tra i token e possono fare questa previsione con una certa sicurezza. Nota che non comprendono il significato delle parole nel prompt o nel token; vedono solo un pattern che possono "completare" con la loro previsione successiva. Possono continuare a prevedere la sequenza finché non vengono interrotti dall’utente o da una condizione predefinita.
Vuoi vedere come funziona la completion basata su prompt? Inserisci il prompt sopra nell’Azure OpenAI Studio Chat Playground con le impostazioni predefinite. Il sistema è configurato per trattare i prompt come richieste di informazioni - quindi dovresti vedere una completion che soddisfa questo contesto.
Ma cosa succede se l’utente vuole vedere qualcosa di specifico che rispetti certi criteri o obiettivi di compito? Qui entrano in gioco gli LLM instruction-tuned.
Un Instruction Tuned LLM parte dal modello di base e lo affina con esempi o coppie input/output (ad esempio "messaggi" multi-turno) che possono contenere istruzioni chiare - e la risposta dell’AI cerca di seguire quell’istruzione.
Questo utilizza tecniche come il Reinforcement Learning with Human Feedback (RLHF) che possono addestrare il modello a seguire istruzioni e imparare dal feedback in modo da produrre risposte più adatte ad applicazioni pratiche e più rilevanti per gli obiettivi dell’utente.
Proviamolo - riprendi il prompt sopra, ma ora cambia il messaggio di sistema per fornire la seguente istruzione come contesto:
Riassumi il contenuto fornito per uno studente di seconda elementare. Mantieni il risultato in un paragrafo con 3-5 punti elenco.
Vedi come il risultato ora è tarato per riflettere l’obiettivo e il formato desiderati? Un educatore può ora usare direttamente questa risposta nelle sue slide per quella lezione.
Ora che sappiamo come i prompt vengono elaborati dagli LLM, parliamo del perché abbiamo bisogno del prompt engineering. La risposta sta nel fatto che gli LLM attuali presentano diverse sfide che rendono più difficile ottenere completion affidabili e coerenti senza mettere impegno nella costruzione e ottimizzazione del prompt. Per esempio:
-
Le risposte del modello sono stocastiche. Lo stesso prompt probabilmente produrrà risposte diverse con modelli o versioni diverse. E può anche produrre risultati differenti con lo stesso modello in momenti diversi. Le tecniche di prompt engineering ci aiutano a minimizzare queste variazioni fornendo migliori linee guida.
-
I modelli possono inventare risposte. I modelli sono pre-addestrati con dataset grandi ma finiti, il che significa che non conoscono concetti al di fuori di quel campo di addestramento. Di conseguenza, possono produrre completion inaccurate, immaginarie o direttamente contraddittorie rispetto a fatti noti. Le tecniche di prompt engineering aiutano gli utenti a identificare e mitigare queste invenzioni, ad esempio chiedendo all’AI citazioni o ragionamenti.
-
Le capacità dei modelli variano. Modelli più recenti o generazioni successive hanno capacità più ricche ma portano anche peculiarità uniche e compromessi in termini di costi e complessità. Il prompt engineering può aiutarci a sviluppare best practice e flussi di lavoro che astraggono le differenze e si adattano ai requisiti specifici del modello in modo scalabile e fluido.
Vediamo questo in azione nell’OpenAI o Azure OpenAI Playground:
- Usa lo stesso prompt con diverse distribuzioni di LLM (ad esempio OpenAI, Azure OpenAI, Hugging Face) - hai notato le variazioni?
- Usa lo stesso prompt ripetutamente con la stessa distribuzione LLM (ad esempio Azure OpenAI playground) - come sono cambiate queste variazioni?
In questo corso, usiamo il termine "fabrication" per riferirci al fenomeno per cui gli LLM a volte generano informazioni fattualmente errate a causa di limiti nel loro addestramento o altre restrizioni. Potresti aver sentito questo fenomeno chiamato "allucinazioni" in articoli popolari o paper di ricerca. Tuttavia, raccomandiamo fortemente di usare il termine "fabrication" per non antropomorfizzare involontariamente il comportamento attribuendo una caratteristica umana a un risultato generato da una macchina. Questo rafforza anche le linee guida di Responsible AI dal punto di vista terminologico, eliminando termini che potrebbero essere considerati offensivi o non inclusivi in certi contesti.
Vuoi farti un’idea di come funzionano le fabrication? Pensa a un prompt che istruisce l’AI a generare contenuti su un argomento inesistente (per assicurarti che non sia presente nel dataset di addestramento). Per esempio - ho provato questo prompt:
- Comprendere le cause principali della Guerra Marziana del 2076
- Analizzare gli eventi chiave e le strategie militari utilizzate
- Valutare le conseguenze a lungo termine del conflitto su Marte e sulla Terra
- Breve panoramica storica di Marte prima del 2076
- Presentazione delle tensioni politiche e sociali che hanno portato alla guerra
- Risorse limitate e competizione tra colonie
- Divergenze ideologiche e politiche
- Incidenti scatenanti e escalation del conflitto
- Prima battaglia di Valles Marineris
- Assedio della colonia di Olympus Mons
- Intervento delle forze terrestri
- Uso di droni e robot da combattimento
- Tattiche di guerriglia marziana
- Impatto della tecnologia avanzata sul campo di battaglia
- Come la guerra ha influenzato le relazioni tra Marte e Terra
- Le lezioni apprese e le misure per prevenire futuri conflitti
- Riepilogo dei punti chiave
- Domande e risposte
- Mappe delle principali battaglie
- Documenti storici e testimonianze
- Video ricostruzioni degli eventi
- Scrivere un saggio sulle cause della Guerra Marziana del 2076
- Preparare una presentazione sulle conseguenze del conflitto Una ricerca sul web mi ha mostrato che esistono racconti di fantasia (ad esempio, serie televisive o libri) sulle guerre marziane - ma nessuno nel 2076. Il buon senso ci dice anche che il 2076 è nel futuro e quindi non può essere associato a un evento reale.
Cosa succede quindi quando eseguiamo questo prompt con diversi fornitori di LLM?
Risposta 1: OpenAI Playground (GPT-35)
Risposta 2: Azure OpenAI Playground (GPT-35)
Risposta 3: : Hugging Face Chat Playground (LLama-2)
Come previsto, ogni modello (o versione del modello) produce risposte leggermente diverse grazie al comportamento stocastico e alle variazioni nelle capacità del modello. Per esempio, un modello si rivolge a un pubblico di ottava elementare mentre un altro assume uno studente delle superiori. Ma tutti e tre i modelli hanno generato risposte che potrebbero convincere un utente non informato che l’evento fosse reale.
Tecniche di prompt engineering come il metaprompting e la configurazione della temperatura possono ridurre in parte le fabbricazioni del modello. Nuove architetture di prompt engineering integrano anche nuovi strumenti e tecniche senza soluzione di continuità nel flusso del prompt, per mitigare o ridurre alcuni di questi effetti.
Concludiamo questa sezione dando un’idea di come il prompt engineering venga utilizzato in soluzioni reali, esaminando un Caso di Studio: GitHub Copilot.
GitHub Copilot è il tuo "Programmatore AI in coppia" - trasforma i prompt testuali in completamenti di codice ed è integrato nel tuo ambiente di sviluppo (ad esempio, Visual Studio Code) per un’esperienza utente fluida. Come documentato nella serie di blog qui sotto, la prima versione si basava sul modello OpenAI Codex - con gli ingegneri che hanno rapidamente capito la necessità di affinare il modello e sviluppare tecniche migliori di prompt engineering per migliorare la qualità del codice. A luglio, hanno presentato un modello AI migliorato che va oltre Codex per suggerimenti ancora più rapidi.
Leggi i post in ordine per seguire il loro percorso di apprendimento.
- Maggio 2023 | GitHub Copilot sta migliorando nella comprensione del tuo codice
- Maggio 2023 | Dentro GitHub: lavorare con gli LLM dietro GitHub Copilot
- Giugno 2023 | Come scrivere prompt migliori per GitHub Copilot
- Luglio 2023 | .. GitHub Copilot va oltre Codex con un modello AI migliorato
- Luglio 2023 | Guida per sviluppatori al Prompt Engineering e agli LLM
- Settembre 2023 | Come costruire un’app LLM aziendale: lezioni da GitHub Copilot
Puoi anche esplorare il loro blog di Engineering per altri post come questo che mostra come questi modelli e tecniche vengano applicati per guidare applicazioni reali.
Abbiamo visto perché il prompt engineering è importante - ora capiamo come i prompt vengono costruiti così da poter valutare diverse tecniche per una progettazione più efficace del prompt.
Iniziamo con il prompt base: un input testuale inviato al modello senza altro contesto. Ecco un esempio - quando inviamo le prime parole dell’inno nazionale degli Stati Uniti all’OpenAI Completion API, questo completa istantaneamente la risposta con le righe successive, illustrando il comportamento base di predizione.
| Prompt (Input) | Completion (Output) |
|---|---|
| Oh say can you see | Sembra che tu stia iniziando il testo di "The Star-Spangled Banner", l’inno nazionale degli Stati Uniti. Il testo completo è ... |
Ora aggiungiamo contesto e istruzioni a quel prompt base. La Chat Completion API ci permette di costruire un prompt complesso come una raccolta di messaggi con:
- Coppie input/output che riflettono l’input dell’utente e la risposta dell’assistente.
- Messaggio di sistema che imposta il contesto per il comportamento o la personalità dell’assistente.
La richiesta ora ha la forma mostrata qui sotto, dove la tokenizzazione cattura efficacemente le informazioni rilevanti dal contesto e dalla conversazione. Cambiare il contesto di sistema può avere un impatto sulla qualità dei completamenti tanto quanto gli input forniti dall’utente.
response = openai.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Who won the world series in 2020?"},
{"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
{"role": "user", "content": "Where was it played?"}
]
)Negli esempi sopra, il prompt utente era una semplice domanda testuale che può essere interpretata come una richiesta di informazioni. Con i prompt istruttivi, possiamo usare quel testo per specificare un compito in modo più dettagliato, fornendo una guida migliore all’AI. Ecco un esempio:
| Prompt (Input) | Completion (Output) | Tipo di Istruzione |
|---|---|---|
| Scrivi una descrizione della Guerra Civile | ha restituito un semplice paragrafo | Semplice |
| Scrivi una descrizione della Guerra Civile. Fornisci date ed eventi chiave e descrivi la loro importanza | ha restituito un paragrafo seguito da un elenco di date chiave con descrizioni | Complesso |
| Scrivi una descrizione della Guerra Civile in 1 paragrafo. Fornisci 3 punti elenco con date chiave e la loro importanza. Fornisci altri 3 punti elenco con figure storiche importanti e i loro contributi. Restituisci l’output come file JSON | restituisce dettagli più estesi in una casella di testo, formattata come JSON che puoi copiare e incollare in un file e validare se necessario | Complesso. Formattato. |
Negli esempi sopra, il prompt era ancora piuttosto aperto, permettendo all’LLM di decidere quale parte del suo dataset pre-addestrato fosse rilevante. Con il pattern di progettazione contenuto primario, il testo di input è diviso in due parti:
- un’istruzione (azione)
- contenuto rilevante (che influenza l’azione)
Ecco un esempio in cui l’istruzione è "riassumi questo in 2 frasi".
| Prompt (Input) | Completion (Output) |
|---|---|
| Giove è il quinto pianeta dal Sole ed è il più grande del Sistema Solare. È un gigante gassoso con una massa pari a un millesimo di quella del Sole, ma due volte e mezzo quella di tutti gli altri pianeti del Sistema Solare messi insieme. Giove è uno degli oggetti più luminosi visibili a occhio nudo nel cielo notturno, ed è noto alle antiche civiltà fin da prima della storia registrata. Prende il nome dal dio romano Giove.[19] Quando visto dalla Terra, Giove può essere abbastanza luminoso da far proiettare ombre visibili,[20] ed è in media il terzo oggetto naturale più luminoso nel cielo notturno dopo la Luna e Venere. Riassumi questo in 2 frasi brevi |
Giove, il quinto pianeta dal Sole, è il più grande del Sistema Solare ed è noto per essere uno degli oggetti più luminosi nel cielo notturno. Chiamato come il dio romano Giove, è un gigante gassoso la cui massa è due volte e mezzo quella di tutti gli altri pianeti del Sistema Solare messi insieme. |
Il segmento di contenuto primario può essere usato in vari modi per guidare istruzioni più efficaci:
- Esempi - invece di dire esplicitamente al modello cosa fare con un’istruzione, fornisci esempi di cosa fare e lascia che inferisca il modello.
- Suggerimenti - segui l’istruzione con un "suggerimento" che prepara il completamento, guidando il modello verso risposte più rilevanti.
- Template - sono 'ricette' ripetibili per prompt con segnaposto (variabili) che possono essere personalizzati con dati per casi d’uso specifici.
Esploriamo questi casi in azione.
Questo è un approccio in cui usi il contenuto primario per "nutrire il modello" con alcuni esempi dell’output desiderato per una data istruzione, e lasci che inferisca il modello per l’output desiderato. In base al numero di esempi forniti, possiamo avere zero-shot prompting, one-shot prompting, few-shot prompting ecc.
Il prompt ora consiste di tre componenti:
- Una descrizione del compito
- Alcuni esempi dell’output desiderato
- L’inizio di un nuovo esempio (che diventa una descrizione implicita del compito)
| Tipo di Apprendimento | Prompt (Input) | Completion (Output) |
|---|---|---|
| Zero-shot | "The Sun is Shining". Traduci in spagnolo | "El Sol está brillando". |
| One-shot | "The Sun is Shining" => "El Sol está brillando". "It's a Cold and Windy Day" => |
"Es un día frío y ventoso". |
| Few-shot | Il giocatore ha corso le basi => Baseball Il giocatore ha fatto un ace => Tennis Il giocatore ha fatto un sei => Cricket Il giocatore ha fatto una schiacciata => |
Basket |
Nota come abbiamo dovuto fornire un’istruzione esplicita ("Traduci in spagnolo") nel zero-shot prompting, ma questa viene dedotta nell’esempio one-shot. L’esempio few-shot mostra come aggiungere più esempi permetta ai modelli di fare inferenze più accurate senza istruzioni aggiuntive.
Un’altra tecnica per usare il contenuto primario è fornire suggerimenti invece di esempi. In questo caso, diamo al modello una spinta nella direzione giusta iniziando con uno snippet che riflette il formato di risposta desiderato. Il modello quindi "prende il suggerimento" e continua in quella direzione.
| Numero di Suggerimenti | Prompt (Input) | Completion (Output) |
|---|---|---|
| 0 | Giove è il quinto pianeta dal Sole ed è il più grande del Sistema Solare. È un gigante gassoso con una massa pari a un millesimo di quella del Sole, ma due volte e mezzo quella di tutti gli altri pianeti del Sistema Solare messi insieme. Giove è uno degli oggetti più luminosi visibili a occhio nudo nel cielo notturno, ed è noto alle antiche civiltà fin da prima della storia registrata. |
Riassumi Questo | Giove è il pianeta più grande del nostro Sistema Solare e il quinto in ordine di distanza dal Sole. È un gigante gassoso con una massa pari a 1/1000 di quella del Sole, ma è più pesante di tutti gli altri pianeti messi insieme. Le antiche civiltà conoscevano Giove da molto tempo, ed è facilmente visibile nel cielo notturno. |
| 1 | Giove è il quinto pianeta dal Sole e il più grande del Sistema Solare. È un gigante gassoso con una massa pari a un millesimo di quella del Sole, ma due volte e mezzo quella di tutti gli altri pianeti del Sistema Solare messi insieme. Giove è uno degli oggetti più luminosi visibili a occhio nudo nel cielo notturno, ed è conosciuto dalle antiche civiltà fin da prima della storia registrata.
Riassumi Questo
Quello che abbiamo imparato è che Giove | è il quinto pianeta dal Sole e il più grande del Sistema Solare. È un gigante gassoso con una massa pari a un millesimo di quella del Sole, ma due volte e mezzo quella di tutti gli altri pianeti messi insieme. È facilmente visibile a occhio nudo ed è conosciuto fin dall’antichità. |
| 2 | Giove è il quinto pianeta dal Sole e il più grande del Sistema Solare. È un gigante gassoso con una massa pari a un millesimo di quella del Sole, ma due volte e mezzo quella di tutti gli altri pianeti del Sistema Solare messi insieme. Giove è uno degli oggetti più luminosi visibili a occhio nudo nel cielo notturno, ed è conosciuto dalle antiche civiltà fin da prima della storia registrata.
Riassumi Questo
Le 3 principali informazioni che abbiamo appreso: | 1. Giove è il quinto pianeta dal Sole e il più grande del Sistema Solare.
2. È un gigante gassoso con una massa pari a un millesimo di quella del Sole...
3. Giove è visibile a occhio nudo fin dall’antichità ... |
| | | |
Un modello di prompt è una ricetta predefinita per un prompt che può essere salvata e riutilizzata secondo necessità, per garantire esperienze utente più coerenti su larga scala. Nella sua forma più semplice, è semplicemente una raccolta di esempi di prompt come questo di OpenAI che fornisce sia i componenti interattivi del prompt (messaggi utente e sistema) sia il formato della richiesta API - per supportare il riutilizzo.
Nella sua forma più complessa, come questo esempio di LangChain, contiene segnaposto che possono essere sostituiti con dati provenienti da varie fonti (input utente, contesto di sistema, fonti dati esterne ecc.) per generare un prompt in modo dinamico. Questo ci permette di creare una libreria di prompt riutilizzabili che possono essere usati per offrire esperienze utente coerenti in modo programmato su larga scala.
Infine, il vero valore dei modelli risiede nella capacità di creare e pubblicare librerie di prompt per domini applicativi verticali - dove il modello di prompt è ora ottimizzato per riflettere contesti o esempi specifici dell’applicazione che rendono le risposte più pertinenti e accurate per il pubblico target. Il repository Prompts For Edu è un ottimo esempio di questo approccio, curando una libreria di prompt per il settore educativo con enfasi su obiettivi chiave come la pianificazione delle lezioni, la progettazione del curriculum, il tutoraggio degli studenti ecc.
Se consideriamo la costruzione di un prompt come composta da un’istruzione (compito) e un contenuto principale (contenuto primario), allora il contenuto secondario è come un contesto aggiuntivo che forniamo per influenzare in qualche modo l’output. Può trattarsi di parametri di regolazione, istruzioni di formattazione, tassonomie di argomenti ecc. che aiutano il modello a personalizzare la risposta per adattarla agli obiettivi o alle aspettative dell’utente.
Per esempio: dato un catalogo corsi con metadati estesi (nome, descrizione, livello, tag di metadati, docente ecc.) su tutti i corsi disponibili nel curriculum:
- possiamo definire un’istruzione per "riassumere il catalogo corsi per l’autunno 2023"
- possiamo usare il contenuto primario per fornire alcuni esempi dell’output desiderato
- possiamo usare il contenuto secondario per identificare i 5 "tag" di maggior interesse.
Ora, il modello può fornire un riassunto nel formato mostrato dagli esempi - ma se un risultato ha più tag, può dare priorità ai 5 tag identificati nel contenuto secondario.
Ora che sappiamo come i prompt possono essere costruiti, possiamo iniziare a pensare a come progettarli per riflettere le migliori pratiche. Possiamo considerare questo in due parti - avere la giusta mentalità e applicare le giuste tecniche.
Il Prompt Engineering è un processo di tentativi ed errori, quindi tieni a mente tre fattori guida generali:
-
La conoscenza del dominio è importante. L’accuratezza e la pertinenza della risposta dipendono dal dominio in cui l’applicazione o l’utente opera. Applica la tua intuizione e competenza di dominio per personalizzare ulteriormente le tecniche. Per esempio, definisci personalità specifiche del dominio nei prompt di sistema, o usa modelli specifici del dominio nei prompt utente. Fornisci contenuti secondari che riflettano contesti specifici del dominio, o usa segnali ed esempi specifici del dominio per guidare il modello verso schemi d’uso familiari.
-
La conoscenza del modello è importante. Sappiamo che i modelli sono per natura stocastici. Ma le implementazioni possono variare in termini di dataset di addestramento usato (conoscenza pre-addestrata), capacità offerte (es. via API o SDK) e tipo di contenuto per cui sono ottimizzati (es. codice vs immagini vs testo). Comprendi i punti di forza e i limiti del modello che stai usando, e usa questa conoscenza per prioritizzare i compiti o costruire modelli personalizzati ottimizzati per le capacità del modello.
-
Iterazione e validazione sono importanti. I modelli evolvono rapidamente, così come le tecniche di prompt engineering. Come esperto di dominio, potresti avere altri contesti o criteri specifici per la tua applicazione, che potrebbero non valere per la comunità più ampia. Usa strumenti e tecniche di prompt engineering per "dare una spinta" alla costruzione del prompt, poi itera e valida i risultati usando la tua intuizione e competenza di dominio. Registra le tue intuizioni e crea una base di conoscenza (es. librerie di prompt) che altri possono usare come nuovo punto di partenza, per iterazioni più rapide in futuro.
Ora vediamo alcune buone pratiche comuni raccomandate da OpenAI e dai professionisti di Azure OpenAI.
| Cosa | Perché |
|---|---|
| Valuta i modelli più recenti. | Le nuove generazioni di modelli probabilmente offrono funzionalità e qualità migliorate - ma possono anche comportare costi maggiori. Valutali per l’impatto, poi prendi decisioni di migrazione. |
| Separa istruzioni e contesto | Verifica se il tuo modello/fornitore definisce delimitatori per distinguere più chiaramente istruzioni, contenuto primario e secondario. Questo aiuta i modelli ad assegnare pesi più accurati ai token. |
| Sii specifico e chiaro | Fornisci più dettagli sul contesto desiderato, risultato, lunghezza, formato, stile ecc. Questo migliora sia la qualità che la coerenza delle risposte. Registra le “ricette” in modelli riutilizzabili. |
| Sii descrittivo, usa esempi | I modelli rispondono meglio a un approccio “mostra e racconta”. Parti con un approccio zero-shot dove dai solo un’istruzione (ma nessun esempio), poi prova few-shot come affinamento, fornendo alcuni esempi dell’output desiderato. Usa analogie. |
| Usa segnali per avviare le risposte | Spingilo verso un risultato desiderato fornendo alcune parole o frasi iniziali che può usare come punto di partenza per la risposta. |
| Insisti | A volte può essere necessario ripetere le istruzioni al modello. Dai istruzioni prima e dopo il contenuto primario, usa un’istruzione e un segnale, ecc. Itera e valida per vedere cosa funziona. |
| L’ordine conta | L’ordine con cui presenti le informazioni al modello può influenzare l’output, anche negli esempi di apprendimento, a causa del bias di recenza. Prova diverse opzioni per vedere cosa funziona meglio. |
| Dai al modello una “via d’uscita” | Fornisci al modello una risposta di completamento di riserva che può usare se non riesce a completare il compito per qualsiasi motivo. Questo riduce la probabilità che generi risposte false o inventate. |
Come per ogni buona pratica, ricorda che i risultati possono variare in base al modello, al compito e al dominio. Usa queste indicazioni come punto di partenza e itera per trovare ciò che funziona meglio per te. Rivaluta costantemente il processo di prompt engineering man mano che nuovi modelli e strumenti diventano disponibili, con un focus sulla scalabilità del processo e sulla qualità delle risposte.
Congratulazioni! Sei arrivato alla fine della lezione! È il momento di mettere alla prova alcuni di quei concetti e tecniche con esempi reali!
Per il nostro compito useremo un Jupyter Notebook con esercizi che puoi completare in modo interattivo. Puoi anche estendere il Notebook con le tue celle Markdown e di codice per esplorare idee e tecniche in autonomia.
- (Consigliato) Avvia GitHub Codespaces
- (In alternativa) Clona il repo sul tuo dispositivo locale e usalo con Docker Desktop
- (In alternativa) Apri il Notebook con il tuo ambiente di runtime preferito.
- Copia il file
.env.copynella root del repo in.enve compila i valori diAZURE_OPENAI_API_KEY,AZURE_OPENAI_ENDPOINTeAZURE_OPENAI_DEPLOYMENT. Torna alla sezione Learning Sandbox per imparare come fare.
- Seleziona il kernel di runtime. Se usi le opzioni 1 o 2, seleziona semplicemente il kernel Python 3.10.x predefinito fornito dal container di sviluppo.
Sei pronto per eseguire gli esercizi. Nota che qui non ci sono risposte “giuste o sbagliate” - si tratta di esplorare opzioni con tentativi ed errori e costruire intuizione su cosa funziona per un dato modello e dominio applicativo.
Per questo motivo non ci sono segmenti di Soluzione Codice in questa lezione. Invece, il Notebook avrà celle Markdown intitolate "La mia soluzione:" che mostrano un esempio di output come riferimento.
Quale dei seguenti è un buon prompt che segue alcune ragionevoli migliori pratiche?
- Mostrami un’immagine di un’auto rossa
- Mostrami un’immagine di un’auto rossa marca Volvo modello XC90 parcheggiata su una scogliera con il sole al tramonto
- Mostrami un’immagine di un’auto rossa marca Volvo modello XC90
Risposta: 2, è il miglior prompt perché fornisce dettagli su “cosa” e va nei particolari (non una qualsiasi auto ma una marca e modello specifici) e descrive anche l’ambientazione generale. 3 è il secondo migliore perché contiene comunque molte descrizioni.
Prova a sfruttare la tecnica del “segnale” con il prompt: Completa la frase "Mostrami un’immagine di un’auto rossa marca Volvo e ". Cosa risponde, e come la miglioreresti?
Vuoi approfondire i diversi concetti di Prompt Engineering? Vai alla pagina di apprendimento continuato per trovare altre ottime risorse su questo argomento.
Passa alla Lezione 5 dove vedremo le tecniche avanzate di prompting!
Disclaimer:
Questo documento è stato tradotto utilizzando il servizio di traduzione automatica Co-op Translator. Pur impegnandoci per garantire accuratezza, si prega di notare che le traduzioni automatiche possono contenere errori o imprecisioni. Il documento originale nella sua lingua nativa deve essere considerato la fonte autorevole. Per informazioni critiche, si raccomanda una traduzione professionale effettuata da un umano. Non ci assumiamo alcuna responsabilità per eventuali malintesi o interpretazioni errate derivanti dall’uso di questa traduzione.