Questo progetto dimostra un'applicazione web che utilizza il controllo della sicurezza dei contenuti prima di inviare i prompt degli utenti a un servizio calcolatore tramite Model Context Protocol (MCP).
- Input Utente: L'utente inserisce un prompt di calcolo nell'interfaccia web
- Controllo Sicurezza Contenuti (Input): Il prompt viene analizzato dall'API Azure Content Safety
- Decisione di Sicurezza (Input):
- Se il contenuto è sicuro (gravità < 2 in tutte le categorie), procede al calcolatore
- Se il contenuto è segnalato come potenzialmente dannoso, il processo si interrompe e viene restituito un avviso
- Integrazione Calcolatore: Il contenuto sicuro viene elaborato da LangChain4j, che comunica con il server calcolatore MCP
- Controllo Sicurezza Contenuti (Output): La risposta del bot viene analizzata dall'API Azure Content Safety
- Decisione di Sicurezza (Output):
- Se la risposta del bot è sicura, viene mostrata all'utente
- Se la risposta del bot è segnalata come potenzialmente dannosa, viene sostituita con un avviso
- Risposta: I risultati (se sicuri) vengono mostrati all'utente insieme ad entrambe le analisi di sicurezza
Questo progetto dimostra come utilizzare Model Context Protocol (MCP) per chiamare i servizi calcolatore MCP da LangChain4j. L’implementazione utilizza un server MCP locale in esecuzione sulla porta 8080 per fornire operazioni di calcolo.
Prima di utilizzare le funzionalità di sicurezza dei contenuti, è necessario creare una risorsa del servizio Azure Content Safety:
- Accedi al Portale Azure
- Clicca su "Crea una risorsa" e cerca "Content Safety"
- Seleziona "Content Safety" e clicca su "Crea"
- Inserisci un nome univoco per la tua risorsa
- Seleziona la tua sottoscrizione e il gruppo di risorse (o creane uno nuovo)
- Scegli una regione supportata (controlla la Disponibilità delle regioni per i dettagli)
- Seleziona un piano tariffario appropriato
- Clicca su "Crea" per distribuire la risorsa
- Al termine della distribuzione, clicca su "Vai alla risorsa"
- Nel pannello a sinistra, sotto "Gestione risorse", seleziona "Chiavi e Endpoint"
- Copia una delle chiavi e l’URL dell’endpoint per l’uso nel passaggio successivo
Imposta la variabile d’ambiente GITHUB_TOKEN per l’autenticazione dei modelli GitHub:
export GITHUB_TOKEN=<your_github_token>Per le funzionalità di sicurezza dei contenuti, imposta:
export CONTENT_SAFETY_ENDPOINT=<your_content_safety_endpoint>
export CONTENT_SAFETY_KEY=<your_content_safety_key>Queste variabili d’ambiente sono utilizzate dall’applicazione per autenticarsi con il servizio Azure Content Safety. Se queste variabili non sono impostate, l’applicazione utilizzerà valori segnaposto a scopo dimostrativo, ma le funzionalità di sicurezza dei contenuti non funzioneranno correttamente.
Prima di eseguire il client, è necessario avviare il server MCP calcolatore in modalità SSE su localhost:8080.
Questo progetto dimostra l’integrazione di Model Context Protocol (MCP) con LangChain4j per chiamare servizi calcolatore. Le caratteristiche principali includono:
- Utilizzo di MCP per connettersi a un servizio calcolatore per operazioni matematiche di base
- Controllo della sicurezza dei contenuti a doppio livello sia sui prompt utente che sulle risposte del bot
- Integrazione con il modello gpt-4.1-nano di GitHub tramite LangChain4j
- Utilizzo di Server-Sent Events (SSE) per il trasporto MCP
Il progetto include funzionalità complete di sicurezza dei contenuti per garantire che sia gli input degli utenti sia le risposte del sistema siano privi di contenuti dannosi:
-
Controllo Input: Tutti i prompt degli utenti vengono analizzati per categorie di contenuti dannosi come discorsi d’odio, violenza, autolesionismo e contenuti sessuali prima dell’elaborazione.
-
Controllo Output: Anche quando si utilizzano modelli potenzialmente non censurati, il sistema verifica tutte le risposte generate attraverso gli stessi filtri di sicurezza dei contenuti prima di mostrarle all’utente.
Questo approccio a doppio livello garantisce che il sistema rimanga sicuro indipendentemente dal modello AI utilizzato, proteggendo gli utenti sia da input dannosi sia da output potenzialmente problematici generati dall’AI.
L’applicazione include un’interfaccia web intuitiva che permette agli utenti di interagire con il sistema Content Safety Calculator:
- Modulo semplice e intuitivo per inserire prompt di calcolo
- Validazione della sicurezza dei contenuti a doppio livello (input e output)
- Feedback in tempo reale sulla sicurezza di prompt e risposte
- Indicatori di sicurezza codificati a colori per una facile interpretazione
- Design pulito e responsive che funziona su vari dispositivi
- Esempi di prompt sicuri per guidare gli utenti
-
Avvia l’applicazione:
mvn spring-boot:run
-
Apri il browser e vai a
http://localhost:8087 -
Inserisci un prompt di calcolo nell’area di testo fornita (es. "Calcola la somma di 24.5 e 17.3")
-
Clicca su "Invia" per elaborare la richiesta
-
Visualizza i risultati, che includeranno:
- Analisi della sicurezza dei contenuti del tuo prompt
- Il risultato calcolato (se il prompt era sicuro)
- Analisi della sicurezza dei contenuti della risposta del bot
- Eventuali avvisi di sicurezza se l’input o l’output sono stati segnalati
Il client web gestisce automaticamente entrambi i processi di verifica della sicurezza dei contenuti, garantendo che tutte le interazioni siano sicure e appropriate indipendentemente dal modello AI utilizzato.
Disclaimer:
Questo documento è stato tradotto utilizzando il servizio di traduzione automatica Co-op Translator. Pur impegnandoci per garantire accuratezza, si prega di notare che le traduzioni automatiche possono contenere errori o imprecisioni. Il documento originale nella sua lingua nativa deve essere considerato la fonte autorevole. Per informazioni critiche, si raccomanda una traduzione professionale effettuata da un umano. Non ci assumiamo alcuna responsabilità per eventuali malintesi o interpretazioni errate derivanti dall’uso di questa traduzione.