Questo progetto dimostra un'applicazione web che utilizza il controllo di sicurezza dei contenuti prima di passare i prompt dell'utente a un servizio di calcolatrice tramite Model Context Protocol (MCP).
- Input Utente: L'utente inserisce un prompt di calcolo nell'interfaccia web
- Screening di Sicurezza dei Contenuti (Input): Il prompt viene analizzato dall'API di Sicurezza dei Contenuti di Azure
- Decisione di Sicurezza (Input):
- Se il contenuto è sicuro (gravità < 2 in tutte le categorie), procede alla calcolatrice
- Se il contenuto è segnalato come potenzialmente dannoso, il processo si interrompe e viene restituito un avviso
- Integrazione con la Calcolatrice: I contenuti sicuri vengono elaborati da LangChain4j, che comunica con il server calcolatrice MCP
- Screening di Sicurezza dei Contenuti (Output): La risposta del bot viene analizzata dall'API di Sicurezza dei Contenuti di Azure
- Decisione di Sicurezza (Output):
- Se la risposta del bot è sicura, viene mostrata all'utente
- Se la risposta del bot è segnalata come potenzialmente dannosa, viene sostituita con un avviso
- Risposta: I risultati (se sicuri) vengono visualizzati all'utente insieme alle analisi di sicurezza
Questo progetto dimostra come utilizzare il Model Context Protocol (MCP) per chiamare i servizi MCP della calcolatrice da LangChain4j. L'implementazione utilizza un server MCP locale che opera sulla porta 8080 per fornire operazioni di calcolatrice.
Prima di utilizzare le funzionalità di sicurezza dei contenuti, è necessario creare una risorsa del servizio di Sicurezza dei Contenuti di Azure:
- Accedi al Portale Azure
- Clicca su "Crea una risorsa" e cerca "Sicurezza dei Contenuti"
- Seleziona "Sicurezza dei Contenuti" e clicca su "Crea"
- Inserisci un nome unico per la tua risorsa
- Seleziona il tuo abbonamento e gruppo di risorse (o creane uno nuovo)
- Scegli una regione supportata (controlla Disponibilità delle regioni per i dettagli)
- Seleziona un livello di prezzo appropriato
- Clicca su "Crea" per distribuire la risorsa
- Una volta completata la distribuzione, clicca su "Vai alla risorsa"
- Nel riquadro a sinistra, sotto "Gestione delle risorse", seleziona "Chiavi ed Endpoint"
- Copia una delle chiavi e l'URL dell'endpoint per utilizzarli nel passaggio successivo
Imposta la variabile d'ambiente GITHUB_TOKEN per l'autenticazione dei modelli GitHub:
export GITHUB_TOKEN=<your_github_token>Per le funzionalità di sicurezza dei contenuti, imposta:
export CONTENT_SAFETY_ENDPOINT=<your_content_safety_endpoint>
export CONTENT_SAFETY_KEY=<your_content_safety_key>Queste variabili d'ambiente vengono utilizzate dall'applicazione per autenticarsi con il servizio di Sicurezza dei Contenuti di Azure. Se queste variabili non sono impostate, l'applicazione utilizzerà valori segnaposto per scopi dimostrativi, ma le funzionalità di sicurezza dei contenuti non funzioneranno correttamente.
Prima di eseguire il client, è necessario avviare il server MCP della calcolatrice in modalità SSE su localhost:8080.
Questo progetto dimostra l'integrazione del Model Context Protocol (MCP) con LangChain4j per chiamare i servizi di calcolatrice. Le caratteristiche principali includono:
- Utilizzo di MCP per connettersi a un servizio di calcolatrice per operazioni matematiche di base
- Controllo di sicurezza dei contenuti a doppio livello su prompt utente e risposte del bot
- Integrazione con il modello gpt-4.1-nano di GitHub tramite LangChain4j
- Utilizzo di Server-Sent Events (SSE) per il trasporto MCP
Il progetto include funzionalità di sicurezza dei contenuti complete per garantire che sia gli input degli utenti che le risposte del sistema siano privi di contenuti dannosi:
-
Screening dell'Input: Tutti i prompt degli utenti vengono analizzati per categorie di contenuti dannosi come discorsi di odio, violenza, autolesionismo e contenuti sessuali prima della elaborazione.
-
Screening dell'Output: Anche quando si utilizzano modelli potenzialmente non censurati, il sistema verifica tutte le risposte generate tramite gli stessi filtri di sicurezza dei contenuti prima di mostrarle all'utente.
Questo approccio a doppio livello garantisce che il sistema rimanga sicuro indipendentemente dal modello AI utilizzato, proteggendo gli utenti sia dagli input dannosi che dai potenziali output problematici generati dall'AI.
L'applicazione include un'interfaccia web user-friendly che consente agli utenti di interagire con il sistema di Calcolatrice di Sicurezza dei Contenuti:
- Modulo semplice e intuitivo per inserire prompt di calcolo
- Validazione di sicurezza dei contenuti a doppio livello (input e output)
- Feedback in tempo reale sulla sicurezza del prompt e della risposta
- Indicatori di sicurezza codificati per colore per una facile interpretazione
- Design pulito e reattivo che funziona su vari dispositivi
- Esempi di prompt sicuri per guidare gli utenti
-
Avvia l'applicazione:
mvn spring-boot:run
-
Apri il tuo browser e naviga su
http://localhost:8087 -
Inserisci un prompt di calcolo nell'area di testo fornita (ad esempio, "Calcola la somma di 24.5 e 17.3")
-
Clicca su "Invia" per elaborare la tua richiesta
-
Visualizza i risultati, che includeranno:
- Analisi di sicurezza dei contenuti del tuo prompt
- Il risultato calcolato (se il prompt era sicuro)
- Analisi di sicurezza dei contenuti della risposta del bot
- Eventuali avvisi di sicurezza se l'input o l'output sono stati segnalati
Il client web gestisce automaticamente entrambi i processi di verifica della sicurezza dei contenuti, garantendo che tutte le interazioni siano sicure e appropriate indipendentemente dal modello AI utilizzato.
Disclaimer: Questo documento è stato tradotto utilizzando il servizio di traduzione AI Co-op Translator. Sebbene ci impegniamo per l'accuratezza, si prega di essere consapevoli che le traduzioni automatiche possono contenere errori o imprecisioni. Il documento originale nella sua lingua nativa dovrebbe essere considerato la fonte autorevole. Per informazioni critiche, si raccomanda una traduzione professionale umana. Non siamo responsabili per eventuali incomprensioni o interpretazioni errate derivanti dall'uso di questa traduzione.