Dieses Projekt demonstriert eine Webanwendung, die eine Inhaltsprüfung auf Sicherheit durchführt, bevor Benutzereingaben über das Model Context Protocol (MCP) an einen Rechnerdienst weitergeleitet werden.
- Benutzereingabe: Der Benutzer gibt eine Berechnungsanfrage in der Weboberfläche ein
- Inhaltsprüfung (Eingabe): Die Eingabe wird von der Azure Content Safety API analysiert
- Sicherheitsentscheidung (Eingabe):
- Wenn der Inhalt sicher ist (Schweregrad < 2 in allen Kategorien), wird er an den Rechner weitergeleitet
- Wenn der Inhalt als potenziell schädlich eingestuft wird, wird der Vorgang abgebrochen und eine Warnung ausgegeben
- Integration des Rechners: Sicherer Inhalt wird von LangChain4j verarbeitet, das mit dem MCP-Rechnerserver kommuniziert
- Inhaltsprüfung (Ausgabe): Die Antwort des Bots wird von der Azure Content Safety API analysiert
- Sicherheitsentscheidung (Ausgabe):
- Wenn die Bot-Antwort sicher ist, wird sie dem Benutzer angezeigt
- Wenn die Bot-Antwort als potenziell schädlich eingestuft wird, wird sie durch eine Warnung ersetzt
- Antwort: Die Ergebnisse (sofern sicher) werden dem Benutzer zusammen mit beiden Sicherheitsanalysen angezeigt
Dieses Projekt zeigt, wie man das Model Context Protocol (MCP) verwendet, um Rechnerdienste von LangChain4j aufzurufen. Die Implementierung nutzt einen lokalen MCP-Server auf Port 8080, der Rechneroperationen bereitstellt.
Bevor Sie die Inhaltsprüffunktionen nutzen, müssen Sie eine Azure Content Safety Service-Ressource erstellen:
- Melden Sie sich im Azure Portal an
- Klicken Sie auf „Create a resource“ und suchen Sie nach „Content Safety“
- Wählen Sie „Content Safety“ aus und klicken Sie auf „Create“
- Geben Sie einen eindeutigen Namen für Ihre Ressource ein
- Wählen Sie Ihr Abonnement und die Ressourcengruppe aus (oder erstellen Sie eine neue)
- Wählen Sie eine unterstützte Region aus (Details unter Region availability)
- Wählen Sie einen passenden Preistarif aus
- Klicken Sie auf „Create“, um die Ressource bereitzustellen
- Nach Abschluss der Bereitstellung klicken Sie auf „Go to resource“
- Wählen Sie im linken Menü unter „Resource Management“ den Punkt „Keys and Endpoint“ aus
- Kopieren Sie einen der Schlüssel sowie die Endpunkt-URL für die Verwendung im nächsten Schritt
Setzen Sie die GITHUB_TOKEN Umgebungsvariable zur Authentifizierung der GitHub-Modelle:
export GITHUB_TOKEN=<your_github_token>Für die Inhaltsprüfung setzen Sie:
export CONTENT_SAFETY_ENDPOINT=<your_content_safety_endpoint>
export CONTENT_SAFETY_KEY=<your_content_safety_key>Diese Umgebungsvariablen werden von der Anwendung verwendet, um sich bei Azure Content Safety zu authentifizieren. Wenn diese Variablen nicht gesetzt sind, verwendet die Anwendung Platzhalterwerte zu Demonstrationszwecken, aber die Inhaltsprüffunktionen funktionieren dann nicht korrekt.
Bevor Sie den Client ausführen, müssen Sie den Calculator MCP Server im SSE-Modus auf localhost:8080 starten.
Dieses Projekt zeigt die Integration des Model Context Protocol (MCP) mit LangChain4j zur Anbindung von Rechnerdiensten. Wichtige Merkmale sind:
- Verwendung von MCP zur Verbindung mit einem Rechnerdienst für grundlegende mathematische Operationen
- Zweistufige Inhaltsprüfung sowohl bei Benutzereingaben als auch bei Bot-Antworten
- Integration des GitHub gpt-4.1-nano Modells über LangChain4j
- Nutzung von Server-Sent Events (SSE) als MCP-Transport
Das Projekt umfasst umfassende Inhaltsprüffunktionen, um sicherzustellen, dass sowohl Benutzereingaben als auch Systemantworten frei von schädlichen Inhalten sind:
-
Eingabeprüfung: Alle Benutzereingaben werden vor der Verarbeitung auf schädliche Inhalte wie Hassrede, Gewalt, Selbstverletzung und sexuelle Inhalte analysiert.
-
Ausgabeprüfung: Selbst bei Verwendung potenziell unzensierter Modelle werden alle generierten Antworten vor der Anzeige durch dieselben Inhaltsfilter geprüft.
Dieser zweistufige Ansatz gewährleistet, dass das System unabhängig vom verwendeten KI-Modell sicher bleibt und Benutzer sowohl vor schädlichen Eingaben als auch vor potenziell problematischen KI-generierten Ausgaben geschützt werden.
Die Anwendung beinhaltet eine benutzerfreundliche Weboberfläche, die es den Nutzern ermöglicht, mit dem Content Safety Calculator System zu interagieren:
- Einfaches, intuitives Formular zur Eingabe von Berechnungsanfragen
- Zweistufige Inhaltsprüfung (Eingabe und Ausgabe)
- Echtzeit-Feedback zur Sicherheit von Eingabe und Antwort
- Farblich gekennzeichnete Sicherheitsindikatoren zur einfachen Interpretation
- Sauberes, responsives Design, das auf verschiedenen Geräten funktioniert
- Beispielhafte sichere Eingaben zur Orientierung der Benutzer
-
Starten Sie die Anwendung:
mvn spring-boot:run
-
Öffnen Sie Ihren Browser und navigieren Sie zu
http://localhost:8087 -
Geben Sie eine Berechnungsanfrage im bereitgestellten Textfeld ein (z. B. „Berechne die Summe von 24,5 und 17,3“)
-
Klicken Sie auf „Submit“, um Ihre Anfrage zu verarbeiten
-
Sehen Sie die Ergebnisse ein, die Folgendes umfassen:
- Inhaltsprüfung Ihrer Eingabe
- Das berechnete Ergebnis (sofern die Eingabe sicher war)
- Inhaltsprüfung der Bot-Antwort
- Sicherheitswarnungen, falls die Eingabe oder Ausgabe als problematisch eingestuft wurde
Der Web-Client übernimmt automatisch beide Inhaltsprüfprozesse und stellt sicher, dass alle Interaktionen sicher und angemessen sind, unabhängig davon, welches KI-Modell verwendet wird.
Haftungsausschluss:
Dieses Dokument wurde mit dem KI-Übersetzungsdienst Co-op Translator übersetzt. Obwohl wir auf Genauigkeit achten, beachten Sie bitte, dass automatisierte Übersetzungen Fehler oder Ungenauigkeiten enthalten können. Das Originaldokument in seiner Ursprungssprache gilt als maßgebliche Quelle. Für wichtige Informationen wird eine professionelle menschliche Übersetzung empfohlen. Wir übernehmen keine Haftung für Missverständnisse oder Fehlinterpretationen, die durch die Verwendung dieser Übersetzung entstehen.