Acest proiect demonstrează o aplicație web care folosește verificarea siguranței conținutului înainte de a trimite solicitările utilizatorului către un serviciu de calculator prin Model Context Protocol (MCP).
- Input Utilizator: Utilizatorul introduce o solicitare de calcul în interfața web
- Verificare Siguranță Conținut (Input): Solicitarea este analizată de Azure Content Safety API
- Decizie Siguranță (Input):
- Dacă conținutul este sigur (severitate < 2 în toate categoriile), se trimite mai departe către calculator
- Dacă conținutul este marcat ca potențial dăunător, procesul se oprește și se returnează un avertisment
- Integrare Calculator: Conținutul sigur este procesat de LangChain4j, care comunică cu serverul MCP calculator
- Verificare Siguranță Conținut (Output): Răspunsul botului este analizat de Azure Content Safety API
- Decizie Siguranță (Output):
- Dacă răspunsul botului este sigur, este afișat utilizatorului
- Dacă răspunsul botului este marcat ca potențial dăunător, este înlocuit cu un avertisment
- Răspuns: Rezultatele (dacă sunt sigure) sunt afișate utilizatorului împreună cu ambele analize de siguranță
Acest proiect demonstrează cum să folosești Model Context Protocol (MCP) pentru a apela serviciile MCP de calculator din LangChain4j. Implementarea folosește un server MCP local care rulează pe portul 8080 pentru a furniza operații de calculator.
Înainte de a folosi funcțiile de siguranță a conținutului, trebuie să creezi o resursă Azure Content Safety:
- Autentifică-te în Azure Portal
- Apasă pe „Create a resource” și caută „Content Safety”
- Selectează „Content Safety” și apasă „Create”
- Introdu un nume unic pentru resursa ta
- Selectează abonamentul și grupul de resurse (sau creează unul nou)
- Alege o regiune suportată (verifică Disponibilitatea Regiunilor pentru detalii)
- Selectează un plan tarifar potrivit
- Apasă „Create” pentru a implementa resursa
- După finalizarea implementării, apasă „Go to resource”
- În panoul din stânga, sub „Resource Management”, selectează „Keys and Endpoint”
- Copiază una dintre chei și URL-ul endpoint-ului pentru pasul următor
Setează variabila de mediu GITHUB_TOKEN pentru autentificarea modelelor GitHub:
export GITHUB_TOKEN=<your_github_token>Pentru funcțiile de siguranță a conținutului, setează:
export CONTENT_SAFETY_ENDPOINT=<your_content_safety_endpoint>
export CONTENT_SAFETY_KEY=<your_content_safety_key>Aceste variabile de mediu sunt folosite de aplicație pentru autentificarea cu serviciul Azure Content Safety. Dacă aceste variabile nu sunt setate, aplicația va folosi valori generice pentru demonstrație, însă funcțiile de siguranță a conținutului nu vor funcționa corect.
Înainte de a rula clientul, trebuie să pornești serverul MCP calculator în modul SSE pe localhost:8080.
Acest proiect demonstrează integrarea Model Context Protocol (MCP) cu LangChain4j pentru a apela servicii de calculator. Caracteristici principale includ:
- Utilizarea MCP pentru conectarea la un serviciu de calculator pentru operații matematice de bază
- Verificare dublă a siguranței conținutului atât pentru solicitările utilizatorului, cât și pentru răspunsurile botului
- Integrare cu modelul gpt-4.1-nano de pe GitHub prin LangChain4j
- Folosirea Server-Sent Events (SSE) pentru transportul MCP
Proiectul include funcții complete de siguranță a conținutului pentru a asigura că atât inputurile utilizatorului, cât și răspunsurile sistemului sunt lipsite de conținut dăunător:
-
Verificare Input: Toate solicitările utilizatorului sunt analizate pentru categorii de conținut dăunător precum discurs de ură, violență, auto-vătămare și conținut sexual înainte de procesare.
-
Verificare Output: Chiar și atunci când se folosesc modele potențial nefiltrate, sistemul verifică toate răspunsurile generate prin aceleași filtre de siguranță a conținutului înainte de a le afișa utilizatorului.
Această abordare în două straturi asigură că sistemul rămâne sigur indiferent de modelul AI folosit, protejând utilizatorii atât de inputuri dăunătoare, cât și de răspunsuri AI potențial problematice.
Aplicația include o interfață web prietenoasă care permite utilizatorilor să interacționeze cu sistemul Content Safety Calculator:
- Formular simplu și intuitiv pentru introducerea solicitărilor de calcul
- Validare dublă a siguranței conținutului (input și output)
- Feedback în timp real privind siguranța solicitării și a răspunsului
- Indicatori colorați pentru siguranță, ușor de interpretat
- Design curat și responsive, compatibil cu diverse dispozitive
- Exemple de solicitări sigure pentru ghidajul utilizatorilor
-
Pornește aplicația:
mvn spring-boot:run
-
Deschide browserul și accesează
http://localhost:8087 -
Introdu o solicitare de calcul în zona de text oferită (de exemplu, „Calculează suma dintre 24.5 și 17.3”)
-
Apasă „Submit” pentru a procesa cererea
-
Vizualizează rezultatele, care vor include:
- Analiza siguranței conținutului pentru solicitarea ta
- Rezultatul calculat (dacă solicitarea a fost sigură)
- Analiza siguranței conținutului pentru răspunsul botului
- Orice avertismente de siguranță dacă inputul sau outputul au fost marcate
Clientul web gestionează automat ambele procese de verificare a siguranței conținutului, asigurând că toate interacțiunile sunt sigure și adecvate, indiferent de modelul AI folosit.
Declinare de responsabilitate:
Acest document a fost tradus folosind serviciul de traducere AI Co-op Translator. Deși ne străduim pentru acuratețe, vă rugăm să rețineți că traducerile automate pot conține erori sau inexactități. Documentul original în limba sa nativă trebuie considerat sursa autorizată. Pentru informații critice, se recomandă traducerea profesională realizată de un specialist uman. Nu ne asumăm răspunderea pentru eventualele neînțelegeri sau interpretări greșite rezultate din utilizarea acestei traduceri.