Tämä projekti esittelee verkkosovelluksen, joka käyttää sisällön turvallisuuden tarkistusta ennen kuin käyttäjän syötteet välitetään laskinpalveluun Model Context Protocol (MCP) -protokollan kautta.
- Käyttäjän syöte: Käyttäjä syöttää laskupyyntöä verkkokäyttöliittymässä
- Sisällön turvallisuustarkistus (syöte): Pyyntö analysoidaan Azure Content Safety API:n avulla
- Turvallisuuspäätös (syöte):
- Jos sisältö on turvallista (vakavuus < 2 kaikissa kategorioissa), se jatkaa laskimeen
- Jos sisältö merkitään mahdollisesti haitalliseksi, prosessi pysähtyy ja palauttaa varoituksen
- Laskimen integrointi: Turvallinen sisältö käsitellään LangChain4j:n avulla, joka kommunikoi MCP-laskinpalvelimen kanssa
- Sisällön turvallisuustarkistus (tulos): Botin vastaus analysoidaan Azure Content Safety API:n avulla
- Turvallisuuspäätös (tulos):
- Jos botin vastaus on turvallinen, se näytetään käyttäjälle
- Jos botin vastaus merkitään mahdollisesti haitalliseksi, se korvataan varoituksella
- Vastaus: Tulokset (jos turvallisia) näytetään käyttäjälle yhdessä molempien turvallisuusanalyysien kanssa
Tämä projekti esittelee, kuinka käyttää Model Context Protocol (MCP) -protokollaa LangChain4j:n avulla kutsumaan laskinpalveluita. Toteutus käyttää paikallista MCP-palvelinta, joka toimii portissa 8080 tarjoten laskutoimituksia.
Ennen kuin käytät sisällön turvallisuusominaisuuksia, sinun tulee luoda Azure Content Safety -palveluresurssi:
- Kirjaudu Azure-portaaliin
- Klikkaa "Luo resurssi" ja etsi "Content Safety"
- Valitse "Content Safety" ja klikkaa "Luo"
- Anna resurssillesi yksilöllinen nimi
- Valitse tilauksesi ja resurssiryhmäsi (tai luo uusi)
- Valitse tuettu alue (katso Alueen saatavuus yksityiskohdat)
- Valitse sopiva hinnoittelutaso
- Klikkaa "Luo" resurssin käyttöönottoon
- Kun käyttöönotto on valmis, klikkaa "Siirry resurssiin"
- Vasemmassa paneelissa, kohdassa "Resurssien hallinta", valitse "Avaimet ja päätepiste"
- Kopioi jompikumpi avaimista ja päätepisteen URL seuraavaa vaihetta varten
Aseta GITHUB_TOKEN ympäristömuuttuja GitHub-mallien autentikointia varten:
export GITHUB_TOKEN=<your_github_token>Sisällön turvallisuusominaisuuksia varten aseta:
export CONTENT_SAFETY_ENDPOINT=<your_content_safety_endpoint>
export CONTENT_SAFETY_KEY=<your_content_safety_key>Nämä ympäristömuuttujat käytetään sovelluksessa autentikoitumiseen Azure Content Safety -palvelun kanssa. Jos näitä muuttujia ei aseteta, sovellus käyttää paikkamerkkiarvoja demonstraatiotarkoituksiin, mutta sisällön turvallisuusominaisuudet eivät toimi kunnolla.
Ennen kuin suoritat asiakkaan, sinun tulee käynnistää laskimen MCP-palvelin SSE-tilassa localhost:8080:ssa.
Tämä projekti esittelee Model Context Protocol (MCP) -protokollan integroinnin LangChain4j:n kanssa laskinpalveluiden kutsumiseen. Keskeisiä ominaisuuksia ovat:
- MCP:n käyttäminen laskinpalveluun yhdistämiseen perusmatemaattisia operaatioita varten
- Kaksikerroksinen sisällön turvallisuustarkistus sekä käyttäjän syötteille että botin vastauksille
- Integrointi GitHubin gpt-4.1-nano-mallin kanssa LangChain4j:n kautta
- Server-Sent Events (SSE) -tapahtumien käyttäminen MCP-kuljetukseen
Projekti sisältää kattavat sisällön turvallisuusominaisuudet varmistaakseen, että sekä käyttäjän syötteet että järjestelmän vastaukset ovat vapaita haitallisesta sisällöstä:
-
Syötteen tarkistus: Kaikki käyttäjän pyynnöt analysoidaan haitallisten sisältökategorioiden, kuten vihapuheen, väkivallan, itsensä vahingoittamisen ja seksuaalisen sisällön, varalta ennen käsittelyä.
-
Tuloksen tarkistus: Vaikka käytettäisiin mahdollisesti sensuroimattomia malleja, järjestelmä tarkistaa kaikki luodut vastaukset samojen sisällön turvallisuussuodattimien avulla ennen kuin ne näytetään käyttäjälle.
Tämä kaksikerroksinen lähestymistapa varmistaa, että järjestelmä pysyy turvallisena riippumatta siitä, mitä AI-mallia käytetään, suojaten käyttäjiä sekä haitallisilta syötteiltä että mahdollisesti ongelmallisilta AI-luoduilta tuloksilta.
Sovellus sisältää käyttäjäystävällisen verkkokäyttöliittymän, jonka avulla käyttäjät voivat olla vuorovaikutuksessa Content Safety Calculator -järjestelmän kanssa:
- Yksinkertainen, intuitiivinen lomake laskupyyntöjen syöttämiseen
- Kaksikerroksinen sisällön turvallisuuden validointi (syöte ja tulos)
- Reaaliaikainen palaute pyynnön ja vastauksen turvallisuudesta
- Värikoodatut turvallisuusindikaattorit helppoon tulkintaan
- Selkeä, responsiivinen muotoilu, joka toimii eri laitteilla
- Esimerkkejä turvallisista pyynnöistä käyttäjien ohjaamiseen
-
Käynnistä sovellus:
mvn spring-boot:run
-
Avaa selaimesi ja siirry osoitteeseen
http://localhost:8087 -
Syötä laskupyyntö annettuun tekstialueeseen (esim. "Laske 24.5 ja 17.3 summa")
-
Klikkaa "Lähetä" käsitelläksesi pyyntösi
-
Näe tulokset, jotka sisältävät:
- Sisällön turvallisuusanalyysi pyynnöstäsi
- Laskettu tulos (jos pyyntö oli turvallinen)
- Sisällön turvallisuusanalyysi botin vastauksesta
- Mahdolliset turvallisuusvaroitukset, jos joko syöte tai tulos merkitään
Verkkoklientti käsittelee automaattisesti molemmat sisällön turvallisuuden tarkistusprosessit varmistaen, että kaikki vuorovaikutukset ovat turvallisia ja asianmukaisia riippumatta siitä, mitä AI-mallia käytetään.
Vastuuvapauslauseke:
Tämä asiakirja on käännetty käyttämällä tekoälykäännöspalvelua Co-op Translator. Vaikka pyrimme tarkkuuteen, huomaa, että automaattiset käännökset voivat sisältää virheitä tai epätarkkuuksia. Alkuperäinen asiakirja sen alkuperäisellä kielellä tulisi katsoa auktoritatiiviseksi lähteeksi. Kriittisen tiedon kohdalla suositellaan ammattimaista ihmiskäännöstä. Emme ole vastuussa tämän käännöksen käytöstä johtuvista väärinkäsityksistä tai virhetulkinnoista.