Este proyecto demuestra una aplicación web que utiliza la verificación de seguridad de contenido antes de enviar las indicaciones del usuario a un servicio de calculadora a través del Model Context Protocol (MCP).
- Entrada del Usuario: El usuario ingresa una indicación de cálculo en la interfaz web
- Revisión de Seguridad de Contenido (Entrada): La indicación es analizada por la API Azure Content Safety
- Decisión de Seguridad (Entrada):
- Si el contenido es seguro (gravedad < 2 en todas las categorías), se envía a la calculadora
- Si el contenido se marca como potencialmente dañino, el proceso se detiene y se muestra una advertencia
- Integración con la Calculadora: El contenido seguro es procesado por LangChain4j, que se comunica con el servidor de calculadora MCP
- Revisión de Seguridad de Contenido (Salida): La respuesta del bot es analizada por la API Azure Content Safety
- Decisión de Seguridad (Salida):
- Si la respuesta del bot es segura, se muestra al usuario
- Si la respuesta del bot se marca como potencialmente dañina, se reemplaza con una advertencia
- Respuesta: Los resultados (si son seguros) se muestran al usuario junto con ambos análisis de seguridad
Este proyecto muestra cómo usar Model Context Protocol (MCP) para llamar a servicios MCP de calculadora desde LangChain4j. La implementación utiliza un servidor MCP local que se ejecuta en el puerto 8080 para proveer operaciones de calculadora.
Antes de usar las funciones de seguridad de contenido, debes crear un recurso de servicio Azure Content Safety:
- Inicia sesión en el Azure Portal
- Haz clic en "Crear un recurso" y busca "Content Safety"
- Selecciona "Content Safety" y haz clic en "Crear"
- Ingresa un nombre único para tu recurso
- Selecciona tu suscripción y grupo de recursos (o crea uno nuevo)
- Elige una región compatible (consulta Disponibilidad por región para más detalles)
- Selecciona un nivel de precios adecuado
- Haz clic en "Crear" para desplegar el recurso
- Una vez completado el despliegue, haz clic en "Ir al recurso"
- En el panel izquierdo, bajo "Administración del recurso", selecciona "Claves y punto de conexión"
- Copia cualquiera de las claves y la URL del punto de conexión para usarlas en el siguiente paso
Configura la variable de entorno GITHUB_TOKEN para la autenticación de modelos de GitHub:
export GITHUB_TOKEN=<your_github_token>Para las funciones de seguridad de contenido, configura:
export CONTENT_SAFETY_ENDPOINT=<your_content_safety_endpoint>
export CONTENT_SAFETY_KEY=<your_content_safety_key>Estas variables de entorno son usadas por la aplicación para autenticarse con el servicio Azure Content Safety. Si no se configuran, la aplicación usará valores de marcador de posición para demostración, pero las funciones de seguridad de contenido no funcionarán correctamente.
Antes de ejecutar el cliente, debes iniciar el servidor MCP de calculadora en modo SSE en localhost:8080.
Este proyecto demuestra la integración de Model Context Protocol (MCP) con LangChain4j para llamar a servicios de calculadora. Las características principales incluyen:
- Uso de MCP para conectarse a un servicio de calculadora para operaciones matemáticas básicas
- Verificación de seguridad de contenido en dos niveles, tanto en las indicaciones del usuario como en las respuestas del bot
- Integración con el modelo gpt-4.1-nano de GitHub a través de LangChain4j
- Uso de Server-Sent Events (SSE) para el transporte MCP
El proyecto incluye funciones completas de seguridad de contenido para asegurar que tanto las entradas de usuario como las respuestas del sistema estén libres de contenido dañino:
-
Revisión de Entrada: Todas las indicaciones del usuario son analizadas en busca de categorías de contenido dañino como discurso de odio, violencia, autolesiones y contenido sexual antes de ser procesadas.
-
Revisión de Salida: Incluso al usar modelos potencialmente sin censura, el sistema verifica todas las respuestas generadas mediante los mismos filtros de seguridad de contenido antes de mostrarlas al usuario.
Este enfoque de doble capa garantiza que el sistema permanezca seguro sin importar qué modelo de IA se utilice, protegiendo a los usuarios tanto de entradas dañinas como de respuestas generadas por IA que puedan ser problemáticas.
La aplicación incluye una interfaz web amigable que permite a los usuarios interactuar con el sistema Content Safety Calculator:
- Formulario simple e intuitivo para ingresar indicaciones de cálculo
- Validación de seguridad de contenido en dos niveles (entrada y salida)
- Retroalimentación en tiempo real sobre la seguridad de la indicación y la respuesta
- Indicadores de seguridad codificados por colores para facilitar la interpretación
- Diseño limpio y responsivo que funciona en varios dispositivos
- Indicaciones seguras de ejemplo para guiar a los usuarios
-
Inicia la aplicación:
mvn spring-boot:run
-
Abre tu navegador y navega a
http://localhost:8087 -
Ingresa una indicación de cálculo en el área de texto proporcionada (por ejemplo, "Calcular la suma de 24.5 y 17.3")
-
Haz clic en "Submit" para procesar tu solicitud
-
Visualiza los resultados, que incluirán:
- Análisis de seguridad de contenido de tu indicación
- El resultado calculado (si la indicación fue segura)
- Análisis de seguridad de contenido de la respuesta del bot
- Cualquier advertencia de seguridad si la entrada o salida fue marcada
El cliente web maneja automáticamente ambos procesos de verificación de seguridad de contenido, asegurando que todas las interacciones sean seguras y apropiadas sin importar qué modelo de IA se esté utilizando.
Aviso Legal:
Este documento ha sido traducido utilizando el servicio de traducción automática Co-op Translator. Aunque nos esforzamos por la precisión, tenga en cuenta que las traducciones automáticas pueden contener errores o inexactitudes. El documento original en su idioma nativo debe considerarse la fuente autorizada. Para información crítica, se recomienda la traducción profesional realizada por humanos. No nos hacemos responsables por malentendidos o interpretaciones erróneas derivadas del uso de esta traducción.