Este projeto demonstra uma aplicação web que utiliza verificação de segurança de conteúdo antes de passar solicitações de usuários para um serviço de calculadora via Model Context Protocol (MCP).
- Entrada do Usuário: O usuário insere uma solicitação de cálculo na interface web
- Triagem de Segurança de Conteúdo (Entrada): A solicitação é analisada pela API de Segurança de Conteúdo da Azure
- Decisão de Segurança (Entrada):
- Se o conteúdo for seguro (gravidade < 2 em todas as categorias), ele é encaminhado para a calculadora
- Se o conteúdo for marcado como potencialmente prejudicial, o processo é interrompido e retorna um aviso
- Integração com a Calculadora: Conteúdo seguro é processado pelo LangChain4j, que se comunica com o servidor de calculadora MCP
- Triagem de Segurança de Conteúdo (Saída): A resposta do bot é analisada pela API de Segurança de Conteúdo da Azure
- Decisão de Segurança (Saída):
- Se a resposta do bot for segura, ela é exibida ao usuário
- Se a resposta do bot for marcada como potencialmente prejudicial, ela é substituída por um aviso
- Resposta: Resultados (se seguros) são exibidos ao usuário junto com ambas as análises de segurança
Este projeto demonstra como usar o Model Context Protocol (MCP) para chamar serviços de calculadora MCP a partir do LangChain4j. A implementação utiliza um servidor MCP local rodando na porta 8080 para fornecer operações de calculadora.
Antes de usar os recursos de segurança de conteúdo, você precisa criar um recurso de serviço de Segurança de Conteúdo da Azure:
- Acesse o Portal Azure
- Clique em "Criar um recurso" e procure por "Segurança de Conteúdo"
- Selecione "Segurança de Conteúdo" e clique em "Criar"
- Insira um nome exclusivo para seu recurso
- Selecione sua assinatura e grupo de recursos (ou crie um novo)
- Escolha uma região suportada (verifique a disponibilidade de região para detalhes)
- Selecione um nível de preço apropriado
- Clique em "Criar" para implantar o recurso
- Após a conclusão da implantação, clique em "Ir para o recurso"
- No painel à esquerda, em "Gerenciamento de Recursos", selecione "Chaves e Endpoint"
- Copie uma das chaves e a URL do endpoint para uso na próxima etapa
Defina a variável de ambiente GITHUB_TOKEN para autenticação de modelos do GitHub:
export GITHUB_TOKEN=<your_github_token>Para recursos de segurança de conteúdo, defina:
export CONTENT_SAFETY_ENDPOINT=<your_content_safety_endpoint>
export CONTENT_SAFETY_KEY=<your_content_safety_key>Essas variáveis de ambiente são usadas pela aplicação para autenticar com o serviço de Segurança de Conteúdo da Azure. Se essas variáveis não estiverem definidas, a aplicação usará valores de espaço reservado para fins de demonstração, mas os recursos de segurança de conteúdo não funcionarão corretamente.
Antes de executar o cliente, você precisa iniciar o servidor MCP da calculadora no modo SSE em localhost:8080.
Este projeto demonstra a integração do Model Context Protocol (MCP) com LangChain4j para chamar serviços de calculadora. Os principais recursos incluem:
- Uso do MCP para conectar-se a um serviço de calculadora para operações matemáticas básicas
- Verificação de segurança de conteúdo em duas camadas, tanto nas solicitações dos usuários quanto nas respostas do bot
- Integração com o modelo gpt-4.1-nano do GitHub via LangChain4j
- Uso de Eventos Enviados pelo Servidor (SSE) para transporte MCP
O projeto inclui recursos abrangentes de segurança de conteúdo para garantir que tanto as entradas dos usuários quanto as respostas do sistema estejam livres de conteúdo prejudicial:
-
Triagem de Entrada: Todas as solicitações dos usuários são analisadas para categorias de conteúdo prejudicial, como discurso de ódio, violência, autoagressão e conteúdo sexual antes do processamento.
-
Triagem de Saída: Mesmo ao usar modelos potencialmente sem censura, o sistema verifica todas as respostas geradas pelos mesmos filtros de segurança de conteúdo antes de exibi-las ao usuário.
Essa abordagem em duas camadas garante que o sistema permaneça seguro, independentemente de qual modelo de IA esteja sendo usado, protegendo os usuários tanto de entradas prejudiciais quanto de saídas potencialmente problemáticas geradas pela IA.
A aplicação inclui uma interface web amigável que permite aos usuários interagir com o sistema de Calculadora de Segurança de Conteúdo:
- Formulário simples e intuitivo para inserir solicitações de cálculo
- Validação de segurança de conteúdo em duas camadas (entrada e saída)
- Feedback em tempo real sobre a segurança das solicitações e respostas
- Indicadores de segurança com código de cores para fácil interpretação
- Design limpo e responsivo que funciona em vários dispositivos
- Exemplos de solicitações seguras para guiar os usuários
-
Inicie a aplicação:
mvn spring-boot:run
-
Abra seu navegador e navegue para
http://localhost:8087 -
Insira uma solicitação de cálculo na área de texto fornecida (por exemplo, "Calcule a soma de 24.5 e 17.3")
-
Clique em "Enviar" para processar sua solicitação
-
Veja os resultados, que incluirão:
- Análise de segurança de conteúdo da sua solicitação
- O resultado calculado (se a solicitação for segura)
- Análise de segurança de conteúdo da resposta do bot
- Quaisquer avisos de segurança se a entrada ou saída for marcada
O cliente web lida automaticamente com ambos os processos de verificação de segurança de conteúdo, garantindo que todas as interações sejam seguras e apropriadas, independentemente de qual modelo de IA esteja sendo usado.
Aviso Legal:
Este documento foi traduzido usando o serviço de tradução por IA Co-op Translator. Embora nos esforcemos para garantir a precisão, esteja ciente de que traduções automatizadas podem conter erros ou imprecisões. O documento original em seu idioma nativo deve ser considerado a fonte autoritária. Para informações críticas, recomenda-se a tradução humana profissional. Não nos responsabilizamos por quaisquer mal-entendidos ou interpretações errôneas decorrentes do uso desta tradução.