Para reforçar a segurança do MCP contra injeção de prompts, envenenamento de ferramentas e outras vulnerabilidades específicas de IA, é altamente recomendada a integração do Azure Content Safety.
Para integrar o Azure Content Safety com o seu servidor MCP, adicione o filtro de segurança de conteúdo como middleware na sua pipeline de processamento de pedidos:
- Inicialize o filtro durante a inicialização do servidor
- Valide todos os pedidos de ferramentas recebidos antes de os processar
- Verifique todas as respostas enviadas antes de as devolver aos clientes
- Registe e alerte sobre violações de segurança
- Implemente um tratamento de erros adequado para falhas nas verificações de segurança de conteúdo
Isto proporciona uma defesa robusta contra:
- Ataques de injeção de prompts
- Tentativas de envenenamento de ferramentas
- Exfiltração de dados através de inputs maliciosos
- Geração de conteúdo prejudicial
- Listas de bloqueio personalizadas: Crie listas de bloqueio específicas para padrões de injeção MCP
- Ajuste de severidade: Ajuste os limiares de severidade com base no seu caso de uso e tolerância ao risco
- Cobertura abrangente: Aplique verificações de segurança de conteúdo a todos os inputs e outputs
- Otimização de desempenho: Considere implementar caching para verificações repetidas de segurança de conteúdo
- Mecanismos de fallback: Defina comportamentos claros de fallback quando os serviços de segurança de conteúdo não estiverem disponíveis
- Feedback ao utilizador: Forneça feedback claro aos utilizadores quando o conteúdo for bloqueado por motivos de segurança
- Melhoria contínua: Atualize regularmente as listas de bloqueio e padrões com base em ameaças emergentes
Aviso Legal:
Este documento foi traduzido utilizando o serviço de tradução automática Co-op Translator. Embora nos esforcemos pela precisão, por favor tenha em conta que traduções automáticas podem conter erros ou imprecisões. O documento original na sua língua nativa deve ser considerado a fonte autorizada. Para informações críticas, recomenda-se tradução profissional humana. Não nos responsabilizamos por quaisquer mal-entendidos ou interpretações incorretas decorrentes da utilização desta tradução.