Pro zvýšení bezpečnosti MCP proti prompt injection, tool poisoning a dalším specifickým zranitelnostem AI se důrazně doporučuje integrace Azure Content Safety.
Pro integraci Azure Content Safety s vaším MCP serverem přidejte filtr content safety jako middleware do zpracovatelského řetězce požadavků:
- Inicializujte filtr při spuštění serveru
- Validujte všechny příchozí požadavky na nástroje před jejich zpracováním
- Kontrolujte všechny odchozí odpovědi před jejich odesláním klientům
- Logujte a upozorňujte na porušení bezpečnostních pravidel
- Implementujte vhodné zpracování chyb při neúspěšných kontrolách content safety
Tím zajistíte silnou ochranu proti:
- útokům typu prompt injection
- pokusům o tool poisoning
- exfiltraci dat pomocí škodlivých vstupů
- generování škodlivého obsahu
- Vlastní bloklisty: Vytvořte vlastní bloklisty speciálně pro MCP injection vzory
- Ladění závažnosti: Přizpůsobte prahové hodnoty závažnosti podle konkrétního použití a úrovně rizika
- Komplexní pokrytí: Aplikujte kontroly content safety na všechny vstupy i výstupy
- Optimalizace výkonu: Zvažte implementaci cache pro opakované kontroly content safety
- Náhradní mechanismy: Definujte jasné fallback chování pro případy nedostupnosti služeb content safety
- Zpětná vazba uživatelům: Poskytujte uživatelům jasné informace, když je obsah zablokován kvůli bezpečnostním důvodům
- Nepřetržité zlepšování: Pravidelně aktualizujte bloklisty a vzory na základě nově vznikajících hrozeb
Prohlášení o vyloučení odpovědnosti:
Tento dokument byl přeložen pomocí AI překladatelské služby Co-op Translator. I když usilujeme o přesnost, mějte prosím na paměti, že automatizované překlady mohou obsahovat chyby nebo nepřesnosti. Původní dokument v jeho mateřském jazyce by měl být považován za autoritativní zdroj. Pro důležité informace se doporučuje profesionální lidský překlad. Nejsme odpovědní za jakékoliv nedorozumění nebo nesprávné výklady vyplývající z použití tohoto překladu.