Pre zvýšenie bezpečnosti MCP proti prompt injection, tool poisoning a ďalším špecifickým zraniteľnostiam AI sa dôrazne odporúča integrácia Azure Content Safety.
Pre integráciu Azure Content Safety s vaším MCP serverom pridajte filter content safety ako middleware do vášho spracovateľského reťazca požiadaviek:
- Inicializujte filter počas spustenia servera
- Overte všetky prichádzajúce požiadavky na nástroje pred ich spracovaním
- Skontrolujte všetky odchádzajúce odpovede pred ich odoslaním klientom
- Logujte a upozorňujte na porušenia bezpečnosti
- Implementujte vhodné spracovanie chýb pri neúspešných kontrolách content safety
Týmto zabezpečíte silnú ochranu proti:
- útokom prompt injection
- pokusom o tool poisoning
- exfiltrácii dát cez škodlivé vstupy
- generovaniu škodlivého obsahu
- Vlastné blokovacie zoznamy: Vytvorte vlastné blokovacie zoznamy špecificky pre MCP injection vzory
- Nastavenie závažnosti: Prispôsobte prahové hodnoty závažnosti podľa vášho konkrétneho prípadu použitia a tolerancie rizika
- Komplexné pokrytie: Aplikujte kontroly content safety na všetky vstupy aj výstupy
- Optimalizácia výkonu: Zvážte implementáciu cache pre opakované kontroly content safety
- Náhradné mechanizmy: Definujte jasné náhradné správanie, keď služby content safety nie sú dostupné
- Spätná väzba pre používateľov: Poskytujte používateľom jasnú spätnú väzbu, keď je obsah zablokovaný z dôvodu bezpečnostných obáv
- Kontinuálne zlepšovanie: Pravidelne aktualizujte blokovacie zoznamy a vzory na základe nových hrozieb
Vyhlásenie o zodpovednosti:
Tento dokument bol preložený pomocou AI prekladateľskej služby Co-op Translator. Aj keď sa snažíme o presnosť, prosím, majte na pamäti, že automatizované preklady môžu obsahovať chyby alebo nepresnosti. Pôvodný dokument v jeho rodnom jazyku by mal byť považovaný za autoritatívny zdroj. Pre kritické informácie sa odporúča profesionálny ľudský preklad. Nie sme zodpovední za akékoľvek nedorozumenia alebo nesprávne interpretácie vyplývajúce z použitia tohto prekladu.