Aby wzmocnić bezpieczeństwo MCP przed atakami typu prompt injection, tool poisoning oraz innymi specyficznymi zagrożeniami AI, zdecydowanie zaleca się integrację z Azure Content Safety.
Aby zintegrować Azure Content Safety z serwerem MCP, dodaj filtr bezpieczeństwa treści jako middleware w potoku przetwarzania żądań:
- Zainicjuj filtr podczas uruchamiania serwera
- Waliduj wszystkie przychodzące żądania narzędzi przed ich przetworzeniem
- Sprawdzaj wszystkie wychodzące odpowiedzi przed zwróceniem ich do klientów
- Rejestruj i zgłaszaj naruszenia bezpieczeństwa
- Wdróż odpowiednie obsługi błędów dla nieudanych kontroli bezpieczeństwa treści
Zapewnia to solidną ochronę przed:
- Atakami typu prompt injection
- Próbami tool poisoning
- Wyciekiem danych poprzez złośliwe dane wejściowe
- Generowaniem szkodliwych treści
- Własne listy blokujące: Twórz dedykowane listy blokujące dla wzorców ataków MCP injection
- Dopasowanie poziomu zagrożenia: Dostosuj progi ważności w zależności od konkretnego zastosowania i poziomu ryzyka
- Kompleksowe pokrycie: Stosuj kontrole bezpieczeństwa treści do wszystkich danych wejściowych i wyjściowych
- Optymalizacja wydajności: Rozważ wdrożenie mechanizmów cache’owania dla powtarzających się kontroli bezpieczeństwa
- Mechanizmy awaryjne: Zdefiniuj jasne zachowania awaryjne na wypadek niedostępności usług bezpieczeństwa treści
- Informowanie użytkowników: Zapewnij czytelną informację zwrotną dla użytkowników, gdy treść zostanie zablokowana ze względów bezpieczeństwa
- Ciągłe doskonalenie: Regularnie aktualizuj listy blokujące i wzorce na podstawie pojawiających się zagrożeń
Zastrzeżenie:
Niniejszy dokument został przetłumaczony za pomocą usługi tłumaczenia AI Co-op Translator. Mimo że dążymy do dokładności, prosimy mieć na uwadze, że automatyczne tłumaczenia mogą zawierać błędy lub nieścisłości. Oryginalny dokument w języku źródłowym powinien być uznawany za źródło autorytatywne. W przypadku informacji o kluczowym znaczeniu zalecane jest skorzystanie z profesjonalnego tłumaczenia wykonanego przez człowieka. Nie ponosimy odpowiedzialności za jakiekolwiek nieporozumienia lub błędne interpretacje wynikające z korzystania z tego tłumaczenia.