Для повышения безопасности MCP против инъекций в подсказки, отравления инструментов и других уязвимостей, связанных с ИИ, настоятельно рекомендуется интегрировать Azure Content Safety.
Чтобы интегрировать Azure Content Safety с вашим MCP сервером, добавьте фильтр безопасности контента в качестве промежуточного ПО в конвейер обработки запросов:
- Инициализируйте фильтр при запуске сервера
- Проверяйте все входящие запросы к инструментам перед обработкой
- Проверяйте все исходящие ответы перед отправкой клиентам
- Ведите журнал и оповещайте о нарушениях безопасности
- Реализуйте соответствующую обработку ошибок при неудачных проверках безопасности контента
Это обеспечивает надежную защиту от:
- Атак с инъекцией подсказок
- Попыток отравления инструментов
- Утечки данных через вредоносные вводы
- Генерации вредоносного контента
- Пользовательские блок-листы: Создавайте специальные блок-листы для паттернов инъекций MCP
- Настройка уровня серьезности: Регулируйте пороги серьезности в зависимости от конкретного сценария и уровня риска
- Всестороннее покрытие: Применяйте проверки безопасности контента ко всем входным и выходным данным
- Оптимизация производительности: Рассмотрите возможность кэширования повторяющихся проверок безопасности контента
- Механизмы резервного копирования: Определите четкие действия на случай недоступности сервисов безопасности контента
- Обратная связь пользователям: Предоставляйте понятные уведомления пользователям при блокировке контента по соображениям безопасности
- Постоянное улучшение: Регулярно обновляйте блок-листы и паттерны с учетом новых угроз
Отказ от ответственности:
Этот документ был переведен с помощью сервиса автоматического перевода Co-op Translator. Несмотря на наши усилия по обеспечению точности, просим учитывать, что автоматический перевод может содержать ошибки или неточности. Оригинальный документ на его исходном языке следует считать авторитетным источником. Для получения критически важной информации рекомендуется обращаться к профессиональному человеческому переводу. Мы не несем ответственности за любые недоразумения или неправильные толкования, возникшие в результате использования данного перевода.