Ризик OWASP MCP, що усувається: MCP06 - Впровадження інструкцій через контекстуальні навантаження
Щоб посилити безпеку MCP проти впровадження інструкцій, отруєння інструментів та інших специфічних для ШІ уразливостей, настійно рекомендується інтегрувати Azure Content Safety. Цей посібник з впровадження відповідає Майстер-класу MCP Security Summit Workshop (Sherpa) Camp 3: I/O Security.
Щоб інтегрувати Azure Content Safety з вашим MCP сервером, додайте фільтр content safety як middleware у конвеєр обробки запитів:
- Ініціалізуйте фільтр під час запуску сервера
- Перевіряйте всі вхідні запити інструментів перед обробкою
- Перевіряйте всі вихідні відповіді перед поверненням їх клієнтам
- Логгуйте та повідомляйте про порушення безпеки
- Реалізуйте відповідну обробку помилок при невдалих перевірках content safety
Це забезпечує міцний захист від:
- Атак з впровадженням інструкцій
- Спроб отруєння інструментів
- Викрадення даних через шкідливі вхідні дані
- Генерації шкідливого контенту
- Користувацькі чорні списки: створюйте користувацькі чорні списки спеціально для візерунків впровадження MCP
- Налаштування рівня серйозності: регулюйте пороги серйозності залежно від вашого конкретного випадку використання та рівня ризику
- Всебічне покриття: застосовуйте перевірки content safety до всіх вхідних та вихідних даних
- Оптимізація продуктивності: розглядайте можливість впровадження кешування для повторних перевірок content safety
- Механізми відкату: визначайте чіткі поведінки у випадку недоступності сервісів content safety
- Зворотний зв’язок користувачам: надавайте зрозумілий зворотний зв’язок користувачам, коли контент заблоковано через питання безпеки
- Безперервне вдосконалення: регулярно оновлюйте чорні списки та візерунки на основі нових загроз
- OWASP MCP Azure Security Guide - всебічний посібник OWASP MCP Top 10 з реалізацією на Azure
- MCP06 - Впровадження інструкцій - детальні патерни пом’якшення впровадження інструкцій
- MCP Security Summit Workshop - практичний Camp 3: I/O Security охоплює content safety
- Повернутись до: Security Module Overview
- Продовжити до: Module 3: Getting Started
Відмова від відповідальності:
Цей документ був перекладений за допомогою AI-сервісу перекладу Co-op Translator. Хоча ми прагнемо до точності, просимо враховувати, що автоматичні переклади можуть містити помилки або неточності. Оригінальний документ рідною мовою слід вважати авторитетним джерелом. Для критичної інформації рекомендується скористатися професійним людським перекладом. Ми не несемо відповідальності за будь-які непорозуміння або неправильні тлумачення, що виникли внаслідок використання цього перекладу.