Този проект демонстрира уеб приложение, което използва проверка на безопасността на съдържанието преди да предаде потребителските заявки към калкулаторна услуга чрез Model Context Protocol (MCP).
- Потребителски вход: Потребителят въвежда заявка за изчисление в уеб интерфейса
- Проверка на безопасността на съдържанието (вход): Заявката се анализира от Azure Content Safety API
- Решение за безопасност (вход):
- Ако съдържанието е безопасно (тежест < 2 във всички категории), заявката се изпраща към калкулатора
- Ако съдържанието е маркирано като потенциално вредно, процесът спира и се връща предупреждение
- Интеграция с калкулатора: Безопасното съдържание се обработва от LangChain4j, който комуникира със сървъра на калкулатора чрез MCP
- Проверка на безопасността на съдържанието (изход): Отговорът на бота се анализира от Azure Content Safety API
- Решение за безопасност (изход):
- Ако отговорът на бота е безопасен, той се показва на потребителя
- Ако отговорът е маркиран като потенциално вреден, се заменя с предупреждение
- Отговор: Резултатите (ако са безопасни) се показват на потребителя заедно с двата анализа за безопасност
Този проект показва как да се използва Model Context Protocol (MCP) за извикване на калкулаторни MCP услуги от LangChain4j. Имплементацията използва локален MCP сървър, работещ на порт 8080, за предоставяне на калкулаторни операции.
Преди да използвате функциите за безопасност на съдържанието, трябва да създадете ресурс за Azure Content Safety:
- Влезте в Azure Portal
- Кликнете на "Create a resource" и потърсете "Content Safety"
- Изберете "Content Safety" и кликнете "Create"
- Въведете уникално име за вашия ресурс
- Изберете вашия абонамент и група ресурси (или създайте нова)
- Изберете поддържан регион (проверете Region availability за подробности)
- Изберете подходящ ценови план
- Кликнете "Create", за да разположите ресурса
- След като разполагането приключи, кликнете "Go to resource"
- В лявото меню, под "Resource Management", изберете "Keys and Endpoint"
- Копирайте някой от ключовете и URL адреса на крайна точка за използване в следващата стъпка
Задайте променливата на средата GITHUB_TOKEN за удостоверяване на GitHub моделите:
export GITHUB_TOKEN=<your_github_token>За функциите за безопасност на съдържанието задайте:
export CONTENT_SAFETY_ENDPOINT=<your_content_safety_endpoint>
export CONTENT_SAFETY_KEY=<your_content_safety_key>Тези променливи на средата се използват от приложението за удостоверяване към Azure Content Safety услугата. Ако тези променливи не са зададени, приложението ще използва заместители за демонстрационни цели, но функциите за безопасност няма да работят правилно.
Преди да стартирате клиента, трябва да стартирате MCP сървъра за калкулатора в SSE режим на localhost:8080.
Този проект демонстрира интеграцията на Model Context Protocol (MCP) с LangChain4j за извикване на калкулаторни услуги. Основните характеристики включват:
- Използване на MCP за свързване с калкулаторна услуга за основни математически операции
- Двойна проверка на безопасността на съдържанието както на потребителските заявки, така и на отговорите на бота
- Интеграция с GitHub модела gpt-4.1-nano чрез LangChain4j
- Използване на Server-Sent Events (SSE) за MCP транспорта
Проектът включва изчерпателни функции за безопасност на съдържанието, за да гарантира, че както потребителските входове, така и системните отговори са без вредно съдържание:
-
Проверка на входа: Всички потребителски заявки се анализират за вредни категории като реч на омразата, насилие, самонараняване и сексуално съдържание преди обработка.
-
Проверка на изхода: Дори при използване на потенциално нецензурирани модели, системата проверява всички генерирани отговори чрез същите филтри за безопасност преди да ги покаже на потребителя.
Този двуслоен подход гарантира, че системата остава безопасна независимо кой AI модел се използва, като защитава потребителите както от вредни входове, така и от потенциално проблемни AI-генерирани изходи.
Приложението включва удобен уеб интерфейс, който позволява на потребителите да взаимодействат със системата Content Safety Calculator:
- Прост и интуитивен формуляр за въвеждане на заявки за изчисления
- Двойна проверка на безопасността на съдържанието (вход и изход)
- Обратна връзка в реално време за безопасността на заявката и отговора
- Цветово кодирани индикатори за безопасност за лесно разбиране
- Чист и адаптивен дизайн, който работи на различни устройства
- Примери за безопасни заявки, които да насочват потребителите
-
Стартирайте приложението:
mvn spring-boot:run
-
Отворете браузъра и отидете на
http://localhost:8087 -
Въведете заявка за изчисление в предоставеното текстово поле (например "Calculate the sum of 24.5 and 17.3")
-
Натиснете "Submit", за да обработите заявката
-
Вижте резултатите, които ще включват:
- Анализ на безопасността на вашата заявка
- Изчисления резултат (ако заявката е била безопасна)
- Анализ на безопасността на отговора на бота
- Всякакви предупреждения за безопасност, ако входът или изходът са били маркирани
Уеб клиентът автоматично обработва и двата процеса за проверка на безопасността на съдържанието, като гарантира, че всички взаимодействия са безопасни и подходящи, независимо кой AI модел се използва.
Отказ от отговорност:
Този документ е преведен с помощта на AI преводаческа услуга Co-op Translator. Въпреки че се стремим към точност, моля, имайте предвид, че автоматизираните преводи могат да съдържат грешки или неточности. Оригиналният документ на неговия роден език трябва да се счита за авторитетен източник. За критична информация се препоръчва професионален човешки превод. Ние не носим отговорност за каквито и да е недоразумения или неправилни тълкувания, произтичащи от използването на този превод.