Този проект демонстрира уеб приложение, което използва проверка за безопасност на съдържанието преди да предаде потребителски заявки към калкулаторна услуга чрез Model Context Protocol (MCP).
- Потребителски вход: Потребителят въвежда заявка за изчисление в уеб интерфейса.
- Проверка за безопасност на съдържанието (вход): Заявката се анализира от Azure Content Safety API.
- Решение за безопасност (вход):
- Ако съдържанието е безопасно (тежест < 2 във всички категории), то продължава към калкулатора.
- Ако съдържанието е отбелязано като потенциално вредно, процесът спира и се връща предупреждение.
- Интеграция с калкулатор: Безопасното съдържание се обработва от LangChain4j, който комуникира с MCP сървъра на калкулатора.
- Проверка за безопасност на съдържанието (изход): Отговорът на бота се анализира от Azure Content Safety API.
- Решение за безопасност (изход):
- Ако отговорът на бота е безопасен, той се показва на потребителя.
- Ако отговорът на бота е отбелязан като потенциално вреден, той се заменя с предупреждение.
- Отговор: Резултатите (ако са безопасни) се показват на потребителя заедно с двата анализа за безопасност.
Този проект демонстрира как да се използва Model Context Protocol (MCP) за извикване на калкулаторни MCP услуги от LangChain4j. Имплементацията използва локален MCP сървър, работещ на порт 8080, за предоставяне на калкулаторни операции.
Преди да използвате функциите за безопасност на съдържанието, трябва да създадете ресурс за Azure Content Safety:
- Влезте в Azure Portal
- Кликнете "Create a resource" и потърсете "Content Safety"
- Изберете "Content Safety" и кликнете "Create"
- Въведете уникално име за вашия ресурс
- Изберете вашия абонамент и група ресурси (или създайте нова)
- Изберете поддържан регион (проверете Наличност на региони за детайли)
- Изберете подходяща ценова категория
- Кликнете "Create" за да разположите ресурса
- След като разполагането е завършено, кликнете "Go to resource"
- В лявото меню, под "Resource Management", изберете "Keys and Endpoint"
- Копирайте някой от ключовете и URL на крайна точка за използване в следващата стъпка
Задайте променливата на средата GITHUB_TOKEN за удостоверяване на моделите в GitHub:
export GITHUB_TOKEN=<your_github_token>За функциите за безопасност на съдържанието, задайте:
export CONTENT_SAFETY_ENDPOINT=<your_content_safety_endpoint>
export CONTENT_SAFETY_KEY=<your_content_safety_key>Тези променливи на средата се използват от приложението за удостоверяване с Azure Content Safety услугата. Ако тези променливи не са зададени, приложението ще използва стойности на заместители за демонстрационни цели, но функциите за безопасност на съдържанието няма да работят правилно.
Преди да стартирате клиента, трябва да стартирате MCP сървъра на калкулатора в SSE режим на localhost:8080.
Този проект демонстрира интеграцията на Model Context Protocol (MCP) с LangChain4j за извикване на калкулаторни услуги. Основните функции включват:
- Използване на MCP за свързване с калкулаторна услуга за основни математически операции
- Двуслойна проверка за безопасност на съдържанието както на потребителските заявки, така и на отговорите на бота
- Интеграция с модела gpt-4.1-nano на GitHub чрез LangChain4j
- Използване на Server-Sent Events (SSE) за MCP транспорт
Проектът включва изчерпателни функции за безопасност на съдържанието, за да гарантира, че както потребителските входове, така и отговорите на системата са свободни от вредно съдържание:
-
Проверка на входа: Всички потребителски заявки се анализират за категории вредно съдържание като реч на омразата, насилие, самонараняване и сексуално съдържание преди обработка.
-
Проверка на изхода: Дори при използване на потенциално нецензурирани модели, системата проверява всички генерирани отговори чрез същите филтри за безопасност на съдържанието преди да ги покаже на потребителя.
Този двуслоен подход гарантира, че системата остава безопасна независимо кой AI модел се използва, защитавайки потребителите както от вредни входове, така и от потенциално проблемни AI-генерирани изходи.
Приложението включва удобен за потребителя уеб интерфейс, който позволява на потребителите да взаимодействат със системата за безопасност на съдържанието на калкулатора:
- Прост, интуитивен формуляр за въвеждане на заявки за изчисление
- Двуслойна валидация на безопасността на съдържанието (вход и изход)
- Обратна връзка в реално време за безопасността на заявките и отговорите
- Цветово кодирани индикатори за безопасност за лесно тълкуване
- Чист, отзивчив дизайн, който работи на различни устройства
- Примери за безопасни заявки, които да насочват потребителите
-
Стартирайте приложението:
mvn spring-boot:run
-
Отворете браузъра си и отидете на
http://localhost:8087 -
Въведете заявка за изчисление в предоставената текстова област (напр. "Изчисли сумата на 24.5 и 17.3")
-
Кликнете "Submit", за да обработите заявката си
-
Вижте резултатите, които ще включват:
- Анализ на безопасността на съдържанието на вашата заявка
- Изчисленият резултат (ако заявката беше безопасна)
- Анализ на безопасността на съдържанието на отговора на бота
- Всички предупреждения за безопасност, ако входът или изходът са били отбелязани
Уеб клиентът автоматично обработва и двата процеса за проверка на безопасността на съдържанието, гарантирайки, че всички взаимодействия са безопасни и подходящи, независимо кой AI модел се използва.
Отказ от отговорност: Този документ е преведен с помощта на AI услуга за превод Co-op Translator. Въпреки че се стремим към точност, моля, имайте предвид, че автоматичните преводи може да съдържат грешки или неточности. Оригиналният документ на неговия роден език трябва да се счита за авторитетен източник. За критична информация се препоръчва професионален човешки превод. Не носим отговорност за каквито и да било недоразумения или погрешни тълкувания, произтичащи от използването на този превод.