Azure API Management adalah layanan yang menyediakan Gateway di atas Endpoint API Anda. Cara kerjanya adalah Azure API Management bertindak seperti proxy di depan API Anda dan dapat memutuskan apa yang harus dilakukan dengan permintaan yang masuk.
Dengan menggunakannya, Anda dapat menambahkan berbagai fitur seperti:
- Keamanan, Anda dapat menggunakan segala sesuatu mulai dari kunci API, JWT hingga identitas terkelola.
- Pembatasan tingkat, fitur hebat yang memungkinkan Anda memutuskan berapa banyak panggilan yang dapat diterima dalam satuan waktu tertentu. Ini membantu memastikan semua pengguna mendapatkan pengalaman yang baik dan juga layanan Anda tidak kewalahan dengan permintaan.
- Skalabilitas & Load balancing. Anda dapat mengatur sejumlah endpoint untuk menyeimbangkan beban dan juga memutuskan bagaimana "load balancing" dilakukan.
- Fitur AI seperti caching semantik, batas token, pemantauan token, dan lainnya. Fitur-fitur ini sangat baik untuk meningkatkan responsivitas serta membantu Anda memantau penggunaan token. Baca lebih lanjut di sini.
Model Context Protocol (MCP) dengan cepat menjadi standar untuk aplikasi AI agentik dan cara mengekspos alat serta data secara konsisten. Azure API Management adalah pilihan alami ketika Anda perlu "mengelola" API. Server MCP sering kali terintegrasi dengan API lain untuk menyelesaikan permintaan ke alat tertentu. Oleh karena itu, menggabungkan Azure API Management dan MCP sangat masuk akal.
Dalam kasus penggunaan ini, kita akan belajar mengekspos endpoint API sebagai Server MCP. Dengan melakukan ini, kita dapat dengan mudah menjadikan endpoint ini bagian dari aplikasi agentik sambil memanfaatkan fitur-fitur dari Azure API Management.
- Anda dapat memilih metode endpoint yang ingin diekspos sebagai alat.
- Fitur tambahan yang Anda dapatkan bergantung pada apa yang Anda konfigurasikan di bagian kebijakan untuk API Anda. Namun, di sini kami akan menunjukkan cara menambahkan pembatasan tingkat.
Jika Anda sudah memiliki API di Azure API Management, Anda dapat melewati langkah ini. Jika belum, lihat tautan ini, mengimpor API ke Azure API Management.
Untuk mengekspos endpoint API, ikuti langkah-langkah berikut:
-
Buka Azure Portal di alamat berikut https://portal.azure.com/?Microsoft_Azure_ApiManagement=mcp. Arahkan ke instance API Management Anda.
-
Di menu sebelah kiri, pilih APIs > MCP Servers > + Create new MCP Server.
-
Pada API, pilih REST API yang akan diekspos sebagai server MCP.
-
Pilih satu atau lebih Operasi API untuk diekspos sebagai alat. Anda dapat memilih semua operasi atau hanya operasi tertentu.
-
Pilih Create.
-
Arahkan ke opsi menu APIs dan MCP Servers, Anda akan melihat tampilan berikut:
Server MCP telah dibuat dan operasi API telah diekspos sebagai alat. Server MCP terdaftar di panel MCP Servers. Kolom URL menunjukkan endpoint server MCP yang dapat Anda panggil untuk pengujian atau dalam aplikasi klien.
Azure API Management memiliki konsep inti kebijakan di mana Anda dapat mengatur berbagai aturan untuk endpoint Anda, seperti pembatasan tingkat atau caching semantik. Kebijakan ini ditulis dalam format XML.
Berikut cara mengatur kebijakan untuk membatasi tingkat panggilan ke Server MCP Anda:
-
Di portal, di bawah APIs, pilih MCP Servers.
-
Pilih server MCP yang telah Anda buat.
-
Di menu sebelah kiri, di bawah MCP, pilih Policies.
-
Di editor kebijakan, tambahkan atau edit kebijakan yang ingin Anda terapkan pada alat server MCP. Kebijakan didefinisikan dalam format XML. Sebagai contoh, Anda dapat menambahkan kebijakan untuk membatasi panggilan ke alat server MCP (dalam contoh ini, 5 panggilan per 30 detik per alamat IP klien). Berikut XML yang akan menyebabkan pembatasan tingkat:
<rate-limit-by-key calls="5" renewal-period="30" counter-key="@(context.Request.IpAddress)" remaining-calls-variable-name="remainingCallsPerIP" />
Berikut adalah gambar editor kebijakan:
Mari kita pastikan Server MCP kita berfungsi sebagaimana mestinya.
Untuk ini, kita akan menggunakan Visual Studio Code dan GitHub Copilot dalam mode Agen. Kita akan menambahkan server MCP ke file mcp.json. Dengan melakukan ini, Visual Studio Code akan bertindak sebagai klien dengan kemampuan agentik, dan pengguna akhir dapat mengetikkan prompt dan berinteraksi dengan server tersebut.
Berikut cara menambahkan server MCP di Visual Studio Code:
-
Gunakan perintah MCP: Add Server dari Command Palette.
-
Saat diminta, pilih jenis server: HTTP (HTTP atau Server Sent Events).
-
Masukkan URL server MCP di API Management. Contoh: https://.azure-api.net/-mcp/sse (untuk endpoint SSE) atau https://.azure-api.net/-mcp/mcp (untuk endpoint MCP), perhatikan perbedaan transportasi adalah
/sseatau/mcp. -
Masukkan ID server pilihan Anda. Nilai ini tidak terlalu penting tetapi akan membantu Anda mengingat instance server ini.
-
Pilih apakah akan menyimpan konfigurasi ke pengaturan workspace atau pengaturan pengguna.
-
Pengaturan workspace - Konfigurasi server disimpan ke file .vscode/mcp.json yang hanya tersedia di workspace saat ini.
mcp.json
"servers": { "APIM petstore" : { "type": "sse", "url": "url-to-mcp-server/sse" } }
atau jika Anda memilih HTTP streaming sebagai transportasi, akan sedikit berbeda:
"servers": { "APIM petstore" : { "type": "http", "url": "url-to-mcp-server/mcp" } }
-
Pengaturan pengguna - Konfigurasi server ditambahkan ke file settings.json global Anda dan tersedia di semua workspace. Konfigurasinya terlihat seperti berikut:
-
Anda juga perlu menambahkan konfigurasi header untuk memastikan autentikasi ke Azure API Management. Header ini disebut Ocp-Apim-Subscription-Key.
- Berikut cara menambahkannya ke pengaturan:
, ini akan memunculkan prompt untuk meminta nilai kunci API yang dapat Anda temukan di Azure Portal untuk instance Azure API Management Anda.
- Untuk menambahkannya ke mcp.json, Anda dapat menambahkannya seperti ini:
"inputs": [ { "type": "promptString", "id": "apim_key", "description": "API Key for Azure API Management", "password": true } ] "servers": { "APIM petstore" : { "type": "http", "url": "url-to-mcp-server/mcp", "headers": { "Ocp-Apim-Subscription-Key": "Bearer ${input:apim_key}" } } }
Sekarang kita sudah siap di pengaturan atau di .vscode/mcp.json. Mari kita coba.
Harus ada ikon Tools seperti ini, di mana alat yang diekspos dari server Anda terdaftar:
-
Klik ikon alat dan Anda akan melihat daftar alat seperti ini:
-
Masukkan prompt di chat untuk memanggil alat. Sebagai contoh, jika Anda memilih alat untuk mendapatkan informasi tentang pesanan, Anda dapat meminta agen tentang pesanan. Berikut contoh prompt:
get information from order 2Anda sekarang akan melihat ikon alat yang meminta Anda untuk melanjutkan memanggil alat. Pilih untuk melanjutkan menjalankan alat, Anda sekarang akan melihat output seperti ini:
Apa yang Anda lihat di atas tergantung pada alat yang telah Anda atur, tetapi idenya adalah Anda mendapatkan respons tekstual seperti di atas.
Berikut cara Anda dapat mempelajari lebih lanjut:
-
Contoh Python: Mengamankan server MCP jarak jauh menggunakan Azure API Management (eksperimental)
-
Menggunakan ekstensi Azure API Management untuk VS Code untuk mengimpor dan mengelola API
-
Mendaftarkan dan menemukan server MCP jarak jauh di Azure API Center
-
AI Gateway Repositori hebat yang menunjukkan banyak kemampuan AI dengan Azure API Management
-
Workshop AI Gateway Berisi workshop menggunakan Azure Portal, yang merupakan cara hebat untuk mulai mengevaluasi kemampuan AI.
Penafian:
Dokumen ini telah diterjemahkan menggunakan layanan penerjemahan AI Co-op Translator. Meskipun kami berupaya untuk memberikan hasil yang akurat, harap diperhatikan bahwa terjemahan otomatis mungkin mengandung kesalahan atau ketidakakuratan. Dokumen asli dalam bahasa aslinya harus dianggap sebagai sumber yang berwenang. Untuk informasi yang bersifat kritis, disarankan menggunakan jasa penerjemahan manusia profesional. Kami tidak bertanggung jawab atas kesalahpahaman atau penafsiran yang keliru yang timbul dari penggunaan terjemahan ini.