Klik imej di atas untuk menonton video pelajaran ini
LLM bukan hanya untuk chatbot dan penjanaan teks. Ia juga boleh digunakan untuk membina aplikasi carian menggunakan Embeddings. Embeddings adalah representasi data secara numerik yang juga dikenali sebagai vektor, dan boleh digunakan untuk carian semantik bagi data.
Dalam pelajaran ini, anda akan membina aplikasi carian untuk startup pendidikan kami. Startup kami adalah organisasi bukan keuntungan yang menyediakan pendidikan percuma kepada pelajar di negara membangun. Startup kami mempunyai sejumlah besar video YouTube yang boleh digunakan oleh pelajar untuk belajar tentang AI. Startup kami ingin membina aplikasi carian yang membolehkan pelajar mencari video YouTube dengan menaip soalan.
Sebagai contoh, seorang pelajar mungkin menaip 'Apa itu Jupyter Notebooks?' atau 'Apa itu Azure ML' dan aplikasi carian akan mengembalikan senarai video YouTube yang relevan dengan soalan tersebut, dan lebih baik lagi, aplikasi carian akan mengembalikan pautan ke tempat dalam video di mana jawapan kepada soalan tersebut berada.
Dalam pelajaran ini, kita akan membincangkan:
- Carian Semantik vs Carian Kata Kunci.
- Apa itu Text Embeddings.
- Membina Indeks Text Embeddings.
- Mencari dalam Indeks Text Embeddings.
Selepas menyelesaikan pelajaran ini, anda akan dapat:
- Membezakan antara carian semantik dan carian kata kunci.
- Menerangkan apa itu Text Embeddings.
- Membina aplikasi menggunakan Embeddings untuk mencari data.
Membina aplikasi carian akan membantu anda memahami cara menggunakan Embeddings untuk mencari data. Anda juga akan belajar cara membina aplikasi carian yang boleh digunakan oleh pelajar untuk mencari maklumat dengan cepat.
Pelajaran ini termasuk Indeks Embedding daripada transkrip YouTube untuk saluran YouTube Microsoft AI Show. AI Show adalah saluran YouTube yang mengajar anda tentang AI dan pembelajaran mesin. Indeks Embedding mengandungi Embeddings untuk setiap transkrip YouTube sehingga Oktober 2023. Anda akan menggunakan Indeks Embedding untuk membina aplikasi carian untuk startup kami. Aplikasi carian mengembalikan pautan ke tempat dalam video di mana jawapan kepada soalan tersebut berada. Ini adalah cara yang hebat untuk pelajar mencari maklumat yang mereka perlukan dengan cepat.
Berikut adalah contoh pertanyaan semantik untuk soalan 'bolehkah anda menggunakan rstudio dengan azure ml?'. Lihat url YouTube, anda akan melihat url tersebut mengandungi cap masa yang membawa anda ke tempat dalam video di mana jawapan kepada soalan tersebut berada.
Anda mungkin tertanya-tanya, apa itu carian semantik? Carian semantik adalah teknik carian yang menggunakan semantik, atau makna, perkataan dalam pertanyaan untuk mengembalikan hasil yang relevan.
Berikut adalah contoh carian semantik. Katakan anda ingin membeli kereta, anda mungkin mencari 'kereta impian saya', carian semantik memahami bahawa anda bukan bermimpi tentang kereta, tetapi anda sedang mencari kereta ideal anda. Carian semantik memahami niat anda dan mengembalikan hasil yang relevan. Alternatifnya adalah carian kata kunci yang secara literal akan mencari mimpi tentang kereta dan sering mengembalikan hasil yang tidak relevan.
Text embeddings adalah teknik representasi teks yang digunakan dalam pemprosesan bahasa semula jadi. Text embeddings adalah representasi numerik semantik teks. Embeddings digunakan untuk mewakili data dengan cara yang mudah difahami oleh mesin. Terdapat banyak model untuk membina text embeddings, dalam pelajaran ini, kita akan fokus pada penjanaan embeddings menggunakan Model Embedding OpenAI.
Berikut adalah contoh, bayangkan teks berikut adalah dalam transkrip daripada salah satu episod di saluran YouTube AI Show:
Today we are going to learn about Azure Machine Learning.
Kami akan menghantar teks tersebut ke API Embedding OpenAI dan ia akan mengembalikan embedding berikut yang terdiri daripada 1536 nombor aka vektor. Setiap nombor dalam vektor mewakili aspek yang berbeza daripada teks tersebut. Untuk ringkasan, berikut adalah 10 nombor pertama dalam vektor tersebut.
[-0.006655829958617687, 0.0026128944009542465, 0.008792596869170666, -0.02446001023054123, -0.008540431968867779, 0.022071078419685364, -0.010703742504119873, 0.003311325330287218, -0.011632772162556648, -0.02187200076878071, ...]Indeks Embedding untuk pelajaran ini dicipta dengan beberapa skrip Python. Anda akan menemui skrip tersebut bersama arahan dalam README dalam folder 'scripts' untuk pelajaran ini. Anda tidak perlu menjalankan skrip ini untuk menyelesaikan pelajaran ini kerana Indeks Embedding telah disediakan untuk anda.
Skrip tersebut melakukan operasi berikut:
- Transkrip untuk setiap video YouTube dalam senarai main AI Show dimuat turun.
- Menggunakan Fungsi OpenAI, percubaan dilakukan untuk mengekstrak nama penceramah daripada 3 minit pertama transkrip YouTube. Nama penceramah untuk setiap video disimpan dalam Indeks Embedding bernama
embedding_index_3m.json. - Teks transkrip kemudian dipecahkan kepada segmen teks 3 minit. Segmen tersebut termasuk kira-kira 20 perkataan yang bertindih daripada segmen seterusnya untuk memastikan Embedding bagi segmen tersebut tidak terputus dan memberikan konteks carian yang lebih baik.
- Setiap segmen teks kemudian dihantar ke API Chat OpenAI untuk meringkaskan teks kepada 60 perkataan. Ringkasan tersebut juga disimpan dalam Indeks Embedding
embedding_index_3m.json. - Akhirnya, teks segmen dihantar ke API Embedding OpenAI. API Embedding mengembalikan vektor 1536 nombor yang mewakili makna semantik segmen tersebut. Segmen tersebut bersama vektor Embedding OpenAI disimpan dalam Indeks Embedding
embedding_index_3m.json.
Untuk kesederhanaan pelajaran, Indeks Embedding disimpan dalam fail JSON bernama embedding_index_3m.json dan dimuatkan ke dalam Pandas DataFrame. Walau bagaimanapun, dalam pengeluaran, Indeks Embedding akan disimpan dalam pangkalan data vektor seperti Azure Cognitive Search, Redis, Pinecone, Weaviate, dan lain-lain.
Kita telah belajar tentang text embeddings, langkah seterusnya adalah belajar cara menggunakan text embeddings untuk mencari data dan khususnya mencari embeddings yang paling serupa dengan pertanyaan menggunakan kesamaan kosinus.
Kesamaan kosinus adalah ukuran kesamaan antara dua vektor, anda juga akan mendengar ini dirujuk sebagai carian jiran terdekat. Untuk melakukan carian kesamaan kosinus, anda perlu memvektor teks pertanyaan menggunakan API Embedding OpenAI. Kemudian hitung kesamaan kosinus antara vektor pertanyaan dan setiap vektor dalam Indeks Embedding. Ingat, Indeks Embedding mempunyai vektor untuk setiap segmen teks transkrip YouTube. Akhirnya, susun hasil mengikut kesamaan kosinus dan segmen teks dengan kesamaan kosinus tertinggi adalah yang paling serupa dengan pertanyaan.
Dari perspektif matematik, kesamaan kosinus mengukur kosinus sudut antara dua vektor yang diproyeksikan dalam ruang multidimensi. Ukuran ini bermanfaat, kerana jika dua dokumen berjauhan dengan jarak Euclidean kerana saiz, mereka masih boleh mempunyai sudut yang lebih kecil di antara mereka dan oleh itu kesamaan kosinus yang lebih tinggi. Untuk maklumat lanjut tentang persamaan kesamaan kosinus, lihat Cosine similarity.
Seterusnya, kita akan belajar cara membina aplikasi carian menggunakan Embeddings. Aplikasi carian akan membolehkan pelajar mencari video dengan menaip soalan. Aplikasi carian akan mengembalikan senarai video yang relevan dengan soalan tersebut. Aplikasi carian juga akan mengembalikan pautan ke tempat dalam video di mana jawapan kepada soalan tersebut berada.
Penyelesaian ini dibina dan diuji pada Windows 11, macOS, dan Ubuntu 22.04 menggunakan Python 3.10 atau lebih baru. Anda boleh memuat turun Python dari python.org.
Kami memperkenalkan startup kami pada permulaan pelajaran ini. Kini tiba masanya untuk membolehkan pelajar membina aplikasi carian untuk penilaian mereka.
Dalam tugasan ini, anda akan mencipta Perkhidmatan Azure OpenAI yang akan digunakan untuk membina aplikasi carian. Anda akan mencipta Perkhidmatan Azure OpenAI berikut. Anda memerlukan langganan Azure untuk menyelesaikan tugasan ini.
- Log masuk ke portal Azure.
- Pilih ikon Cloud Shell di sudut kanan atas portal Azure.
- Pilih Bash untuk jenis persekitaran.
Untuk arahan ini, kami menggunakan kumpulan sumber bernama "semantic-video-search" di East US. Anda boleh menukar nama kumpulan sumber, tetapi apabila menukar lokasi untuk sumber, semak jadual ketersediaan model.
az group create --name semantic-video-search --location eastusDaripada Azure Cloud Shell, jalankan arahan berikut untuk mencipta sumber Perkhidmatan Azure OpenAI.
az cognitiveservices account create --name semantic-video-openai --resource-group semantic-video-search \
--location eastus --kind OpenAI --sku s0Daripada Azure Cloud Shell, jalankan arahan berikut untuk mendapatkan titik akhir dan kunci untuk sumber Perkhidmatan Azure OpenAI.
az cognitiveservices account show --name semantic-video-openai \
--resource-group semantic-video-search | jq -r .properties.endpoint
az cognitiveservices account keys list --name semantic-video-openai \
--resource-group semantic-video-search | jq -r .key1Daripada Azure Cloud Shell, jalankan arahan berikut untuk menyebarkan model Embedding OpenAI.
az cognitiveservices account deployment create \
--name semantic-video-openai \
--resource-group semantic-video-search \
--deployment-name text-embedding-ada-002 \
--model-name text-embedding-ada-002 \
--model-version "2" \
--model-format OpenAI \
--sku-capacity 100 --sku-name "Standard"Buka notebook penyelesaian dalam GitHub Codespaces dan ikuti arahan dalam Jupyter Notebook.
Apabila anda menjalankan notebook, anda akan diminta untuk memasukkan pertanyaan. Kotak input akan kelihatan seperti ini:
Selepas menyelesaikan pelajaran ini, lihat koleksi Pembelajaran AI Generatif kami untuk terus meningkatkan pengetahuan AI Generatif anda!
Pergi ke Pelajaran 9 di mana kita akan melihat cara membina aplikasi penjanaan imej!
Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila ambil perhatian bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang berwibawa. Untuk maklumat penting, terjemahan manusia profesional adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.