Натисніть на зображення вище, щоб переглянути відео цього уроку
Великі мовні моделі (LLM) - це не лише чат-боти та генерація тексту. За допомогою векторних представлень даних, відомих як ембеддинги, можна створювати пошукові додатки. Ембеддинги дозволяють здійснювати семантичний пошук даних.
У цьому уроці ви створите пошуковий додаток для нашого освітнього стартапу. Наш стартап - це неприбуткова організація, яка надає безкоштовну освіту студентам у країнах, що розвиваються. У нас є велика кількість відео на YouTube, які студенти можуть використовувати для навчання про штучний інтелект. Ми хочемо створити пошуковий додаток, який дозволить студентам знаходити відео на YouTube, вводячи запитання.
Наприклад, студент може запитати: "Що таке Jupyter Notebooks?" або "Що таке Azure ML?", і пошуковий додаток поверне список відео на YouTube, які відповідають запитанню. Більше того, додаток надасть посилання на той момент у відео, де знаходиться відповідь на запитання.
У цьому уроці ми розглянемо:
- Семантичний пошук vs пошук за ключовими словами.
- Що таке текстові ембеддинги.
- Створення індексу текстових ембеддингів.
- Пошук в індексі текстових ембеддингів.
Після завершення цього уроку ви зможете:
- Розрізняти семантичний пошук і пошук за ключовими словами.
- Пояснити, що таке текстові ембеддинги.
- Створити додаток, який використовує ембеддинги для пошуку даних.
Створення пошукового додатка допоможе вам зрозуміти, як використовувати ембеддинги для пошуку даних. Ви також навчитеся створювати пошуковий додаток, який студенти зможуть використовувати для швидкого пошуку інформації.
Урок включає індекс ембеддингів транскриптів відео з YouTube-каналу Microsoft AI Show. AI Show - це YouTube-канал, який навчає штучному інтелекту та машинному навчанню. Індекс ембеддингів містить ембеддинги для кожного транскрипту відео на YouTube до жовтня 2023 року. Ви використаєте цей індекс для створення пошукового додатка для нашого стартапу. Пошуковий додаток повертає посилання на той момент у відео, де знаходиться відповідь на запитання. Це чудовий спосіб для студентів швидко знаходити потрібну інформацію.
Ось приклад семантичного запиту для запитання "Чи можна використовувати rstudio з azure ml?". Зверніть увагу на URL-адресу YouTube, вона містить часову мітку, яка веде до моменту у відео, де знаходиться відповідь на запитання.
Можливо, ви запитаєте, що таке семантичний пошук? Семантичний пошук - це техніка пошуку, яка використовує семантику або значення слів у запиті для повернення релевантних результатів.
Ось приклад семантичного пошуку. Припустимо, ви хочете купити автомобіль, і вводите запит "мій автомобіль мрії". Семантичний пошук розуміє, що ви не мрієте про автомобіль, а шукаєте свій ідеальний автомобіль. Семантичний пошук розуміє ваш намір і повертає релевантні результати. Альтернативою є пошук за ключовими словами, який буквально шукає мрії про автомобілі і часто повертає нерелевантні результати.
Текстові ембеддинги - це техніка представлення тексту, яка використовується в обробці природної мови. Текстові ембеддинги - це семантичні числові представлення тексту. Ембеддинги використовуються для представлення даних у формі, яка легко зрозуміла машині. Існує багато моделей для створення текстових ембеддингів, у цьому уроці ми зосередимося на генерації ембеддингів за допомогою моделі OpenAI Embedding.
Ось приклад: уявіть, що наступний текст є частиною транскрипту одного з епізодів на YouTube-каналі AI Show:
Today we are going to learn about Azure Machine Learning.
Ми передаємо текст до OpenAI Embedding API, і він повертає наступний ембеддинг, що складається з 1536 чисел, також відомих як вектор. Кожне число у векторі представляє різний аспект тексту. Для стислості наведено перші 10 чисел у векторі.
[-0.006655829958617687, 0.0026128944009542465, 0.008792596869170666, -0.02446001023054123, -0.008540431968867779, 0.022071078419685364, -0.010703742504119873, 0.003311325330287218, -0.011632772162556648, -0.02187200076878071, ...]Індекс ембеддингів для цього уроку був створений за допомогою серії скриптів на Python. Ви знайдете ці скрипти разом з інструкціями у README у папці 'scripts' цього уроку. Вам не потрібно запускати ці скрипти, щоб завершити урок, оскільки індекс ембеддингів вже надано.
Скрипти виконують наступні операції:
- Завантажується транскрипт для кожного відео на YouTube з плейлиста AI Show.
- Використовуючи OpenAI Functions, здійснюється спроба витягти ім'я спікера з перших 3 хвилин транскрипту відео. Ім'я спікера для кожного відео зберігається в індексі ембеддингів під назвою
embedding_index_3m.json. - Текст транскрипту розбивається на 3-хвилинні текстові сегменти. Сегмент включає приблизно 20 слів, які перекриваються з наступним сегментом, щоб забезпечити, що ембеддинг для сегменту не буде обірваний, і щоб надати кращий контекст для пошуку.
- Кожен текстовий сегмент передається до OpenAI Chat API для створення резюме тексту довжиною 60 слів. Резюме також зберігається в індексі ембеддингів
embedding_index_3m.json. - Нарешті, текст сегменту передається до OpenAI Embedding API. Embedding API повертає вектор з 1536 чисел, які представляють семантичне значення сегменту. Сегмент разом із вектором OpenAI Embedding зберігається в індексі ембеддингів
embedding_index_3m.json.
Для спрощення уроку індекс ембеддингів зберігається у файлі JSON під назвою embedding_index_3m.json і завантажується у Pandas DataFrame. Однак у виробничих умовах індекс ембеддингів буде зберігатися у векторній базі даних, такій як Azure Cognitive Search, Redis, Pinecone, Weaviate тощо.
Ми дізналися про текстові ембеддинги, наступним кроком є навчання використання текстових ембеддингів для пошуку даних, зокрема для знаходження найбільш схожих ембеддингів до заданого запиту за допомогою косинусної схожості.
Косинусна схожість - це міра схожості між двома векторами, яку також називають пошуком найближчих сусідів. Щоб виконати пошук за косинусною схожістю, потрібно векторизувати текст запиту за допомогою OpenAI Embedding API. Потім обчислити косинусну схожість між вектором запиту та кожним вектором в індексі ембеддингів. Пам'ятайте, що індекс ембеддингів має вектор для кожного текстового сегменту транскрипту відео на YouTube. Нарешті, результати сортуються за косинусною схожістю, і текстові сегменти з найвищою косинусною схожістю є найбільш схожими до запиту.
З математичної точки зору, косинусна схожість вимірює косинус кута між двома векторами, проєктованими в багатовимірному просторі. Це вимірювання є корисним, оскільки, якщо два документи знаходяться далеко один від одного за евклідовою відстанню через розмір, вони все одно можуть мати менший кут між ними і, відповідно, більшу косинусну схожість. Для отримання додаткової інформації про рівняння косинусної схожості дивіться Cosine similarity.
Далі ми навчимося створювати пошуковий додаток за допомогою ембеддингів. Пошуковий додаток дозволить студентам шукати відео, вводячи запитання. Додаток поверне список відео, які відповідають запитанню, а також посилання на той момент у відео, де знаходиться відповідь на запитання.
Це рішення було створено та протестовано на Windows 11, macOS та Ubuntu 22.04 з використанням Python 3.10 або новішої версії. Ви можете завантажити Python з python.org.
На початку цього уроку ми представили наш стартап. Тепер настав час допомогти студентам створити пошуковий додаток для їхніх завдань.
У цьому завданні ви створите сервіси Azure OpenAI, які будуть використовуватися для створення пошукового додатка. Ви створите наступні сервіси Azure OpenAI. Для виконання цього завдання вам знадобиться підписка на Azure.
- Увійдіть до порталу Azure.
- Виберіть значок Cloud Shell у верхньому правому куті порталу Azure.
- Виберіть Bash як тип середовища.
Для цих інструкцій ми використовуємо групу ресурсів під назвою "semantic-video-search" у регіоні East US. Ви можете змінити назву групи ресурсів, але при зміні місця розташування ресурсів перевірте таблицю доступності моделей.
az group create --name semantic-video-search --location eastusУ Azure Cloud Shell виконайте наступну команду для створення ресурсу Azure OpenAI Service.
az cognitiveservices account create --name semantic-video-openai --resource-group semantic-video-search \
--location eastus --kind OpenAI --sku s0У Azure Cloud Shell виконайте наступні команди, щоб отримати кінцеву точку та ключі для ресурсу Azure OpenAI Service.
az cognitiveservices account show --name semantic-video-openai \
--resource-group semantic-video-search | jq -r .properties.endpoint
az cognitiveservices account keys list --name semantic-video-openai \
--resource-group semantic-video-search | jq -r .key1У Azure Cloud Shell виконайте наступну команду для розгортання моделі OpenAI Embedding.
az cognitiveservices account deployment create \
--name semantic-video-openai \
--resource-group semantic-video-search \
--deployment-name text-embedding-ada-002 \
--model-name text-embedding-ada-002 \
--model-version "2" \
--model-format OpenAI \
--sku-capacity 100 --sku-name "Standard"Відкрийте ноутбук з рішенням у GitHub Codespaces і дотримуйтесь інструкцій у Jupyter Notebook.
Коли ви запустите ноутбук, вам буде запропоновано ввести запит. Вікно введення виглядатиме так:
Після завершення цього уроку перегляньте нашу колекцію навчальних матеріалів про генеративний штучний інтелект, щоб продовжити вдосконалювати свої знання про генеративний штучний інтелект!
Перейдіть до уроку 9, де ми розглянемо, як створювати додатки для генерації зображень!
Відмова від відповідальності:
Цей документ був перекладений за допомогою сервісу автоматичного перекладу Co-op Translator. Хоча ми прагнемо до точності, будь ласка, майте на увазі, що автоматичні переклади можуть містити помилки або неточності. Оригінальний документ на його рідній мові слід вважати авторитетним джерелом. Для критичної інформації рекомендується професійний людський переклад. Ми не несемо відповідальності за будь-які непорозуміння або неправильні тлумачення, що виникають внаслідок використання цього перекладу.