Skip to content

vector-search-auto-embedding-overview.md

Latest commit

 

History

History
205 lines (147 loc) · 10.2 KB

vector-search-auto-embedding-overview.md

File metadata and controls

205 lines (147 loc) · 10.2 KB
title Auto Embedding 概述
summary 了解如何使用 Auto Embedding 通过纯文本而非向量进行语义搜索。
aliases
/zh/tidbcloud/vector-search-auto-embedding-overview/

Auto Embedding 概述

Auto Embedding 功能允许你直接使用纯文本进行向量搜索，无需自行提供向量。通过该功能，你可以直接插入文本数据，并使用文本 query 进行语义搜索，TiDB 会在后台自动将文本转换为向量。

要使用 Auto Embedding，基本流程如下：

  1. 定义一张表，包含一个文本列和一个使用 EMBED_TEXT() 生成的向量列。
  2. 插入文本数据 —— 向量会自动生成并存储。
  3. 使用文本进行查询 —— 使用 VEC_EMBED_COSINE_DISTANCE() 或 VEC_EMBED_L2_DISTANCE() 查找语义相似的内容。

注意：

Auto Embedding 仅在托管于 AWS 的 TiDB Cloud Starter 集群上可用。

快速入门示例

提示：

关于 Python 用法，参见 在 Python 中使用 Auto Embedding。

以下示例展示了如何结合余弦距离使用 Auto Embedding 进行语义搜索。本示例无需 API key。

-- 创建带有 Auto Embedding 的表
-- 向量列的维度必须与嵌入模型的维度一致；
-- 否则，TiDB 在插入数据时会返回错误。
CREATE TABLE documents (
    id INT PRIMARY KEY AUTO_INCREMENT,
    content TEXT,
    content_vector VECTOR(1024) GENERATED ALWAYS AS (
        EMBED_TEXT("tidbcloud_free/amazon/titan-embed-text-v2", content)
    ) STORED
);

-- 插入文本数据（向量会自动生成）
INSERT INTO documents (content) VALUES
    ("Electric vehicles reduce air pollution in cities."),
    ("Solar panels convert sunlight into renewable energy."),
    ("Plant-based diets lower carbon footprints significantly."),
    ("Deep learning algorithms improve medical diagnosis accuracy."),
    ("Blockchain technology enhances data security systems.");

-- 使用文本 query 搜索语义相似内容
SELECT id, content FROM documents
ORDER BY VEC_EMBED_COSINE_DISTANCE(
    content_vector,
    "Renewable energy solutions for environmental protection"
)
LIMIT 3;

输出如下：

+----+--------------------------------------------------------------+
| id | content                                                      |
+----+--------------------------------------------------------------+
|  2 | Solar panels convert sunlight into renewable energy.         |
|  1 | Electric vehicles reduce air pollution in cities.            |
|  4 | Deep learning algorithms improve medical diagnosis accuracy. |
+----+--------------------------------------------------------------+

上述示例使用了 Amazon Titan 模型。关于其他模型，参见 可用文本嵌入模型。

Auto Embedding + 向量索引

Auto Embedding 可与 向量索引 结合使用，以提升查询性能。你可以在生成的向量列上定义向量索引，系统会自动使用该索引：

-- 创建带有 Auto Embedding 和向量索引的表
CREATE TABLE documents (
    id INT PRIMARY KEY AUTO_INCREMENT,
    content TEXT,
    content_vector VECTOR(1024) GENERATED ALWAYS AS (
        EMBED_TEXT("tidbcloud_free/amazon/titan-embed-text-v2", content)
    ) STORED,
    VECTOR INDEX ((VEC_COSINE_DISTANCE(content_vector)))
);

-- 插入文本数据（向量会自动生成）
INSERT INTO documents (content) VALUES
    ("Electric vehicles reduce air pollution in cities."),
    ("Solar panels convert sunlight into renewable energy."),
    ("Plant-based diets lower carbon footprints significantly."),
    ("Deep learning algorithms improve medical diagnosis accuracy."),
    ("Blockchain technology enhances data security systems.");

-- 在向量索引上使用相同的 VEC_EMBED_COSINE_DISTANCE() 函数进行文本 query 的语义相似内容搜索
SELECT id, content FROM documents
ORDER BY VEC_EMBED_COSINE_DISTANCE(
    content_vector,
    "Renewable energy solutions for environmental protection"
)
LIMIT 3;

注意：

  • 定义向量索引时，使用 VEC_COSINE_DISTANCE() 或 VEC_L2_DISTANCE()。
  • 查询时，使用 VEC_EMBED_COSINE_DISTANCE() 或 VEC_EMBED_L2_DISTANCE()。

可用文本嵌入模型 {#available-text-embedding-models}

TiDB Cloud 支持多种嵌入模型。请选择最适合你需求的模型：

嵌入模型 文档 TiDB Cloud 托管 1 BYOK 2
Amazon Titan Amazon Titan Embeddings ✅
Cohere Cohere Embeddings ✅ ✅
Jina AI Jina AI Embeddings ✅
OpenAI OpenAI Embeddings ✅
Gemini Gemini Embeddings ✅

你还可以通过 TiDB Cloud 支持的以下推理服务，使用 open-source 嵌入模型：

嵌入模型 文档 TiDB Cloud 托管 1 BYOK 2 示例支持模型
Hugging Face Inference Hugging Face Embeddings ✅ bge-m3, multilingual-e5-large
NVIDIA NIM NVIDIA NIM Embeddings ✅ bge-m3, nv-embed-v1

​1 托管模型由 TiDB Cloud 托管，无需任何 API key。目前这些托管模型可免费使用，但可能会施加一定的使用限制，以保证所有用户的可用性。

​2 BYOK（Bring Your Own Key）模型需要你从相应嵌入服务提供商处获取并提供 API key。TiDB Cloud 不会对 BYOK 模型的使用收费。你需自行管理和监控使用这些模型所产生的费用。

Auto Embedding 的工作原理

Auto Embedding 使用 EMBED_TEXT() 函数，结合你选择的嵌入模型，将文本转换为向量嵌入。生成的向量存储在 VECTOR 列中，并可通过 VEC_EMBED_COSINE_DISTANCE() 或 VEC_EMBED_L2_DISTANCE() 使用纯文本进行查询。

在内部，VEC_EMBED_COSINE_DISTANCE() 和 VEC_EMBED_L2_DISTANCE() 实际执行的是 VEC_COSINE_DISTANCE() 和 VEC_L2_DISTANCE()，文本 query 会自动转换为向量嵌入。

关键函数

EMBED_TEXT()

将文本转换为向量嵌入：

EMBED_TEXT("model_name", text_content[, additional_json_options])

在 GENERATED ALWAYS AS 子句中使用该函数，可在插入或更新文本数据时自动生成嵌入。

VEC_EMBED_COSINE_DISTANCE()

计算向量列中已存储向量与文本 query 之间的余弦相似度：

VEC_EMBED_COSINE_DISTANCE(vector_column, "query_text")

在 ORDER BY 子句中使用该函数，可按余弦距离对结果排序。其计算方式与 VEC_COSINE_DISTANCE() 相同，但会自动为 query 文本生成嵌入。

VEC_EMBED_L2_DISTANCE()

计算已存储向量与文本 query 之间的 L2（欧氏）距离：

VEC_EMBED_L2_DISTANCE(vector_column, "query_text")

在 ORDER BY 子句中使用该函数，可按 L2 距离对结果排序。其计算方式与 VEC_L2_DISTANCE() 相同，但会自动为 query 文本生成嵌入。

在 Python 中使用 Auto Embedding {#use-auto-embedding-in-python}

TiDB 提供了统一的接口，便于集成多种嵌入服务商和模型：

  • 编程方式：通过 AI SDK 的 EmbeddingFunction 类，为特定服务商或模型创建嵌入函数。
  • SQL 方式：使用 EMBED_TEXT 函数，直接从文本数据生成嵌入。

使用 EmbeddingFunction 类可对接不同的嵌入服务商和模型。

from pytidb.embeddings import EmbeddingFunction

embed_func = EmbeddingFunction(
    model_name="<provider_name>/<model_name>",
)

参数说明：

  • model_name (必填)：指定要使用的嵌入模型，格式为 {provider_name}/{model_name}。

  • dimensions (可选)：输出向量嵌入的维度。如果未指定且模型无默认维度，则初始化时会嵌入一条测试字符串以自动推断实际维度。

  • api_key (可选)：访问嵌入服务的 API key。如果未显式设置，则从服务商的默认环境变量中获取。

  • api_base (可选)：嵌入 API 服务的基础 URL。

  • use_server (可选)：是否使用 TiDB Cloud 托管的嵌入服务。对于 TiDB Cloud Starter，默认为 True。

  • multimodal (可选)：是否使用多模态嵌入模型。启用后，use_server 会自动设为 False，嵌入服务将在客户端侧调用。

另请参阅