秒级实现千万数据量模糊搜索
对于千万级数据量的模糊搜索，如何在一秒内高效查询一直是一个难题，尤其是无法使用索引的情况下。本文将介绍一个针对此类场景的解决方案，通过构建索引表，实现快速模糊搜索。
索引表方案
我们创建一个索引表，其中包含以下三列：
- 当前词：模糊搜索关键字中的当前词
- 下一词：关键字中当前词的下一个词
- 原记录主键id：对应原始数据表中匹配关键字的记录id
构建索引表
对于每条原始数据记录，我们将根据模糊搜索关键字将该记录id插入到索引表中，形成索引链路：
mysql 一 千 万 …… 模糊 搜索
模糊搜索查询
为了查找关键字“模糊搜索”，我们将执行以下多表连接查询：
SELECT 原记录主键ID FROM (SELECT 原记录主键ID FROM 索引表 WHERE 当前词 = '模糊' AND 下一词 = '搜索') JOIN (SELECT 原记录主键ID FROM 索引表 WHERE 当前词 = '搜索' AND 下一词 IS NULL) USING(原记录主键ID)
此查询将按顺序查询索引表，通过连接不同关键字的索引链路，快速定位匹配记录。
性能分析
该索引表的构建过程会消耗一些时间，但一旦构建完成，模糊搜索查询将非常高效。在对 300 万条记录进行测试时，查询时间始终小于 500 毫秒，即使在更大的数据集上也能保持快速响应。
注意事项
- 该方案在构建索引时需要额外的存储空间，存储索引表的索引链路。
- 随着数据的更新，索引表需要进行实时维护，以保持链路准确。
- 该方案不适用于频繁变更关键字或记录的情况。
