0

0

C++如何进行字符串的MinHash生成?(集合相似度估算)

穿越時空

穿越時空

发布时间:2026-02-26 11:30:11

|

162人浏览过

|

来源于php中文网

原创

minhash本质是集合操作,需先将字符串转为n-gram或词项集合再哈希;直接哈希原始字符串会导致jaccard相似度失效。预处理须小写化、去标点、切分、去重;多轮哈希需不同seed;签名比较用等值比率,非l2或余弦;std::string_view需谨慎避免悬垂指针。

c++如何进行字符串的minhash生成?(集合相似度估算)

MinHash 本质是集合操作,不是字符串直接哈希

MinHash 不是对 std::string 做一次哈希就完事——它先要把字符串转成「可比较的元素集合」,比如 n-gram 集合或词项集合。跳过这步直接哈希原始字符串,结果和 Jaccard 相似度完全无关。

常见错误现象:minhash("hello") == minhash("helol") 返回 true(实际应明显不同),因为没拆解、没去重、没归一化。

  • 典型使用场景:文档去重、代码相似性检测、日志聚类——输入都是文本,但必须先分词/切片
  • 推荐预处理链:std::string → 小写化 → 去标点 → 按空格或滑动窗口切分 → 过滤停用词(可选)→ 插入 std::unordered_set<:string></:string>
  • n-gram 示例(k=2):"abcc"{"ab", "bc", "cc"}(注意不是所有实现都自动去重,std::setstd::vector 更安全)

用 std::hash + std::min_element 实现单轮 MinHash

标准库没提供 MinHash 类,但可以用 std::hash<t></t> 对集合中每个元素哈希,再取最小值——这就是 1-bit MinHash 的核心。别手写哈希函数,std::hash 足够快且分布合理。

性能影响:对含 10k 个 token 的文档,100 轮 MinHash(即 100 个 hash 函数)需调 100×10k 次 std::hash,实测在现代 CPU 上不到 1ms;瓶颈永远在预处理,不在哈希本身。

立即学习C++免费学习笔记(深入)”;

Descript
Descript

一个多功能的音频和视频编辑引擎

下载
  • 关键点:每次 MinHash 轮次必须用不同哈希“种子”,否则所有轮次结果一样。用 std::hash<:string>{}(s + std::to_string(seed))</:string> 是简单可靠的做法
  • 别用 rand()std::random_device 生成种子——它们不保证跨平台一致性,线上复现困难
  • 示例片段:
    std::vector<uint64_t> minhash(const std::unordered_set<std::string>& tokens, int num_hashes) {
        std::vector<uint64_t> sig(num_hashes, UINT64_MAX);
        for (const auto& s : tokens) {
            for (int i = 0; i < num_hashes; ++i) {
                uint64_t h = std::hash<std::string>{}(s + std::to_string(i));
                sig[i] = std::min(sig[i], h);
            }
        }
        return sig;
    }

多轮 MinHash 后如何估算 Jaccard 相似度

两个签名向量的相似度,就是对应位置相等的比率——这不是近似,而是无偏估计。但必须注意:只有当两组 MinHash 使用完全相同的哈希函数序列(相同 seed 序列、相同哈希算法)时,这个比率才有效。

容易踩的坑:std::hash 在不同编译器/标准库版本下可能不同(尤其 MSVC vs GCC),导致签名不可比。生产环境务必用确定性哈希,如 xxhashfarmhash 的 C++ 绑定。

  • 计算公式就是:double similarity = count_equal(sig1, sig2) / sig1.size();
  • 若用 128 轮 MinHash,相似度误差约 ±0.09(95% 置信区间),想压到 ±0.03 得升到 1024 轮——但耗时也翻 8 倍
  • 别对签名向量做 L2 距离或余弦相似度——MinHash 签名不是稠密向量,那些度量会彻底破坏概率保证

std::string_view 能否加速预处理?

可以,但只在你控制整个生命周期时安全。把 std::string_view 存进 std::unordered_set 很危险——一旦原始字符串析构,所有 view 都 dangling。

更稳妥的做法:预处理阶段用 std::string_view 切分,但立即转成 std::string 存入集合;或者用 arena allocator 手动管理内存,否则省下的那点拷贝时间,远不如一次野指针 crash 的代价大。

  • 安全用法示例:std::vector<:string> tokens; for (auto sv : split_view(input)) tokens.emplace_back(sv);</:string>
  • 错误用法:std::unordered_set<:string_view> bad; bad.insert(input.substr(0,3));</:string_view> —— substr 返回临时 std::string,其 data() 在插入后立刻失效
  • 如果真要零拷贝,用 absl::string_view 配合 absl::flat_hash_set 并绑定 arena,但这就超出标准库范围了
MinHash 的复杂点不在哈希本身,而在于「集合构建是否等价」——同一段文本,用空格分词 vs 用 uni-gram 切分,生成的签名完全不可比。这点很容易被忽略,直到线上相似度计算全乱套。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

850

2023.08.02

登录token无效
登录token无效

登录token无效解决方法:1、检查token的有效期限,如果token已经过期,需要重新获取一个新的token;2、检查token的签名,如果签名不正确,需要重新获取一个新的token;3、检查密钥的正确性,如果密钥不正确,需要重新获取一个新的token;4、使用HTTPS协议传输token,建议使用HTTPS协议进行传输 ;5、使用双因素认证,双因素认证可以提高账户的安全性。

6461

2023.09.14

登录token无效怎么办
登录token无效怎么办

登录token无效的解决办法有检查Token是否过期、检查Token是否正确、检查Token是否被篡改、检查Token是否与用户匹配、清除缓存或Cookie、检查网络连接和服务器状态、重新登录或请求新的Token、联系技术支持或开发人员等。本专题为大家提供token相关的文章、下载、课程内容,供大家免费下载体验。

838

2023.09.14

token怎么获取
token怎么获取

获取token值的方法:1、小程序调用“wx.login()”获取 临时登录凭证code,并回传到开发者服务器;2、开发者服务器以code换取,用户唯一标识openid和会话密钥“session_key”。想了解更详细的内容,可以阅读本专题下面的文章。

1087

2023.12.21

token什么意思
token什么意思

token是一种用于表示用户权限、记录交易信息、支付虚拟货币的数字货币。可以用来在特定的网络上进行交易,用来购买或出售特定的虚拟货币,也可以用来支付特定的服务费用。想了解更多token什么意思的相关内容可以访问本专题下面的文章。

1722

2024.03.01

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

638

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

218

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1560

2023.10.24

batoto漫画官网入口与网页版访问指南
batoto漫画官网入口与网页版访问指南

本专题系统整理batoto漫画官方网站最新可用入口,涵盖最新官网地址、网页版登录页面及防走失访问方式说明,帮助用户快速找到batoto漫画官方平台,稳定在线阅读各类漫画内容。

331

2026.02.25

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C# 教程
C# 教程

共94课时 | 10.2万人学习

C 教程
C 教程

共75课时 | 5万人学习

C++教程
C++教程

共115课时 | 19.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号