0

0

千问怎样过滤敏感对话信息_千问敏感信息过滤法【攻略】

絕刀狂花

絕刀狂花

发布时间:2026-02-02 13:03:40

|

277人浏览过

|

来源于php中文网

原创

需立即启动本地化敏感信息过滤机制,包括App端内置开关、服务端Qwen-Safety+引擎、输入端脱敏预处理、输出端重写拦截及离线沙箱测试验证。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

千问怎样过滤敏感对话信息_千问敏感信息过滤法【攻略】

如果您在使用千问App或接入千问API过程中,发现用户输入或模型输出中存在身份证号、手机号、银行卡号、地址、健康信息等敏感内容,则需立即启动本地化敏感信息过滤机制。以下是多种可独立部署、无需依赖云端审核的过滤方法:

一、启用内置隐私过滤开关(App端)

千问App 3.0及以上版本已集成轻量级本地敏感词识别模块,该模块基于规则匹配与语义特征双引擎,在不上传原始文本的前提下完成实时拦截,适用于日常聊天与语音转文字场景。

1、打开千问App,确保登录账号已完成实名认证

2、点击底部导航栏“我的”,进入个人中心。

3、点击右上角设置图标,进入系统设置菜单。

4、选择“隐私设置”→“敏感信息防护”,将开关由关闭状态切换为开启。

5、在弹出的子菜单中,勾选需防护的字段类型:手机号、身份证号、银行卡号、家庭住址、电子邮箱

二、部署Qwen-Safety+本地规则引擎(服务端)

针对企业级API调用或自建服务,推荐采用Qwen-Safety+模块与自定义正则规则协同工作的双层架构。该方案支持毫秒级响应,且所有处理均在本地完成,符合GDPR与《个人信息保护法》数据不出域要求。

1、通过Ollama拉取Qwen-Safety+模型:ollama run qwen-safety-plus:latest。

2、在推理请求前插入预处理中间件,对用户输入prompt执行安全扫描。

3、配置rule_config.yaml文件,添加业务专属规则,例如:匹配“工号为[0-9]{6}”并替换为“工号已脱敏”

4、若检测到高风险内容,直接返回预设拦截话术,不触发千问主模型推理。

三、实施输入端数据脱敏预处理(开发集成)

在调用千问API前,对原始输入文本进行结构化清洗,可从根本上消除敏感字段进入模型的可能性。该方法兼容transformers、DashScope SDK及Gradio前端,适用于Web服务与小程序后端

1、引入qwen2.5-privacy-preprocessor库,执行pip install qwen25-privacy-preprocessor。

ContentBot
ContentBot

内容自动化AI写作工具

下载

2、调用deidentify_text()函数,传入原始字符串与脱敏策略参数。

3、指定mask_mode为“replace”时,系统自动将手机号替换为138****5678格式;设为“remove”则彻底删除整段含PII的句子。

4、将脱敏后文本作为input字段提交至千问API,确保原始敏感值永不进入模型上下文。

四、启用输出端内容重写拦截(模型侧)

当模型输出中意外包含用户输入的敏感信息(如复述提问中的身份证号),需在响应返回客户端前强制执行输出净化。该机制基于Qwen3-4B-Instruct-2507原生支持的post-generation hook接口实现,不增加额外延迟。

1、在vLLM或Ollama服务配置中启用output_safety_filter参数。

2、加载qwen-output-scrubber.gguf量化模型至GPU显存。

3、设定触发阈值为0.92,当输出文本被判定含PII的概率超过该值,立即启动重写流程。

4、系统自动将输出中所有疑似敏感字段替换为[已过滤]占位符,并保留其余语义完整性。

五、构建测试沙箱验证过滤效果

为避免误拦或漏拦,必须在隔离环境中使用真实敏感样例进行压力验证。该沙箱完全离线运行,不联网、不记录日志、每次测试后自动清空内存,确保审计合规。

1、下载qwen-safety-testkit-v2.5工具包,解压至独立Linux容器。

2、运行python test_runner.py --mode full --sample-set financial_pii,加载金融类测试集。

3、观察控制台输出的漏报率(false negative)与误报率(false positive)数值,要求两者均低于0.8%方可上线。

4、对任一失败用例,定位对应规则ID并更新至本地rule_config.yaml中。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
什么是中间件
什么是中间件

中间件是一种软件组件,充当不兼容组件之间的桥梁,提供额外服务,例如集成异构系统、提供常用服务、提高应用程序性能,以及简化应用程序开发。想了解更多中间件的相关内容,可以阅读本专题下面的文章。

178

2024.05.11

Golang 中间件开发与微服务架构
Golang 中间件开发与微服务架构

本专题系统讲解 Golang 在微服务架构中的中间件开发,包括日志处理、限流与熔断、认证与授权、服务监控、API 网关设计等常见中间件功能的实现。通过实战项目,帮助开发者理解如何使用 Go 编写高效、可扩展的中间件组件,并在微服务环境中进行灵活部署与管理。

217

2025.12.18

pip安装使用方法
pip安装使用方法

安装步骤:1、确保Python已经正确安装在您的计算机上;2、下载“get-pip.py”脚本;3、按下Win + R键,然后输入cmd并按下Enter键来打开命令行窗口;4、在命令行窗口中,使用cd命令切换到“get-pip.py”所在的目录;5、执行安装命令;6、验证安装结果即可。大家可以访问本专题下的文章,了解pip安装使用方法的更多内容。

342

2023.10.09

更新pip版本
更新pip版本

更新pip版本方法有使用pip自身更新、使用操作系统自带的包管理工具、使用python包管理工具、手动安装最新版本。想了解更多相关的内容,请阅读专题下面的文章。

417

2024.12.20

pip设置清华源
pip设置清华源

设置方法:1、打开终端或命令提示符窗口;2、运行“touch ~/.pip/pip.conf”命令创建一个名为pip的配置文件;3、打开pip.conf文件,然后添加“[global];index-url = https://pypi.tuna.tsinghua.edu.cn/simple”内容,这将把pip的镜像源设置为清华大学的镜像源;4、保存并关闭文件即可。

762

2024.12.23

python升级pip
python升级pip

本专题整合了python升级pip相关教程,阅读下面的文章了解更多详细内容。

352

2025.07.23

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

361

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

212

2023.09.04

AO3官网入口与中文阅读设置 AO3网页版使用与访问
AO3官网入口与中文阅读设置 AO3网页版使用与访问

本专题围绕 Archive of Our Own(AO3)官网入口展开,系统整理 AO3 最新可用官网地址、网页版访问方式、正确打开链接的方法,并详细讲解 AO3 中文界面设置、阅读语言切换及基础使用流程,帮助用户稳定访问 AO3 官网,高效完成中文阅读与作品浏览。

16

2026.02.02

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL 教程
PostgreSQL 教程

共48课时 | 8.3万人学习

Git 教程
Git 教程

共21课时 | 3.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号