0

0

DeepSeek提示输入长度超出Context Window_对长文本进行语义切片并分批次提问

P粉602998670

P粉602998670

发布时间:2026-01-29 18:38:02

|

814人浏览过

|

来源于php中文网

原创

长文本需按语义切片分批提问:一、依句末标点切分并控制长度;二、滑动窗口重叠切分防信息丢失;三、依文档结构层级划分;四、用语义聚类提升主题一致性。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

deepseek提示输入长度超出context window_对长文本进行语义切片并分批次提问

如果您向DeepSeek模型提交的提示词过长,超出其上下文窗口(Context Window)限制,则会导致输入被截断或报错。以下是针对长文本进行语义切片并分批次提问的操作方法:

一、基于句子边界与语义连贯性切分

该方法利用自然语言中的标点符号(如句号、问号、感叹号)识别完整语义单元,确保每个切片包含独立、可理解的语义片段,避免跨句割裂关键逻辑关系。

1、将原始长文本按中文句末标点(。!?)进行分割,保留标点符号不丢失。

2、遍历分割后的句子列表,累计字符数(含空格与标点),当累计长度接近模型最大上下文长度(例如32768 tokens对应约6.5万汉字)的70%时,停止添加新句子。

3、将当前累计的句子组合为一个切片,并从原文中移除已切分部分。

4、对剩余文本重复步骤1–3,直至全部处理完毕。

5、对每个切片末尾添加统一指令前缀:请仅基于本段内容回答问题,不参考其他段落

二、使用滑动窗口重叠切分

该方法在相邻切片间保留一定比例的重叠内容,防止因关键上下文位于切片边界而造成信息丢失,适用于含复杂指代或长程依赖的文本。

1、设定基础切片长度为模型上下文上限的60%,重叠长度为其20%(例如基础长度19660字符,重叠3932字符)。

2、从文本开头截取第一个切片,记录其起始与结束字节位置。

3、将窗口向后移动(基础长度 – 重叠长度)字节,截取第二个切片,确保与前一切片末尾存在指定重叠区。

4、为每个切片附加唯一编号标识:【段落#1】【段落#2】等,便于后续结果归并。

5、所有切片统一追加提问模板:请根据【段落#X】内容,提取其中涉及的所有实体名称及对应属性

Magician
Magician

Figma插件,AI生成图标、图片和UX文案

下载

三、依据文档结构层级切分

该方法优先尊重原文逻辑结构(如标题、小节、列表项),在语义块层面进行划分,适用于技术文档、论文、合同等具有显式层级的长文本。

1、使用正则表达式匹配中文标题格式(如“一、”“1.”“●”“◆”及带括号编号如“(1)”)并记录其位置。

2、将文本按标题节点划分为若干语义块,每个块包含标题及其下属全部段落直至下一标题前。

3、对单个语义块内部再执行字符长度校验:若超过阈值,则在其内部按句子边界进一步细分。

4、为每个最终切片标注结构路径:[一级标题:系统架构][二级标题:数据流设计]

5、每批次提问中嵌入结构提示:请严格依据标注的结构路径作答,不得跨路径推断

四、调用轻量级语义聚类辅助切分

该方法借助小型本地化模型(如bge-m3、text2vec-large-chinese)对句子向量做余弦相似度计算,将语义相近句聚合为切片,提升主题一致性。

1、将长文本按句分割后,使用本地部署的embedding模型生成每句向量。

2、以动态阈值(初始设为0.65)对相邻句向量计算余弦相似度,若连续三组相似度均高于阈值,则合并为同一语义单元。

3、当单元内总token数达模型上限85%时,强制终止合并并输出当前单元为一个切片。

4、每个切片头部插入语义摘要标签:【主题:用户权限管理策略】

5、提问时绑定该标签:围绕【主题:用户权限管理策略】,列出所有角色定义及对应操作范围

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
java入门学习合集
java入门学习合集

本专题整合了java入门学习指南、初学者项目实战、入门到精通等等内容,阅读专题下面的文章了解更多详细学习方法。

2

2026.01.29

java配置环境变量教程合集
java配置环境变量教程合集

本专题整合了java配置环境变量设置、步骤、安装jdk、避免冲突等等相关内容,阅读专题下面的文章了解更多详细操作。

2

2026.01.29

java成品学习网站推荐大全
java成品学习网站推荐大全

本专题整合了java成品网站、在线成品网站源码、源码入口等等相关内容,阅读专题下面的文章了解更多详细推荐内容。

0

2026.01.29

Java字符串处理使用教程合集
Java字符串处理使用教程合集

本专题整合了Java字符串截取、处理、使用、实战等等教程内容,阅读专题下面的文章了解详细操作教程。

0

2026.01.29

Java空对象相关教程合集
Java空对象相关教程合集

本专题整合了Java空对象相关教程,阅读专题下面的文章了解更多详细内容。

3

2026.01.29

clawdbot ai使用教程 保姆级clawdbot部署安装手册
clawdbot ai使用教程 保姆级clawdbot部署安装手册

Clawdbot是一个“有灵魂”的AI助手,可以帮用户清空收件箱、发送电子邮件、管理日历、办理航班值机等等,并且可以接入用户常用的任何聊天APP,所有的操作均可通过WhatsApp、Telegram等平台完成,用户只需通过对话,就能操控设备自动执行各类任务。

25

2026.01.29

clawdbot龙虾机器人官网入口 clawdbot ai官方网站地址
clawdbot龙虾机器人官网入口 clawdbot ai官方网站地址

clawdbot龙虾机器人官网入口:https://clawd.bot/,clawdbot ai是一个“有灵魂”的AI助手,可以帮用户清空收件箱、发送电子邮件、管理日历、办理航班值机等等,并且可以接入用户常用的任何聊天APP,所有的操作均可通过WhatsApp、Telegram等平台完成,用户只需通过对话,就能操控设备自动执行各类任务。

16

2026.01.29

Golang 网络安全与加密实战
Golang 网络安全与加密实战

本专题系统讲解 Golang 在网络安全与加密技术中的应用,包括对称加密与非对称加密(AES、RSA)、哈希与数字签名、JWT身份认证、SSL/TLS 安全通信、常见网络攻击防范(如SQL注入、XSS、CSRF)及其防护措施。通过实战案例,帮助学习者掌握 如何使用 Go 语言保障网络通信的安全性,保护用户数据与隐私。

8

2026.01.29

俄罗斯Yandex引擎入口
俄罗斯Yandex引擎入口

2026年俄罗斯Yandex搜索引擎最新入口汇总,涵盖免登录、多语言支持、无广告视频播放及本地化服务等核心功能。阅读专题下面的文章了解更多详细内容。

622

2026.01.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
AngularJS教程
AngularJS教程

共24课时 | 3.1万人学习

【李炎恢】ThinkPHP8.x 后端框架课程
【李炎恢】ThinkPHP8.x 后端框架课程

共50课时 | 4.5万人学习

Swoft2.x速学之http api篇课程
Swoft2.x速学之http api篇课程

共16课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号