
本文介绍一种基于语法解析的高精度文本校验方法,使用 parsimonious 库构建领域专用解析器,不仅能判断合同描述是否合规,还能准确定位错误发生的语法规则(如缺失标点、空格异常、日期格式错位等)及具体字符位置,显著优于单纯正则匹配。
本文介绍一种基于语法解析的高精度文本校验方法,使用 parsimonious 库构建领域专用解析器,不仅能判断合同描述是否合规,还能准确定位错误发生的语法规则(如缺失标点、空格异常、日期格式错位等)及具体字符位置,显著优于单纯正则匹配。
在处理成千上万条合同履约描述文本时,仅用 re.match() 判断“是否符合模板”远远不够——它无法告诉你:“哪里错了?为什么错?是多了一个空格,还是少了一个句号?”真正的数据质量治理需要可解释、可定位、可归因的错误诊断能力。
为此,我们应将合同文本视为一种轻量级领域特定语言(DSL),并采用自顶向下的语法解析(PEG) 方法进行结构化校验。相比正则表达式(擅长匹配,不擅诊断),解析器能明确指出:哪个语法规则最先失败?失败位置在第几行第几列?上下文是什么?这对 Excel 批量质检、自动化纠错与人工复核路径优化至关重要。
✅ 推荐方案:使用 parsimonious 构建可调试解析器
parsimonious 是一个纯 Python 实现的 PEG 解析器库,语法简洁、错误提示清晰,无需编译,非常适合此类规则明确、结构固定的业务文本校验场景。
以下是完整可运行的校验实现:
from parsimonious.grammar import Grammar
from parsimonious.nodes import NodeVisitor
from parsimonious.exceptions import ParseError
import pandas as pd
# 定义严格语法:每个词法单元(token)和空白(ws)均显式声明
GRAMMAR_TEXT = r"""
entry = prefix ws object_no ws serviced ws date ws fulfilment ws obligation_no ws dated ws date ws vat
prefix = "Object №"
serviced = "Serviced"
fulfilment = "Fulfilment of obligations under agr. №"
dated = "dated"
vat = ", VAT exempt."
object_no = ~r"\d+"
date = ~r"\b(0[1-9]|[12][0-9]|3[01])\.(0[1-9]|1[0-2])\.(20\d\d)\b"
obligation_no = ~r"\b\d+/\d+/\d+\b"
ws = ~r"\s+" # 注意:此处用 \s+ 强制要求至少一个空白(避免零宽匹配)
"""
grammar = Grammar(GRAMMAR_TEXT)
class ContractTemplateVisitor(NodeVisitor):
def visit_entry(self, node, visited_children):
return "OK"
def generic_visit(self, node, visited_children):
return visited_children or node
def diagnose_contract_text(text: str) -> str:
"""对单条合同文本进行语法解析,并返回错误详情或'OK'"""
try:
grammar.parse(text)
return "OK"
except ParseError as e:
# 提取关键错误信息:失败规则名 + 精确位置(字符偏移)
rule_name = e.expr.name if e.expr.name else "unknown rule"
line, col = e.line(), e.column()
context_start = max(0, e.pos - 15)
context_end = min(len(text), e.pos + 20)
snippet = text[context_start:context_end].strip()
return f"Error in '{rule_name}': at position {e.pos} (line {line}, col {col}) → '{snippet}'"
# 示例数据(模拟 DataFrame 中的 'original information' 列)
df = pd.DataFrame({
"original information": [
"Object № 1001 Serviced 30.11.2023 Fulfilment of obligations under agr. № 90/11/122 dated 20.10.2010, VAT exempt.",
"Object № 10023 Serviced 30.11.2023 Fulfilment of obligations under agr. №90/11/122 dated 20.10.2010, VAT exempt.",
"Object № 100221 Serviced 30.11.2023 Fulfilment of obligations under agr. № 90/11/122 dated 20.10.2010, VAT exempt",
"Object № 1003 Serviced 32.13.2023 Fulfilment of obligations under agr. № 90/11/122 dated 20.10.2010, VAT exempt."
]
})
# 批量诊断并写入新列
df["text_verification"] = df["original information"].apply(diagnose_contract_text)
print(df[["original information", "text_verification"]])输出示例:
original information text_verification 0 Object № 1001 Serviced 30.11.2023 Fulfilment of oblig... OK 1 Object № 10023 Serviced 30.11.2023 Fulfilment of obli... Error in 'ws': at position 16 (line 1, col 17) → ' Serviced' 2 Object № 100221 Serviced 30.11.2023 Fulfilment of obli... Error in 'vat': at position 101 (line 1, col 102) → 'VAT exempt' 3 Object № 1003 Serviced 32.13.2023 Fulfilment of oblig... Error in 'date': at position 30 (line 1, col 31) → '32.13.2023'
? 关键优势解析
- 精确定位:ParseError 包含 pos(字符偏移)、line()、column(),可直接映射到 Excel 单元格内错误位置;
- 语义归因:错误被归类到 ws(空白不规范)、vat(结尾标点缺失)、date(非法日期)等业务语义规则,便于分类统计与根因分析;
- 可扩展性强:新增校验项(如“obligation_no 必须以 90/ 开头”)只需扩展对应语法规则,无需重写正则;
- 零误报保障:PEG 解析器按顺序贪婪匹配,避免正则中 .* 导致的过度回溯与歧义匹配。
⚠️ 注意事项与最佳实践
- 空白处理要严谨:模板中 № 后必须有且仅有一个空格,因此 ws = ~r"\s+" 配合后续规则约束更稳妥;若需区分“单空格”与“多空格”,可定义 single_ws = " " 和 extra_ws = ~r"\s{2,}" 并分别捕获。
- 日期验证建议分层:语法层校验格式(\d+\.\d+\.\d+),逻辑层再调用 datetime.strptime() 校验有效性(如 32.13.2023 格式合法但语义非法)。
- 性能考量:parsimonious 解析速度约为正则的 1/3–1/2,但对数千行数据(< 10k)仍属毫秒级,远快于人工审核;如需极致性能,可先用轻量正则做快速初筛(如 r"^Object № \d+ "),再对疑似异常行启用深度解析。
- 集成 Excel 输出:将 text_verification 列写入 Excel 时,可同步添加条件格式(如红色背景标出含 "Error" 的单元格),提升人工复核效率。
通过将业务规则升维为形式化语法,你获得的不仅是一次性校验工具,更是一个可持续演进的合同文本质量管控基础设施。










