0

0

XML上传到Solr/Elasticsearch如何建立索引

煙雲

煙雲

发布时间:2026-03-06 09:31:01

|

240人浏览过

|

来源于php中文网

原创

xml需先解析为结构化数据再索引:solr支持原生xml提交但格式严格(根节点add、字段名匹配schema、日期iso8601等);elasticsearch必须自行解析xml转json,注意命名空间、字段映射、类型转换及分块上传。

xml上传到solr/elasticsearch如何建立索引

XML 文件本身不能直接被 Solr 或 Elasticsearch 当作索引源;必须先解析成结构化文档(如 Map 或 JSON),再通过 API 提交。Solr 有内置的 XML 解析器,Elasticsearch 没有——你得自己解析。

Solr 中用 POST /update 自动解析 XML

Solr 的 /update 端点原生支持 application/xml,但要求 XML 格式严格符合它的 schema 规则。不是任意 XML 都能喂进去。

  • 根节点必须是 <add></add>,每条记录用 <doc></doc> 包裹
  • 字段名必须和 schema.xml(或 managed-schema)中定义的 <field name="..."></field> 完全一致
  • 字段值写在 <field name="title">Hello</field> 内,不支持嵌套对象或数组语法
  • 如果字段类型是 date,值必须是 ISO8601 格式,比如 2024-05-20T10:30:00Z
<add>
  <doc>
    <field name="id">doc_1</field>
    <field name="title">XML Indexing</field>
    <field name="timestamp">2024-05-20T10:30:00Z</field>
  </doc>
</add>

提交命令示例:curl -X POST -H "Content-Type: application/xml" --data-binary @docs.xml http://localhost:8983/solr/mycore/update。别漏掉 --data-binary,否则换行可能被破坏。

Elasticsearch 必须先解析 XML 再构造 JSON 文档

Elasticsearch 不认识 XML,POST /myindex/_doc 只接受 JSON。你得用 Python、Java 或其他语言把 XML 转成字典/对象,再序列化为 JSON。

AI神器大全
AI神器大全

AI工具集合导航站

下载
  • Python 推荐用 xml.etree.ElementTree(标准库,轻量)或 lxml(支持 XPath,适合复杂结构)
  • 注意命名空间:如果 XML 带 xmlnsfind() 会找不到元素,得传入命名空间字典
  • 字段名若含特殊字符(如 @typeitem.id),需映射为合法的 Elasticsearch 字段名(下划线替换或扁平化)
  • 日期、数字字段别作为字符串提交,否则排序/范围查询会出错——要显式转成 intdatetime

例如用 Python 解析单个 <record></record>

import xml.etree.ElementTree as ET
import json

root = ET.fromstring(xml_data)
doc = {
    "id": root.find("id").text,
    "title": root.find("title").text,
    "price": float(root.find("price").text),
    "published_at": root.find("date").text
}
print(json.dumps(doc))

大 XML 文件分块上传避免超时或 OOM

几 MB 以上的 XML,一次性读入内存再解析容易触发 Solr 的 requestSizeLimit 或 ES 的 http.max_content_length,也可能耗尽客户端内存。

  • Solr:用 <add></add> 包裹多条 <doc></doc>,但建议每批 ≤ 100 条,加 <commit></commit> 控制刷盘节奏
  • Elasticsearch:用 _bulk API,每 1000–5000 条一个请求;XML 解析要用 iterparse() 流式处理,边读边转,不 load 全文
  • 别在循环里反复创建 HTTP 连接——复用 requests.Session()RestHighLevelClient
  • ES bulk 响应里检查 "errors": true 和具体失败项,status 字段非 200 表示该条失败

字段类型不匹配会导致静默丢弃或报错

Solr 和 Elasticsearch 对字段类型的容忍度不同,但都可能让数据“消失”而不报明显错误。

  • Solr:往 int 字段塞字符串,日志里会报 NumberFormatException,但整条 <doc></doc> 可能被跳过(取决于 updateRequestProcessorChain 配置)
  • Elasticsearch:往 keyword 字段写数字,会自动转字符串;但反过来——往 integer 字段写字符串,直接 400 报错 mapper_parsing_exception
  • 两者都要求 id 字段唯一;Solr 默认用 id,ES 默认用 _id,重复提交会覆盖而非报错
  • XML 中空标签(<price></price>)或缺失字段,在转换时得设默认值,否则 ES 可能存 null,影响聚合精度

真正麻烦的是那些没报错、却查不到结果的情况——往往卡在字段类型、分词器配置或 XML 节点路径写错上。调试时优先打印出第一条生成的 JSON 或 Solr XML 片段,和 schema 对着看。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

452

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

546

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

331

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

81

2025.09.10

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

252

2023.09.22

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

1029

2024.03.01

session失效的原因
session失效的原因

session失效的原因有会话超时、会话数量限制、会话完整性检查、服务器重启、浏览器或设备问题等等。详细介绍:1、会话超时:服务器为Session设置了一个默认的超时时间,当用户在一段时间内没有与服务器交互时,Session将自动失效;2、会话数量限制:服务器为每个用户的Session数量设置了一个限制,当用户创建的Session数量超过这个限制时,最新的会覆盖最早的等等。

334

2023.10.17

session失效解决方法
session失效解决方法

session失效通常是由于 session 的生存时间过期或者服务器关闭导致的。其解决办法:1、延长session的生存时间;2、使用持久化存储;3、使用cookie;4、异步更新session;5、使用会话管理中间件。

774

2023.10.18

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

19

2026.03.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号