0

0

C++怎么处理大文件 C++内存映射文件mmap用法【进阶】

冰火之心

冰火之心

发布时间:2026-03-06 13:56:41

|

377人浏览过

|

来源于php中文网

原创

c++怎么处理大文件 c++内存映射文件mmap用法【进阶】

为什么 mmap 是处理大文件的首选方案

因为 read()fread() 会把数据从内核缓冲区拷贝到用户空间,对 GB 级文件反复调用就是灾难;mmap() 让虚拟内存直接指向磁盘页,读写即访问内存地址,零拷贝、按需加载、支持随机访问——前提是你的场景不依赖强实时或频繁小块写入。

注意:Windows 没有 mmap(),得用 CreateFileMapping() + MapViewOfFile(),但 Linux/macOS 下统一用 mmap() 更直接。

mmap() 最简安全调用要填对哪几个参数

新手常卡在 protflags 组合上,比如只读文件却传了 PROT_WRITE,或想修改却忘了加 MAP_SHARED

  • prot:只读文件用 PROT_READ;需写入且同步回磁盘用 PROT_READ | PROT_WRITE
  • flags:必须选 MAP_PRIVATE(写时复制,不影响原文件)或 MAP_SHARED(写入直接落盘);MAP_POPULATE 可预读,但会阻塞,慎用
  • fd:必须是已打开的、支持 mmap 的文件描述符(普通磁盘文件可以,管道/终端不行)
  • offset:必须是页对齐(通常 getpagesize() 的整数倍),否则 mmap() 失败返回 MAP_FAILED

示例:

int fd = open("big.bin", O_RDONLY);<br>size_t len = lseek(fd, 0, SEEK_END);<br>void* addr = mmap(nullptr, len, PROT_READ, MAP_PRIVATE, fd, 0);<br>if (addr == MAP_FAILED) { /* 处理错误 */ }

立即学习C++免费学习笔记(深入)”;

通义灵码
通义灵码

阿里云出品的一款基于通义大模型的智能编码辅助工具,提供代码智能生成、研发智能问答能力

下载

写入大文件时 msync()munmap() 的调用时机

MAP_SHARED 写完不调 msync(),数据可能还在页缓存里,进程崩溃或系统断电就丢;但频繁 msync() 会拖慢性能,尤其小块写。

  • 批量写入后、关键节点前调一次 msync(addr, len, MS_SYNC)(强制刷盘)或 MS_ASYNC(后台刷)
  • munmap() 不负责刷盘,只解映射;它可以在 msync() 后任意时间调,但不能在 msync() 前释放 addr
  • 进程退出时内核会自动清理映射,但显式 munmap() 更可控,避免长期占用虚拟内存区域

常见错误:munmap() 后还访问 addrSegmentation faultmsync() 传错长度(小于实际写入范围)→ 部分数据未落盘。

超过 2GB 文件在 32 位环境或某些 libc 上的兼容问题

size_t 在 32 位系统上只有 4 字节,而 mmap()len 参数类型正是 size_t,所以理论上最大映射 4GB —— 但实际常卡在 2~3GB,因为用户空间地址空间被栈、堆、共享库挤占。

  • 64 位编译是根本解法:g++ -m64,确保 sizeof(size_t) == 8
  • 不要试图单次 mmap() 整个 10GB 文件;改用分段映射:每次映射 128MB,处理完 munmap() 再映射下一段
  • 检查 getconf PAGE_SIZEulimit -v(虚拟内存限制),有些容器环境默认设得很低

容易被忽略的一点:mmap() 成功不代表物理内存已分配,真正触发缺页中断是在首次访问对应地址时——所以“映射成功”不等于“数据已加载”,延迟可能出现在第一次读取某块时。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

434

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

600

2023.08.10

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

434

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

600

2023.08.10

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

434

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

600

2023.08.10

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1410

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1161

2023.07.27

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

19

2026.03.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C# 教程
C# 教程

共94课时 | 10.7万人学习

C 教程
C 教程

共75课时 | 5.2万人学习

C++教程
C++教程

共115课时 | 20.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号