0

0

Golang初级项目:单词计数器(Word Count)_文件读取与Map计数

P粉602998670

P粉602998670

发布时间:2026-03-17 15:32:54

|

862人浏览过

|

来源于php中文网

原创

需检查os.Open错误、用os.ReadFile替代手动读取、清理大小写和标点、流式处理大文件、转码非UTF-8编码、排序map结果。

golang初级项目:单词计数器(word count)_文件读取与map计数

读文件时 panic: runtime error: invalid memory address 怎么办

常见于用 os.Open 打开失败后没检查错误,直接对 nil 的 *os.File 调用 ReadAllScanner.Scan。Go 不会自动忽略错误,nil 文件句柄一读就崩。

  • 必须检查 os.Open 返回的 err,不能只看 file 变量是否非 nil
  • 推荐用 os.ReadFile(Go 1.16+)替代手动打开+读取,它一步到位且错误明确
  • 如果文件路径含中文或空格,确保传入的是原始字符串字面量或已正确转义的路径,比如 "./data.txt" 而不是 "./data .txt"(注意空格)

用 map[string]int 统计单词,为什么大小写混了或标点没清理

Map 键区分大小写,且标点符号(如 "hello,""hello")会被视为不同键。不预处理,统计结果就不可信。

  • 先用 strings.ToLower 统一小写,再用 strings.FieldsFunc 或正则切分——别用 strings.Fields,它只按空白切,对 "word!" 无能为力
  • 切完每个词后,用 strings.TrimFunc 去掉首尾标点:strings.TrimFunc(word, func(r rune) bool { return !unicode.IsLetter(r) && !unicode.IsNumber(r) })
  • 空字符串(如纯标点行)要过滤掉,否则 map[""]++ 会多出一个无效计数

大文件读取卡死或内存爆掉怎么办

os.ReadFile 把整个文件加载进内存,100MB 文本直接分配 100MB 字节切片。小工具可以,但生产级单词统计必须流式处理。

  • 改用 bufio.Scanner,它默认 64KB 缓冲,边读边处理,内存恒定
  • 设置扫描器缓冲区上限:用 scanner.Buffer(make([]byte, 64*1024), 10*1024*1024) 防止超长行 panic
  • 每行用 strings.FieldsFunc 切词,避免一次性生成大量小字符串;切完立即统计,不存中间切片
  • 如果文件编码不是 UTF-8(比如 GBK),得先用 golang.org/x/text/encoding 转换,否则 unicode.IsLetter 会误判

map 遍历输出顺序乱,怎么按频次从高到低排

Go 的 map 迭代顺序是随机的,每次运行都可能不同。想按词频排序,必须抽出来另存、再排序。

百灵大模型
百灵大模型

蚂蚁集团自研的多模态AI大模型系列

下载

立即学习go语言免费学习笔记(深入)”;

  • map[string]int 的键值对转成 []struct{word string; count int} 切片
  • sort.Slice 排序:sort.Slice(pairs, func(i, j int) bool { return pairs[i].count > pairs[j].count })
  • 注意:如果频次相同,想按字母序排,改成 pairs[i].count > pairs[j].count || (pairs[i].count == pairs[j].count && pairs[i].word
  • 别在循环里反复调用 len(map),虽然开销小,但语义不清;提前存个变量更稳妥

最常被跳过的其实是字符边界处理——英文单词靠空格分隔,但连字符(state-of-the-art)、撇号(don't)和 Unicode 连字(比如阿拉伯文)会让简单切分失效。小项目够用,真要健壮,得上 golang.org/x/text/unicode/norm 和分词库。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

211

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

247

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

357

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

214

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

410

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

510

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

201

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

1559

2025.06.17

抖漫入口地址合集
抖漫入口地址合集

本专题整合了抖漫入口地址相关合集,阅读专题下面的文章了解更多详细地址。

17

2026.03.17

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 6.4万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号