答案:text/scanner用于Go中轻量级词法分析,可解析标识符、数字、操作符等;需初始化Scanner并设置输入源,支持识别注释和空白,适用于DSL、配置文件等场景。

在Go语言中,text/scanner 包提供了一个简单而高效的词法扫描工具,适用于解析文本输入,比如自定义配置、DSL(领域特定语言)或简单的脚本格式。它比正则表达式更灵活,又不像手写词法分析器那样复杂。
基本用法:初始化 scanner
使用 text/scanner 的第一步是创建一个 Scanner 实例,并设置输入源:
- 导入包:
"text/scanner"和"strings" - 通过
scanner.Init()绑定字符串或字节流
示例代码:
package mainimport ( "fmt" "strings" "text/scanner" )
func main() { var s scanner.Scanner input := "x := 42 + y" s.Init(strings.NewReader(input))
for tok := s.Scan(); tok != scanner.EOF; tok = s.Scan() { fmt.Printf("%s: %s\n", s.Position, s.TokenText()) }}
立即学习“go语言免费学习笔记(深入)”;
输出结果会显示每个标记的位置和内容:
pos:1:1: xpos:1:3: :=
pos:1:6: 42
pos:1:9: +
pos:1:11: y
识别不同类型的 Token
scanner 能自动识别标识符、数字、字符串、注释等基础语法单元。你可以根据返回的 token 类型做不同处理:
-
scanner.Ident:变量名如 x, total -
scanner.Int,scanner.Float:整数或浮点数 -
scanner.String:双引号包围的字符串 - 操作符如
+,-,:=等直接以字符形式返回
改进上面的例子,加入类型判断:
for tok := s.Scan(); tok != scanner.EOF; tok = s.Scan() {
switch tok {
case scanner.Ident:
fmt.Println("标识符:", s.TokenText())
case scanner.Int:
fmt.Println("整数:", s.TokenText())
case '+', '-', '*', '/':
fmt.Println("操作符:", string(tok))
default:
fmt.Println("其他:", s.TokenText())
}
}
处理注释和空白
默认情况下,text/scanner 会跳过空白字符。若想保留注释,需启用模式:
s.Mode = scanner.ScanComments
启用后,// 这是注释 或 /* ... */ 会被当作 token 返回,可在循环中检测:
if strings.HasPrefix(s.TokenText(), "//") {
fmt.Println("注释:", s.TokenText())
}
实际应用场景
这个包适合轻量级文本解析任务,例如:
注意:它不进行语法分析,只做词法切分。真正的结构解析需要结合状态机或递归下降等方法。
基本上就这些。text/scanner 小巧实用,对简单文本流处理是个不错选择。










