词法分析（Lexical Analysis）：分析由字符组成的单词是否合法，如果没有问题的话，则产生一个单词流。
语法分析（Syntactic Analysis）：分析由单词组成的句子是否合法，如果没有问题的话，则产生一个语法树。
在词法分析器分析源代码文本的时候，有一个概念需要明确：
1.物理行：由回车字符序列（在Windows上是CR LF，在Unix上是LF）结尾的字符序列组成一个物理行。
2.逻辑行：由一个或者多个物理行组成，可以明确地使用反斜杠（\）来连接多个物理行使之成为一个逻辑行；或者，处在圆括号，中括号，花括号内的表达式可以跨越多个物理行，但是被当作一个逻辑行。
词法分析器是面向逻辑行的，也就是说，对于词法分析器而言，只有逻辑行才算是一行，它只在逻辑行结束之处才产生NEWLINE这个单词或者说token。
对于每一处缩进，不管它有多少个空白字符，词法分析器只会产生一个INDENT单词或者说token，代表缩进一级，每当要退出一级缩进的时候，词法分析器就会产生一个DEDENT单词或者说token。注意，单词DEDENT并没有一个或一组字符与之对应，它是完全的逻辑概念。
Python使用稍作修改的BNF（巴科斯范式）来表示词法与语法规则。
下面重点说一下需要注意的地方，以避免发生一些低级但是隐蔽的编程错误。
1.标识符是区分大小写的，但是仍然不要仅仅用大小写不同来区分两个变量。
2.不要使用那些在其它编程语言中是关键字的标识符作为变量名，因为它们很可能会成为Python的关键字。
3.不要使用Python明确声明有特殊意义的标志符作为变量名（这类变量一般以下划线开头），除非明确自己要使用那个特殊含义。
4.不要在Python中使用$和?(字符串中除外)，它们不是合法的字符。
5.不要混用Tab和空格来表示缩进，只使用其中一种，并养成习惯。
6.整数字面常量有10，16，8，2几种表示方法，如果使用16进制，请写0xa或者0Xa；如果使用8进制，请写0o7或者0O7；如果使用2进制，请写0b1或者0B1；总之，不要省略掉那个标识进制的字母，建议只使用小写字母。
7.在整数字面常量后加一个l或者L就形成了一个长整数，建议只使用L，因为小写l看起来像数字1.
8.整数使用32位表示，但是长整数并不限于多少位表示，在内存允许的情况下，它可以表示任意大小的整数，这与C语言等是不一样的。
9.如果一个整数字面常量的值超过32位整数的表示范围，那么Python会自动将它升级为长整数，但是在早期的Python实现中可能并非如此，因此如果你预计需要一个很大的整数值，请明确使用长整数。
10.浮点数字面常量只有10进制形式。
0
0
Python的词法分析与语法分析
php中文网
发布时间：2016-06-16 08:46:32
|1624人浏览过
|来源于php中文网
原创
相关文章
CPU steal 高但 vmware-tools 未安装的 guest OS 调度问题
audit.log 大量 denied 的 ausearch -m avc -i --start today
Python 实时解析 Eufy H.264 视频流的正确方法
Python 中的单元素解包语法：[b] = a 原理解析与实用场景
如何在 Discord Bot 中动态生成搜索结果选择菜单
python怎么学习？python怎么入门？python在哪学？python怎么学才快？不用担心，这里为大家提供了python速学教程(入门到精通)，有需要的小伙伴保存下载就能学习啦！
本站声明：本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系admin@php.cn
热门AI工具
相关专题
本专题系统讲解 Golang 在网络安全与加密技术中的应用，包括对称加密与非对称加密（AES、RSA）、哈希与数字签名、JWT身份认证、SSL/TLS 安全通信、常见网络攻击防范（如SQL注入、XSS、CSRF）及其防护措施。通过实战案例，帮助学习者掌握 如何使用 Go 语言保障网络通信的安全性，保护用户数据与隐私。
2
2026.01.29
2026年俄罗斯Yandex搜索引擎最新入口汇总，涵盖免登录、多语言支持、无广告视频播放及本地化服务等核心功能。阅读专题下面的文章了解更多详细内容。
446
2026.01.28
本合集汇总了包子漫画2026最新官方在线观看入口，涵盖备用域名、正版无广告链接及多端适配地址，助你畅享12700+高清漫画资源。阅读专题下面的文章了解更多详细内容。
145
2026.01.28
AO3最新中文版官网入口合集，汇总2026年主站及国内优化镜像链接，支持简体中文界面、无广告阅读与多设备同步。阅读专题下面的文章了解更多详细内容。
258
2026.01.28
本合集涵盖PHP接口开发基础、RESTful API设计、数据交互与安全处理等实用教程，助你快速掌握PHP接口编写技巧。阅读专题下面的文章了解更多详细内容。
9
2026.01.28
本专题系统讲解 Java 在消息队列与异步系统架构中的核心应用，涵盖消息队列基本原理、Kafka 与 RabbitMQ 的使用场景对比、生产者与消费者模型、消息可靠性与顺序性保障、重复消费与幂等处理，以及在高并发系统中的异步解耦设计。通过实战案例，帮助学习者掌握 使用 Java 构建高吞吐、高可靠异步消息系统的完整思路。
10
2026.01.28
本专题系统讲解 Python 在自然语言处理（NLP）领域的基础方法与实战应用，涵盖文本预处理（分词、去停用词）、词性标注、命名实体识别、关键词提取、情感分析，以及常用 NLP 库（NLTK、spaCy）的核心用法。通过真实文本案例，帮助学习者掌握 使用 Python 进行文本分析与语言数据处理的完整流程，适用于内容分析、舆情监测与智能文本应用场景。
25
2026.01.27
在拼多多上赚钱主要可以通过无货源模式一件代发、精细化运营特色店铺、参与官方高流量活动、利用拼团机制社交裂变，以及成为多多进宝推广员这5种方法实现。核心策略在于通过低成本、高效率的供应链管理与营销，利用平台社交电商红利实现盈利。
124
2026.01.26
热门下载
精品课程
最新文章
