编译原理->词法分析器的分析

今天要说的是词法分析器。
首先让我们对词法分析器有个基本的了解:
  一、 
  词法分析程序的主要任务 从左到右扫描每行源程序,拼成单词,换成统一的内部表示(token)输出,送给语法分析器进行分析。
  二、词法分析器功能:输入源程序,输出单词符号,其中词法分析器的单词符号常常表示成二元组的形式(单词种别码,单词符号的属性值)。

三、下来就部分单词的BNF表示罗列如下:

<标识符>  -><字母><字母数字串>
<字母数字串>  -><字母><字母数字串>|<数字><字母数字串>|<下划线><字母数字串>|ε
<无符号整数> -><数字><数字串>
<数字串> -><数字><数字串>|ε
<加法运算符>  ->+
<减法运算符> -> -
<大于关系运算符> -> >
<大于等于关系运算符
> -> >=
四、然后对于词法分析器来说,我们就是要将对象语言的语法全部描述出来,下面就以C语言为例来说明问题:
(1)关键字:
main if else int return void while ...所有的关键字都是小写。
(2)专用符号
= + - * / <= >= >  == != ; : , { } [ ] ( )
(3)空白和空格、制表符和换行符
空格一般用来分隔ID、NUM、专用符号和关键字,在词法分析阶段通常被忽略。
五、“超前搜索”方法
 词法分析时,常常会遇到超前搜索方法。如当前待运算分析的字符串为“a>+”当前字符为“>”,此时,分析器到底是将其分析为大于关系运算符还是大于等于关系运算符呢?显然,只有知道下一个字符是什么才能够给出特定的结论。于是分析器读入下一个字符’+‘,这时可知应将’>‘解释为大于运算符。但此时,超前读了一个字符’+‘,所以要回退一个字符,词法分析器才能够运行。

接下来,面对一个问题就是,既然已经知道了具体的细节,下面要做的就是如何用代码实现呢?
请看下面这图:

这是我在实现词法分析器过程中的主要流程图,根据读出的字符是何种类型进行操作,然后具体问题具体分析。


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 7
    评论
实验一:词法分析 一、实验目的 通过设计一个具体的词法分析程序,加深对词法分析原理的理解。并掌握在对程序设计语言源程序进行扫描过程中将其分解为各类单词的词法分析方法。 编制一个读单词过程,从输入的源程序中,识别出各个具有独立意义的单词,即基本保留字、标识符、常数、运算符、分隔符五大类。并依次输出各个单词的内部编码及单词符号自身值。 二、实验预习提示 1、 词法分析器的功能和输出格式 词法分析器的功能是输入源程序,输出单词符号。词法分析器的单词符号常常表示成以下的二元式(单词种别码,单词符号的属性值)。本实验中,采用的是一类符号对应一个种别码的方式。 2、 单词的BNF表示 ----&gt; ----&gt; ----&gt; + ----&gt; - 等等 3、 模块结构(见课本P95-96)(可根据自己的理解适当修改) 三、实验过程和指导: (一) 准备: 1. 阅读课本有关章节,明确语言的语法,写出基本保留字、标识符、常数、运算符、分隔符和程序例。 2. 初步编制好程序。 3. 准备好多组测试数据。 (二) 上机: (三) 程序要求: 1. 要求用C++Builder或者Dephi或者VC、VB等可视化编程工具编写;要求有界面(即一般windows下应用程序界面)。 2. 输入为某语言源代码。 程序输入/输出示例: 如源程序为C语言。输入如下一段: main() { int a,b; a=10; b=a+20; } 要求输出如下(并以文件形式输出)。 (2,”main”) (5,”(“) (5,”)“) (5,”{“} (1,”int”) (2,”a”) (5,”,”) (2,”b”) (5,”;”) (2,”a”) (4,”=”) (3,”10”) (5,”;”) (2,”b”) (4,”=”) (2,”a”) (4,”+”) (3,”20”) (5,”;”) (5,”}“) 注:为右大括号 要求(可根据实际情况加以扩充和修改): 识别保留字:if、int、for、while、do、return、break、continue等等,单词种别码为1。 其他的标识符,单词种别码为2。 常数为无符号数,单词种别码为3。 运算符包括:+、-、*、/、=、&gt;、=、<=、!= ;单词种别码为4。 分隔符包括: “,”“;”“(”“)”“{”“}”等等, 单词种别码为5。 (四) 程序思路(仅供参考): 0. 定义部分:定义常量、变量、数据结构。 1. 初始化:从文件将源程序输入到字符缓冲区中。 2. 取单词前:去掉多余空白。调用过程GETNB(); 3. 提取字符组成单词,利用课本P97图4.5转换图构造单词扫描过程SCAN(),需要根据实际情况加以修改。 4. 判断单词的种别码,调用过程LOOKUP(); 5. 显示(导出)结果。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值