一篇是王飞跃等人翻译的美国卡内基梅隆大学计算机科学系主任
* * 信息论的内涵与外延 1、狭义信息论: 又称香农信息论。主要通过数学描述与定量分析,研究通信系统从信源到信宿的全过程,包括信息的测度、信道容量以及信源和信道编码理论等问题,强调通过编码和译码使收、发两端联合最优化,并且以定理的形式证明极限的存在这部分内容是信息论的基础理论。 2、工程信息论: 主要也是研究信息传输和处理问题,除香农信息论的内容外,还包括噪声理论信号滤波和预测、统计检测和估计、调制理论、信息处理理论以及保密理论等 3、广义信息论: 不仅包括上述两方面内容,而且包括所有与信息有关的自然和社会领域,如模式识别、计算机翻译、心理学、遗传学、神经生理学、语言学、语义学甚至包括社会学中有关信息的问题。 问题:计算机科学中所论“信息”,是否也同于用熵衡量的“信息”? 4、信息与数据 什么是计算机科学中一般意义上的信息?是数据吗? 数据(Data)是载荷或记录信息的按一定规则排列组合的物理符号。可以是数字、文字、图像,也可以是计算机代码。对信息的接收始于对数据的接收,对信息的获取只能通过对数据背景的解读。数据背景是接收者针对特定数据的信息准备,即当接收者了解物理符号序列的规律,并知道每个符号和符号组合的指向性目标或含义时,便可以获得一组数据所载荷的信息。 数据转化为信息,可以用公式“数据+背景=信息”表示。 信息处理——数据处理——计算 5、计算机科学 1、百度:研究计算机及其周围各种现象和规律的科学。 2、1967年Newell、Perlis和Simon主张:计算科学是研究计算机及围绕它的主要现象的科学,而且说明反对这个定义就无异于表明其他科学都不是科学。 3、计算科学资格审查部:计算机科学是关于计算机和计算的知识总体。它由理论、实验和设计三部分,并且包括理解计算专职、程序和系统的理论,为概念的发展和测试所进行的实验,设计方法论、算法和实现工具以及严整这些实现满足要求的分析方法。 4、计算机科学是研究知识表达机器实现的科学。 5、 Abelson和Sussman(MIT教授):计算机革命是思维方法和思维表达方法的革命。 6、计算科学是对描述和变换信息的算法过程的系统研究,包括它的理论、分析、设计、有效性、实现和应用。 7、全部计算科学的基本问题是"什么能(有效地)自动进行?"。 计算机科学的基本问题 1、计算机程序能做什么和不能做什么(可计算性) 2、如何使程序更高效的执行特定任务(算法和复杂性理论); 3、程序如何存取不同类型的数据(数据结构和数据库); 4、程序如何显得更具有智能(人工智能); 5、人类如何与程序沟通(人机互动和人机界面)。 6、X? 7、外延? 6、物理学与计算机科学的比较 计算机科学着重于系统构建,因此系统设计是该学科的核心。现存的计算模型应该扩展,用以兼容物理特性-物质资源,内存、时间、功耗等应该是首要考虑的要素。通过补充并增强理论知识,以及需要深层次理解动态离散系统的模型,提出建设性的并有效可行的世界观,这一世界观可补充经典的陈述性的被物理学采用的方法。 7、计算机——计算 COMPUTER——COMPUTING 计算机科学也可以认为是数学的一个分支。任何学科都要基于数学理论进行有效验证。 但是,主要的也是最重要的是,计算机科学需要发展特定的理论,用于解释和预测能被测试的计算的特性。 随着计算机日益广泛而深刻的运用,计算这个原本专门的数学概念已经泛化到了人类的整个知识领域,并上升为一种极为普适的科学概念和哲学概念,成为人们认识事物、研究问题的一种新视角、新观念和新方法。 计算科学的重要性 在理论研究、试验科学之外,计算科学正在成为基础科学研究的“第三维”。 什么是计算 ? 1)数的加减乘除; 2)方程的求解、函数的微分积分等; 3)计算在本质上还包括定理的证明推导; 但是,计算的本质是什么? 1930年代,由于哥德尔(K.Godel,1906-1978)、丘奇(A.Church,1903-1995)、图灵(A.M.TUI-ing,1912-1954)等数学家的工作,人们才弄清楚什么是计算的本质,以及什么是可计算的、什么是不可计算的等根本性问题。 计算的概念 计算:就是从一个符号串f变换成另一个符号串g。 例: 1)从符号串12+3变换成15,一个加法计算; 2)如果符号串f是X的平方,而符号串g是2x,从f到g的计算就是微分; 3)令f表示一组公理和推导规则,令g是一个定理,则从f到g的一系列变换就是定理g的证明; 4)如f代表一个英文句子,而g为含意相同的中文句子,那么从f到g就是把英文翻译成中文。 计算无处不在—计算的世界观和方法论 计算的观念正在渗透到宇宙学、物理学、生物学 乃至社会科学等诸多领域。 计算不但已经成为人们认识