智能计算系统(学习笔记)-第一章概述

课程: (智能计算系统第一章)地址

人工智能底层的缺失导致智能产业变成空中阁楼

为什么有智能计算系统

芯片层--->系统层--->算法层--->应用层

计算机专业培养计算机整体及子系统的设计者和研究者
不但会开车,还会制造汽车
计算机系统的研究,算法仅仅是系统的一个环节,算法服务于系统.例如系统(Tensorflow,AlphaGo,TPU(芯片))

为什么需要系统研究

计算机系统的研究,形成系统思维,拥有更广阔的科研道路.
包括集成CPU和智能芯片的异构系统,软件上面向开发者的智能计算编程环境.

智能计算系统的需求

之前没有 参考课程,现成师资,成熟教材----->寒武纪-中科院人工智能
培养对智能计算完整软硬件技术栈(包括基础智能算法,智能计算编程框架,智能计算编程语言,智能芯片体系结构等)融会贯通理解
前置要求:C/C++,计算机组成原理,算法导论/机器学习

课程设置

基础的计算机科学与技术的培养方案

应用驱动,全栈贯通的课程

人工智能的三个流派

1.行为主义:基于控制论,构建感知-动作型控制系统
2.符号主义:基于符号逻辑(谓词逻辑等),用符号逻辑表示知识和求解问题

• 逻辑(难找简洁逻辑体系) 常识(无穷的常识) 求解器(NP不可判)

3.连接主义:基于大脑中神经元细胞连接的计算模型,用人工神经网络来拟合智能行为.
深度学习的局限: 深度学习是梯子,而非火箭

• 泛化能力有限
• 缺乏推理能力
• 缺乏可解释性
• 鲁棒性欠佳

智能计算系统的应用及方向

智能计算系统是智能的物质载体

异构智能计算系统

• 通用计算机算力增长不高,计算需求却指数增长
• 普通CPU去管操作系统,显示等
• 智能芯片去处理专门的智能计算
• 智能计算系统的集成编程环境,便捷开发高能效的智能应用程序
• 深度学习框架:常见TensorFlow,MXNet…
• 深度学习编程语言:CUDA,BCL等

目前第二代:面向连接主义的深度学习计算机
预处第三代:强人工智能/通用人工智能的载体

• 大量独立的智能主体,足够的虚拟世界,无限的计算能力
• 智能主体在与环境交互中成长,形成感知,认知,逻辑,甚至理解虚拟世界,获得通用智能

获得智能的方式?

• 体系结构:并发认知智能计算机线程和超大规模虚拟环境的计算机和芯片
• 算法:有限延迟的认知智能算法,自主产生语言和文字,建立自己的知识图谱,打破感知到逻辑的鸿沟
• 编程框架,操作系统,网络都需要发生巨变.

处理过程的模式

输入------>建模(神经网络基础[深度学习])------>实现(编程框架&Bang)------->运行(架构基础&设计&标准与评测)------->输出(运行环境搭建&运行与调试&应用与开发)

• 神经网络基础
  
• 深度学习
  
• 编程框架
  将深度学习中的基本操作封装为一系列组件,帮助研究人员实现已有算法,或者设计新算法,这就是深度学习的框架.
  例如:Tensorflow(数据流图),MXNet,caffe,Pytorch
• Bang
  基于C语言扩展,丰富的编程接口,实现编程框架里所需的算子[寒武纪]