- 博客(21)
- 资源 (4)
- 收藏
- 关注
原创 信息瓶颈理论-基础与应用
历史沿革与导读早在2000年,Naftali Tishby就在“The information bottleneck method”一文[1]中提出了信息瓶颈理论,给出了优化问题的数学定义和迭代算法,并且证明了算法的收敛性。最近深度学习的热潮,也带来了对其可解释性和理论分析的关注。在2015年[2]和2017年[3]的文中,Tishby和他的学生们尝试用信息瓶颈理论用于解释深度学习,发现深度学...
2019-05-03 22:31:44 8945
原创 智能熵、智能容量和迭代学习量化分析:智能-通信统一模型和AlphaZero案例分析
Original Pre-printLearning as Decoding the World to Approach the Intelligence Upper-bound: An Intelligence-Communication Model and a Case Study of AlphaZero from Shannon’s PerspectiveDOI: 10.13140/R...
2018-12-13 17:50:39 636
原创 Learning as Decoding the World to Approach the Intelligence Upper-bound: Applying UICM to AlphaZero
This paper would be fully open-access.The recently released AlphaZero algorithm achieves superhuman performance in the games of chess, shogi and Go, which raises two open questions.Firstly, as ther...
2018-12-12 09:50:06 448
原创 An Unified Intelligence-Communication Model for Multi-Agent System——Part III
An Unified Intelligence-Communication Model for Multi-Agent System: Overview and Case Studies – Chapter Two: Modelling the Information Source and Destination in the Agentgit博客同步发布 https://uicm-mas.gi...
2018-11-18 13:09:51 377
原创 An Unified Intelligence-Communication Model for Multi-Agent System——Part II
An Unified Intelligence-Communication Model for Multi-Agent System: Overview and Case Studies – Chapter One: A Brief Introduction of the UIC Model - From Shannon’s Perspectivegit博客同步发布 https://uicm-...
2018-11-10 22:49:18 1206
原创 An Unified Intelligence-Communication Model for Multi-Agent System——Part I
An Unified Intelligence-Communication Model for Multi-Agent System: Overview and Case Studies – Abstract and Outline of the Papergit博客同步发布 https://uicm-mas.github.io/Authored by: Bo Zhang, Jinyu Yan...
2018-11-10 22:46:45 965 2
原创 信号分析与处理导论-20个参赛用PPT节段全开源
信号分析与处理导论-20个参赛用PPT节段全开源刚刚开源了参加过教学比赛的《信号分析与处理导论》课程的教学设计,即教案,有同仁问我能不能也提供PPT。实话说,自己上课是不喜欢用PPT的。经常出现一两张PPT放在那儿,靠板书画图和推导讲完两节课。自己和学生都更习惯用黑板和粉笔完成实时交互,学生有什么新想法新问题就直接在黑板上写下来,现场讨论,能够尽快答疑解惑,学生还时常会有超出备课范畴的惊喜。当...
2018-10-14 00:59:53 717
原创 信号分析与处理导论-教案开源
信号分析与处理导论-教案开源笔者曾是一名青椒,曾任职于某985大学计算机学院(后来评了双一流的世界一流计算机学科),担任本科生《信号分析与处理导论》课程的主讲老师。《信号分析与处理导论》这门课虽然仅有36课时,但笔者个人理解,它是信息科学等领域最重要的基础课程之一,对学生的科学素养、理解世界的视角、以及构建思维工具有较深远的影响。因此,笔者试图借鉴教育理论和技术,利用本人科研方向的实践经历,...
2018-10-13 21:30:39 860 2
原创 基于世界模型的深度强化学习
起源世界模型[https://zhuanlan.zhihu.com/p/39928037]被lecun认为是弥补RL不足和通向下一代AI的要点。虽然Model-Based RL不是新概念,但是世界模型的构建方法,以及提升其泛化能力、注意力能力和记忆容量的设计还是颇具挑战性。DaH和LSTM的发明人在今年五月提出了基于非监督学习训练大规模RNN,用于表征世界模型,并针对强化学习框架设计了智能...
2018-08-14 15:42:04 2571
原创 智能的具身化
摘要建立在“认知即计算”这一命题的基础上,“脑是智能载体”的观点被广泛接受,“大脑控制身体”被认为是常识。但是,“智能的具身化”思想挑战这一传统命题,强调认知和智力活动不仅仅是大脑孤立的计算,而是大脑、身体和环境的相互作用。 本文基于Rolf Pfeifer和Josh Bongard的著作《How the Body Shapes the Way We Think》进行摘录和点评。本书在Goo...
2018-07-07 00:50:48 1296
原创 RF network on chips (RFNoC)片上网络浅析
摘要软件无线电开发领域常用的GNU-Radio开源开发框架一般是用于GPP架构,由于信号处理都在PC上实现,波形模块的移植性和可复用性好,并且基于流图的开发模式很容易上手,易被学术界接受。但是二代的USRP前端FPGA能力较弱,一般只用于信号上下变频和采样,因此很难达到实际通信协议&产品(如802.11簇)的处理能力和时延要求。 因此,Ettus Research公司基于K-7和Zy...
2018-06-26 00:50:14 2960
原创 RFNoC+GNURadio开源项目摘录(2018-6-26 持续更新)
摘要基于RFNoC的GNURadio package(简称RFNoC-GR包)开发还比较初步,因为要涉及FPGA开发,所以学术界的相关波形组件开发和开源肯定比GPP的组件慢,但是在基于RFNoC的Zynq系列越来越普及的情况下,RFNoC-GR开源包也会逐步增多,这里将搜集更新可用的包和基本介绍。Ettus Research提供的RFNoC Blockshttps://kb.ettus...
2018-06-26 00:17:40 2165
原创 《隐秩序》-第二章:适应性主体——摘录与评述(Part-3 规则发现算法)
在第二章的Part-1和第二章的Part-2中,笔者分别摘录和评述了适应性主体的执行系统和信用分派算法。 1. 首先,霍兰基于规则为适应性主体进行建模。将主体在某个固定时间上的能力刻画为包含一组探测器、一组IF-THEN规则和一组效应器的执行系统。 2. 然后,霍兰认为,规则是正在进行检验和确认的假设。因此,规则之间有可能相互矛盾,基于信用分派算法,主体内部的多个规则之间进行竞争,通过环境的反...
2018-05-23 21:16:26 419 3
原创 《隐秩序》-第二章:适应性主体——摘录与评述(Part-2 信用分派算法)
在第二章的Part-1中,笔者摘录和评述了适应性主体的执行系统。霍兰用规则这一统一方式描述不同种类主体的性能,而不考虑由于适应所产生的变化。在本篇中,霍兰给出了基于规则的适应性主体如何在环境中进行学习和适应。信用分派算法笔者梳理出霍兰的思路,其实是环环相扣的问题牵引。首先,规则是什么?1. 通常的观点是:规则的总合就是描述主体环境的事实的集合。于是,所有的规则应该保持相互一...
2018-05-23 21:15:17 396
原创 《隐秩序》-第二章:适应性主体——摘录与评述(Part-1 执行系统)
概要为了对跨学科的截然不同的CAS系统构建共同描述,霍兰首先给出对适应性主体的建模。在第一章抽取的七个基本点的基础上,霍兰构建了由执行系统、信用分派算法和规则发现算法三大部分组成的适应性主体模型。并分别展开了详细的阐述。导读本章共有48页,目录里只有章标题,没有节标题。笔者首先按顺序梳理了本章的各节内容,方便查阅和建立逻辑导图,然后基于该脉络展开对各小节的摘录与评述。...
2018-05-23 21:13:15 455
原创 《隐秩序》第一章:基本元素——摘录与评述
第一章:基本元素即使是圣菲研究所,也只是复杂系统科学的一个代表流派,而复杂系统科学还处于核心概念和定义的不断发展过程之中。在本书的第一章中,霍兰首先给出了他对复杂适应系统(Complex Adaptive System,简称CAS)的一种理解框架或者一个初步定义随后,通过跨学科的CAS比较,霍兰抽取了CAS的七个基本点,
2017-11-04 22:08:10 656
原创 《隐秩序:适应性造就复杂性》--摘录与评述
霍兰(John Henry Holland)是圣菲研究所的代表学者,因发明遗传算法而闻名。以前对遗传算法的理解就是一个启发式的优化方法,但是通过米歇尔的《复杂》一书的科普,我才隐约理解到遗传算法背后的深刻意义。作为复杂适应系统的开拓者之一,霍兰在本书(豆瓣链接 )中,将跨学科的多个领域的复杂系统共性抽取,提出了复杂适应系统(Complex Adaptive System)的模型。本书并不是霍兰关于C
2017-11-02 17:36:36 1277
原创 "深度学习的迁移模型"主题报告速记与评述(四)
笔者按 :机器学习正在走向基于“语义”的可解释模型的新时代。迁移学习很有可能接过监督学习今天的辉煌,显著提升模型的可解释性和适应性:不仅在有着大数据的领域好用,还能迁移到只有小数据的新领域中好用。概要CCAI主办方提供了Slides的下载链接。报告分四个主要部分,而本文主要总结和评述前三部分。 1. 迁移学习的优势 2. 深度迁移学习解决方案 3. 三种迁移学习的范式 4. 迁移学习应用案例
2017-07-28 23:01:43 4640
原创 "众包中的统计推断与激励机制" 主题报告速记与评述(三)
笔者按 :机器学习正在走向基于“语义”的可解释模型的新时代。但在很多场合,例如“语义”驱动的监督学习器在能够达到更强泛化能力前,也还需要数据驱动型算法,而后者的“养料”是标注的大数据,周登勇博士的这个报告介绍了大数据标注的关键技术。概要报告分两个主要部分:1. 为什么需要众包? 2. 提升众包质量的策略:提出了基于众包的标记质量和众包动机两个问题,并分别给出并介绍了解决方案。
2017-07-27 22:26:39 1517
原创 "大数据如何帮助小数据?" 主题报告速记与评述(二)
笔者按:机器学习正在走向基于“语义”的可解释模型的新时代,zero-shot learning是其中一个很有价值的方向。参见“A DARPA Perspective on AI”报告分三部分,并主要围绕第二部分展开讨论:大数据帮助小数据的三种范式:多任务学习(multi-task learning)、领域适应(domain adaptation)和零样本学习(zero-shot learning)。
2017-07-26 20:54:04 2645
原创 中国人工智能大会报告现场速记-基本情况(一)
中国人工智能大会(CCAI 2017)参会见闻–主题报告速记与评述===================================CCAI 2017于2017.7.22-7.23在杭州国际会议中心举办,笔者有幸参加。 有诸多人工智能领域的国际一流学者进行了“学术性”和“趣味性”并存的精彩报告。 笔者根据自身的研究兴趣,着重选取了其中三个报告进行了速记,并整理加入了个人的评述。
2017-07-25 14:08:17 1513 2
信号分析与处理导论-教学PPT节段-开源
2018-10-14
信号分析与处理导论-教学设计-开源
2018-10-13
华为模拟电路讲义 pdf
2010-01-30
BP神经网络多种方法比较
2009-02-04
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人