- 博客(13)
- 收藏
- 关注
原创 Neural network (some tips and insights)
some tips训练的输入数据要做归一化,如果是回归的话输出量最好也做归一化predict的输出量如果波动幅度太大的话可以加一个光滑训练的停止之间很关键,可以在predict的转折处停止,记录迭代的次数以及初始权值。如果网络很深,从远端到近端梯度就会变得不清楚,效率变低。有时候训练数据集中没有测试数据集中的特征,就学不会,可以适当将两者交换一部分,但是对于时序信号,要保证每一段有足够长的重复性。深度学习往往利用的是spatial information如果训练集中次次都跑的好要么模型太简单
2020-12-02 10:19:38 266
原创 Perceptron, Logistic regression and SVM
some tips非线性可以起到一个作用是对局部区域的数据敏感,对其他区域不敏感。多个线性神经元可以起到多维空间的平面分类,非线性则为曲面映射。perceptron pursue excellence, 它只有把所有点都分类正确才停止迭代。而logistic regression考虑总体效果。svm则可通过调节C来改变更看重间隙更大(泛化能力更好)还是更看重训练数据分类的正确率。用SVM做分类也要做数据归一化高斯核大小的选择有准则,看均值和中位数。silverman‘s rule一个高斯核像一
2020-11-13 10:30:50 403 2
原创 Neuroscience
每一个神经元neuron自身会变化,即可以是某一种prefer运动方向发生改变,也叫adaptation。neural plasiticity一般指的是神经元之间的突触连接发生变化。当学习一个新任务的时候,可以很多神经元同时参与,但是当这个任务变得熟练的时候,可能一部分神经元就干别的事了。可以每一个神经元当作一个基底base,和很多其他神经元(基地)线性组合完成一个任务。通常每个神经元的会有adaptation,每天可能都不一样,所以实际上对于很精细的控制,例如猴子控制机械手,可能需要每天重新训练p.
2020-10-30 17:19:41 200
原创 傅里叶变换指南
前言:之前本科的时候没学过信号与系统,知识零零星星的学过一些傅里叶变换极其应用,没有系统掌握。现在学了随机过程,觉得对一些概念理解有些模糊,所以打算自己系统学一下。Some interesting insights about Fourier from reference 1参考资料1我觉得很不一般,作者用滑稽的笔风详细地讲述了傅里叶变换,从频域的理解,到时域频域以及相位域的结合呈现再到从数学公式呈现人生观和价值观,很赞。下面我就摘取一些有意思的知识点以及观点。任何周期函数,都可以看作是不同振
2020-10-13 14:01:06 279 1
原创 Cognitive Neuroscience (Chapter 2)
二 细胞机制与认知神经系统的细胞神经元的的两个主要原理:连接的特异性:神经元的细胞浆彼此并不相通,因此每个神经元是相互独立的;而神经元间的这种连接并不是随意的,它是神经元传递信息的特异性通路。功能的两极分化:神经元的一部分专门负责接收信息,而另一部分则专门负责将信息传递给其他神经元和肌肉。神经系统由两种细胞组成,神经元和神经胶质细胞。神经胶质细胞是神经系统内的一类非神经元细胞,它对神经元提供结构支持和绝缘以保证神经元间信息传递更为有效等。神经元的结构主要包括,细胞体,轴突和树突(内部是细胞
2020-10-08 18:50:05 515
原创 Cognitive Neuroscience (Chapter 1)
这个系列主要想梳理一下《认知神经科学》的知识点,是关于心智的生物学,通过联合心理学,哲学和神经科学的方法帮助我们理解大脑是如何产生心智的。该系列以章为单位,一共十五章。第一章 认知神经科学简史人的大脑不同于其他动物的大脑就在于皮质的量上,而这种不同可能正是人类智慧的根源。Bridmann描述的基于细胞结构和排列的大脑52个分区。3. 颅相学家相信,大脑特定区域特异性地负责某项官能;如果这些官能被频繁的使用,则相应脑区将长大并引起颅骨地隆起。通过解读一个人颅骨的隆起,他们相信能够认识这个人的技
2020-10-05 12:14:31 682
原创 无损卡尔曼滤波器(Unscented Kalman Filter, UKF)#附MATLAB代码
无损卡尔曼滤波概念无损卡尔曼滤波又称无迹卡尔曼滤波(Unscented Kalman Filter,UKF),是无损变换(Unscented Transform,UT)与标准卡尔曼滤波体系的结合,通过UT变换使非线性系统方程适用于线性假设下的标准卡尔曼体系。而扩展卡尔曼滤波(Extended Kalman Filter,EKF)通过线性化非线性函数实现递推滤波,通常采用泰勒级数展开,然后求取雅克比矩阵,其精度低,计算复杂。无损变换(Unscented Transform,UT)UT变换是用固定数量
2020-08-22 10:27:39 3817 10
原创 维纳滤波器推导以及MATLAB代码(Wiener Filter)
维纳滤波器1. 背景及术语介绍随机信号或者随机过程:它是是普遍存在的。一方面,任何确定性信号经过测量后往往会引入随机性误差;另一方面,任何信号本身都存在随机干扰。噪声:按照功率谱密度划分可以划分为白噪声(white noise)和色噪声(color noise),我们常把均值为0的白噪声叫纯随机信号。干扰和噪声:非目标信号都可叫干扰。干扰可以是确定信号,如国内的50Hz工频,直流成分,也可以是不确定信号如噪声。因此,干扰包含噪声,但是噪声不包含干扰。广义平稳过程:信号处理中常用的弱平稳也被称为广义
2020-08-10 11:34:47 5896 5
原创 改进版PVA(population vector algorithm)
目录Population vector algorithm(改进版)概述调制函数(tuning function)1. 传统的调制函数2. 进阶版的调制函数2.1 Von Mises2.2 flat-topped/sharply-peaked2.3 Asymmetric2.4 bimodal考虑运动方向和速度曲线拟合权衡R^2^和复杂度参考文献Population vector algorithm(改进版)大家好,我叫小伟,一名在读Phd。这是我第一次写博客,希望能够将我所学习到的知识高质量地输出,也希
2020-08-07 15:29:35 607
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人