![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 95
机器学习相关
博途慧算
这个作者很懒,什么都没留下…
展开
-
深度学习基础(二):神经网络参数初始化、Batch size和Optimization
1.神经网络初始化初识化神经网络权重www1.1固定方差1)高斯分布E=0E=0E=0,参数分布符合N(0,σ2)N(0,\sigma^2)N(0,σ2),σ\sigmaσ过小会导致输出神经元过小,经过多层后会慢慢消失,也可能会造成sigmoid函数丢失非线性的能力。2)均匀分布1.2基于方差缩放1)Xavier初始化(Glorot)glorot_uniform,根据每层神经元数量调整参数方差。self.gru = tf.keras.layers.GRU(self.dec_units,原创 2020-06-13 16:33:44 · 605 阅读 · 0 评论 -
深度学习基础(一):图计算理论
1. 图计算理论计算图中节点为基本公式,权重为两节点间导数。对公式e=(a+b)∗(b+1)e=(a+b)*(b+1)e=(a+b)∗(b+1),令c=a+b,d=b+1c=a+b,d=b+1c=a+b,d=b+1,则e=c∗de=c*de=c∗d因此,∂e∂b=∂e∂c∂c∂b+∂e∂d∂d∂b=2∗1+3∗1=5\frac{\partial e}{\partial b}=\frac{\partial e}{\partial c}\frac{\partial c}{\partial b}+\frac原创 2020-06-10 23:40:25 · 1591 阅读 · 0 评论 -
机器学习实战(三):Kaalge比赛Google QUEST Q&A Labeling
概览一、前言1.问题2.数据二、特征工程三、搭建模型一、前言1.问题Kaggle比赛Google QUEST Q&A Labeling是一个文本分类问题(多标签分类问题)2.数据数量:训练样本6079条,测试样本476条特征(10个维度):文本部分question_title,question_body,answer;非文本部分question_user_name,qustio...原创 2020-05-07 23:28:24 · 630 阅读 · 0 评论 -
机器学习实战(二):Fintech金融科技现金流预测
赛题基于用户90天内的收支数据和天级别的资产信息训练模型,然后根据用户最近60天的收支数据和资产信息,预测用户7天后的账户余额。训练数据集(train.txt) 提供了用于建模的数据。验证数据集(test_input.txt)有3000个用户在某个日期以前60天内的收支数据和天级别的资产信息,请对用户7天后的账户余额进行预测。这两个个文件都拥有2种数据:资产信息数据和收支数据。收支数据具有一级...原创 2020-04-11 23:01:51 · 1125 阅读 · 0 评论 -
机器学习实战(一):2018华为精英软件挑战赛(时间序列)
概览一、前言二、时间序列基础1.AR2.MA3.ARMA4.ARIMA三、预测四、服务器部署一、前言2018年参加了华为的软件挑战赛,当初我所在的学院参加了这个比赛拿到名次的同学也基本都拿到了华为的offer,有的去了华为,有的因为各种原因去了其他的公司。最近在回顾时间序列算法模型,当时参加比赛使用了几种模型,于是在此进行回顾。时间序列模型通常分为传统机器学习模型和神经网络模型,其中传统机器...原创 2020-04-07 23:29:25 · 560 阅读 · 0 评论 -
机器学习基础(三):线性回归
概览一、前言二、线性回归一、前言作为回归问题中最简单的线性回归应该是机器学习入门最应该掌握和熟悉的算法,现在我分别从频率派和贝叶斯派的角度对ω\omegaω进行估计。二、线性回归假设数据集D=(x1,y1),(x2,y2),...,(xn,yn)D={(x_1,y_1),(x_2,y_2),...,(x_n,y_n)}D=(x1,y1),(x2,y2),...,(xn,yn),...原创 2020-02-11 11:16:05 · 254 阅读 · 0 评论 -
机器学习基础(二):降维
概览一、前言二、主成分分析一、前言大量的特征有助于模型对训练样本的拟合,但随着特征空间维度的增加,导致数据稀疏且分布不均匀,出现维度灾难。较高的特征空间维度学习了训练样本中的噪声,即使训练误差较小,但由于产生过拟合,泛化误差有所增加。因此可考虑降维的方式去除噪声,提升模型的泛化能力。二、主成分分析主成分分析(Principle Component Analysis,PCA)是从参考资料...原创 2020-02-09 00:42:45 · 194 阅读 · 0 评论 -
机器学习基础(一):支持向量机原理
概览一、前言二、SVM概念1.概念2.函数间隔与几何间隔总结一、前言支持向量机(Support Vectore Machine, SVM)学习问题可以表示为凸优化问题,能够在小样本训练量的情况下,使用有效地算法求解线性及非线性问题的全局最优解。支持向量机在求解非线性分类问题时,利用核技巧将非线性问题从低纬空间向高纬空间映射,然后采取线性分类问题的方式去解决。在非线性问题上的优异表现及较高的鲁棒...原创 2020-02-06 22:38:37 · 1540 阅读 · 0 评论