- 博客(2)
- 收藏
- 关注
原创 基于自注意力机制的句子表示的理解
基于自注意力机制的句子表示 句子表示的思路句子由词所组成,所以一般首先将句子切分为连续的词,对词进行表示,然后将每个词的表示以各种组合方式组合起来表示句子。常见的词的表示方法有:One-Hot 表示词嵌入 (Embedding)对于 One-Hot 表示存在的问题是,句子的词矩阵将特别稀疏,每个词的表示向量只有一个值为 1,其余全为0。并且任意两个词的表示向量 w1, ...
2018-09-10 23:16:59 7515 3
原创 感知机(原始形式和对偶形式)的理解和实现
感知机感知机是根据输入实例的特征向量 x 对其进行二类分类的线性模型。 感知机模型对应于输入空间(特征空间)中的分离超平面 w⋅x+b=0。其中w是超平面的法向量,b是超平面的截距。感知机学习的假设感知机学习的重要前提假设是训练数据集是线性可分的。感知机学习算法是基于随机梯度下降法的损失函数的最优化算法,有原始形式和对偶形式,算法简单且易于实现。本文对感知机模型及其学习算法进行了分析,并用 python 进行了实习。
2018-04-05 17:49:35 8124 2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人