机器学习
文章平均质量分 50
机器学习常见算法
小坏蛋Chris
研究生个人学习笔记,参考了好多csdn大佬文章,只用做个人学习
展开
-
RNN,BERT,LSTM
self-attention机制q,k,v三种矩阵。multihead多头机制(提取多种特征)Transformer架构,注意力机制。传统word2vec:不同语境上下文。传统RNN模型:无法并行,softmax归一化。原创 2023-04-03 17:26:24 · 71 阅读 · 0 评论 -
pytorch文档
transforms.Resize(96), # 缩放到 96 * 96 大小transforms.ToTensor(), # 转化为Tensortransforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5)) # 归一化])原创 2023-03-18 11:03:19 · 178 阅读 · 0 评论 -
图神经网络学习
图的四种属性是非常重要的:节点(nodes),边(edges),全局信息(global-context),连接性(connectivity)。同理,对于有节点信息但没有边信息的图,若要进行边的预测,也是先进行pooling操作,即对边的两个节点向量、全局图向量进行sum操作,即得到该边的向量;对于没有全局图向量的情况,对所有的节点向量进行pooling操作即可得到全局图向量。图嵌入算法:矩阵分解,随机游走,深度学习(基于图自动编码器DNGR,SDNE,,图卷积神经网络)原创 2023-04-03 17:17:18 · 115 阅读 · 0 评论