小太阳~

写在前面在文章[TensorFlow] argmax, softmax_cross_entropy_with_logits, sparse_softmax_cross_entropy_with_logits函数详解中，提到了交叉熵损失函数的计算方式以及tensorflow中的输入和输出等。本篇文章会更细地讲一下tensorflow中交叉熵损失函数的应用，以及在优化过程中可能用到加权交叉熵损失函数的使用方式。一、基础计算当存在多个类别时，通常使用交叉熵损失函数来衡量模型的效果，也是对模型调参的重要依据，

写在前面本文是Google Research发表在kdd2020上的一篇文章，主要是利用问答系统的算法来解决属性值提取的问题。论文地址本文主要从背景、算法、实验和总结几部分来讲解。一、背景1、任务和示例Attribute value extraction: The task of identifying values of an attribute of interest from product information.属性值提取，即识别为商品中的属性信息如上示例，文本是商品信息，A

写在前面文中使用了其他博主的图，具体链接已不好追踪，如果不妥，还请谅解（私信我加备注哦）~异常检测主要检测数据中的离群点，异常数据的特征值与正常数据的特征值距离较远。异常检测具有以下难点：标签数据较少，从较少的标签数据中很难学习到哪些是正常数据，哪些是异常数据。难以划分异常和正常的边界。数据本身存在噪声，导致噪声和异常难以区分。处理异常检测的模型包括监督模型、半监督学习和无监督学习模型，具体如下：一、监督模型常见分类模型都可使用。若有标签数据，则优先使用有监督学习方法解决问题。在基于监

写在前面本文主要为学习sutton书中《时序差分学习》章节整理而来。一、引言1、蒙特卡洛方法回顾（1）预测问题蒙特卡洛的目标是根据策略π\piπ采样轨迹序列vπ(s)v_\pi(s)vπ​(s)：S1,A1,R2,...,Sk∼πS_1,A_1,R_2,...,S_k \sim \piS1​,A1​,R2​,...,Sk​∼π。价值函数：vπ(s)=E(Gt∣St=s)v_\pi(s) = \mathcal{E}(G_t|S_t=s)vπ​(s)=E(Gt​∣St​=s)累积奖励GtG_tGt

写在前面强化学习系列方法主要学习Sutton的书，本文主要讲使用蒙特卡洛做预测和控制涉及到的问题。一、动态规划的局限动态规划中状态价值更新函数为：V(k+1)(S)=∑A∈Aπ(A∣S)(RSA+γ∑S′∈SPSS′AV(k)(S′))V^{(k+1)}(S) = \sum_{A \in \mathcal{A}} \pi(A|S) (R_S^A + \gamma \sum_{S' \in...

写在前面

强化学习系列博客主要学习sutton的书，有些内容来自Google DeepMind的David Silver的PPT，再此声明。

一、马尔可夫过程

如上图所示，在强化学习的过程中，Agent与Environment一直交互。在时刻$t$，Agent接收来自环境的状态$S_

写在前面

本文主要是学习sutton的书--强化学习绪论部分的整理，这里为了更好地理解，扩展了一些书上的内容。例子来源于网上，后续介绍的时候我会加上来源；还有部分PPT内容参考台大李宏毅老师的PPT以及Google DeepMind的David Silver的PPT，后续会注明！~~

一、强化学习概念

1、基本概念

在进入强化学习之前，这里先讲一个例子：> 小时候刚上学的时候，第一天老师布置了作业，我很认真地完成了它，然后得到了一朵小红花；第

一、环境描述python 3.7mac 10.14.5二、问题描述如下图所示，当使用matplotlib绘制图片的时候，所有的中文字符无法正常显示。三、解决方法1、下载字体ttf文件链接:https://pan.baidu.com/s/1RLVvbIi_NpAiiycBYQRPCQ 密码:n1sv2、找到配置文件使用如下代码找到配置文件：import matplotli...

本文主要包括：Q-learning基础、根据Q-learning思想分析一个代码。

本博客主要是台湾大学-李宏毅老师的公开课的总结。一、简介迁移学习主要是指将已有数据的领域知识迁移到数据缺乏的领域任务中，下面简单介绍下：出现原因迁移学习主要用于将源域(source domain)的知识迁移到目标域(target domain)，也可以理解为源域的数据辅助目标域数据的决策。其出现的主要原因是目标域数据较少，若仅仅使用目标域的数据，不足以训练一个比较好的模型，所以我们借助...

总体介绍本版本主要基于word2vec，后续还有一些改进想法，会继续更新。本项目主要包括如下内容：(1) 网易云音乐歌曲信息的爬取（歌手姓名、歌曲名、歌词、评论数、歌曲id）。(2) 使用word2vec对歌曲进行表示表示。(3) 基于word2vec对歌曲进行推荐以及web系统展示，支持歌手名、歌手+关键词和关键词查询。除此之外，涉及...

写在前面网上有很多关于GBDT和Xgboost的文章，但是我在读的时候感觉对于提升树、GBDT和Xgboost之间的关系，以及他们和残差、梯度的关系，所以自己整理了一下，涉及的知识点比较多。Xgboost证明部分主要来源于论文，这里加入了自己的理解，以及对几者关系的说明。在看本篇博文之前可以先看下提升树的相关内容，这样理解起来会思路更清晰。提升树、GBDT和Xgboost的简单介绍如下：...

本篇主要整理下激活函数的相关内容。首先讲下激活函数需要满足的条件：计算简单非线性为什么需要满足非线性呢？我们来看下面这个例子。如图单隐层神经网络，我们在计算的时候有如下公式：z1(2)=w[1]x+b[1]a1(2)=g[1](z1(2))\begin{aligned}z_1^{(2)} &= w^{[1]}x+b^{[1]} \\a_1^{(2)} &am...

本篇博客主要整理并亲自验证一下count(*), count(1)和count(column-name)的区别，本部的内容主要参考stackoverflow，除此之外，对聚集函数中是否包含NULL值进行了验证。本文所有测试数据基于macOS10.14.3，mysql5.7.25。一、数据本文主要使用2张数据表，分别是user和product表，其中，user表的“name”和“product...

一、梯度下降法1、算法原理关于梯度的优化优化方法主要包括梯度上升和梯度下降，如果想要求最大值，则使用梯度上升法，如果想要去最小值，则使用梯度下降法。本文主要讲梯度下降法，梯度下降法是指参数不断沿着负梯度方向不断更新，直到最小值，其形象化表示如下图：如上图所示，在A处找到其梯度下降最快的方向，沿着此方向走到A1点，接着在A1点沿着下降最快的方向走到A2点，直到最终走到AEnd点。那为什么会...

写在前面网上有很多写布隆过滤器的博客，但是大部分都是只关注一个点，不能非常好的从原理到应用理解，所以这里对布隆过滤器进行了整理。很多思想和例子都来自网上的的一些博客，非常感谢这些可爱哒人儿的付出，这里会尽量整理的比较详细，规整，有头有尾。一、引例在提到实现去重功能时，大部分人都会直接选择HashSet，HashSet可以起到去重的效果，并且其时间复杂度为O(1)O(1)O(1)，但是其存在的...

在上一篇博文（[歌词生成] 基于LSTM语言模型和seq2seq序列模型：数据爬取、模型思想、网络搭建、歌词生成）中，seq2seq训练之后，我们发现其在训练集合验证集上loss和accuracy变化如下：我们首先来回顾一下过拟合的基本表现：训练集loss不断降低，但是测试集的loss开始不断增加。再来看我们这个情况，看右边2个loss的图，在第15个epoch之前，训练集上的loss不断...

非常好奇强大的生成技术，写了这个小项目。模型优化无止境，这只是初步的模型，有时间我也会不断优化。本文主要对中文歌词进行自动生成。主要使用了基于概率语言模型的方法和基于seq2seq的方法进行生成。本文所有代码地址：[Github](https://github.com/Nana0606/Lyrics-generation)

写在前面本篇博客主要包括以下内容：（1）特征选择方法介绍（2）基于科研人员导师/学生分类实例应用特征选择方法，参数选择使用的是网格搜索。注： 很多内容是网上学习而得，感谢大佬们的分享~参考文献：[1] https://blog.csdn.net/fontthrone/article/details/79004874[2] http://www.cnblogs.com/stevenl...

写在前面以下功能版本：mysql版本：5.6.17hive版本：2.2.41、GROUP_CONCAT先看下面数据表test_group:（1）简单情况需求如下： 写出一个sql语句，按照category分组，并把组内的name使用“; ”分隔符连接。①mysql中SELECT category, GROUP_CONCAT(name SEPARATOR "; &quo