陆海潘江的博客

GoogleBERT预训练模型在深度学习、NLP领域的应用已经十分广泛了，在文本分类任务达到很好的效果。相比传统的词嵌入word2vec、golve，使用bert预训练得到的效果有更好地提升。这篇不会很深入复杂地分析bert的原理以及高级应用，而是从零开始，定位于初学者对BERT的简单认识和应用，使用bert框架bert-as-server（CS架构）。

本文记录使用sklearn库实现有监督的数据降维技术——线性判别分析（LDA）。采用更高效的实现方法，学习基于sklearn进行LDA数据降维，提高编码速度，而且会感觉更加简单。

LDA线性判别分析，也是一种特征提取、数据压缩技术。在模型训练时候进行LDA数据处理可以提高计算效率以及避免过拟合。它是一种有监督学习算法。本文介绍LDA原理以及实战案例。

基于sklearn的主成分分析代码实现，使用PCA类进行无监督数据降维，仍然以葡萄酒数据集为案例，本文将运用sklearn封装的PCA类来实现，提高编码效率。

数据降维的一种方法是通过特征提取实现，主成分分析PCA就是一种无监督数据压缩技术，广泛应用于特征提取和降维。换言之，PCA技术就是在高维数据中寻找最大方差的方向，将这个方向投影到维度更小的新子空间。

深度学习模型的调优，首先需要对各方面进行评估，主要包括定义函数、模型在训练集和测试集拟合效果、交叉验证、激活函数和优化算法的选择等。那如何对我们自己的模型进行判断呢？请看详细解析以及案例实战！

前言今天记录一下深度学习的另外一个入门项目——《mnist数据集手写数字识别》，这是一个入门必备的学习案例，主要使用了tensorflow下的keras网络结构的Sequential模型，常用层的Dense全连接层、Activation激活层和Reshape层。还有其他方法训练手写数字识别模型，可以基于pytorch实现的，《Pytorch实现基于卷积神经网络的面部表情识别(详细步骤)》 这篇就是基于pytorch实现，pytorch里也封装了mnist的数据集，实现方法应该类似，正在学习中……这一篇记

文章目录一、项目背景二、数据处理1、标签与特征分离2、数据可视化3、训练集和测试集三、模型搭建四、模型训练特征五、完整代码一、项目背景数据集cnn_train.csv包含人类面部表情的图片的label和feature。在这里，面部表情识别相当于一个分类问题，共有7个类别。其中label包括7种类型表情：一共有28709个label，说明包含了28709张表情包嘿嘿。每一行就是一张表情包4848=2304个像素，相当于4848个灰度值(intensity)(0为黑, 255为白)二、数据处理

    学习python,机器学习（maching-lerning）、深度学习（deep-learning）等概念也是耳熟能详。我最近从新手开始学习maching-learning知识，不过课程偏向基本的理论知识，所以有时感觉枯燥无味，于是我试着实践代码，对于从零开始的小白来说，理论到实践要解决的第一个问题居然是各种第三方包的安装成功和测试顺利。这次让我意识到不仅要写好程序，还有编译运行环境、程序的各种依赖满足。“万事俱备，只欠东风”也许说的就是这样吧。下面记录自己