- 博客(64)
- 收藏
- 关注
RSS订阅原创 情感分析总览（未完成）
情感分析（一）ABSA：译为基于方面的情感分析，本质就是对句子中不同对象可能会存在不同的情感倾向。Effective LSTMs for Target-Dependent Sentiment Classification（COLING2016）三种基于LSTM的模型：LSTM、Target-Dependent LSTM 、Target-Connection LSTMAttention-based LSTM for Aspect-level Sentiment Classification（EMNLP
2021-05-31 13:51:47
179
原创 LeetcodePracticeJava（一）hotcode_rank100_easy
LeecodePracticeJava（一）hotcode_rank100_easy算法orTips记录SumUpOfTwoNumbers001import java.util.HashMap;import java.util.Map;class Solution {public static int[] twoSum(int[] nums, int target) { HashMap<Integer,Integer> map = new HashMap<&
2021-04-15 14:44:34
198
原创 问题解决技巧（时常更新）
Anaconda使用技巧0409-解决jupyter notebook中虚拟环境选用的问题：conda install nb_conda
2021-04-09 13:50:33
157
原创 Java基础（三）数组
Java基础（三）数组一、数组–容器int[] numbers = new int[100]<类型>[]<名字> = new <类型> [元素个数]//创建后不能改变大小//元素个数可以是变量编程习惯：if cnt>0while n!=-1{}<数组名字>.length可扩展性投票统计二、初始化int[] scores={1,2.3,4};int[] scores=new int[4]关于赋值普通变量=数据数组变量
2021-04-06 09:36:55
92
原创 Java基础（二）循环与控制
Java基础（二）循环与控制一、循环if(){ do 1}else( do 2)while() //while（true）一直循环{ do 3}while 和 if的区别完成本次循环体后是否重新判断do{}while（）；二、循环计算初始值判断条件while输出计数加减计算finally balabala计算平均数eg猜数游戏eg整数分解egwhile 和 do while的差异三、for循环int n = in.nextInt();
2021-03-31 22:26:46
61
原创 python理解与应用（一）marks and 扩展模块
python理解与应用（一）复杂数据类型容器类型数据组织计算控制流：顺序、条件、循环定义语句：def、class代码对象callable一、datetime二、calendar三、time四、算术五、持久化六、文本读写...
2021-03-30 11:14:36
216
原创 TensorFlow-GPU（一）环境配置
TensorFlow-GPU（一）环境配置一、新建虚拟环境conda create -n tensor14 python=3.6网络问题报错，解决镜像源的问题：condarc文件修改channel为： - https://mirrors.ustc.edu.cn/anaconda/pkgs/free/ - https://mirrors.bfsu.edu.cn/anaconda/pkgs/free - https://mirrors.bfsu.edu.cn/anaconda/pkgs/ma
2021-03-25 09:08:54
528
原创 Java基础（一）计算+判断
Java基础（一）计算+判断一、计算//输入import java.util.Scanner Scanner in = new Scanner(System.in);//输出 System.out.println() println和print 区别在于换行//整型变量 int name int name = 0 //初始化 //实际输入和声明的变量类别必须一致 final int amount = 100 //常量定义//赋值 name = in.nextInt() //
2021-03-21 09:17:46
122
原创 自然语言处理 专项3 CBOW模型与word2vec中的CBOW
自然语言处理 专项3 CBOW模型与word2vec中的CBOW#让计算机学习假词向量的正确向量空间from tensorflow import kerasimport tensorflow as tffrom utils import process_w2v_datafrom visual import show_w2v_word_embeddingcorpus = [ # numbers "5 2 4 8 6 2 3 6 4", "4 8 5 6 9 5 5 6"
2021-01-29 18:54:04
240
转载 莫凡Python--TensorFlow--学习笔记（一）简介
莫凡Python–TensorFlow–学习笔记（一）简介人工神经网络靠的是正向和反向传播来更新神经元, 从而形成一个好的神经系统本质上, 这是一个能让计算机处理和优化的数学模型而生物神经网络是通过刺激, 产生新的联结, 让信号能够通过新的联结传递而形成反馈...
2020-10-20 15:41:04
487
原创 自然语言处理 专项2 Word Embedding
自然语言处理 专项2 WordEmbedding关于其他的Embedding，后续再分析万物皆可Embedding，先mark一、数学含义翻译过来叫词嵌入Embedding在数学上表示一个maping，也就是一个function：F(x)->y其中该函数是injective（就是我们所说的单射函数，每个Y只有唯一的X对应，反之亦然）和structure-preserving (结构保存，比如在X所属的空间上X1 < X2,那么映射后在Y所属空间上同理 Y1 < Y2)那么对
2020-10-16 14:41:32
278
转载 推荐算法专项（一）基础定义
推荐算法 专项1 基础定义通过一些数学算法，推测出用户可能喜欢的东西一、起源1995年3月的美国人工智能协会个性化推荐系统电影推荐系统在实际中对用户的浏览购买行为进行分析，尝试对曾经浏览或购买商品的用户进行个性化推荐二、分类2.1 基于内容基于内容的推荐基于信息过滤技术，是建立在项目的内容信息上做出推荐的，不需要依据用户对项目的评价意见，更多地要用从关于内容的特征描述的事例中得到用户的兴趣资料在基于内容的推荐系统中，项目或对象是通过相关特征的属性来定义的，系统基于用户评价对象的特征、学习
2020-10-14 17:45:23
876
原创 莫凡Python--自然语言处理--学习笔记（三）理解词语
理解词语一、词向量词向量技术是将词转化成为稠密向量，并且对于相似的词，其对应的词向量也相近词向量的几种典型应用：把这些对词语理解的向量通过特定方法组合起来，就可以有对某句话的理解了；可以在向量空间中找寻同义词，因为同义词表达的意思相近，往往在空间中距离也非常近；词语的距离换算。1.1 词向量的表示主要分为one-hot representation和distribution representation（1）离散表示（one-hot representation）传统的基于规则或基于统
2020-10-09 16:32:32
604
1
原创 莫凡Python--自然语言处理--学习笔记（二）搜索
搜索一、如何工作搜索引擎、垂类搜索构建索引（在快速数据中）多模态搜索技术批量召回–粗排–精排倒排索引技术索引复用TF-IDF算法词频–逆文本频率指数四维空间中，问题离哪一个文章的距离最近把问句或者是文章，用数字的模式，投射到空间中，都是将问句或文章转变成向量，然后按照向量的模式指向空间中的某个位置二、TF-IDFTF-IDF：使用词语的重要程度与独特性来代表每篇文章，然后通过对比搜索词与代表的相似性，提供最相似的文章列表。语言向量化TF-IDF 的数学表达形式是一个庞大的矩阵，用词
2020-09-30 13:58:14
199
原创 Python编程错误积累--时常更新
0923：ModuleNotFoundError: No module named 'win32api'因为缺少了windows系统API的库这个模块使用命令：pip install pypiwin32
2020-09-23 16:53:55
123
原创 莫凡Python--自然语言处理--学习笔记（一）简介
第一章 简介一、NLP六问1.1 行业大佬自我介绍1.2 用NLP做些什么文本分类、机器翻译中文文本纠错商品卖点挖掘任务型对话系统（导购机器人）文本语义分析（交流体验，剪辑视频、表情包）1.3 任务价值1.4 难点样本的准备（来源、洗涤、编辑）应用范围较窄标注数据的不足样本中的俚语1.5 发展行业与场景的属性GPT3脱离字符串匹配1.6 建议工程能力：算法与复现、各种系统上的实验、产品化应用项目业务导向具体任务导向二、自然语言处理是什么...
2020-09-20 11:47:59
497
原创 神经网络 专项3 LSTM--长短期记忆网络
专项3 LSTM–长短期记忆网络一、理解LSTM一种特别形式的RNN，是一种时间递归神经网络，适合于处理和预测时间序列中间隔和延迟相对较长的重要事件。主线取决于输入和忘记LSTM区别于RNN的地方，主要就在于它在算法中加入了一个判断信息有用与否的"处理器"，这个处理器作用的结构被称为cell。一个cell当中被放置了三扇门，分别叫做输入门、遗忘门和输出门。一个信息进入LSTM的网络当中，可以根据规则来判断是否有用。只有符合算法认证的信息才会留下，不符的信息则通过遗忘门被遗忘。门：一个sigmo
2020-09-20 11:02:43
690
原创 神经网络 专项2 CNN--卷积神经网络
CNN–卷积神经网络基本结构：input----(CONV*n+Pool?)m----FNk----output全连接网络每层神经元按照线性一维分布卷积神经网络每层神经元按照立体三维分布一、基础认知1.1 输入与输出输入图像在计算机中表示为一大堆像素值。根据图片的分辨率和尺寸，将表示为一个 32 x 32 x 3 的数组（3 指代的是 RGB 值）其中每个数字的值从 0 到 255 不等，描述了对应那一点的像素灰度提供给计算机这一数组后，它将输出描述该图像属于某一特定分类的概率的数字计算机
2020-09-19 10:28:32
811
原创 CS231n 课程作业 Assignment Two（六）Tensorflow（0902）
Assignment Two（六）TensorflowTensorFlow是一个用于在Tensor对象上执行计算图的系统，其原生支持为其变量执行反向传播。在其中，我们使用张量，它们是类似于numpy ndarray的n维数组。一、准备与安装1.1 创建新的虚拟环境cmd命令 conda create -n tf_20_env python=3.7启动 activate tf_20_env安装作业一中的库 pip install -r D:\CS231nAssignment1\assignment
2020-09-04 11:48:51
2007
1
原创 CS231n 课程作业 Assignment Two（五）卷积神经网络（0830）
Assignment Two（五）卷积神经网络一、前提和其他任务不同的是，需要安装一个cython的扩展包在虚拟环境中安装cython和正常方式不同，最简单的就是在anaconda prompt中activate cs231n，然后使用pip install cython这样就可以成功安装了（课程推荐的代码会有很多报错）...
2020-09-01 14:51:17
1387
原创 CS231n 课程作业 Assignment Two（四）Dropout（0829）
Assignment Two（四）Dropout一、原理正向传递过程中，激活层之后。将某些输出激活随机设置为零，对神经网络进行正则化，这样可以有效地缓解过拟合的现象二、实现2.1 Dropout forwarddef dropout_forward(x, dropout_param): """ Performs the forward pass for (inverted) dropout. Inputs: - x: Input data, of any shap
2020-08-30 16:32:18
550
原创 CS231n 课程作业 Assignment Two（三）Batch Normalization（0824）
Assignment Two（三）Batch Normalization使深层网络更容易训练的一种方法是使用更复杂的优化程序，例如SGD + momentum，RMSProp或Adam。另一种策略是更改网络的体系结构，使其更容易训练。遵循这些思路的一个想法是批量标准化。（机器学习方法的输入数据由零相关且单位方差为零的不相关特征组成时，它们往往会更好地工作）在训练时，批处理归一化层使用少量数据来估计每个特征的均值和标准差。然后，将这些估计的均值和标准偏差用于对微型批次的特征进行居中和标准化。在训练过程中，
2020-08-29 20:38:38
907
1
原创 CS231n 课程作业 Assignment Two（二）全连接神经网络（0820）
Assignment Two（二）全连接神经网络主要工作为：模块化设计、最优化更新的几种方法一、模块设计在A1中，实现了完全连接的两层神经网络。 但功能上不是很模块化，因为损耗和梯度是在单个整体函数中计算的。 这对于简单的两层网络是可管理的，但是随着转向更大的模型，这将变得不切实际。理想情况下，期望使用更具模块化的设计来构建网络，以便隔离地实现不同的层类型，然后将它们组合在一起成为具有不同体系结构的模型。在本练习中，使用更加模块化的方法来实现完全连接的网络。 对于每一层，我们将实现前向和后向功能。
2020-08-24 14:16:36
1476
原创 CS231n 课程作业 Assignment Two（一）题目分析（0820）
Assignment Two在本任务中，你将练习编写反向传播代码，训练神经网络和卷积神经网络。目标如下：理解神经网络及其分层结构。理解并实现（向量化）反向传播。实现多个用于神经网络最优化的更新方法。实现用于训练深度网络的批量归一化（ batch normalization ）。实现随机失活（dropout）。进行高效的交叉验证并为神经网络结构找到最好的超参数。理解卷积神经网络的结构，并积累在数据集上训练此类模型的经验。环境配置见–>配置具体任务：Q1：全连接神经网络IPyt
2020-08-21 12:02:35
440
原创 CS231n 计算机视觉（学习笔记）第七章（0809）
第七章7.1 Fancier optimizationSGD存在问题：在不同方向上抖动局部极小值/鞍点随机梯度，时间成本Nesterov优化：在SGD中加入一个动量（一个速度）将梯度加入到这个速度上具有速度的梯度下降将更加稳定，且能通过鞍点velocity+gradient=actual step速度是关于旧速度、梯度、摩擦系数的一个变量AdaGrad：优化过程中，保持一个在训练过程中，每一个梯度平方和的估计每次调整，除以这个平方和问题是，当时间增大，步长将越来越小在凸函
2020-08-18 14:41:34
198
原创 CS231n 课程作业 Assignment One（五）两层神经网络分类器（0816）
两层神经网络分类器–Neural Network（2layers）全连接神经网络、单隐藏层一、原理1.1 全连接神经网络基础理论见另一篇文章–全连接神经网络1.2 损失函数（待完善，想看可留言）二、实现2.1 损失函数与求导 def loss(self, X, y=None, reg=0.0): """ Compute the loss and gradients for a two layer fully connected neural
2020-08-17 11:54:34
1458
原创 CS231n 课程作业 Assignment One（四）Softmax分类器（0815）
Softmax•为Softmax分类器实现完全矢量化的损失函数•实现完全矢量化的解析梯度表达式•使用数字梯度检查您的实施•使用验证集调整学习率和正则化强度•使用SGD优化损失功能•可视化最终学习的权重一、原理通过概率表示每个类别被选中的几率，能够对分类结果进行量化。1.1 损失函数1.2 求导分情况讨论求导得：二、实现2.1 预处理def get_CIFAR10_data(num_training=49000, num_validation=1000, num_test
2020-08-16 20:39:29
765
原创 CS231n 课程作业 Assignment One（三）SVM分类器（0809）
SVM支持向量机一、原理1.1 线性分类器线性SVM分类是给每一个样本一个分数，其正确的分数应该比错误的分数大。在实际分类中，为了提高分类器的鲁棒性，我们希望正确的分数比错误的分数大得多一些，其差值为▲损失函数公式：折叶损失（hinge loss），又称最大边界损失（max-margin loss）得分向量公式：引入正则项：1/2非必要项1.2 求解损失函数关于权重矩阵的梯度...
2020-08-15 21:16:54
848
原创 CS231n 课程作业 Assignment One（二）KNN分类器（0807）
k-Nearest Neighbor classifierKNN分类器包括两个阶段： 在训练期间，分类器获取训练数据并简单地记住它 在测试过程中，kNN通过与所有训练图像进行比较并转移k个最相似的训练示例的标签来对每个测试图像进行分类 注意：K的值是交叉验证的任务目标：将实现训练和测试两个阶段，并了解基本的图像分类管道、交叉验证并提高熟练编写高效矢量化代码的能力。1. KNN的原理KNN是一种投票机制，依赖少数服从多数的原则，根据最近样本的标签进行分类的方法，属于局部近似。优点：1.简单
2020-08-09 22:02:19
777
原创 CS231n 课程作业 Assignment One（一）配置与题目分析（0807）
Assignment One在本作业中，您将练习根据k最近邻居或SVM / Softmax分类器来组合一个简单的图像分类管道。 该任务的目标如下：了解基本的图像分类管道和数据驱动方法（训练/预测阶段）了解训练/验证/测试拆分以及将验证数据用于超参数调整。熟练使用numpy编写高效的矢量化代码实施并应用k最近邻（kNN）分类器实现并应用多类支持向量机（SVM）分类器实施并应用Softmax分类器实现并应用两层神经网络分类器了解这些分类器之间的差异和权衡通过使用高级表示（而不是原始像素）来基
2020-08-08 19:11:17
582
原创 CS231n 课程作业 环境搭建（0806）
环境搭建为了避免一些玄学问题影响实验，近日重新做了系统，因此本次实验从下载安装、搭建环境开始。1）首先在CS231n的官方链接，下载作业代码选择Option B: Jupyter starter code，在windows本地完成作业，下载并解压得到2）安装Anaconda，下载地址Anaconda指的是一个开源的Python发行版本，包括Conda、Python以及一大堆安装好的工具包，比如：numpy、pandas等第一次安装，选择了Python 3.8 64位（可能会因为版本过新出现问题
2020-08-08 15:24:38
609
原创 神经网络 专项1 FN--全连接网络（0806）
FN–全连接网络定义：对n-1层和n层而言，n-1层的任意一个节点，都和第n层所有节点有连接。即第n层的每个节点在进行计算的时候，激活函数的输入是n-1层所有节点的加权引用自_寒潭雁影显然，计算公式为：Z1=W11X1+W12X2+K1；Y=1/（1+e的-z次幂）（其他节点类推）选用激活函数1/（1+e的-x次幂）----将线性转换成非线性利用Sigmoid进行激活（类似于复合函数的过程）步骤a.前向传播将每个节点的表达式排列出来对所有的X、K、W带入实际数值，推导Z（1）和Y，再推O
2020-08-08 10:37:33
1323
原创 CS231n 计算机视觉（学习笔记）第六章（0805）
第六章最小批量随机梯度下降：连续的批量抽样通过计算图或神经网络将数据正向传播 得到损失值通过整个网络的反向传播 计算梯度使用这个梯度 更新网络中的参数或权重6.1 激活函数Sigmoid类似神经元的饱和放电率（存在梯度消失的问题，输入绝对值太大；非0中心函数，当输入值仅为正或负时，梯度沿相同方向变化；计算代价较大）...
2020-08-06 14:24:03
143
原创 CS231n 计算机视觉（学习笔记）第五章 卷积神经网络（0802）
第五章 卷积神经网络convolutional neural networks卷积–保留输入的空间结构5.1 历史部分from1957 神经元在视觉皮层的工作原理1980 神经认知机1998 Lecun 反向传播和梯度2012 AlexNet近年应用5.2 卷积和池化1.卷积部分卷积核–遍历所有通道（点积运算）栅格、 步长（根据图像尺寸确定步长和结果的维度）（N-F）/stride + 1（当做零填补-zero pad时注意区别，全尺寸输出）多个卷积核–多个激活映射参数数量为卷
2020-08-04 23:20:51
177
原创 CS231n 计算机视觉（学习笔记）第四章 反向传播（0730）
第四章 反向传播4.1 反向传播最小化损失函数–梯度下降迭代计算图的框架：用图来表示函数反向传播技术：递归地调用链式法则，计算图中每个变量的梯度反向传播的工作：用图来表示函数；利用已知值进行前向传播，计算中间值；每个节点起一个名字，并找到表达式；从后向前计算所有梯度（链式法则传导计算），结果在所有方向上的梯度，即所有因素对结果的影响；损失函数对于每个节点的梯度值（自上游传递）对于每个节点来说向下传导的梯度值等于上游梯度值乘本地梯度值eg2Jacobian？L2范数计算当输入x和参数w为向量
2020-08-02 20:18:37
163
原创 CS231n 计算机视觉（学习笔记）第三章（0725）
3.1 损失函数和优化定义一个度量，评价任意某一个W表现优劣损失函数，以W为输入，对比得分，定量评价W的好坏从W的可行域中，挑选出表现最不差的，漫长的优化过程 极小化SVM损失函数损失函数：各类别损失函数求值的和的平均数...
2020-07-25 22:59:24
135
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人