Interview
文章平均质量分 96
为面试准备的文章
pyxiea
双鸭山大学研究生,对深度学习、自然语言处理、推荐系统感兴趣
展开
-
DFS与回溯总结
文章目录地图类LC200. Number of IslandsLC79. Word Search学习与参考资料:[1] 2013王道论坛计算机考研机试指南[2] DFS和BFS讲解及Leetcode刷题小结(1)(JAVA)[3] DFS和BFS讲解及Leetcode刷题小结(2)(JAVA)地图类LC200. Number of IslandsLC200. Number of Is...原创 2020-05-02 07:35:02 · 837 阅读 · 0 评论 -
Seq2Seq中的Exposure Bias现象的原因以及解决办法
学习资料:[1] 李宏毅视频 59:36 开始[2] Seq2Seq中Exposure Bias现象的浅析与对策[3] Bridging the Gap between Training and Inferencefor Neural Machine Translation(2019ACL)Seq2Seq模型会遇到常说的Exposure Bias现象。原因:在训练阶段和预测阶段会遇到m...原创 2020-03-12 21:00:17 · 1399 阅读 · 0 评论 -
Bi-LSTM+CRF理解
学习资料:[1] 基于BiLSTM-CRF模型的序列标注(Tensorflow)[2] 最通俗易懂的BiLSTM-CRF模型中的CRF层介绍[3] CRF Layer on the Top of BiLSTM - 5 \quad 资料[2]的原系列文章的一篇训练阶段资料 [1] 对BiLSTM的那部分解释比较清楚,但是讲到CRF层出错了。就像资料 [2,3] 所说,我们需要计算的是的真...原创 2020-03-12 17:28:43 · 3667 阅读 · 0 评论 -
hierarchical softmax对生僻词很不友好?扯淡!
[1] https://code.google.com/archive/p/word2vec/[2] Word2Vec原始论文[3] Why is hierarchical softmax better for infrequent words, while negative sampling is better for frequent words?[4] NLP中的Embedding方...原创 2020-03-12 11:21:31 · 508 阅读 · 0 评论 -
softmax数值稳定性问题以及CrossEntropyWithLogits的由来
softmax自身导致的数值问题对于 x=[x1,x2,⋯ ,xn]x=[x_1,x_2,\cdots,x_n]x=[x1,x2,⋯,xn],softmax公式:softmax(x)=[a1,a2,⋯ ,an],ai=exi∑j=1nexjsoftmax(x)=[a_1,a_2,\cdots,a_n], \quad a_i=\frac{e^{x_i}}{\sum_{j=1}^{n}e^{...原创 2020-03-11 20:40:49 · 1087 阅读 · 0 评论 -
深度学习优化器Optimizer公式简记
推荐学习资料:[1] 从 SGD 到 Adam —— 深度学习优化算法概览(一)[2] 深度学习——优化器算法Optimizer详解[3] 一个框架看懂优化算法之异同 SGD/AdaGrad/Adam这里仅记录公式,方便对比记忆,而不解释由来,其他细节可以看上面说的资料。设:参数向量为 θ\thetaθ学习率为 η\etaη用于数值稳定的接近0的常数 ϵ\epsilonϵ用于计...原创 2020-03-11 13:22:37 · 1423 阅读 · 0 评论 -
算法面经汇总(2)
文章目录深度学习NLP海量数据其他深度学习⭐️ 画出RNN的结构图NLP模型公式笔记⭐️ 反向传播的原理BP算法推导——以矩阵形式⭐️ 梯度下降陷入局部最优有什么解决办法[1] 你的模型真的陷入局部最优点了吗[2] 梯度下降法的神经网络容易收敛到局部最优,为什么应用广泛?[3] 深度学习里,如何判断模型陷入局部最优?在高维问题中,梯度下降通常是收敛到鞍点或大块的平坦区域,...原创 2020-10-22 18:07:04 · 1089 阅读 · 0 评论 -
LeetCode动态规划题目总结(持续更新中)
Sell Stock121. Best Time to Buy and Sell Stock题目:https://leetcode.com/problems/best-time-to-buy-and-sell-stock/思路:卖出能得到最高profit是在之前的几天中最低价的那天买入,...原创 2020-03-04 23:09:45 · 654 阅读 · 0 评论 -
高频面试题——算法与数据结构Python实现
快速排序参考:快速排序partition过程常见的两种写法+快速排序非递归实现def partition(arr, low, high): pivot = arr[low] #选第一个元素作为枢纽元 while low < high: while low < high and arr[high] >= pivot: high-...原创 2020-03-15 16:35:12 · 737 阅读 · 0 评论 -
SVM笔记
SVM原理设数据集D={(x1,y1),(x2,y2),...,(xm,ym)},yi∈{−1,+1}D=\{(\boldsymbol{x_1},y_1),(\boldsymbol{x_2},y_2),...,(\boldsymbol{x_m},y_m)\},y_i \in \{-1,+1\}D={(x1,y1),(x2,y2),...,(xm,ym)},yi∈{−1,+1}。SV...转载 2020-02-23 12:49:23 · 195 阅读 · 0 评论 -
手推逻辑斯蒂回归——以向量形式
线性二分类模型是f(x)=θTx(1)f(\boldsymbol x)=\boldsymbol \theta^T\boldsymbol x \tag1f(x)=θTx(1)为了解决非线性二分类问题,LR的决策函数对线性二分类模型套了一层sigmoid函数,得到h(x)=sigmoid(f(x))=11+e−θTx(2)h(\boldsymbol x)=sigmoid(f(\boldsymbo...原创 2020-03-02 15:28:21 · 260 阅读 · 0 评论 -
算法面经汇总(1)
文章目录项目编程算法和数据结构pythonSQLLinux数学AI通用统计机器学习深度学习NLP其他项目有些公司一面基本都是聊项目和比赛,项目细节问的很多,通用技术问题没怎么问1、项目中用到哪些技术 ,然后会针对这些技术的知识点来提问2、项目中XXX(神经网络)等算法的性能为什么比不过XXX(gbdt)3、项目还有什么改进空间4、项目有什么商用价值5、项目难点在哪6、在项目中学到了...原创 2020-10-22 18:07:50 · 1963 阅读 · 0 评论 -
【NLP/AI算法面试必备-2】NLP/AI面试全记录
本文以QA形式对NLP/AI中的高频问题进行总结,均为自己在真实面试中所遇到的问题(持续更新中)。部分问题答案已经写入可参见:学习NLP/AI,必须深入理解“神经网络及其优化问题”nlp中的词向量对比:word2vec/glove/fastText/elmo/GPT/bert 一、AI算法基础 1、样本不平衡的解决方法? 2、交叉熵函数系列问题?与最大似然...转载 2020-02-26 09:12:55 · 1014 阅读 · 0 评论