- 博客(19)
- 收藏
- 关注
原创 【论文阅读】Recommending What Video to Watch Next: A Multitask Ranking System
本文致力于解决推荐系统中的三个问题:在输入特征是多模态的情况下(视频信息,缩略图信息,文字标题,用户特征,上下文特征等),且这些特征的纬度和稀疏度相差很大,如何有效抽取和综合这些特征。对于一个项目来说,很有可能同时存在多个优化目标,这些目标不会完全一致,甚至会相互冲突。若为每一个目标训练一个网络,则所需数据量及计算量太大,不符合工程要求;若使用参数or网络共享的方法,因为有些objective相关性不大,甚至是相互冲突的,因此网络难以收敛。如何在使用轻量级网络的同时,有效学习多个目标,是一个挑战。因
2021-05-18 11:07:29
242
1
原创 【论文阅读】Improving the Sensitivity of Online Controlled Experiments by Utilizing Pre-Experiment Data
中心思想通过降低样本统计量的方差,增加t检验的敏感度,在使用更少的数据量,更短的A/B test时间的情况下(双总体独立样本t检验),获取更显著的结果:t=Ytˉ−Ycˉ t = \frac{\bar{Y_t} - \bar{Y_c} }{\sqrt{}}t=Ytˉ−Ycˉ...
2021-05-16 19:51:10
327
原创 集成学习(一):Bagging
BaggingIntroductionEnsemble LearningBagging(Bootstrap Aggregating)OverallBootstrap SamplingAggregatingAlgothim1. Bootstrap Sampling2. Model Training3. Model Foresting4. Result AggregatingAnalysisBase ClassifierBias & Variance优缺点适用场景例子:随机森林(Random Fores
2020-08-24 16:47:27
333
原创 决策树的三种常见算法
决策树用途&组成构造算法1. 特征选择metricID3:信息增益定义使用场景例子缺点C4.5: 信息增益比定义连续数值特征的处理(转化为二分类寻找阈值的问题)解决过拟合问题:剪枝问题CART(Classification And Regression Tree):定义使用场景后剪枝:基于代价复杂度优劣总结比较算法分析适用场景问题过拟合类别不均衡实现用途&组成决策树是一个监督学习模型,可用于分类和回归,它是一个由内节点和叶节点构成的树型结构。每个内节点对应了一个关于某种特征的测试(Dec
2020-08-11 18:32:35
16076
原创 DL细节-激活函数的‘华点’
激活函数123Sigmoid1. 公式2. 导数分析3. 问题饱和区对称性优化方向tanh1. 公式2. 导数分析3. 问题Sigmoid1. 公式2. 导数分析3. 问题饱和区对称性优化方向tanh1. 公式2. 导数分析3. 问题
2020-07-27 16:53:19
258
原创 从头到尾理解假设检验
p-valuet-testz-testx2x^2x2在统计学领域不是一个概念,常被混用。1. 显著性检验是费希尔提出的。目前使用的多种显著性检验方法都可以在其专著《研究工作者的统计方法》中找到。其中的核心概念是p值(判断显著性的概率),通过显著性检验可以获得三个结论:p小于通常0.01,宣布检验出一个影响因素;p大于通常0.2,影响因素即使存在也微小,不能通过当前实验检测出来;p介于两者之间,需进一步设计实验验证。当然,任何统计方法几乎都有不适用的情况。2. 假设检验是内曼-皮尔逊提出的。内曼认为,
2020-06-22 17:41:36
2798
原创 【CV经典模型-Detection】YOLO v3
YOLO v3Bounding box RegressionObjectness PredictionClassificationPrediction across scalesTrainingBounding box Regression与v2一致:对于regression而言,每个bounding box会对应4个输出:tx,ty,tw,tht_x,t_y,t_w,t_htx,ty,tw,th。最后需要的bounding box的中心位置(bx,by)(b_x,b_y)(bx,by)
2020-06-09 18:15:07
233
原创 DL细节-Batch Normalization
Batch Normalization背景介绍:目的&原理两种类型1. layer nornalization2. batch normalization3. 异同比较使用方法1. during training2. during testing / deploymenttensorflow中的具体实现背景介绍:目的&原理两种类型1. layer nornalization2. batch normalization3. 异同比较使用方法1. during training2
2020-06-08 18:22:44
221
原创 【CV经典模型-Detection】YOLO v2
YOLO V2:basic idea:Improvements:Advantage and disadvantage:Reference:v2: https://arxiv.org/abs/1612.08242v3: https://arxiv.org/abs/1804.02767v4:https://arxiv.org/abs/2004.10934
2020-06-03 18:36:00
294
原创 c++知识点小总结
定义:修饰符,代表所修饰的类型的对象/变量不可更改。作用域:默认文件局部变量。(普通变量默认为extern)使用注意:定义时必须初始化。初始化之后不能更改。指针与const指针本身为const指针:* const指针本身的值(某变量地址)不可修改。其所指对象可不为const,可用此指针更改所指对象的值,但不能更改此指针的值。指针指向const对象:const *指针本身的值可更改。可指向非const对象。但不能通过这个指针更改其所指对象的值(对于此指针来说,这个对象是cons
2020-05-27 17:14:54
139
原创 ROC曲线与PR曲线的关系
ROC曲线与PR曲线的关系简介ROC曲线在正负样本不平衡时,Acurracy常常不能很好地反映模型的真实分类能力,而此时ROC曲线的AUC经常被来评价模型的效果。因为ROC曲线关注的是TPR(y轴;有多少比例的正样本被识别出来)和FPR(x轴;有多少比例的负样本被错误识别成正样本),因此正负样本的相对大小不会影响这两个指标。相当于把TP用正样本总数归一化,把FP用负样本总数归一化,再看阈值对...
2020-03-09 16:23:11
1166
原创 loss functions for semantic segmentation
CE:WCE, BCE, Focal LossDice loss:…
2019-12-17 17:55:05
611
原创 使用OpenMP实现并分析PageRank算法
##Introduction###BackgroundPageRank是Google创始人Larry Page和Sergey Brin在1996年创造的算法,起源于他们在斯坦福的一个关于开发有效搜索引擎的项目。他们把万维网(World Wide Web)看作是一个巨大的文件集,在这个集中,文件与文件间有着复杂的超链接结构。因此万维网也可以抽象成一个巨大的有向图,节点代表各网页,而有向边则代表...
2019-07-05 15:14:32
4322
1
原创 【Review】Breaking the Softmax Bottleneck:A High-rank RNN Language Model
##Content此篇论文主要完成了:1.通过数学推导,找到并证明了限制RNN-based LMs的性能瓶颈之一——Softmax Bottleneck问题2.针对这个瓶颈,提出了一个解决方案—— Mixture of SoftmaxesIntroduction###Language Modeling ProblemLM问题在指已知了一个符号(token)序列:X=(X1,...,X...
2019-07-05 15:11:21
780
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人