Wayne2019的博客

如题，这是一个kaggle的训练赛。目标是预测房价。评分指标是房价预测值与观测值取log后的RMSE，并且赛题指出取对数使得对较贵房子的预测误差和对便宜房子的预测误差对结果有同样的影响，为什么？先把公式写出来： RMSE=∑nt=1(y^t−yt)2n−−−−−−−−−−√.\operatorname{RMSE}=\sqrt{\frac{\sum_{t=1}^n (\hat y_t - y_

一些别人总结的Faster R-CNN后续改进： [目标检测] Faster R-CNN 深入理解 && 改进方法汇总 Faster R-CNN改进篇（一）： ION ● HyperNet ● MS CNNTraining Region-based Object Detectors with Online Hard Example Mining 最好先阅读之前博文： Tensorflow o

旷视的AlignedReID，很有意思。 The end-to-end learning with structure prior is more powerful than a “blind” end-to-end learning.reid难点： 目前triplet loss等用的比较多。Combining softmax loss with metric learning

各种卷积的动态图这里y是下一层(i,j)处的值，k是kernel size, s是stride，f泛指卷积层，池化层和激活函数。这些操作都具有局部性，限定在x的delta邻域中。这里是说两个这样的操作可以进行复合，复合后的“等效”kernel size和stride在右下角。 如上图，若第一层的k=3，第二层的k=1，则等效k=3；若第一层的k=3，第二层的k=2，则等效k=

Impression Network for Video Object Detection 基于印象机制的高效多帧特征融合，解决defocus and motion blur等问题（即视频中某帧的质量低的问题），同时提高速度和性能。 类似TSN，每个segment选一个key frame（注意，TSN做视频分类是在cnn最后才融合不同的segments）。特征融合前需要用Optical

Region-based Quality Estimation Network for Large-scale Person Re-identification最近集中刷一波视频分析的文章。又是各帧的叠加，为了修补质量低的帧（从而由视频来获得对一个人更完整的印象或记忆？）。联想京东猪识别竞赛–第二路将人体分区域。u， m， l represent the upper part,

图像特征提取，候选区域生成，候选区域特征提取（roi pooling），区域识别，去重fm x: Cf, H, W RoI b y(b) = RegionFeat(x, b) y(b): K, Cf. K比如是bin的数目 y_k(b): 第k个bin内的特征一般表述： 将y_k(b)的支持区域由roi pooling的一个bin内部扩展到整个fm x。权重依赖于位置p，fm x...

HyperNet: Towards Accurate Region Proposal Generation and Joint Object Detection 主要是融合了不同层级的特征，比较容易理解，参考： https://blog.csdn.net/u012905422/article/details/52614192 https://blog.csdn.net/u01236121...

太长不看版： trimmed video可以用 TSN＋I3D／P3D+Bilinear pooling + non-local block。其中各部分涉及的文章下面都有讲。可以先看之前的文章：Video Analysis 入门。1.TSN 视频数据的中时建模介绍，5s，如high jump，用于剪辑视频分类。 基于双流法，然后对视频不同片段预测的结果进行平均。 TSN是目前最主流且（后续工作

总结一些入门资料。

随便搜索了一下： 人脸检测识别文献阅读总结 检测文章中一般都细节很多，这里只总结主要思路。Joint Training of Cascaded CNN for Face Detectioncascade的优势： handle unbalanced distribution of negative and positive samples. In the early stages, week

决定转行做机器学习，在此记录自己的一些基础，也算是对自己的一种鼓励吧。

非监督学习（应用前景？）embeddings: Word2Vect-SNEsampled softmaxCBOW和skip-gram任务 5: Word2Vec and CBOW RNN，反向传播梯度消失/爆炸（看看教材的推导和说明）LSTMBeam搜索（就是有效地一次往前看多步再做决策）任务 6: LSTMs: 训练一个一个长短期记忆网络预测字符串机器翻译语音识别图片

Softmax函数是将k维实数向量映射成k维(0,1)之间的实数向量（求指数后再除以指数的总和）。如果将原来的实数向量都乘以10倍，则会使得映射后的向量取值更为“极端”，即此时的学习器特别自信！One-Hot 编码交叉熵：不对称Multinomial Logistic Regression：最小化交叉熵：梯度下降python 3.6 中range取代了xrange的作用，另外下述代

tensorflow的基本用法（不难，但是还是需要不时查阅文档，后续尝试下keras）反向传播，常见的教材都有推导任务2： 使用梯度下降和随机梯度下降训练一个全连接网络axis=0是对列的操作看着下面的代码应该能想象出上次笔记中的那张xW+b的图（图形化的记忆和理解）： # Variables. weights = tf.Variable( tf.truncated_normal([

深度学习与计算机视觉系列(8)_神经网络训练与注意点深度学习之四大经典CNN技术浅析（熟悉一下经典的CNN以及它们在tensorflow或keras中的预训练模型，在此基础上可以通过迁移学习或者微调来完成一些自己的深度学习任务）AlexNetVGGNetGoogle Inception NetResNet合并颜色统计不变性： translation invarian

稍微总结一下常见的训练时和验证时数据增强(Test time augmentation)技术。https://discuss.pytorch.org/t/test-time-augmentation/8828A. Krizhevsky, I. Sutskever, and G. Hinton. Imagenet classification with deep convolutional neura

本文简要总结一下attention机制在图像分类任务中的应用。attention作为一种机制，有其认知神经或者生物学原理: 注意力的认知神经机制是什么？ 如何从生物学的角度来定义注意力？ 在计算机视觉领域，注意力机制有各种不同形式的实现，可以大致分为soft attention和hard attention[1]。Soft attention的典型例子是stn[3]，Residual Atte

Learn by attention, learn with confusion.先引用几段魏秀参大神的论述「见微知著」——细粒度图像分析进展综述 细粒度物体的差异仅体现在细微之处。如何有效地对前景对象进行检测，并从中发现重要的局部区域信息，成为了细粒度图像分类算法要解决的关键问题。对细粒度分类模型，可以按照其使用的监督信息的多少，分为“基于强监督信息的分类模型”和“基于弱监督信息的分类模型”两

#!/usr/bin/env python3# -*- coding: utf-8 -*-"""Created on Wed Dec 20 14:54:31 2017@author: wayne"""import pandas as pdimport numpy as npfrom sklearn import preprocessingfrom sklearn.linea

主要总结一下最近看的几篇场景分类文献，顺便总结场景、物体和事件分类的关系。 [1] ILSVRC 2015 Scene Classication Challenge.冠军，主要贡献是Relay Backpropagation和Class-aware Sampling。比赛结果如下图： [2] 16年场景分类的冠军海康威视。比较有特色的地方是Supervised Data Augmentatio

主要关注分类，检测和分割等任务训练数据的解耦。

kaggle上的常客（医学图像领域比较常用，也是car分割的冠军模型）： https://www.kaggle.com/c/data-science-bowl-2018/discussion/54426 U-Net: Convolutional Networks for Biomedical Image SegmentationVALID padding not SAME paddi...