weixin_41108334的博客

原创 深度学习：经典网络模型lenet,alexnet,vggnet,googlenet,Resnet,densenet可解释性

在CNN网络结构的进化过程中，出现过许多优秀的CNN网络，如：LeNet，AlexNet，VGG-Net，GoogLeNet，ResNet,DesNet.提出年份主要方向：网络加深，增强卷积模块1、LeNet：LeNet诞生于1998年，网络结构比较完整，包括卷积层、pooling层、全连接层。被认为是CNN的鼻祖。输入32*32*1卷积层3个：卷积的主要目的是...

原创 牛客网刷题：python基础

sort 与 sorted 区别：sort 是应用在 list 上的方法，sorted 可以对所有可迭代的对象进行排序操作。list 的 sort 方法返回的是对已经存在的列表进行操作，无返回值，而内建函数 sorted 方法返回的是一个新的 list，而不是在原来的基础上进行的操作。语法：sorted(iterable[, cmp[, key[, reverse]]])it...

原创 深度学习：感受野、卷积，反池化，反卷积，卷积可解释性，CAM ,G_CAM,为什么使用CNN替代RNN?

凭什么相信你，我的CNN模型？（篇一：CAM和Grad-CAM)：https://www.jianshu.com/p/1d7b5c4ecb93凭什么相信你，我的CNN模型？（篇二：万金油LIME)：http://bindog.github.io/blog/2018/02/11/model-explanation-2/卷积和反卷积 ：https://blog.csdn.net/Fate_fj...

原创 深度学习：卷积神经网络，卷积，激活函数，池化，卷积问题

卷积神经网络——输入层、卷积层、激活函数、池化层、全连接层https://blog.csdn.net/yjl9122/article/details/70198357?utm_source=blogxgwz3一、卷积层特征提取输入图像是32*32*3，3是它的深度（即R、G、B），卷积层是一个5*5*3的filter(感受野),这里注意：感受野的深度必须和输入图像的深度相同。通...

原创 英语学习：口语连读

一、连读失去爆破 1、完全爆破pbtdkg中的任意两个相邻时，第一个爆破音只形成阻碍，但失去爆破，少停顿一下，快速向第二个完全爆破的爆破音划去；若爆破音在词尾则必须轻化。Big boySharp pencilWhat timeShe took good care of the children. 2、 爆破音+摩 擦音如爆破以后紧跟着的是摩擦音/s/ /z/...

原创 深度学习：图像检测概述rcnn, fastrcnn, fasterrcnn,yolo,ssd

RCNN,Fast RCNN ,faster Rcnn :https://www.cnblogs.com/dudumiaomiao/p/6560841.html一文看懂目标检测 rcnn fast rcnn faster rcnn yolo ssd :https://blog.csdn.net/v_JULY_v/article/details/80170182一、图像综述一、图像分类 ...

原创 深度学习：人脸识别Facenet_cvpr2015+MTcnn

 论文_2015cvpr：FaceNet: A Unified Embedding for Face Recognition and Clustering facenet史上最全代码详解：https://blog.csdn.net/u013044310/article/details/79556099triplet loss 代码解析：https://blog.csdn.net/u01...

原创 深度学习：tensorflow基础知识，损失函数

一、tensorflow的计算图Tensorflow是一个通过计算图的形式来表述计算的编程系统，计算图也叫数据流图，可以把计算图看做是一种有向图，Tensorflow中的每一个节点都是计算图上的一个Tensor, 也就是张量，而节点之间的边描述了计算之间的依赖关系(定义时)和数学操作(运算时)。a=x*y; b=a+z; c=tf.reduce_sum(b);二、tensorf...

原创 深度学习：batch normlization

https://www.zhihu.com/question/38102762/answer/607815171数据经过归一化和标准化后可以加快梯度下降的求解速度，这就是Batch Normalization等技术非常流行的原因，它使得可以使用更大的学习率更稳定地进行梯度传播，甚至增加网络的泛化能力.一、什么是归一化/标准化Normalization是一个统计学中的概念，我们可以叫它归...

原创 深度学习：语义分割 FCN与Unet

参考：https://blog.csdn.net/wyzjack47/article/details/81107980图像分割：什么是图像分割问题呢？ 简单的来讲就是给一张图像，检测是用框出框出物体，而图像分割分出一个物体的准确轮廓。也这样考虑，给出一张图像 Ｉ，这个问题就是求一个函数，从I映射到Mask。至于怎么求这个函数有多种方法。我们可以看到这个图，左边是给出图像，可以看到人和摩...

原创 深度学习：空洞卷积dilated convolution

https://zhuanlan.zhihu.com/p/43784441一、空洞卷积概念引入空洞卷积不得不提的是感受野，感受野就是卷积神经网络的每一层输出的特征图(fe ature map)上的像素点在原图像上映射的区域大小。空洞卷积主要为了解决图像分割中的一些问题而提出的，在FCN中通过pooling增大感受野缩小图像尺寸，然后通过upsampling还原图像尺寸，但是这个过程中造成了...

原创 剑指offer：机器人的运动范围（动态规划）66

https://blog.csdn.net/malele4th/article/details/79337046https://blog.csdn.net/gogokongyin/article/details/51788291一、题目地上有一个m行和n列的方格。一个机器人从坐标0,0的格子开始移动，每一次只能向左，右，上，下四个方向移动一格，但是不能进入行坐标和列坐标的数位之和大于...

原创 剑指offer:矩阵中的距离66：TODO

https://blog.csdn.net/gogokongyin/article/details/51788250题目：请设计一个函数，用来判断在一个矩阵中是否存在一条包含某字符串所有字符的路径。路径可以从矩阵中任意一格开始，每一步可以在矩阵中间向左、右、上、下移动一格。如果一条路径经过了矩阵的某一格，那么该路径不能再次进入该格子。上图中"bcced"就存在这条路径；但是"abcb"这条...

原创 剑指offer：滑动窗口的最大值65

https://blog.csdn.net/gogokongyin/article/details/51788176题目：给定一个数组和滑动窗口的大小，请找出所有滑动窗口里的最大值。例如，如果输入数组{2,3,4,2,6,2,5,1}及滑动窗口的大小3，那么一共存在6个滑动窗口，它们的最大值分别为{4,4,6,6,6,5}。   滑动窗口这个概念在写过网络编程的人都应该是不陌生，主要是用来...

原创 深度学习：pyTorch实战计算机视觉

pyTorch深度学习框架：基于动态图计算的特性，基于静态图计算深度学习框架相比，更多的优势，速度快，强大的包可调用。一、人工智能1、人工智能：强人工智能： 智能          弱人工智能：人工2、人工智能的三起两落：1956年提出人工智能概念  1980 专家系统：指解决特定领域问题的能力已达到该领域的专家能力水平，其核心运用专家多年积累的丰富经验和专业知识，不断模拟专家解...

原创 剑指offer：两个面试案例： 把字符串变成整数、正则表达式匹配（字符串）

一、把字符串变成整数解题：边界条件： 数据上下 溢出 空字符串 只有正负号 有无正负号 错误标志输出c++代码class Solution {public: int StrToInt(string str) { int n =str.size(),s=1; long long res=0; if(n==0) ...

原创 剑指offer：发散思维：求1+2+3+4+5...+n、两个数求和，构建乘积数组

一、问题：求1+2+3+...+n，要求不能使用乘除法、for、while、if、else、switch、case等关键字及条件判断语句（A?B:C）。解题：循环、递归被限制使用 for while if 等语法1、循环：构造函数，创建N个对象，调用构造函数调用N次2、递归：构造虚函数数，或者，使用使用逻辑与&& 既可以跳出循环条件实现终止递归。3、函数指针4、...

原创 剑指offer：圆圈中最后剩下的数（约瑟夫环问题）

一、题目：0,1,2，---n-1,这n个数字排成一个圆，从数字0开始，每次从这个圆圈里面删除第m个数字，找出圆圈里剩下的最后一个数字。约瑟夫环问题。 二、解法1、环形链表模拟2、分析每次被删除的数字的规律。三、分析每次被删除的数字的规律，递归解法。数组。首先定义最初的n个数字（0,1,…,n-1）中最后剩下的数字是关于n和m的方程为f(n,m)。在这n个数字中，第一个被删...

原创 剑指offer：数组中只出现一次的数字

参考：https://cuijiahua.com/blog/2018/01/basis_40.html一、题目一个整型数组里除了两个数字之外，其他的数字都出现了两次。请写程序找出这两个只出现一次的数字。要求时间复杂度是O(n)，空间复杂度是O(1)。二、异或4 0100 5 0101 ===》4^5 ==》0001三、思路1、如果出现奇数次的数字就一个，从数组中找出这个只出...

原创 机器学习：完整机器学习项目流程，数据清洗

一、完整机器学习项目流程 数学抽象--任务目标 明确问题是进行机器学习的第一步。机器学习的训练过程通常都是一件非常耗时的事情，胡乱尝试时间成本是非常高的。 这里的抽象成数学问题，指的是根据数据明确任务目标，是分类、还是回归，或者是聚类。 数据获取--数据集 数据决定了机器学习结果的上限，而算法只是尽可能逼近这个上限。 数据要有代表性，否则必然会过拟合。 对于分类...

原创 机器学习：超参数的选择，余弦距离vs欧式距离vs曼哈顿距离

一、超参数选择Grid Search网格搜索 在高维空间中对一定区域进行遍历Random Search在高维空间中随机选择若干超参数二、余弦相似度（Cos距离）与欧氏距离的区别和联系欧式距离和余弦相似度都能度量 2 个向量之间的相似度 放到向量空间中看，欧式距离衡量两点之间的直线距离，而余弦相似度计算的是两个向量之间的夹角 没有归一化时，欧式距离的范围是 (0, +∞]，...

原创 机器学习：偏差、方差，生成模型，判别模型，先验概率，后验概率

一、偏差、方差偏差与方差分别是用于衡量一个模型泛化误差的两个方面；模型的偏差，指的是模型预测的期望值与真实值之间的差；模型的方差，指的是模型预测的期望值与预测值之间的差平方和；在监督学习中，模型的泛化误差可分解为偏差、方差与噪声之和。偏差用于描述模型的拟合能力；方差用于描述模型的稳定性。导致偏差和方差的原因偏差通常是由于我们对学习算法做了错误的假设，或者模型...

原创 机器学习：RNN

1、RNN基本机构 RNN 本质上是一个递推函数 考虑当前输入 x(t) 以上计算公式可展开为如下计算图（无输出单元） RNN 的前向传播公式一般 h(0) 会初始化为 0 向量；并使用 tanh 作为激活函数 f​​​​​​​2、RNN常见的几种设计模式RNN 一般包括以下几种设计模式 每个时间步都有输出，且隐藏单元之间有...

原创 C++STL:容器Vector ,string ,map,set,list,queue,deque

C++ STL中最基本以及最常用的类或容器无非就是以下几个：string vector set list map queue deque一、Vector :可变数组容器#include<vector>Vector<int> vec;vec.push_back(1);//在尾部插入数字1vec.pop_back();//删除最后一个元素c...

原创 机器学习：数据降维：PCA 、LDA

参考博文：https://www.cnblogs.com/xbinworld/archive/2011/11/24/pca.html一、数据预处理降维机器学习领域中所谓的降维就是指采用某种映射方法，将原高维空间中的数据点映射到低维度的空间中。降维的本质是学习一个映射函数 f : x->y，其中x是原始数据点的表达，目前最多使用向量表达形式。 y是数据点映射后的低维向量表达，通常y的维...

原创 python基础:数据结构，列表，字典，元组，集合，运算

https://www.cnblogs.com/Vennet/p/4110059.htmlhttps://blog.csdn.net/ZOU19900101/article/details/79103515列表：shoplist = ['apple', 'mango', 'carrot', 'banana']字典：di = {'a':123,'b':'something'}集合：jih...

原创 深度学习：加速训练的方法

https://blog.csdn.net/xuqiaobo/article/details/60769330加速训练的方法内部方法网络结构的选择 比如 CNN 与 RNN，前者更适合并行架构 优化算法的改进：动量、自适应学习率 减少参数规模 比如使用 GRU 代替 LSTM 参数初始化 Batch Normalization mini-batch 的调整外...

原创 深度学习：欠拟合、过拟合、正则化，BN ,L1/L2 范数正则化、bagging集成，dropout

https://github.com/imhuay/Algorithm_Interview_Notes-Chinese一、欠拟合、过拟合欠拟合指模型不能在训练集上获得足够低的训练误差；过拟合指模型的训练误差与测试误差（泛化误差）之间差距过大；反映在评价指标上，就是模型在训练集上表现良好，但是在测试集和新数据上表现一般（泛化能力差）；降低过拟合风险的方法所有为了减少测试误差的...

原创 深度学习：胸片—李飞飞Thoracic Disease Identification and Localization with Limited Supervision

一：目标：通过少量的位置注解信息的，同时进行识别（疾病预测评分）和定位 关键词：弱监督、多实例学习弱监督：论文中采用的训练数据中只有一少部分是标注了Bounding box的数据，而绝大多数数据仅仅只有分类而没有bbox标签。多实例学习：文中提到，如果一张图片被标注了某种疾病的分类，那么这张图片中肯定存在至少一个patch对应于这种疾病，否则，如果一张图片被标注为健康，那么，任何一...

原创 算法：剑指offer-python（一）：二维数组中的查找，从尾到头打印链表、重建二叉树，两个队列实现一个栈，两个栈实现队列，旋转数组中的最小数

一、二维数组中的查找# -*- coding:utf-8 -*-class Solution: # array 二维列表 def Find(self, target, array): row=0 col=len(array[0])-1 if array==None: return False ...

原创 算法：剑指（3）：从尾到头打印链表

链表学习：#include<stdio.h>#include<algorithm>#include<vector>#include <stack>struct ListNode{ int val; struct ListNode *next; ListNode(int x) : ...

原创 机器学习：判别模型，生成模型，朴素贝叶斯，高斯生成模型

判别、生成区别：http://blog.sciencenet.cn/home.php?mod=space&uid=248173&do=blog&id=227964朴素贝叶斯和高斯判别分析：https://www.cnblogs.com/zyber/p/6490663.html一：判别、生成1、 生成模型：无穷样本==》概率密度模型 = 产生模型==》预测：隐马尔...

原创 机器学习：SVM

https://blog.csdn.net/v_JULY_v/article/details/7624837一、SVM简介    支持向量机，因其英文名为support vector machine，故一般简称SVM，通俗来讲，它是一种二类分类模型，其基本模型定义为特征空间上的间隔最大的线性分类器，其学习策略便是间隔最大化，最终可转化为一个凸二次规划问题的求解。1.1、分类标准的起源...

原创 深度学习：乳腺论文：AUNet肿块分割Whole Mammograms

论文：AUNET：整个乳房X线照片的乳房肿块分割(AUNet: Breast Mass Segmentation of Whole MammogramsAUNET：整个乳房X线照片的乳房肿块分割(AUNet: Breast Mass Segmentation of Whole Mammograms)基于深度学习的分割最近在自然和医学图像处理中得到了快速发展。然而，由于低信噪比和各种质量形状和...

原创 深度学习：图像基础

原创 深度学习：pytorch用预训练pre-train模型微调参数

参考文章：https://blog.csdn.net/whut_ldz/article/details/78845947

原创 深度学习：乳腺论文 end2end patch->whole image

论文：end to end training for whole image breast cancer screening using an all convolutional design 数据集：CBIS-DDSM （CC+MLO）*(right +left) one person ==》 (753钙化)+（891肿块）  数据增扩    patch set  s1: 1 ROI...

原创 深度学习：乳腺 BI-RADS classification ,co-registration ,DoG

paper:BI-RADS Classification of breast cancer:A New pre-processing pineline for deep model trainingBI-RADS：7个分类 0-6  dataset：InBreast  pre-trained:Alexnet  data augmentation :base on co-registrai...

原创 机器学习：评价指标：分类问题、回归问题、排序问题

参考：链接：https://www.jianshu.com/p/4dde15a56d44https://blog.csdn.net/heyongluoyao8/article/details/49408319评价指标(Evaluation metrics)  评价指标是机器学习任务中非常重要的一环。不同的机器学习任务有着不同的评价指标，同时同一种机器学习任务也有着不同的评价指标，每个指...

原创 深度学习：论文self-trainsfer learning for weakly supervised lesion localization

self-training learning: 自我训练学习weakly supervised ：弱监督学习主要关注三种弱监督类型：第一种是不完全监督，即只有训练数据集的一个（通常很小的）子集有标签，其它数据则没有标签。 第二种是不确切监督，即只有粗粒度的标签。又以图像分类任务为例。我们希望图片中的每个物体都被标注；然而我们只有图片级的标签而没有物体级的标签。 第三种是不准确监督，...