南七小僧的学海无涯

在技术浪潮中，让自己闪耀，人工智能、边缘计算、大模型、智能体、软硬件研发专业玩家。关注我，手把手，代码全公开，跟着我一起学！

12月 11月 10月 09月 08月 07月 03月 02月

原创如何关闭Django模板的自动转义

其实我是想输入带格式的信息的。因为爬下来的数据这样显示效果会比较好。但是Django的模板中会对HTML标签和JS等语法标签进行自动转义，原因显而易见，这样是为了安全。但是有的时候我们可能不希望这些HTML元素被转义，比如我们做一个内容管理系统，后台添加的文章中是经过修饰的，这些修饰可能是通过一个类似于FCKeditor编辑加注了HTML修饰符的文本，如果自动转义的话显示的就是保护HTML...

2018-09-30 16:05:53 1056

原创【人脸颜值打分预测】华南理工数据集+ResNet50多阶段训练

主要采用fine-tune方法，因为数据集较小，采用迁移学习能提高特征提取准确度但是top层需要我们自己设计，所以top的权重是正态初始化的，不一定符合最优的一个权重，所以一开始不能直接全图fine-tune，因为top层的差距会不断向后传导，影响预训练权重，反而会打扰效果。采集的方案是：1.对其他层冻结，只对top层训练，直到loss接近0.2,左右，初步提升top层的预测能力...

2018-09-29 20:30:00 4482 2

原创逻辑回归 MSE+R-square keras自定义loss和metrics

SSE(和方差、误差平方和)：The sum of squares due to errorMSE(均方差、方差)：Mean squared errorRMSE(均方根、标准差)：Root mean squared errorR-square(确定系数)：Coefficient of determinationAdjusted R-square：Degree-of-freedom adj...

2018-09-27 14:07:02 8890 5

原创【VGG16】简历外观打分系统

很多新人在求职过程中，一直反复担心自己的简历外观怎么样，HR喜欢不喜欢，适合得体。于是想到开发一款简历外观打分系统，拍张简历的照片，即可打分。第一步，数据采集，从各大网站爬下来【外观+下载量+价格】数据，如下所示：基础代码如下，没做优化，仅仅为了爬数据而已# -*- coding: utf-8 -*-"""Created on Thu Aug 30 13:00:3...

2018-09-27 12:23:53 379

原创 DenseNet学习

一、主要原理其借鉴了ResNet的思想，用dense connectivity的方式更加缩短了头尾之间层的连接，使得在前向传播过程中，每一层都与其他所有层相连于是一个有L层的DenseNet就有L(L+1)/2个连接，每一层都将之前所有层输出的feature map 连结起来作为自己的输入，然后再把自己的输出输送给之后的所有层这个网络的优点如下：1.减轻了梯度弥散的问题,使...

2018-09-25 16:03:38 756

原创基于BiLinear的VGG16+ResNet50，用于细粒度图像分类

细粒度视觉识别之双线性CNN模型[1] Lin T Y, RoyChowdhury A, Maji S. Bilinear cnn models for fine-grained visual recognition[C]//Proceedings of the IEEE International Conference on Computer Vision. 2015: 1449-1457....

2018-09-20 19:23:02 4316 4

原创 C# Delegate 如何从子线程修改UI线程主线程界面

Invoke和BeginInvoke理解一、为什么Control类提供了Invoke和BeginInvoke机制？关于这个问题的最主要的原因已经是dotnet程序员众所周知的，我在此费点笔墨再次记录到自己的日志，以便日后提醒一下自己。1、windows程序消息机制Windows GUI程序是基于消息机制的，有个主线程维护着一个消息泵。这个消息泵让windows程序生生不息。...

2018-09-20 10:04:10 5832

原创 BiLinear-VGG16 细粒度图像分类

import numpy as npfrom keras.models import Sequential, Modelfrom keras.layers import Input, Reshape, Lambdafrom keras.layers import Dropout, Flatten, Densefrom keras.preprocessing.image import Im...

2018-09-19 21:55:12 2007 2

原创 Keras 自定义loss 【center loss 做细粒度分类】

Keras是一个搭积木式的深度学习框架，用它可以很方便且直观地搭建一些常见的深度学习模型。在tensorflow出来之前，Keras就已经几乎是当时最火的深度学习框架，以theano为后端，而如今Keras已经同时支持四种后端：theano、tensorflow、cntk、mxnet（前三种官方支持，mxnet还没整合到官方中），由此可见Keras的魅力。Keras是很方便，然而这种方便不是没...

2018-09-19 20:30:45 3303

转载继Mutil loss Xception 提出的Center loss

最近几年网络效果的提升除了改变网络结构外，还有一群人在研究损失层的改进，这篇博文要介绍的就是较为新颖的center loss。center loss来自ECCV2016的一篇论文：A Discriminative Feature Learning Approach for Deep Face Recognition。论文链接：http://ydwen.github.io/papers/WenE...

2018-09-19 16:12:05 246

原创相机闪烁 - 曝光 - 光源频率

在相机曝光中，如果曝光时间太短，吸光不足，且光源是灯管的话，容易导致图像闪烁。这时候可以用高频的光源，或者提升相机曝光时间。但是提升曝光时间意味着，帧率下降。通过一系列数学优化和推理思路优化，已成功将算法运算时间由40ms 减少到 1ms 帧率近似等于 1/曝光时间...

2018-09-19 11:08:41 3506 1

转载细粒度识别 | 百度细粒度识别方案

近日，百度发布了用于花卉识别的移动端应用，这种基于全卷积注意力网络的细粒度识别方法在计算和准确度上都有非常强大的优势。在百度主任研发架构师陈凯和资深研发工程师胡翔宇的解释下，本文首先将介绍什么是细粒度识别，以及一般的细粒度识别方法，然后重点解析百度基于强化学习和全卷积注意力网络的细粒度识别模型。五一出游赏花，为女朋友解释解释细粒度识别也是极好的。细粒度识别的概念其实非常简单，...

2018-09-18 21:06:34 9457 2

原创 “AIIA”杯-国家电网-电力专业领域词汇挖掘

电力词汇，NER自动挖掘比赛这一堆数据，质量真的惨不认输。有点难受，我找找思路思路：爬取各大电力相关论文的关键词，将其作为ner，与原文混合做自动化标注，把原文标注的结果，用bilstm+CRF训练...

2018-09-18 17:02:23 2329 17

原创铝材劣质品识别，神经网络-图像分类-VGG16-RESNET50-Xception

介绍：铝型材是佛山南海的支柱性产业。在铝型材的实际生产过程中，由于各方面因素的影响，铝型材表面会产生裂纹、起皮、划伤等瑕疵，这些瑕疵会严重影响铝型材的质量。为保证产品质量，需要人工进行肉眼目测。然而，铝型材的表面自身会含有纹路，与瑕疵的区分度不高。传统人工肉眼检查十分费力，不能及时准确的判断出表面瑕疵，质检的效率难以把控。近年来，深度学习在图像识别等领域取得了突飞猛进的成果。铝型材制造商迫切希望...

2018-09-18 16:35:58 1416 8

原创【python】超像素分段【SLIC（simple linear iterative clustering）简单的线性迭代聚类】

# -*- coding: utf-8 -*-"""Created on Sun Sep 16 13:49:22 2018@author: Lenovo"""# import the necessary packagesfrom skimage.segmentation import slicfrom skimage.segmentation import mark_bou...

2018-09-16 13:55:21 2574

原创眼睛横纵比来做侧眼眨眼检测技术

眨眼检测与用于计算闪烁的传统图像处理方法不同，闪烁通常涉及以下的某些组合：眼睛定位。阈值找到眼睛的白色。确定眼睛的“白色”区域是否消失一段时间（表示眨眼）。眼睛纵横比是一种更优雅的解决方案，其涉及基于眼睛的面部地标之间的距离比率的非常简单的计算。这种用于眨眼检测的方法快速，有效且易于实现。人脸全局关键点：眼部关键点我们视频中的一帧是这样的：...

2018-09-15 18:56:07 2994 1

原创用CNN巧妙解决金字塔滑动窗口，用cnn一边滑动一遍输出预测分类

效果如图：这是用cnn对一张305*471的图像做分类得到的结果，相当于做了52*93次滑动窗口+分类，却仅仅耗时0.2672951465708593s。相当于一次窗口分类，仅仅耗时 0.00005s。具体网络+预测如下图所示：import numpy as npimport cv2import timefrom keras.layers import Dense,Con...

2018-09-15 18:55:53 3691 3

原创基于C#的眼部瞳孔追踪与双图片融合成像

前期我们先用画饼充饥的方法来做研发与测试手动画人眼测试算法蓝线中心点为瞳孔中心，可以看到比较准。具体代码如下：using System;using System.Collections.Generic;using System.ComponentModel;using System.Data;using System.Drawing;using System.L...

2018-09-14 12:46:34 674

原创【手把手】自己搭建金字塔窗口监测+CNN神经网络人眼预测分类技术【基于SPM的CNN预测网络】

1.开发算法自动化创造数据集【训练】【验证】【测试】，人工过滤一波数据集2.分类状态有三种，睁眼，闭眼，非眼【一开始用了两种，人眼和非人眼，对闭眼不能很好识别】3.搭建cnn网络【采用类似VGG16的网络，但是网络一定要小，这样才能做到实时，方便后期ncnn移动端开发】4.开发金字塔模型5.对窗口用cnn predict6.输入绘图，做可视化调试1.自动化采集数据集算法...

2018-09-13 20:19:21 837 1

原创 Gabor小波变换处理眼部图像

import cv2import numpy as npimport pylab as plfrom PIL import Imageimport time#构建Gabor滤波器def build_filters(): filters = [] ksize = [7,9,11,13,15,17] #gabor尺度 6个 lamda = np.pi/2.0 #...

2018-09-11 13:01:00 1095

原创 otsu C++阈值分割

简单的说，这种算法假设一副图像由前景色和背景色组成，通过统计学的方法来选取一个阈值，使得这个阈值可以将前景色和背景色尽可能的分开。或者更准确的说是在某种判据下最优。与数理统计领域的 fisher 线性判别算法其实是等价的。otsu算法中这个判据就是最大类间方差 (intra-class variance or the variance within the class)。下面就来详细说...

2018-09-11 12:33:45 1561

原创 Gabor小波变换

Gabor是一个用于边缘提取的线性滤波器，其频率和方向表达与人类视觉系统类似，能够提供良好的方向选择和尺度选择特性，而且对于光照变化不敏感，因此十分适合纹理分析。图1是Gabor滤波器和脊椎动物视觉皮层感受野响应的比较　　　　　　　　　　　　　　　　　　　　　　图1. Gabor与脊椎动物视觉皮层感受野响应的比较图1中第一行是脊椎动物的视觉响应，第二行是Gabor滤波器的响应，可以...

2018-09-11 10:43:10 8335

原创 K-means 无监督NLP文本聚类

用kmeans对有标注少量文本做了个无监督分类，效果一般般。原因可能是1.停用词不全面2.kmeans等分类器对于高纬度向量分类能力交叉，可以考虑降维再分类3.部分词频在多个类型的文本中重复高频出现# -*- coding: utf-8 -*-"""Created on Wed Sep 5 13:23:31 2018@author: Lenovo"""im...

2018-09-10 17:20:42 2126 1

原创【文本意图分类】是怎么实现的

之前开始做语义理解的时候，笔者采用的是比较粗暴的方法进行匹配。随着语料的积累，语料库的规模变得越来越大，匹配的效率也随着越来越低，对语料进行意图分类的想法也就随着产生。当用户输入之后，系统首先对输入进行意图分类，然后对分类下的语料进行匹配，从而减轻计算量，提高系统的匹配效率。本文只是简单的阐述一下意图分析的典型思路和方法，并实现一个基本的意图分类器，而无意系统的探究意图分类。更详细的探讨后...

2018-09-10 15:09:27 937

原创 opencv+python+android 摄像头检测人脸

android下载 IP摄像头开启设备，记录账号密码，在代码中自行替换即可import cv2url ='http://admin:123456@172.30.183.4:8081'cap = cv2.VideoCapture(url)faces_cas = cv2.CascadeClassifier('haarcascade_frontalface_default.xml')...

2018-09-10 14:49:24 1359

原创 Convolution1D与Convolution2D区别

1.Convolution1D主要用于nlp，Convolution2D主要用于cv。实际上，Convolution1D也可以用于cv，Convolution2D也可以用于nlp，只是那个时候不是标准的卷积方式，而是经过一定变形的卷积。2.可以看到Convolution1D的卷积只有3这一个参数，Convolution2D却有两个参数3（即长度为3，宽度为3的卷积）。表面上Convolutio...

2018-09-08 20:05:45 2383

转载 opencv之级联分类器训练属于自己的xml文件

基础知识这里就不讲了，最近在做车牌识别系统中的车牌定位算法，只讲讲自己训练的可以进行车牌定位的xml文件。这里我是用的是opencv2.4.4版的opencv_createsamples.exe和opencv_haartraining.exe，实验发现车牌定位效果并不是特别理想，当然，这跟训练集有关系，也跟测试集车牌图像中车牌所占比例大小不一有关系。明天再试试别的方法吧。...

2018-09-08 20:00:48 3046 3

原创 TextCNN 与 FastText 文本分类实战【Embedding|Word2Vec】

具体的理论知识，可以看看前面几篇文章，有详细介绍，这里直接po代码了# -*- coding: utf-8 -*-""" @Author: xkk @Date: 2018-09-07 12:42:37 @Last Modified by: xkk @Last Modified time: 2018-09-07 12:42:37"""import jiebaimpo...

2018-09-08 19:30:12 4034

原创什么是数据【标准化】【归一化】，他们有什么作用？

在机器学习中：归一化：为什么归一化能提高梯度下降法求解最优解的速度？假定为预测房价的例子，自变量为面积大小和房间数，因变量为房价。那么可以得到的公式为： y=θ1x1+θ2x2y=θ1x1+θ2x2其中，x1x1代表房间数，θ1θ1代表x1x1变量前面的系数；x2x2代表面积，θ2θ2代表x2x2变量前面的系数。下面两张图（损失函数的等高线）代表数据是否归一化的最优解...

2018-09-08 18:34:39 6204

原创【TEXT-CNN】详细解释与代码

1.简介TextCNN 是利用卷积神经网络对文本进行分类的算法，由 Yoon Kim 在 “Convolutional Neural Networks for Sentence Classification” 一文 (见参考[1]) 中提出. 是2014年的算法.图1-1 参考[1] 中的论文配图合理性: 深度学习模型在计算机视觉与语音识别方面取得了卓越的成就. 在 NLP 也是...

2018-09-08 15:35:12 5268 3

原创【WORD2VEC】通俗解释

转载http://www.sohu.com/a/128794834_211120Word2Vec 的训练模型，看穿了，是具有一个隐含层的神经元网络（如下图）。它的输入是词汇表向量，当看到一个训练样本时，对于样本中的每一个词，就把相应的在词汇表中出现的位置的值置为1，否则置为0。它的输出也是词汇表向量，对于训练样本的标签中的每一个词，就把相应的在词汇表中出现的位置的值置为1，否则置为0。那么，对...

2018-09-08 14:39:15 614

原创【NLP】文本分类主题预测综述

文本分类解决方法综述一、传统文本分类方法　　文本分类问题算是自然语言处理领域中一个非常经典的问题了，相关研究最早可以追溯到上世纪50年代，当时是通过专家规则（Pattern）进行分类，甚至在80年代初一度发展到利用知识工程建立专家系统，这样做的好处是短平快的解决top问题，但显然天花板非常低，不仅费时费力，覆盖的范围和准确率都非常有限。后来伴随着统计学习方法的发展，特别是90年代后互联网在...

2018-09-08 14:38:09 3802 2

原创词向量其实就是语义映射矩阵

最近仔细学习了word2vec，上网查资料的时候发现很多博客资料上讲到的主要是理论，不好全面理解；而对于介绍应用的文章又偏重于某个工具的使用而不是训练的细节，所以特别参考了Tensorflow上的实现写下本篇文章，以防忘记。其中Tensorflow实现word2vec请点击这里正文：对于word2vec的原理这里不做过多解释，如果不熟悉可以看 [NLP] 秒懂词向量Word2vec的...

2018-09-08 14:22:58 3480 1

原创基于文本的单词 TFIDF等常见应用

任务一：现在有一篇长文《中国的蜜蜂养殖》，用计算机提取它的关键词。1、词频：如果某个词很重要，它应该在这篇文章中多次出现。我们进行"词频"（Term Frequency，缩写为TF）统计。2、停用词：结果你肯定猜到了，出现次数最多的词是----"的"、"是"、"在"----这一类最常用的词。它们叫做"停用词"（stop words），表示对找到结果毫无帮助、必须过滤掉的词。规则一...

2018-09-08 13:49:57 871

原创 SSD算法目标检测

之前看了SSD的论文，但也只是仅仅停留在论文层面，这几天在github上找到了一位大神在一年前用Tensorflow实现了SSD算法。这几天也抽空阅读了下代码，主要分析了下几个重要的模块，接下来做一个简单的总结。SSD（Single Shot MultiBox Detector）是大神Wei Liu在 ECCV 2016上发表的一种的目标检测算法。对于输入图像大小300x300的版本在VOC2...

2018-09-07 18:56:34 828

原创从零开始搞嵌入式

师姐走了，看到抽屉里留下一个板子，于是打算实现儿时的梦想。板子接上电脑提示要下载一个 SEC S3C2410X Test BD 驱动，这是一个串口驱动。通过串口与PC互相传送文件 ...

2018-09-07 15:18:35 179

原创爬虫小记第一步【爬虫】【多线程】【python】

起因：之前做JAVA的时候，我一般都拿Jsoup来写爬虫，后来做Python的时候，一般是UrlLib Request+BS4 或者 Selenium来做爬虫，用这种方法，可以很轻松的抓到数据【但数据比较局限在简单的形式，比如不能适应AJAX，不能有JS操作（Selenium等仿真模拟器的方法是可以做的）】就这样通过简单的爬虫，我抓了一年又一年的数据，直到前段时间要抓海量JD数据的时候...

2018-09-07 13:15:59 230

原创 gamma 校正理解及python实现

python代码为原创1.什么是Gamma校正？ Gamma源于早期的CRT显示器的响应曲线，也就是输出亮度和输入电压的非线性关系，如图所示：图1 亮度和输入电压的非线性关系图由图可以看出，亮度和输入电压的关系更加近似于指数函数 (output = input ^ gamma )的关系。事实确实如此，CRT显示器厂商都默认将gamma值设为2.5，也就是如上的曲线。这...

2018-09-07 10:54:57 5018 1

原创 gamma校正定义，图像对比度调整

1 gamma校正背景　　在电视和图形监视器中，显像管发生的电子束及其生成的图像亮度并不是随显像管的输入电压线性变化，电子流与输入电压相比是按照指数曲线变化的，输入电压的指数要大于电子束的指数。这说明暗区的信号要比实际情况更暗，而亮区要比实际情况更高。所以，要重现摄像机拍摄的画面，电视和监视器必须进行伽玛补偿。这种伽玛校正也可以由摄像机完成。我们对整个电视系统进行伽玛补偿的目的，是使摄像机根据...

2018-09-06 18:26:04 2877

转载国内大陆部分主要NLP团队

微软亚洲研究院自然语言计算组https://www.microsoft.com/en-us/research/group/natural-language-computing/ 清华大学自然语言处理与社会人文计算实验室http://nlp.csai.tsinghua.edu.cn/site2/ 清华大学智能技术与系统信息检索组http://www.thuir.cn/cms/...

2018-09-06 09:57:39 748