- 博客(93)
- 收藏
- 关注
RSS订阅
原创 【论文阅读】Universal Domain Adaptation
Universal Domain AdaptationSUMMARY@2020/3/27文章目录MotivationRelated WorkChallenges / Aims /ContributionMethod ProposedFeature extractor FFFLabel classifier GGG**Non-adversarial** domain discriminator D′D^\primeD′Adversarial domain discriminator DDDTrainin
2020-05-13 00:07:41
1154
原创 【机器学习】从房价预测问题看回归算法
关键词：机器学习 / 回归文章目录回归问题是什么生成数据最小二乘法学习一元线性回归模型最小二乘法学习多元线性回归模型梯度下降法学习回归模型回归问题是什么回归问题是除了分类问题以外，机器学习中另一个经典问题。本节我们以从房价预测为问题背景，逐步介绍分类问题及其相关算法。回归的目的是想拟合一组数据的输入x\boldsymbol{x}x和输出yyy之间的映射关系f(⋅)f(\cdot)f(⋅)，进而用得到的拟合模型f(⋅)f(\cdot)f(⋅)对未知的样本xt\boldsymbol{x}_txt.
2021-01-27 22:15:30
1357
原创 LeetCode 1：two sum
1 Python刷1.1 暴力法：时间O(n^2)，空间O(1)class Solution(object): def twoSum(self, nums, target): """ :type nums: List[int] :type target: int :rtype: List[int] """ for i in range(len(nums)): for j in
2020-07-01 00:53:18
237
原创 百面机器学习 #3 经典算法：02 逻辑回归
参考：百面机器学习西瓜书02 逻辑回归Logistic Regression（对数几率回归）2.1 逻辑回归和线性回归二者都使用极大似然法来对训练样本进行建模。在求解超参数的过程中，都可以使用梯度下降的方法。逻辑回归处理的是分类问题，线性回归处理的是回归问题，这是两者的最本质的区别。逻辑回归给定自变量和超参数后，得到因变量的期望E[y∣x;θ]E[y|x;\theta]E[y∣x;θ]，并基于此期望来处理预测分类问题;线性回归求解y=θTx+by=\theta^T x.
2020-06-29 19:05:10
704
原创 百面机器学习 #3 经典算法：01-3 核函数支撑向量机SVM
文章目录1.3 非线性SVM与核技巧1.3.1 核函数1.3.2 核技巧在支持向量机中的应用1.3.3 常用核函数1.4 其他问题1.4.1 是否存在一组参数使SVM训练误差为0：是1.4.2 训练误差为0的SVM分类器一定存在吗：是1.4.3 加入松弛变量的SVM的训练误差可以为0吗：不一定1.3 非线性SVM与核技巧非线性问题往往不好求解，所以希望能用解线性分类问题的方法解决这个问题。所采取的方法是进行一个非线性变换，将非线性问题变换为线性问题，通过解变换后的线性问题的方法求解原来的非线性问题。
2020-06-16 20:09:28
303
原创 百面机器学习 #3 经典算法：01-2 不完全线性可分（软间隔）支撑向量机SVM
文章目录①从原问题到对偶问题②对偶问题的解的形式化简③从对偶问题的解到原问题的解④从原问题的解到分离超平面、决策函数、支撑向量假设训练数据集不是线性可分的。通常情况是，训练数据中有一些特异点（outlier），将这些特异点除去后，剩下大部分的样本点组成的集合是线性可分的。①从原问题到对偶问题对每个样本点(xi,yi)(x_i,y_i)(xi,yi) 引进一个松弛变量，使函数间隔加上松弛变量大于等于1。约束条件变为yi(w⋅xi+b)≥1−ξi,i=1,2,...,Ny_i(w\cdot x
2020-06-13 17:36:20
270
原创 百面机器学习 #3 经典算法：01-1 线性可分（硬间隔）支撑向量机SVM
文章目录①从原始问题到对偶问题②对偶问题的解的形式化简③从对偶问题的解到原问题的解④从原问题的解到分离超平面和决策函数、支撑向量参考李航统计学习方法第7章。支持向量机学习的基本想法是求解能够正确划分训练数据集并且几何间隔最大的分离超平面。对训练数据集找到几何间隔最大的超平面意味着以充分大的确信度对训练数据进行分类。也就是说，不仅将正负实例点分开，而且对最难分的实例点（离超平面最近的点）也有足够大的确信度将它们分开。这样的超平面应该对未知的新实例有很好的分类预测能力。可以通过求解对偶问题而得到原始
2020-06-13 17:32:46
255
原创 【论文阅读】Deep Cocktail Network: Multi-source Unsupervised Domain Adaptation with Category Shift
Deep Cocktail Network: Multi-source Unsupervised Domain Adaptation with Category ShiftSUMMARY@ 2020/5/12文章目录1. Method abstractduring training, two alternating adaptation steps:2. Motivation3. Challenges /Problem to be solved4. Contribution5. Related wor
2020-05-22 19:10:13
1032
2
原创 百面机器学习 #2 模型评估：07 过拟合和欠拟合及其常用解决方法
如何有效地识别“过拟合”和“欠拟合”现象，并有针对性地进行模型调整，是不断改进机器学习模型的关键。过拟合模型对于训练数据拟合呈过当的情况反映到评估指标上，就是模型在训练集上的表现很好，但在测试集和新数据上的表现较差模型过于复杂，容易把噪声数据的特征也学习到模型中，导致模型泛化能力下降，在后期应用过程中很容易输出错误的预测结果欠拟合模型在训练和预测时表现都不好的情况没有很好地捕捉到数据的特征，不能够很好地拟合数据7.1 降低“过拟合”风险的方法（1）获得更多的训练数据使
2020-05-22 18:54:25
698
原创 MATLAB安装工具箱
解压、安装步骤：https://blog.csdn.net/huang1024rui/article/details/51130795安装cvx：https://blog.csdn.net/weixin_40148024/article/details/91879675
2020-05-20 11:45:04
899
原创 百面机器学习 #2 模型评估：03 余弦距离和余弦相似度、欧氏距离
文章目录余弦相似度余弦相似度和余弦距离和欧式距离的比较和关系余弦距离不是一个严格定义的距离在模型训练过程中，我们也在不断地评估着样本间的距离，如何评估样本距离也是定义优化目标和训练方法的基础。在分析两个特征向量之间的相似性时，常使用余弦相似度来表示。余弦相似度的取值范围是[−1,1]，相同的两个向量之间的相似度为1。余弦相似度两个向量夹角的余弦cos(A,B)=A⋅B∣∣A∣∣2∣∣B∣∣2cos(A,B)=\frac{A\cdot B}{||A||_2 ||B||_2} cos(A,B)
2020-05-19 22:52:21
980
原创 百面机器学习 #2 模型评估：01&02 精确率与召回率，假阳性与真阳性率，PR曲线和ROC曲线
文章目录1. P-R（Precision-Recall）曲线F1 score2. 平方根误差的局限性3. ROC曲线ROC曲线绘制4. AUCpredict Positivepredict Negativereal PositiveTPFNnum of real positive=npn_pnpreal NegativeFPTNnum of real negative=nnn_nnnpredicted num of postitivepredicte
2020-05-18 23:47:05
2104
1
原创 线性方程组的矩阵解法——克莱姆法则
设线性方程组为{a11x1+a11x2+⋯+a1nxn=b1a21x1+a22x2+⋯+a2nxn=b2......an1x1+an2x2+⋯+annxn=bn\begin{cases}a_{11}x_1+a_{11}x_2+\cdots+a_{1n}x_n=b_1\\a_{21}x_1+a_{22}x_2+\cdots+a_{2n}x_n=b_2\\......\\a_{n1}x_1+a_{n2}x_2+\cdots+a_{nn}x_n=b_n\\\end{cases}⎩⎪⎪⎪⎨⎪⎪⎪⎧
2020-05-13 00:18:46
17609
1
原创 Excel进行粗糙的快速更换图片背景颜色
今天为了更换妖艳的小猪佩奇头像的底色，百度了一下，不想打开ps（或者ps已经被我卸载了？？？）参考以下链接进行操作，方便快捷！https://jingyan.baidu.com/article/ab0b563058e27dc15afa7d94.html...
2020-05-12 23:20:37
127
原创 jupyter notebook中创建环境、安装使用pytorch
jupyter notebook中创建环境、安装使用pytorchRef：https://zhuanlan.zhihu.com/p/101799677添加镜像conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/conda config --add channe...
2020-05-08 00:49:16
5299
1
原创 一些常用常新的数学公式（备查）
文章目录信息论熵距离测度信息论熵EntropyKaTeX parse error: Undefined control sequence: \cal at position 19: …X)=-\sum_{x\in \̲c̲a̲l̲ ̲X}p(x)\log p(x)…Cross-entropy交叉熵KaTeX parse error: Undefined control sequ...
2020-05-01 21:12:59
317
原创 机器学习中的损失函数（交叉熵损失、Hinge loss）
损失函数文章目录损失函数1 交叉熵损失1.1 从最大似然估计到交叉熵损失概率论中的MLE机器学习中的MLE交叉熵损失1.2 多分类的交叉熵损失函数1.3 比较1 交叉熵损失1.1 从最大似然估计到交叉熵损失概率论中的MLE最大似然估计用于估计能得到当前数据（分布）的最好的参数组合。对于最简单的x为一维的概率分布我们有θ^MLE=argmaxθ fX(x1,x2,...,xn;...
2020-05-01 21:07:53
1896
原创 纪录安装tensorflow的又一次的坑
anaconda环境的激活服务器上激活与退出conda activate py27# 激活conda deactivate本地win10系统下anaconda中激活与退出activate py27deactivate
2019-12-03 19:22:23
143
原创 Deep Q-learning
https://www.bilibili.com/video/av16921335?p=14DQN两种模型状态和动作作输入，得到动作的Q值状态作输入，所有动作的Q值作输出，选择Q值最大的对应的动作作为接下来要做的动作。作业是第二种神经网络的更新DQN强大的根本原因DQN有记忆库用于学习之前的经历Q-learning是一种off-poilcy的离线学习法，可以学习当...
2019-12-03 19:05:51
237
原创 【论文阅读】Multisource Transfer Learning With Convolutional Neural Networks for Lung Pattern Analysis
Multisource Transfer Learning With Convolutional Neural Networks for Lung Pattern Analysismain idea应用背景：interstitial lung diseases利用在6个通用（general）纹理数据集上预训练的网络迁移到lung tissue data上进行模式分类在每个source数据...
2019-11-30 19:12:56
365
原创 【论文阅读】JDA（joint distribution adaptation)/2013初稿
JDA（joint distribution adaptation)/2013文章目录**JDA（joint distribution adaptation)/2013**Abstract1. Introductionmotivationcross- domain problemrecent works分布差异的度量方法本文的问题设置本文的工作实验2. Related work3. Joint ...
2019-11-02 17:35:40
928
原创 毕设日志——查看系统基本信息的linux命令
查看CPU型号cat /proc/cpuinfo | grep name | cut -f2 -d: | uniq -c32 Intel(R) Xeon(R) CPU E5-2620 v4 @ 2.10GHz查看CPU内存cat /proc/meminfo |grep MemTotalMemTotal: 65856144 kB即64G查看GPU信息n...
2019-05-15 16:00:28
226
原创 tensorboard特征图可视化
后来更新之后两种方法都可以显示原图：再后来就可以显示出来feature map了：对排列之类的细节做了修改间隔之后CONV4:conv3！！！！！！试一下不过relu的特征图，试一下各个通道特征图求和！ps：软连接建立ln -s $VOCdevkit VOCdevkit2007前者指实际数据集的位置，后者指要软连接的数据集的位置和名称...
2019-05-13 21:50:38
3250
2
原创 毕设日志5.12凌晨
正在训练的，无RPN2的，32~512的，预计还有半个多小时训练完正在排队waiting的，无RPN2的，128~512，预计凌晨5点开始训练
2019-05-12 00:11:19
263
原创 毕设tips——conda
pytorch1.0和tensotflow支持的numpy不一样，建两个虚拟环境，所以除了pytorch0.4.0，在已经有tensorboardX的情况下，我新建了一个tf环境，用来安装tensorflow。事实证明这样单独在tf环境下是可以运行tensorboardX的！否则tf装在pytorch环境下很容易就污染了，即numpy可能被降版本，然后整个人都不好了。参考https://zh...
2019-05-11 22:51:52
275
原创 毕设日志——TensorFlow安装的numpy覆盖？掉了pytorch的numpy
根据https://zhuanlan.zhihu.com/p/54947519 的说法，可以把 tensorboard 和 tensorflow 放在另外一个虚拟环境里．这样就不会因为 tensorflow 的问题导致 numpy 之类的包被降级了。今天为了用tensorboardX，先安装了tensorflow-gpu然后检测numpy版本变成了 numpy.__version__'1....
2019-05-11 17:23:07
516
原创 毕设日志——tensorboardX无法连接的问题
https://blog.csdn.net/weixin_41010198/article/details/88116673关掉VPN！不要htttp的前缀
2019-05-11 14:11:45
752
原创 sh文件进行qsub提交任务到远程服务器训练
若在bash的sh文件中，设置好cuda和多GPU训练：python trainval_net.py --dataset pascal_voc --net vgg16 --epochs 6 --bs 4 --nw 4测试：python test_net.py --dataset pascal_voc --net vgg16 --checkepoch 6 --checkpoint 3365...
2019-05-10 19:56:11
4948
1
原创 linux下tmux
ctrl+b,等待一会提示音，再d# 退出当前sessiontmux attach# 返回之前的sessiontmux attach-session -t 4# 进入特定的sessiontmux kill-session -t 4# 彻底关闭特定sessiontmux ls# 显示当前所有session...
2019-05-10 14:12:09
366
转载 毕设日志——linux服务器anaconda下安装caffe
4.24https://www.twblogs.net/a/5c1667c5bd9eee5e418436c7/
2019-04-24 23:58:52
376
原创 毕设日志——特征融合修改vgg16.py
4.22# 去掉conv5_3后的relu和maxpooling两层# conv5_3CNN_base5_3 = nn.Sequential(*list(vgg.features._modules.values())[:-2])RCNN_base5_3.add_module('conv1x1', nn.Conv2d(in_channels=512, out_channels=1024, k...
2019-04-22 16:52:27
1323
10
原创 毕设日志——。。。
4.19下午PyTorch 更改训练好的模型https://blog.csdn.net/e01528/article/details/85273172https://blog.csdn.net/qq_27292549/article/details/78937786https://blog.csdn.net/GYGuo95/article/details/79945631https://...
2019-04-19 15:15:09
564
原创 毕设日志——下一步计划2019.4.17
下一步改进faster rcnn的基本思路参考https://blog.csdn.net/Z5337209/article/details/72838049将Faster-RCNN中的VGG16替换成ResNet可以提高performance，不仅是detection，在segmentation，video analysis，recognition等其他领域，使用更深的ResNet都可以得到...
2019-04-17 00:02:38
562
原创 毕设日志——在faster rcnn pytorch上训练KITTI数据集
本次目标：整理运行代码产生的内容下载KITTI数据集和LSVH数据集修改数据集样式为VOC2007在新的数据集上训测2019.4.13备份之前训练生成的文件models,output,以及没有用的qsub相关的.sh文件和文件夹（虽然这个备份似乎没有什么用）下载KITTI：数据集： http://www.cvlibs.net/download.php?file=dat...
2019-04-13 20:23:49
2125
2
转载 毕设日志——Linux中相对路径和文件的移动和常用指令
2019.4.13 周六https://www.jianshu.com/p/c8ccc97ad610在Linux中使用.来表示当前目录，使用…来表示上一级目录。-表示上次所在目录，~表示当前用户的“home”目录。使用命令pwd可以获得当前所在路径。注意是绝对路径。绝对路径就是以根“/”目录为起点，以你所到达的目录为终点，表现形式为/usr/local/bin。相对路径是以你当前的...
2019-04-13 11:31:59
904
转载 毕设日志——Linux服务器状态查询命令
https://www.jianshu.com/p/0aed4feba213查看显卡使用情况使用命令：nvidia-smiGPU：编号Fan：风扇转速，在0到100%之间变动，这里是42%Name：显卡名，这里是TITAN XTemp：显卡温度，这里是69摄氏度Perf：性能状态，从P0到P12，P0性能最大，P12最小Persistence-M：持续模式的状态开关，该模式...
2019-04-12 19:54:38
326
原创 毕设日志——Linux软连接的建立与删除
2019/4/12https://blog.csdn.net/chenghuikai/article/details/50961622建立ln -s file1 file1soft删除rm -rf filesoft
2019-04-12 17:04:29
339
原创 毕业设计——运行基于pytorch的faster rcnn
2019.4.10参考https://github.com/jwyang/faster-rcnn.pytorch一、下载代码从github下载代码到我的hdd，git clone https://github.com/jwyang/faster-rcnn.pytorch.git用上面的命令很慢，三次都报错fatal: early EOFfatal: index-pac...
2019-04-10 21:32:37
3995
6
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人