机器学习
文章平均质量分 86
机器学习
因吉
这个作者很懒,什么都没留下…
展开
-
多示例学习 (multi-instance learning, MIL) 学习路线 (归类、重点文章列举、持续更新)
MIL学习路线:归类、重点文章概述 (持续更新ing...)原创 2024-01-15 20:43:24 · 4209 阅读 · 3 评论 -
主动学习之Alipy包使用 (一):高级封装
Alipy包使用详解引入0.1 主动学习简介0.2引入0.1 主动学习简介 在诸多实际问题中,未标记数据大量而已标记数据稀缺。由于人类专家的参与,标签的获取通常昂贵。因此,通过少量的标签实例来训练准确的预测模型至关重要。 主动学习的目的即是: 通过只查询最有价值的实例来减少人类专家在机器学习系统中注释实例的比例,并已成功地应用到各种实际任务中。 原文获取~~0.2...原创 2019-09-12 21:23:02 · 6092 阅读 · 60 评论 -
主动学习之Alipy包使用 (三):实例选择实验
文章目录1 代码2 输出1 代码import alipy as apimport copyimport numpy as npimport warningsfrom sklearn.datasets import load_irisnp.random.seed(1) # 保证你我结果一致warnings.filterwarnings("ignore")class ActiveLearningWithInstanceSelection: """ 实例选择与主动学习原创 2021-07-21 10:29:11 · 825 阅读 · 12 评论 -
主动学习之Alipy包使用 (二):工具类详解
本节进一步介绍alipy工具类,包括数据操作、查询策略、Oracle、索引管理、性能度量等。参考链接:http://parnec.nuaa.edu.cn/huangsj/alipy/原创 2021-07-20 15:47:54 · 3130 阅读 · 6 评论 -
多示例学习距离度量 (distance measures)和集合核 (set-kernel)
文章目录引入1 距离度量类 (distance measures)1.1 最大Hausdorff距离[^1]1.2 最小Hausdorff距离[^2]1.3 平均Hausdorff距离[^3]2 集合核类 (set-kernel)2.1 miGraph引入 汇总一些用到的距离度量或者集合核。 本文的符号表示如下:符号意义BiB_iBi第iii个包∣Bi∣\vert B_i \vert∣Bi∣第iii个包的大小xia\boldsymbol{x}_{ia}xi原创 2020-07-15 15:27:51 · 1894 阅读 · 0 评论 -
对《支持向量机通俗导论--理解SVM 的三层境界》的理解
调包侠近日开始深入理解SVM背后的故事,所参照文章为《支持向量机通俗导论–理解SVM 的三层境界》。需要说明的是,这里主要记录的是SVM的推导过程,且文中公式的编号与原文完全一致。原创 2021-09-01 20:57:34 · 306 阅读 · 0 评论 -
机器学习中你不得不知道的数学符号表示
最近在补一些机器学习的理论基础,因此把常用的符号做一个总结。当然,不同的子方向可能有些许区别。1 标量向量及矩阵2 自然数3 定义4 集合5 导数6 函数原创 2021-08-29 21:28:19 · 1827 阅读 · 0 评论 -
Opencv中的kMeans
Opencv中的kMeans以及颜色量化。原创 2021-05-13 19:56:47 · 1618 阅读 · 1 评论 -
Adam优化算法理解与实现
文章目录引入1 Adam介绍2 具体实现引入 用torch的时候,有个老几出现频率忒高,让不了解它的我蠢蠢欲动,这究竟是何方神圣?1 Adam介绍 最开始的GD很慢,每次只爱一个样本。SGD想要改变,又是随机,又是批量。后来加了自适应,何苦学习率开始基情满满,越往后越敷衍。 RMSprop则不同了,生是让学习率一个劲往上???? Adam则是集大成者 更新过程如下:vt=β1vt−1+(1+β1)gradtst=β2st−1+(1−β2)gradt2\begin{aligned原创 2021-01-17 15:37:33 · 4899 阅读 · 4 评论 -
自适应梯度和RMSprop的理解与实现
文章目录1 自适应梯度Adagradient2 RMSprop1 自适应梯度Adagradient 回顾动量版的SGD更新公式:vt=γvt−1+lr∗gradθ=θ−vt=θ−γvt−1−lr∗grad\begin{aligned}v_t & = \gamma v_{t - 1} + lr * grad\\\theta & = \theta - v_t = \theta - \gamma v_{t - 1} - lr * grad\end{aligned}vtθ=γv原创 2021-01-15 16:51:05 · 834 阅读 · 2 评论 -
随机梯度下降动量解释及实现
文章目录1 SGD实现2 小批量SGD3 动量Momentum1 SGD实现 以以下式子为例:f(x)=ax+b(y−f(x))2=(y−(ax+b))2dyda=−2x(y−(ax+b))dydb=−2(y−(ax+b))\begin{aligned}f(x) &= a x+b \\(y-f(x))^{2} & =(y-(a x+b))^{2} \\\frac{d y}{d a} &=-2 x(y-(a x+b)) \\\frac{d y}{d b} &=原创 2021-01-15 13:41:35 · 446 阅读 · 0 评论 -
梯度下降的理解与实现
文章目录1 理解梯度2 简单示例3 参数优化4 批量梯度下降1 理解梯度 假设我们有函数f(x)=x2f (x) = x^2f(x)=x2,其中x∈[−1..1]x \in [-1..1]x∈[−1..1]。随机给定xxx的起始位置,如何找到f(x)f (x)f(x)的最小值呢?测试1:函数展示import numpy as npimport matplotlib.pyplot as pltdef fx(x): return x ** 2def test1(): x原创 2021-01-15 11:16:13 · 441 阅读 · 0 评论 -
机器学习相关概念
文章目录引入1 概率论2 线性代数3 核函数4 模型5 Java库引入 记述本人机器学习中常用到的或者新了解到的一些相关概念,包括概率论、线性代数相关概念、核函数等等。原创 2020-05-29 14:27:37 · 794 阅读 · 0 评论 -
机器学习之利用PCA来简化数据
机器学习之利用PCA来简化数据...学习笔记原创 2019-11-07 16:07:19 · 371 阅读 · 0 评论 -
机器学习之Density Peaks
Density peaks原创 2019-10-24 09:18:10 · 1240 阅读 · 2 评论 -
机器学习实战之k-近邻算法(kNN)
k-近邻算法(kNN)...学习笔记`原创 2019-07-18 19:56:58 · 820 阅读 · 0 评论 -
机器学习实战之基于概率论的分类方法:朴素贝叶斯
基于概率论的分类方法:朴素贝叶斯...学习笔记原创 2019-08-18 16:54:53 · 873 阅读 · 0 评论 -
机器学习实战之Logistic回归
Logistic回归...学习笔记原创 2019-08-23 22:49:52 · 479 阅读 · 0 评论 -
机器学习实战之支持向量机
机器学习实战之支持向量机...学习笔记原创 2019-09-01 16:53:54 · 917 阅读 · 0 评论 -
机器学习实战之利用AdaBoost元算法提高分类性能
机器学习实战之利用AdaBoost元算法提高分类性能...学习笔记原创 2019-09-02 21:50:48 · 709 阅读 · 0 评论 -
机器学习实战之预测数值型数据:回归
机器学习实战之预测数值型数据:回归...学习笔记原创 2019-09-08 21:58:23 · 8871 阅读 · 0 评论 -
机器学习实战之树回归
机器学习实战之树回归...学习笔记原创 2019-09-12 16:15:12 · 343 阅读 · 0 评论 -
机器学习实战之决策树
机器学习实战之决策树算法...学习笔记原创 2019-08-15 12:54:02 · 746 阅读 · 0 评论