机器学习
zjrn
这个作者很懒,什么都没留下…
展开
-
文本分类模型第三弹:BoW(Bag of Words) + TF-IDF + LightGBM
一、前言本文是文本分类模型的第三弹,利用词袋模型(BoW),词频逆文档频率(TF-IDF)与 LightGBM 模型进行文本分类。原本计划的第三弹内容为 TextCNN 网络,介于最近刚刚利用 LightGBM 完成了一个简单的文本分类的任务,就趁热记录一下,作为第三弹的内容。这里是文本分类系列:文本分类模型第一弹:关于Fasttext,看这一篇就够了文本分类模型第二弹:HAN...原创 2020-04-14 21:55:04 · 2405 阅读 · 0 评论 -
Python 纯手写 实现感知机模型及对偶形式
根据《统计学习方法》P29页算法2.1,实现感知机模型及对偶形式。算法2.1:输入:训练数据集,learning rate alpha。输出:权重w,偏置b。(1)初始化w0,b0(2)在数据集中选定Xi,Yi带入(3)计算Yi * (Xi * w + b),如果小于等于0,对w和b进行更新(4)重复(2),(3),直至无误分类点。Python代码如下:imp...原创 2018-08-07 16:09:20 · 677 阅读 · 0 评论 -
Python 纯手写 实现KNN
实现《统计学习方法》P39 例3.1输入:数据集,实例X,K值,以及计算距离的方法输出:距离最近的K个数据,以及最近距离例3.1:首先定义三种计算距离的方法:欧氏距离,曼哈顿距离,以及各个坐标值的最大值对传入的实例X,计算再不同的距离计算方法下的最近距离,及对应的最近的坐标值Python代码:import numpy as npimport mathx = np....原创 2018-08-07 20:05:35 · 560 阅读 · 0 评论 -
Python 纯手写 实现KNN KD树算法
《统计学习方法》第三章中的算法3.2与算法3.3实现KD树的构造级最邻近点搜索算法3.2:构造KD树输入:空间数据集T输出:KD树Python代码:def creat_ketree(data,depth=0): """ 创建KD树 axis为坐标轴 num为中位数节点 depth为树的深度 median为父节点 ...原创 2018-08-08 20:24:11 · 873 阅读 · 0 评论