![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 76
Geeksongs
AIGC连续创业者,全栈开发者。不惜一切代价,一切手段推动人类科技进步是我的终极目标。最想实现的是强人工智能,通过脑机接口和基因编辑实现人类永生。
展开
-
使用OPTUNA对LightBGM自动调试参数,并进行绘图可视化
1.optuna基本使用Optuna是一个自动帮助我们调试参数的工具,使用起来十分方便。比sklearn的gridsearchcv好用很多,一是因为optuna相比于sklearn能够快速进行调参,二是因为它可以将调试参数的过程进行可视化。同时可以如果没训练完,下次继续训练。而optuna内部使用贝叶斯调试参数的机制,可以在最短的时间之内,给我们一个较为优秀的结果,甚至可能会得到一个最优的...原创 2021-11-20 09:54:00 · 4498 阅读 · 4 评论 -
【集成学习】:Stacking原理以及Python代码实现
Stacking集成学习在各类机器学习竞赛当中得到了广泛的应用,尤其是在结构化的机器学习竞赛当中表现非常好。今天我们就来介绍下stacking这个在机器学习模型融合当中的大杀器的原理。并在博文的后面附有相关代码实现。总体来说,stacking集成算法主要是一种基于“标签”的学习,有以下的特点: 用法:模型利用交叉验证,对训练集进行预测,从而实现二次学习 优点:可以结合不同的模型 ...原创 2021-10-17 13:46:00 · 13246 阅读 · 3 评论 -
利用Python的NumPy进行矩阵计算
随着机器学习技术越来越向着整个社会进行推广,因此学好线性代数和Python当中的numpy库就相当重要了。我们应该知道numpy库的使用是sklearn库和opencv库的基础。主要用于矩阵的计算。当然,我们做做数模或者人工神经网络建模也可以使用MATLAB。不过现在Python才是现在的主流,因为Python可以用于服务器后台的实现,不仅仅看可以用于科研,还可以做出一些比较实用的一些东西。如果还...原创 2018-10-19 15:32:02 · 2302 阅读 · 0 评论 -
纯数学手段实现基于最小二乘法的线性回归
终于,抱着兴趣,我利用纯数学的手段实现了基于最小二乘法的线性回归模型。这是我昨天的目标(今天我还没有睡觉呢,假设我睡觉后是明天的话),那么我明天希望能够利用纯数学手段实现基于随机梯度下降的线性回归算法模型。 下面是笔者手打的最小二乘法的数学原理,然后我们再利用数学手段对其进行实现即可,也就是利用多元函数的极值求出偏导数而已,其正面过程请参见同济版《高等数学》P110. ...原创 2018-10-19 15:33:22 · 406 阅读 · 0 评论 -
利用线性回归模型判断文章类别
平时,可以借助计算机来判定一篇文章是否是体育类的新闻,或者是艺术类的新闻。因此我们可以借助线性回归模型对其进行判定。当然这个数学模型有多种实现手段,比如用分类器,随机梯度下降,感知机等机器学习模型进行判定,这里我们就不用展示了,直接用社会工业界所接受的方法来进行研究,因为自己用上述的方法只有科研才会用到,对于最基本的要求而言只需要知道如何使用这些模型就行了。 作者我用的Python语言...原创 2018-10-19 15:35:39 · 376 阅读 · 0 评论 -
达观杯文本智能处理挑战赛
笔者尝试了一下达观杯的比赛,代码如下图所示:import pandas as pdimport impfrom sklearn.linear_model import LogisticRegressionfrom sklearn.feature_extraction.text import CountVectorizer df_test = pd.read_csv(r't...原创 2018-10-19 15:36:51 · 432 阅读 · 0 评论