- 博客(24)
- 收藏
- 关注
RSS订阅原创 resnet残差思想和dropout在transformer中的一点小细节
看transformer代码代码然后看到nn.dropout()一个不一样的应用，这里我就来好好分享一下这个细节：下面代码实现的是上方红框的部分，重点在于平常我们的nn.dropout是在训练的时候增加网络的健壮性，但这里它是用于相加。self.dropout = nn.Dropout(p=0.5),x = x+g(f(x)) g(t)为dropout在这里主要是为了x = x+f(x)中保持f(x)的稀疏性。还有个好处我认为这样可以增强f(x)的泛化性吧。所以这个应该是resnet 残差思想
2021-10-06 14:17:45
6302
原创 专门给AI模型调参新手看的炼丹总结
我认为到自己能完整训练一个自己想训练的模型,就是能够从容自信炼丹总结了一下我经历的时期，第一阶段就是从未实践过深度学习代码，看了很多论文也好，教程也罢，初步了解一门深度学习框架pytorch,tensorflow,paddle(百度AIstudio提供免费V100算力，你值得拥有)，这个时候就挺迷茫的，很忐忑第一次训练模型，这时候建议你调简单的多分类任务进行训练，就是直接用nn.linear这种操作简单的，然后简单的自己单纯试试这个loss经过反向传播的过程不需要做具体任务，进行单元测试，这样对于back.
2021-10-06 00:51:36
1145
原创 python 通过创建简单的Vector()对象来深入了解魔术方法2
python 通过创建简单的Vector()对象来深入了解魔术方法直接上代码from math import hypotclass Vector: def __init__(self,x =0,y=0): self.x =x self.y = y def __iter__(self): return (i for i in (self.x,self.y)) #return得是一个个出来的这种迭代器 # return [s
2021-09-10 23:42:06
654
原创 python装饰器深化1 知识点（执行时间，覆盖__name__,__doc__等方法）
小小的python装饰器1@adef b(x): pass'''这种写法等于a(b)(x),这个没啥好说的''''''下面这份代码可以帮你清楚装饰器执行时间的问题，还有装饰器覆盖被装饰函数一些属性的问题.__name__之类的。'''import timeimport functoolsclock_func_str_list=[]#被clock装饰器func的listdef clock1(func): ''' out_clock1 ''' c
2021-09-09 11:00:20
411
2
原创 神经网络中函数逼近的思考
神经网络中函数逼近的思考函数逼近神经网络原文： http://staff.ustc.edu.cn/~lgliu/Resources/DL/What_is_DeepLearning.html 这篇文章很到位，对于用函数逼近思想考虑神经网络，但这篇文章主要是对于一个神经网络的设计，我更加倾向于用不同的神经网络组合的思想，这样方便到时候分模块调参，看结构，并且可以增删网络个数。 我对于神经网络函数逼近的考虑是类似无穷级数等于前面的部分和数列Sn加上余项R，主要重点就在于这个部分和求好就行。F =
2021-06-27 12:32:15
319
原创 基于一片叶子的思考 神经网络体现数据结构 类似树的图
对于神经网络类似树的图：前因：走在路上捡起一片叶子，对着阳光欣赏反思：一片叶子一旦叶脉（规则）固定，那么有规则限制它永远也是叶子，但可以为了适应不同具体环境有不同特点。想法： 神经网络中类似树的图，对于双子叶植物叶子来说网状叶脉起支撑作用，这个叶子主筋脉呈现数据结构树的感觉，但是小支脉互相连接从而成网状支撑起整个叶子，这就是大自然的类似树的图。具体描述： 然后我是这样想的，整个神经网络把它看作一个叶脉，刚开始只有主干中心叶脉，然后主干中心叶脉（0级）开始需要下一级支脉（1级）。就举
2021-06-27 12:20:04
164
原创 增强学习学习新得
增强学习学习的新得这个其实我也没有打错字啦，就是刚学一周左右的增强学习然后过来总结下收获。一周历程就是图书馆借了几本书然后就看，运气不错，图书馆的书还不错，学习一个新的东西最好还是多有几本同类讲解相同知识的书比较好，因为不同逻辑可以让你理解更加到位一点，然后就是互补。先看了差不多的李宏毅大哥的增强学习系列，感觉是到位了，公式推导也很不错，但是我英语记不住单词功底有点差，就很多细节不会，大致有个feeling，但是还是有疑惑的，因为我之前没有实现过哪怕一个例子所以就手和脑分开了。然后我去看莫烦的增强学习，这
2021-06-05 16:48:30
101
原创 时隔多日的神经网络总结
时隔多日的神经网络总结 好久不更新了，最近学习pytorch，然后呢，学了很多神经网络的东西，直接总结，无关乎代码，主要是很多思考。 首先为了解决损失函数的问题。要保证损失函数参与到整个神经网络训练，就是保障损失函数是有用的，如果你的损失函数都无法参与到整个网络的计算，那么这个损失函数有啥用，是吧，这个问题我刚开始根本没注意到，就是网络运行但是不更新损失函数。所以第一步是检验损失函数是否有用，就是先给这个网络塞入同一份数据，然后把损失打印，那么如果这个损失函数是有用的，那么这个损失会一
2021-05-26 16:12:03
104
原创 对于幸福不是悖论的证明，在现代对于幸福探寻
对于幸福不是一个悖论思考其实我一直把自己想当一个技术博主，但是吧突然想哲学一下，毕竟现在时代发展，技术发展真的很快，想要技术中不迷失自己很难，这里是我对于幸福的一点思考。当然对于题目我是习惯当个证明题来做。我们经历了过去，行走在现在，面向着未来。对于我们获得幸福来说可以分为三个阶段：追寻幸福（过去），得到幸福时（现在），和对于得到幸福之后的思考（未来）。在这里，我们先从获得幸福这一时间点进行思考，这点必定是喜悦的，而这里我们对于喜悦限为一种充实的快乐，是得到某种事物（可抽象且可具体）后的情感。那么我.
2021-04-20 22:28:26
93
原创 实现哈夫曼树
这个哈夫曼树我就不具体介绍了，反正这个相关介绍很多。我就直接上代码了，我的注释已经很多了，相信看官不可能，看不懂，因为我输入的权重是5个概率，和为1，于是我顺便计算了信息熵，这个不是重点。#include <stdint.h>#include<stdio.h>#include<stdlib.h>#include<math.h>#define MAXVALUE 32767//定义一个权重初始化，后面会用到#define MAXLISTLEN 100
2021-04-18 21:07:07
86
原创 C语言 栈 实现表达式计算
给大家搞了一个C语言用栈实现表达式计算可以支持±*/()可以进行小数，整数运算，但是吧，精度这个问题我就没解决建立了两个栈，一个存储运算符，一个存储数字（是存在运算符栈的遇到）就要pop栈直到把遇到的第一个（也给pop掉是按照运算优先级进行操作的例如3*5+ 新的即将要插入的+没有*优先级高，那就先搞出数字栈的最上面两个数字，和运算符栈搞出*然后做运算得到15，把15再放入数字栈栈顶，然后把+放入运算符栈。代码直接可以用，输入3*5+2=，结尾一定要是等号！！！！！！！记得点赞上代码
2021-04-07 09:09:46
1045
1
原创 鸢尾花数据集用logistic多分类训练
鸢尾花数据集用logistic多分类训练logistic这个多分类就是有几类就搞几个分类器，每个分类器对应一类。每个分类器分成两类是本类和不是本类（1和0）。梯度下降法，logistic损失函数求导就核心两点嘛。不难。代码from sklearn import datasetsfrom sklearn.model_selection import GridSearchCV,train_test_split,cross_val_scoreimport numpyiris = datasets.l
2021-04-03 13:55:13
275
原创 朴素贝叶斯处理鸢尾花
朴素贝叶斯处理鸢尾花数据集朴素贝叶斯公式上代码from sklearn import datasetsfrom sklearn.model_selection import GridSearchCV,train_test_split,cross_val_scoreiris = datasets.load_iris()#下载鸢尾花数据集data_x = iris["data"]#特征x# print(data_x)data_y = iris["target"]#类别y#将每一列特征划分成几
2021-03-31 09:24:09
2740
4
原创 行列式求值 按照代数余子式求和 基于python
行列式求值 按照代数余子式求和 基于python本代码固定了行索引，从一开始代数余子式百度百科介绍import numpy as npn_array = np.array([[1,2,3,4],[1,2,3,1],[2,2,1,3],[1,2,4,1]])row = 1 #选取行数def count(n_array,i_row): n = n_array.shape[0] def count_inner(n_array,i_row): sum_part = 0
2021-03-08 15:25:06
2114
原创 C语言数据结构顺序表
C语言顺序表创建及其操作,很纯的C1.静态结构操作L = (struct SqList*)malloc(sizeof(struct SqList)*3);L这一个指针指向的是一个数组，数组有三个元素，数组每一个元素都是结构体，这个不是结构体指针数组。#include <stdio.h>#include <stdlib.h>#include<stdbool.h>#define maxsize 20struct SqList{ int length; i
2021-03-04 10:51:43
207
1
原创 可视化柱状图matplotlib.pyplot as plt bar barh
柱状图核心思想：竖柱状图字符太多就把x的字符旋转过来，或者用横柱状图barh()基础在折线图笔记中然后柱子之间间距自己控制好，bar的width和barh的height意思一样，自己看源码loc表示图例放置位置详见下个网址plt.legend(loc = ‘upper left’)#loc传入位置参数import matplotlib.pyplot as pltname_list = ["a号","b号","c号"]value1 = [1,2,3]value2 = [2,3,4]val
2021-02-18 15:33:55
104
原创 matplotlib.pyplot as plt折线图笔记
导入模块import matplotlib.pyplot as pltplt.figure(figsize = (20,8),dpi = 80) #figure单位英寸 dpi单位英寸所含像素点plt.plot(x,y,color = "颜色英文代码", ,color='green', marker='o', linestyle='dashed', linewidth=1, markersize=6)#画线plt.xticks()my_font = matplotlib.font_m
2021-02-18 01:05:20
337
原创 sklearn分类树代码初试，及plt中文乱码解决
sklearn分类树pythonfrom sklearn import treeimport pandasimport graphvizfrom sklearn.datasets import load_winefrom sklearn.model_selection import train_test_splitwine = load_wine()# print(wine.data)# print(wine.data.shape)# print(wine.keys())# print
2021-02-16 14:32:22
525
原创 机器学习代码实例，K最近邻算法，使用KNN KNeighborsClassifier（）来进行分类
k最近邻算法几乎每句代码都有标注也是刚开始学习机器学习的人，希望能帮助那些学机器学习看到机器学习代码一脸懵逼的人from sklearn.datasets import make_blobs #导入数据集编程器from sklearn.neighbors import KNeighborsClassifier #导入KNN分类器import matplotlib.pyplot as plt#导入画图工具import numpy as npfrom sklearn.model_selection
2021-02-09 14:02:40
321
原创 爬取网易云歌曲榜单中网易云歌曲及其对应id xpath csv re requests python
基操爬取网易云歌曲榜单中网易云歌曲及其对应id回顾xpath csv re requests先进行基础抓包!123然后就是代码啦，兄弟们，我的代码都很完整，看懂思路，直接收藏复制粘贴就可以运行import requestsfrom lxml import etreeimport reimport csv#原网页的url为 https://music.163.com/#/discover/toplisturl="https://music.163.com/discover/top
2021-01-05 12:56:58
1380
3
原创 python base64模块基础用法，及重新定义函数重写base64.b64encode（）
今天来小小提一下base64，我们有时候会遇到base64转码这个问题，迷惑行为，先写了正常我们用python base64这个模块然后再自己重写了一个方法，主要今天看一个老师学习他的网课，很有收获，希望对大家也有点帮助，主要是思路逻辑这块。毕竟在爬虫有时候url会遇到base64转码问题。import base64Num="asdc" #原字符串byteNum=(bytes(Num,encoding="utf-8"))#原字符串进行转换为byte类型b64Num=base64.b64encode
2021-01-03 23:40:38
688
原创 python bs4 csv requests 爬虫 爬取携程火车票网址信息并保存
目的：爬取携程网址火车 中的单程与中转单程url=“https://trains.ctrip.com/trainbooking/search?tocn=%25e5%258d%2583%25e5%25b2%259b%25e6%25b9%2596&fromcn=%25e6%259d%25ad%25e5%25b7%259e&day=2020-12-31”中转url=“https://trains.ctrip.com/pages/booking/hubSingleTrip?ticketTy
2020-12-31 20:12:08
2730
9
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人