python笔记
文章平均质量分 86
用于记录有关python的一些笔记
Huterox
好好学习,天天向上。
展开
-
Python 多进程管理工具类
项目当中刚好用到了,放出来,方便下次使用。以后这种类型的博文,我将写的非常简短,不会再介绍任何代码相关的实现,原理,因为会的自然就会,不会的一时半会也不见得可以理解,开箱即用即可,莫问东西,博文长了,我懒得写,你懒得看,我下次也懒得翻。原创 2023-04-17 15:47:02 · 196 阅读 · 2 评论 -
Python 版本的常见算法模板(一)
翻了翻自己以前写的一些博文,发现的话,还是有一些误区没有写好的,所以的话这里的重新写一下,然后的话,这里的话我们就直接提供Python版本的一个代码,C++ 的先前的博文都有了,那么这篇博文的话也是这个代码颇多,所以的话,对记忆的要求较高。刚好也挑战一下自己对于这些代码的一个牢固程度吧。当然由于这些篇幅所限,这里的常见模板还是非常简单入门的东西,当然如果这篇博文对你有所帮助的话,请不要吝啬你的三连~原创 2023-02-15 22:31:51 · 720 阅读 · 1 评论 -
异步获取中国天气信息实战-分分钟单线程上万请求
文章目录前言目标请求格式请求限制requests非异步获取异步获取系统上限编码前言本来是想要更新scrapy的,但是怎么说呢,这玩意不难,看着官方文档,基本上就能做,主要是前面的如果你的爬虫基础不好的话,这个scrapy你也玩不好,而且对于大部分的人来说安装scrapy可能都是个问题,因为有一些历史遗留的问题,毕竟是从python2过来的老框架。当然还有个原因,我要做的东西,用不上scrapy,能够用上scrapy如果只是做爬虫,那必然是分布式爬虫,但是我这里要做的可能只是一个客户端,也就是一个spid原创 2022-03-06 21:22:21 · 569 阅读 · 0 评论 -
Pytorch模型训练&保存/加载(搭建完整流程)
文章目录前言模型训练完整步骤模型保存与加载GPU训练“借鸡生蛋“模型使用本博文优先在掘金社区发布!前言我们这边还是以CIARF10这个模型为例子。现在的话先说明一下,关于CIARF10的一个输出这个是一个十分类的模型,所以输出结果是一个矩阵一个tensor其中它的shape是你的(batch_size,10)这样的结果。假设你的batch_size = 1那么你得到的结果应该是[[1,2,3,4,5,6,7,8,9,10]]这种类型的。你的输入的标签是这样的[ 9 ]所以,如果你想要判断你的结原创 2022-01-27 22:33:06 · 31451 阅读 · 13 评论 -
CIARF10经典构建(Pytorch)
文章目录前言卷积Conv2d卷积函数padding计算输出的大小MaxPool2d 池化Flatten 打平网络搭建网络模型计算卷积核大小本博文优先在掘金社区发布!前言前面我们大概知道了神经网络,这个概念,前面也介绍了CNN神经网络,我们说这个卷积神经网络我们应该分为两部分去解释,一个是卷积还有一个是神经网络。卷积是一种特殊的数据处理方式,然后我们处理完数据之后把结果带入到网络当中,之后我们得到输出,那么网络其实也是一种对数据的处理方式,一种比较抽象的数据处理方式,一种我们人类很难直观的获取我们获取的原创 2022-01-27 16:24:18 · 662 阅读 · 0 评论 -
Pytorch神经网络构建&直观显示
文章目录前言神经网络动手搭建线性回归模型非线性模型搭建TensorBoard 直观显示本博文优先在掘金社区发布!前言这里主要分两部分,一个是如何直观的显示出我们预测的效果,或者是误差,另一个是如何进行网络的搭建,以及再次理解神经网络。神经网络先前我们举过一个例子,就是从线性回归来推导神经网络的工作流程。我们使用损失函数,来进行反向传播,也就是使用损失函数来进行梯度下降,我们假设 y = x2 +2 此时,我们输入的是x ,y 但是我们要猜测的是 2 和 2 也就是y = ax + b 的 a,b原创 2022-01-27 12:29:58 · 596 阅读 · 0 评论 -
Pytorch 基本使用(数据加载,类型转换)
文章目录前言类型转换Compose “链式转化”数据处理自带数据集数据加载自定义获取数据总结本博文优先在掘金社区发布!前言通过前面的一些介绍的话,我们大概知道了我们的pytorch的tensor的一些基本概念,还有咱们梯度和tensor复制时的一些细节,tensor和numpy在很大程度上很像,在某些场合我们甚至可以直接使用tensor来进行运算。那么现在我们来说说pytorch的一些基本使用。毕竟我们使用pytorch是用来搭建我们的神经网络,进行深度学习的。那么在机器学习小概述里面说过,深度学习原创 2022-01-26 21:48:07 · 760 阅读 · 0 评论 -
Pytorch基础(Tensor)
文章目录前言环境tensor 与 numpytensor 使用基本使用numpy与tensor转换有“_”尾巴的函数梯度梯度使用取消梯度复制「这是我参与2022首次更文挑战的第7天,活动详情查看:2022首次更文挑战」本博文优先在掘金社区发布!前言ok,现在到了我们第五个大工具的使用(前面的sklearn在本系列当中已经有了,当然后续会不断介绍(学习)新的算法,进行补充更新,所以现在我们来熟悉熟悉我们的第五个工具pytorch,这里申明一点的是,这些工具没有高低之分,学起来其实都是一样的,前提是前面原创 2022-01-25 23:52:29 · 678 阅读 · 0 评论 -
卷积与卷积神经网络(小探究)
文章目录前言卷积的概念卷积语文含义数学表现案例状态影响运算图像处理领域的卷积相似点图像卷积卷积核/卷积层池化层全连接层总结「这是我参与2022首次更文挑战的第6天,活动详情查看:2022首次更文挑战」本博文优先在掘金社区发布!前言在开始正式进入机器学习之前,我们需要对我们的理论进行一部分的拓展,因为首先是对我们常用的机器学习算法而言,例如KNN K-means 贝叶斯,决策树,随机森林等等算法来说,其实不需要太高深的数学基础或者,特别的理解能力去理解学习就能够使用。事实上我在先前就已经写了两篇关于S原创 2022-01-24 18:03:02 · 978 阅读 · 0 评论 -
一篇博文教你玩转pandas,轻松应付办公场景(机器学习基础)
文章目录前言Pandas的基本数据结构Series线性结构DataFrame结构对DataFrame进行操作切片转置排序对DataFrame对Series排序修改索引运算逻辑运算统计运算自定义运算绘图缺失值处理数据离散处理合并数据concat 直接合并Merge合并交叉表分组聚合读取/保存文件总结「这是我参与2022首次更文挑战的第5天,活动详情查看:2022首次更文挑战」本博文优先在掘金社区发布!前言终于到了我们三大套件的最后一个套件了Pandas,这个哥们相当牛皮,不管是机器学习还是爬虫数据清洗原创 2022-01-23 23:02:34 · 645 阅读 · 0 评论 -
Numpy快速上手(机器学习基础)
文章目录前言numpy基本操作生成0,1数组array和asarray的不同创建等差数组创建正态分布形状修改元素的Curd运算逻辑运算三元运算矩阵运算广播机制矩阵基本运算求转置矩阵相乘求逆矩求伴随「这是我参与2022首次更文挑战的第5天,活动详情查看:2022首次更文挑战」本博文优先在掘金社区发布!前言刚才我已经演示了,机器学习的常用的绘图库之一的matplotlib。那么接下来使我们另一个经常使用的numpy。numpy的使用相当广泛,所以不论你是不是学习机器学习,其实都是要学的当然还有一个库pa原创 2022-01-23 15:04:17 · 767 阅读 · 0 评论 -
Matplotlib常用绘图库(机器学习)
文章目录前言Matplotlib 绘图库绘图流程美化绘制多图绘制不同的图像散点图柱状图动态绘图方案一方案二「这是我参与2022首次更文挑战的第5天,活动详情查看:2022首次更文挑战」本博文优先在掘金社区发布!前言昨天重新开始了机器学习的学习,那么今天对机器学习的相关基础进行准备。Matplotlib 绘图库利用这个库我们可以绘制出大量的图片。并且保存,其中包括动态图片,不过这个应该不常用。绘图流程首先我们的绘图需要面板,之后我们利用面板进行绘图,最后展示我们的图片。import mat原创 2022-01-23 12:26:08 · 481 阅读 · 0 评论 -
K-means聚类算法原理与实现
文章目录无监督学习原理解析选择中心点聚类划分演示纯数学叨逼叨算法流程优缺点案例(lnstacart市场篮子分析)无监督学习首先这类算法是属于典型的无监督学习算法,比如 PCA 将维等等。这类算法在先前的机器学习文章过程中有提到,但是我自己没有去具体分析它的实现,只是简单地去使用sklearn去做一些应用去了。那么要先讲清楚K-means那么必然是要先搞清楚无监督的意思,我这里将使用最简单的语言来尽可能地去描述复杂算法(虽然这个K-means其实也不复杂,本质上其实还是一个演化算法,难的其实我认为还是对现原创 2022-01-02 13:26:14 · 1308 阅读 · 0 评论 -
圣诞纯情手势告白(Mediapipe基本使用&手势识别详解)
文章目录前言环境安装快速上手获取手的坐标前言本来不想写这个的,但是转了一圈国内mediapipe 的比较少教程。没有那么全面,所以这边还是记录一下吧。环境安装如果你是 Anconada 那么你不需要安装,但如果不是,你只需要输入以下指令pip install mediapipe再次之前你必须掌握 python3pyharm 使用opencv 基本使用快速上手这边我们举一个快烂大街的东西。import mediapipe as mpimport cv2cap = cv2.Vid原创 2021-12-25 18:26:41 · 6439 阅读 · 4 评论 -
震惊python是个“假的多线程”?!(秒懂GIL全局解释器锁)
文章目录前言GIL锁假设没有GIL的流程有GIL后GIL的由来多线程的轮换机制总结前言本来我是不打算写这个玩意的,但是在B呼(Zhi呼)上看到有人对python的运行效率和线程运行大肆鄙夷,我觉得还是有必要出来仔细的澄清一下原由,解释一下python的多线程到底是怎么一回事,为什么说他是个“假的多线程”这样做对我们的python的多线程到底有多少影响,会对我们的运行效率有多大影响。做出一个客观全面的分析,以后可以回应那些“Java吹”,“贬python”(虽然我java我也在用,而且用起来也不错对我个人原创 2021-08-18 11:41:23 · 2031 阅读 · 0 评论 -
Django学习系列八(秒懂中间件)
文章目录前言前言本片文章主要书写关于在django当中使用关系型数据库(sql)的模型关系,也就是我们通常说的表的,一对一,多对一,和多对多关系.以及在django当中如何进行模型迁移和sql转Model的操作.(其实到这理已经可以实现一个个人博客网站了,后面再把django与非关系型数据库例如(redis的操作完成后,那么本系列就将开始进行django的高端学习,源码解析,AOP编程,nginx反向代理,admin管理,项目部署,和博客系统开发实战.我将尽可能的去阐述清楚关于django的内容,一方面原创 2021-08-17 17:59:36 · 206 阅读 · 0 评论 -
Django缓存(学习系列七)
文章目录前言原生缓存自定义缓存使用Redis前言很多人都是django是面向sql框架,原因是django的Model大部分面对的是sql。这个原因其实很多,最主要的其实还是因为大部分情况下我们对sql的依赖要更高,一个网站可以没有redis但是没有sql的话那么压根就搞不下去,除非你只是一个极其简陋的信息展示的静态页面,没有数据交互,或者说交互极少。那么在django当中也是可以使用其他数据库的,只是支持相对于sql没有那么好。原生缓存这个缓存服务其实在django当中有个内置的cache,他会把原创 2021-08-17 17:21:17 · 317 阅读 · 1 评论 -
Django学习系列(五.会话技术Cookie&Session&Token)
文章目录前言COOKIE 会话cookie流程示例cookie加密SEESION 会话示例Token 会话流程图前言这篇博客为django系列,很前面的联系较为紧密.如果你是大佬,可以直接略过(如果你要指点,请评论区留言,到目前位置django学习系列已经可以说开始正式入门了,至少MVT的大部分的大致的流程已经走了一遍).在django当中,会话分为三大种,一个是非常传统的cookie技术,还有 session 技术,以及token技术COOKIE 会话在开始之前记住一句话,那就是cookie一定是原创 2021-08-12 22:32:18 · 302 阅读 · 0 评论 -
Django学习系列(二,Models数据操作篇)
文章目录前言表的创建表的简单创建Django的创建流程“个性化”表的创建对表字段的控制改表名表的赋值属性赋值法实例赋值法自定义类方法赋值数据过滤器(查询)返回多结果的方法返回单个的方法查询示例查询切片跨关系查询F 对象Q对象聚合函数模型成员显性模型软删除补充(Django数据库时区域问题)前言通过昨天的学习学习了Django的项目结构,每个模块间的大致关系。在实际运行当中的关系逻辑,和在项目开始启动的配置问题。那么今天所学习的主要是关于Django对数据库的操作,如何使用好Models模块。这里主要介绍原创 2021-08-09 23:56:37 · 2187 阅读 · 0 评论 -
Django学习系列(一.初识)
文章目录前言前言千呼万唤使出来告别了该死的前端页面的学习(尽管有很多神器但是基础的html css js jquery vue还是得知道呀),终于进入到服务器后端的搭建了。告别了socket和wsgc和Java版本的自制的简陋的HTTP(Java版简易wsgc)服务器后,终于迎来的正式的后端框架的学习,虽然我打算Java一栈到底但是还是太年轻了,现阶段使用python体验生活不好吗。...原创 2021-08-08 16:30:03 · 273 阅读 · 0 评论 -
Python操作mysql数据库
前言(sql部分的笔记较多难以整理,先简单说明一下如何使用python进行数据库连接,此外由于Java的技术栈过长,接下来的学习将重新回归到python先实现效果,之后再使用Java进行实现,做进一步的优化)利用Python来实现数据库的连接的话,其实很简单,我们主流使用的第三方库是pymysql这是一个使用python来实现的第三方库,当然在不同的框架中可以直接调用相关使用数据库的方法。那么这里先简单说一下怎么使用pymysql实现数据库的连接。建立数据连接其实使用pymysql进行数据库的连接是原创 2021-07-31 17:07:09 · 8027 阅读 · 9 评论 -
python网络连接(udp与tcp)
直入主题udp连接这个连接没有明确的服务端与客户端的区别,事实上一个用户既可以是服务端也可以是客户端.在python中使用socket来完成网络编程.具体代码如下:客户端 #socket.AF_INET 是建立连接 socket.SOCK_DGRAM 是使用UDP链接 s=socket.socket(socket.AF_INET,socket.SOCK_DGRAM) id = socket.gethostbyname(socket.gethostname()).split原创 2021-01-08 19:02:08 · 2700 阅读 · 0 评论 -
实例一下python多线程图片小爬虫
tips这个多线程已经说的比较清楚了,这篇博客是前两篇有关于多线程的一个实例衍生。这个代码还是很简单的。爬虫不太懂得我先前没怎么写完爬虫的博客,我没辙。但是多线程这块我讲的很明白了,看不懂我也没辙,要不然就私信有时间就回。几分钟搞定python多线程几分钟python多线程深入解读那么接下来代码如下;import requestsfrom lxml import etreeimport threadingimport osfrom urllib import requestfrom原创 2020-08-07 19:34:39 · 910 阅读 · 0 评论 -
@高级语法python(装饰器)语法小糖豆。
python函数装饰器装饰器顾名思义就是用于一个函数的二次加工。举个例子,我们辛辛苦苦写好了一个函数结果现在我们需要加入新的功能,那么这个时候请问你怎么做。显然重新去改一下代码如果代码量多的话是不划算的。或者说一需要对多个个函数增加同一个功能,如果粘贴复制显然又是不太高效的这个时候就引入了装饰器这种东东。举个栗子现在我们定义一个函数import timedef need_change(): time.sleep(2)#让它沉睡2秒然后我们现在需要加入一个计时功能,计算这个程序运行的时间。改原创 2020-08-07 19:32:12 · 1827 阅读 · 0 评论 -
几分钟python多线程深入解读
多线程多线程是什么,其实就相当于火影分身术,相当于五维空间的你有多个镜像分身可以同时做一件事,也相当于泡澡的同时喝咖啡。前面的话我是写了一篇博客;几分钟搞定python多线程但是看标题也知道写的其实不全面,还有很多东西是要补充的。所以这里要做一个完整的总结,一方面方便自己另方面也方便他人。使用多线程(threading)要在python中使用多线程这个就可以使用模块threading。...原创 2020-07-21 00:16:47 · 821 阅读 · 0 评论 -
Beautiful Soup 小结
简介Beautiful Soup 是一个功能强大的解析库可以用来解析HTML代码提取信息,但是运行效率较慢。不需要像xpath和正则表达式一样学习相应的语法,只需要通过相应方法的调用就可以实现信息恶的提取。常用的方法find()find_all()get_text()stringstringsstripped_stringsselectfind()与find_all()的区别假设我们已经有一个获取好了的html代码字符from bs4 import BeautifulSoup so原创 2020-07-20 16:36:24 · 395 阅读 · 0 评论 -
xpath与lxml的亲密接触
如何在python中使用xpath前门说了那么多xpath的语法,那么现在该如何使用呢。这里的话就离不开我们的lxml这个库里面的etree。这里要注意一下的时由于lxml时使用C语言编写的所以有些函数方法在pycharm中是没有提示的。安装lxmlpip install lxml直接通过pip来安装如果出现了一些问题的可以去查看我之前写的有关于pip安装的博客。etree和xpath的联动(element)用我们先前的上一篇博客的例子;Xpath 的语法小结我们继续以这个诗歌网站为例。1原创 2020-07-19 22:07:16 · 318 阅读 · 0 评论 -
Xpath 的语法小结
Xpath用于提取网页上的信息,方便高效快捷。(当然学会正则走天下)本篇博客将总结xpath使用语法。Xpath 浏览器工具(chrome)1 使用插件工具xpath helper2下载安装插件。由于某些原因我们无法从谷歌浏览器中直接下载所以这里可以从我的云盘上下载链接:https://pan.baidu.com/s/1xkj3OxnxrVI-lvuAyVbZnQ提取码:bwfn3安装插件;0.1 先解压0.2 将crx文件拖入谷歌浏览器拓展程序中Xpath 特点首先 xpat原创 2020-07-19 17:41:51 · 590 阅读 · 0 评论 -
python爬虫分分钟搞定Requests。
请求方式requests有两种请求方式一个是get 一个是post 两种方式用于请求网站。import requestsurl='https://www.baidu.com/'date=requests.get(url)#data=requests.post(url)其中post请求可以提供表单,传入用户名,密码等向服务器发送请求。解码字符串当网站返回请求的时候有两种方式1.1 textimport requestsurl='https://www.baidu.com/'date=原创 2020-07-18 16:51:30 · 496 阅读 · 0 评论 -
几分钟搞定python多线程
什么是多线程这里就不说什么高深莫测的专业术语了,一句话,在泡澡的同时喝咖啡。也就是说在代码中同时让多个区域的代码或者说函数同时运行以此达到提高效率的目的。举个例子比如我们有这样一场比赛,小明和小红在做跑步测试,现在他们身上都要一个计时器用于计时。这是他们一个一个测试。就像下面的代码一样。import threadingimport timetime0=time.time()def p...原创 2020-05-01 21:15:38 · 637 阅读 · 0 评论