云飞学编程

python新手的自学之路

Python爬虫学习,记一次抓包获取js,从js函数中取数据的过程

昨天有小伙伴找我,新浪新闻的国内新闻页,其他部分都是静态网页可以抓到,但是在左下方的最新新闻部分,不是静态网页,也没有json数据,让我帮忙抓一下。大概看了下,是js加载的,而且数据在js函数中,很有意思,就分享出来给大家一起看看! 抓取目标 今天我们的目标是上图红框部分,首先我们确定...

2018-09-08 00:37:19

阅读数:71

评论数:0

python实战,中文自然语言处理,应用jieba库来统计文本词频

模块介绍 安装:pip install jieba 即可 jieba库,主要用于中文文本内容的分词,它有3种分词方法: 1. 精确模式, 试图将句子最精确地切开,适合文本分析: 2. 全模式,把句子中所有的可以成词的词语都扫描出来,速度非常快,但是不能解决歧义; 3. 搜索引擎模...

2018-08-09 08:30:05

阅读数:78

评论数:0

Python学习,多进程了解一下!学爬虫不会用多进程能行吗?

python中的多线程其实并不是真正的多线程,如果想要充分地使用多核CPU的资源,在python中大部分情况需要使用多进程。Python提供了非常好用的多进程包multiprocessing,只需要定义一个函数,Python会完成其他所有事情。借助这个包,可以轻松完成从单进程到 并发执行的转...

2018-08-01 14:31:36

阅读数:63

评论数:0

python简单应用!用爬虫来采集天猫所有优惠券信息,写入本地文件

今天给大家分享一个小网站的数据采集,并写到excel里面! 分析网站 目标网站是“小咪购”,这里有天猫所有的含有购物券的商品信息,我们今天就来抓它吧! 随便找一段文字,然后点击右键查看网页源代码,看看是否存在该文字,如果存在,那么这个网页就是静态网站了!很幸运,这个网站居然是静态...

2018-07-24 15:35:17

阅读数:796

评论数:0

python有哪些好玩的应用实现,用python爬虫做一个二维码生成器

python爬虫不止可以批量下载数据,还可以有很多有趣的应用,之前也发过很多,比如天气预报实时查询、cmd版的实时翻译、快速浏览论坛热门帖等等,这些都可以算是爬虫的另一个应用方向! 今天给大家分享一个二维码生成器的爬虫版本实现! 爬虫思路 网上有很多的二维码自动生成的网页,它可以将文本、...

2018-07-21 11:45:41

阅读数:236

评论数:0

Python老司机手把手带你写爬虫,整站下载妹子图,一次爽个够!

其实很多编程语言都可以做爬虫,例如java、c#、php等等甚至excel都可以抓网页的图表,那么为什么我们要用Python呢?它简单、便捷,而且有好多库可以选择,可以说python是写爬虫的首选了! 今天就来带大家写一个简单而又完整的爬虫,我们来抓取整站的图片的,并且保存到电脑上! ...

2018-07-14 14:32:27

阅读数:617

评论数:0

Python学习,给自己的代码做个合集,定制自己的桌面软件!

在学习Python的过程中,经常会写很多的练手的脚本,那么有没有想过,写到一起呢?当然了,方法有很多,比如写到web网页中,做各种跳转、写到微信中,各种回复关键字调用,还有今天和大家分享的GUI图形用户界面! 构建基本框架 Python中有标准库tkinter,不需要安装即可使用!可以...

2018-07-10 22:04:39

阅读数:81

评论数:0

用python抓取“3d”彩票数据,怎么分析你说了算!

快下班了,正好准备去买彩票,就顺手写了2个脚本,一个用来下载最近的彩票数据,一个用来统计彩票数字,分享给大家! 彩票数据获取并写入excel表格 数据来源自己看吧~用外链通不过。。。 所用库:xlwt,requests,lxml 有几点需要注意的: 1、构建列表。因为存入exce...

2018-07-05 10:47:21

阅读数:537

评论数:0

怎么让你的代码更Pythonic?光有技巧可不行,你还需要看这些……

写代码如同写文章,好的文章是反复修改出来的,代码也同样是反复的重构出来的。今天给大家分享下,怎么从一个编程学习者变为一个程序猿(程序媛)!起码不要让别人一看你的代码就知道你是个小菜鸟! 我们通常写一个代码,必然会经过一个简单-难-简洁的过程,那么在重构的过程中需要注意哪些呢? 1、&...

2018-07-02 14:41:21

阅读数:41

评论数:0

Python学习汇总,做数据采集的一些小技巧,干货满满

学习Python也有一段时间了,在学习过程中不断的练习学到的各类知识,做的最多的还是爬虫,也就是简单的数据采集,有采集图片(这个最多了。。。),有下载电影的,也有学习相关的比如ppt模板的抓取,当然也写过类似收发邮件,自动登录论坛发帖,验证码相关操作等等! 这些脚本有一个共性,都是和web相...

2018-06-30 16:39:20

阅读数:234

评论数:0

Python学习,还在用正则或者bs4做爬虫吗?来试试css选择器吧

之前写的一些爬虫都是用的正则、bs4、xpath做为解析库来实现,如果你对web有所涉及,并且比较喜欢css选择器,那么就有一个更适合的解析库—— PyQuery。我们就用一个非常简单的小例子来看看css选择器做爬虫是怎么样的! 安装 直接pip安装即可:pip install pyque...

2018-06-27 16:13:51

阅读数:128

评论数:0

Python爬虫,用第三方库解决下载网页中文本的问题

还在辛辛苦苦的查找网页规律,写正则或者其他方式去匹配文本内容吗?还在纠结怎么去除小说网站的其他字符吗? 先来看看下面2张图,都是某小说网站的小说内容 怎么样,是不是很简洁!这就是今天给大家介绍的库,newspaper库! newspaper python3.x安装: pip...

2018-06-26 09:39:25

阅读数:42

评论数:0

Python爬虫,抓取淘宝商品评论内容!

作为一个资深吃货,网购各种零食是很频繁的,但是能否在浩瀚的商品库中找到合适的东西,就只能参考评论了!今天给大家分享用python做个抓取淘宝商品评论的小爬虫! 思路 我们就拿“德州扒鸡”做为参考目标吧~!如果想抓其他商品的话,自行更换目标即可!打开淘宝,搜索目标,随便点击一个商品进入,在点...

2018-06-24 17:12:22

阅读数:645

评论数:0

神奇的Python,一行代码能做哪些炫酷的事情?

可能大家在网上已经看过类似的python单行代码可以实现的功能,比如: 九九乘法表: print(’ ‘.join([’ ‘.join([‘%s*%s=%-2s’%(y,x,x*y)for y in range(1,x+1)]) for x in range(1,10)])) 或者输...

2018-06-23 20:23:04

阅读数:60

评论数:0

Python学习,这些高阶函数和高级特性值得一学!

Python语言这么火,不论是对于刚开始学习的编程小白或者有接触过其他语言(c/c++/java等等)的同学来说,写代码的时候难免会受本身惯性思维或者其他语言的影响!解决问题的思路有的时候会比较单一,其实Python有很多灵活的解法,比如python的几个高阶函数或者特性! 推导式 列表推导...

2018-06-20 17:07:27

阅读数:41

评论数:0

Python爬虫基础学习,从一个小案例来学习xpath匹配方法

学习目的是为了实践,而实践又可以加深我们的学习效率,今天给大家带来了lxml库的xpath匹配方法的实例!教程大家网上搜索有很多,我们只看实用功能,当然,如果您已经很熟练了,可以跳过不看的! 开始前准备 版本:python3.6 工具:pycharm、lxml库(pip安装即可) ...

2018-06-19 14:06:28

阅读数:118

评论数:0

python爬虫零基础入门——反爬的简单说明

之前在《如何开始写你的第一个python脚本——简单爬虫入门!》中给大家分享了一下写一个爬虫脚本的基本步骤,今天继续分享给大家在初期遇到的一个很烦人的问题——反爬及处理办法! 我们的工具及库为:python3.6、pycharm、requests库 基本步骤:获取网页源代码——匹配需要的内容—...

2018-06-15 20:08:08

阅读数:178

评论数:0

如何开始写你的第一个python脚本——简单爬虫入门!

好多朋友在入门python的时候都是以爬虫入手,而网络爬虫是近几年比较流行的概念,特别是在大数据分析热门起来以后,学习网络爬虫的人越来越多,哦对,现在叫数据挖掘了! 其实,一般的爬虫具有2个功能:取数据和存数据!好像说了句废话。。。 而从这2个功能拓展,需要的知识就很多了:请求数据、反爬处...

2018-06-14 19:26:38

阅读数:4575

评论数:0

欢迎使用CSDN-markdown编辑器Python爬虫初接触,学会爬虫不抓美女图片干啥!

学习编程语言是很枯燥的,尤其是对一个编程零基础的人来说,更为枯燥!所以我们要从枯燥的学习中找点乐趣和动力!比如,抓点小姐姐的图片 我们的目标选择唯一图库,url自己去找【人工呲牙笑】 这个网站没有反爬,特别好爬,打开主页后,找到美女图片分类 上面分类没有这个分类,自己想办法进入哦。。...

2018-06-13 16:50:46

阅读数:122

评论数:0

为什么说python入门很简单,但是在你这很难?

许许多多的朋友在学习python的时候都会有这样的经历: 你辛辛苦苦,埋头苦学了好久基础知识,甚至书都被翻烂了,但是跟着别人的视频或者文章写一个代码,一运行,一堆一堆的error!于是你又要吭哧吭哧的重新排查 这个知识点我会,为啥会报错? 这个知识点我会,为啥写错了? 这里的结...

2018-06-12 17:05:17

阅读数:976

评论数:0

提示
确定要删除当前文章?
取消 删除
关闭
关闭