![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
python
A_kili
这个作者很懒,什么都没留下…
展开
-
python3 使用requests获取网页内容
在命令行里输入命令安装模块pip install requests以获取豆瓣网页内容为例#导入需要用到的模块import requests#准备一个urlurl='https://movie.douban.com/top250'res=requests.get(url) #requests模块会自动解码来自服务器的内容,可以使用res.encoding来查看编码html=res.t...原创 2018-10-21 12:42:51 · 9927 阅读 · 2 评论 -
python3 使用BeautifulSoup爬取网页内容保存到csv
以爬取房天下的租房信息为例:需要爬取的字段有,户型,租金,面积,朝向,楼层,装修情况,标签,小区名称,地区因为这个网站没有反爬虫所以不需要用到代理IPfrom bs4 import BeautifulSoupimport requestsdef crawlFang(url,data,href): res = requests.get(url) html=res.text...原创 2018-10-21 15:58:36 · 5679 阅读 · 1 评论 -
python3 抓取西刺网免费代理IP并验证是否可用
爬取西祠网免费高匿代理IP并验证是否可用存到csv文件 #导入模块 import requests import chardet import random from scrapy.selector import Selector from telnetlib import Telnet #这是用来验证IP是否可用 import time...原创 2018-10-21 18:44:52 · 1008 阅读 · 1 评论