拖了很久才开始Python爬虫的学习。
回忆起第一次接触到爬虫是胡喽跟我说想要爬亚马逊宠物零食的评论信息。当时我根据某一个品类挨个黏贴复制黏贴复制……,现在想想真是蠢萌。
一、Python如何访问互联网
urllib = URL + lib
URL:网页地址
lib:首页
URL的一般格式为(带方括号[]的为可选项):protocol :// hostname[:port] / path / [;parameters][?query]#fragment
URL由三部分组成:
第一部分是协议:http,https,ftp,file,ed2k…
第二部分是:存放资源的服务器的域名系统或IP地址(有时候要包含端口号,各种传输协议都有默认的端口号,如http的默认端口为80)。
第三部分是:资源的具体地址,如目录或文件名等。
import urllib.request
response = urllib.request.urlopen("http://www.fishc.com")
html = response.read()
#解码网页,显示右键审查元素的版本
html = html.decode("utf-8")
print(html)
二、实战:
2.1下载一只猫:
import urllib.request
response = urllib.request.urlopen("http://placekitten.com/200/300")
cat_img = response.read()
with open('cat_200_300.jpg', 'wb') as f:
f.write(cat_img)