#!usr/bin/python
#coding:utf-8
import requests,os,re
link = ‘urlname’
headers = {‘User-Agent’: ‘Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.116 Safari/537.36 UOS’} #模拟浏览器访问
r = requests.get(link,headers=headers)#爬取
with open(“data.txt”,‘a+’,encoding=‘utf-8’) as f: #新建一个文件用于保持爬取的内容
f.write(r.text)#爬取内容保存到文件。
奔五大叔学爬虫,集跬步致千里。不敢激励他人,唯有鼓励自己。
所有编程的第一步是hello world,而爬虫的第一步则是爬取一个静态网页。
学习任何知识的精髓在于化繁为简,最基本的爬取可以归纳为对人工浏览的模拟。
人工浏览的三个基本点:浏览器,网址,人。
爬取核心语句requests.get(link,headers),get方法相当于对人的模拟,link变量保存了网址信息,headers变量是对操作系统浏览器的模拟。