老腊肉的python 学习轨迹_01第一个节点-最简单网页爬取。

#!usr/bin/python
#coding:utf-8
import requests,os,re
link = ‘urlname’
headers = {‘User-Agent’: ‘Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.116 Safari/537.36 UOS’} #模拟浏览器访问
r = requests.get(link,headers=headers)#爬取
with open(“data.txt”,‘a+’,encoding=‘utf-8’) as f: #新建一个文件用于保持爬取的内容
f.write(r.text)#爬取内容保存到文件。

奔五大叔学爬虫，集跬步致千里。不敢激励他人，唯有鼓励自己。
所有编程的第一步是hello world，而爬虫的第一步则是爬取一个静态网页。
学习任何知识的精髓在于化繁为简，最基本的爬取可以归纳为对人工浏览的模拟。
人工浏览的三个基本点：浏览器，网址，人。
爬取核心语句requests.get(link,headers),get方法相当于对人的模拟，link变量保存了网址信息，headers变量是对操作系统浏览器的模拟。