三、流程思路:
1. 确定目标需求
python采集旅游景点数据 / 去哪儿~
2. 发送请求
3. 获取数据
4. 解析数据
5. 保存数据
四、代码展示
采集数据
导入模块
import requests
import parsel
import csv
import time
写入表格
f = open('张家界景点.csv', mode='a', encoding='utf-8-sig', newline='')
csv_writer = csv.DictWriter(f, fieldnames=['景区', '星级', '地区', '热度', '销量', '地址',
'价格', '简介', '详情页'])
csv_writer.writeheader()
多页采集
for page in range(1, 12):
print(f'===============================正在爬取第{
page}页数据内容=======================================')
time.sleep(2)
请求链接
url = f'https://\*\*\*\*\*.com/ticket/list\_%E5%BC%A0%E5%AE%B6%E7%95%8C.html?from=mps\_search\_suggest\_h&keyword=%E5%BC%A0%E5%AE%B6%E7%95%8C&page={
page}'
请求头:把python代码伪装成浏览器 给服务器发送请求
headers = {
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.128 Safari/537.36'
}
response = requests.get(url=url, headers=headers)
获取网页文本数据 response.text
# print(response.text)
解析数据
- css选择器 根据标签提取数据内容
最后
不知道你们用的什么环境,我一般都是用的Python3.6环境和pycharm解释器,没有软件,或者没有资料,没人解答问题,都可以免费领取(包括今天的代码),过几天我还会做个视频教程出来,有需要也可以领取~
给大家准备的学习资料包括但不限于:
Python 环境、pycharm编辑器/永久激活/翻译插件
python 零基础视频教程
Python 界面开发实战教程
Python 爬虫实战教程
Python 数据分析实战教程
python 游戏开发实战教程
Python 电子书100本
Python 学习路线规划
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!