- 获取数据
- 发起请求
首先确定采集的数据网址url,通过查看国家级非物质文化遗产代表性项目名录的网页发现,点击下一页,网页网址没有变化,可以确定数据是动态数据。需要在xhr或者js寻找。
在xhr中可以找到网页数据,所以可以根据这个地方确定爬取的url是:https://www.ihchina.cn/Article/Index/getProject.htmlprovince=&rx_time=&type=&cate=&keywords=&category_id=16&limit=10&p=1,其中limit=10是页最大显示数,p=1代表第一页,所以翻页和最大显示数可以确定https://www.ihchina.cn/Article/Index/getProject.htmlprovince=&rx_time=&type=&cate=&keywords=&category_id=16&limit=100&p={a},a表示定义翻页数,可以通过循环获取不同页码,利用request。Get()方法,像这个网址发起请求,获取数据。
-
- 获取地址
根据1.1内容,依样画葫芦可以发现,国家级非物质文化遗产代表性项目代表性传承人、国家级非物质文化遗产代表性项目名录这两个页面,可以通过for循环获取到。而中国入选联合国教科文组织非物质文化遗产名录(名册)项目和国家级文化生态保护区数据少,而且数据可以在页面上获取,不用构建翻页,直接选择原网址即可。
-
- 分析页面</