1.数据抽取、转换、储存(Data ETL--extract/transfer/loading):
原始资料【raw data】==》ETL脚本【ETL Script】==》结构化数据【Tidy Data】
2.网络爬虫:将非结构化的网页数据转成结构化信息
3.网络爬虫架构:
=======》请求
数据中心《==资料剖析《==网页链接器(Web Connector) 网页
《=======回应
4.使用开发人员工具
于网页上点选右键->检查
5.观察http请求与返回内容:选择Network页签,点选Doc,点选china/
6.什么是GET:GET内容写在上头
7.撰写网络爬虫课前须知:
(1)透过pip安装套件:pip install requests,pip install BeautifulSoup4,pip install jupyter【打开jupyter notebook】
(2)Chrome用户:可使用内建开发人员工具
(3)Firefox用户:安装Firebug
8.Requests:
Requests:(1)网络资源(URLs)截取套件;(2)改善Urllib2的缺点,让使用者以最简单的方式获取网络资源;(3)可以使用REST操作(POST,PUT,GET,DELETE)存取网络资源
import requests
newsurl='http://news.sina.com.cn/china/'
res=requests.get(newsurl)
print(res.text)
8.DOM Tree
<html>
<body>
<h1 id="title">Hello World</h1>
<a href&#