python css和xpath_python爬虫：scrapy框架xpath和css选择器语法

Xpath基本语法

一、常用的路径表达式：

表达式描述实例

nodename

选取nodename节点的所有子节点

//div

/

从根节点选取

/div

//

选取所有的节点，不考虑他们的位置

//div

.

选取当前节点

./div

..

选取当前节点的父节点

..

@

选取属性

//@calss

举例元素标签为artical标签

语法说明

artical

选取所有artical元素的子节点

/artical

选取根元素artical

./artical

选取当前元素下的artical

../artical

选取父元素下的artical

artical/a

选取所有属于artical的子元素a元素

//div

选取所有div 子元素，无论div在任何地方

artical//div

选取所有属于artical的div 元素,无论div元素在artical的任何位置

//@class

选取所有名为class 的属性的

a/@href

选取a标签的href属性

a/text()

选取a标签下的文本

string(.)

解析出当前节点下所有文字

string(..)

解析出父节点下所有文字

二、谓语

谓语被嵌在方括号内，用来查找某个特定的节点或包含某个制定的值的节点

语法说明

/artical/div[1]

选取所有属于artical 子元素的第一个div元素

/artical/div[last()]

选取所有属于artical子元素的最后一个div元素

/artical/div[last()-1]

选取所有属于artical子元素的倒数第2个div元素

/artical/div[position()<3]

选取所有属于artical子元素的前2个div元素

//div[@class]

选取所有拥有属性为class的div节点

//div[@class=”main”]

选取所有div下class属性为main的div节点

//div[price>3.5]

选取所有div下元素值price大于3.5的节点

三、通配符

Xpath通过通配符来选取未知的XML元素

表达式结果

//*

选取所有元素

//div/*

选取所有属于div元素的所有子节点

//div[@*]

选取所有带属性的元素

四、取多个路径

使用“|”运算符可以选取多个路径

表达式结果

//div | //table

选取文档中所有的div和table节点

//div/a | //div/p

选取所有div元素的a和p 元素

artical/div/pl | //span

选取所有div下的pl和文档中所有span

五、Xpath轴

轴可以定义相对于当前节点的节点集

轴名称表达式描述

ancestor

./ancestor::*

选取当前节点的所有先辈节点(父、祖父)

ancestor-or-self

./ancestor-or-self::*

选取当前节点的所有先辈节点以及节点本身

descendant

./descendant::*

返回当前节点的所有后代节点(子节点、孙节点)

child

./child::*

返回当前节点的所有子节点

parent

./parent::*

选取当前节点的父节点

following

./following::*

选取文档中当前节点结束标签后的所有节点

following-sibling

./following-sibling::*

选取当前节点之后的兄弟节点

preceding

./preceding::*

选取文档中当前节点开始标签前的所有节点

preceding-sibling

./preceding-sibling::*

选取当前节点之前的兄弟节点

self

./self::*

选取当前节点

attribute

./attribute::*

选取当前节点的所有属性

六、功能函数

使用功能函数能够更好的进行模糊搜索

函数用法解释

starts-with

//div[starts-with(@id,”ma”)]

选取id值以ma开头的div节点

contains

//div[contains(@id,”ma”)]

选取所有id值包含ma的div节点

and

//div[contains(@id,”ma”) and contains(@id,”in”)]

选取id值包含ma和in的div节点

text()

//div[contains(text(),”ma”)]

选取节点文本包含ma的div节点

注意事项：

1) 按照审查元素的写法不一定正确，要按照网页源码的才行

因为不一样，网页源码才是你看到的

2) 浏览器有自带的复制xpath功能，firefox下载firebug插件

3) xpath有c的速度，所以按照[@class=""]准确性较高

CCS选择器语法

语法说明

*

选择所有节点

#container

选择id为container的节点

.container

选择所有class包含container的节点

div,p

选择所有 div 元素和所有 p 元素

li a

选取所有li 下所有a节点

ul + p

选取ul后面的第一个p元素

div#container > ul

选取id为container的div的第一个ul子元素

ul ~p

选取与ul相邻的所有p元素

a[title]

选取所有有title属性的a元素

a[href=”http://baidu.com”]

a[href*=”baidu”]

选取所有href属性值中包含baidu的a元素

a[href^=”http”]

选取所有href属性值中以http开头的a元素

a[href$=”.jpg”]

选取所有href属性值中以.jpg结尾的a元素

input[type=radio]:checked

选择选中的radio的元素

div:not(#container)

选取所有id为非container 的div属性

li:nth-child(3)

选取第三个li元素

li:nth-child(2n)

选取第偶数个li元素

a::attr(href)

选取a标签的href属性

a::text

选取a标签下的文本

提取内容

方法返回

Selector.xpath()

返回SelectorList对象

Selector.css()

返回SelectorList对象

SelectorList.extract()

返回List对象

SelectorList.extract_first(default)

返回String对象，可以有默认值，类似dict.get(key, default)

Xpath语法笔记

一、选取节点

常用的路劲表达式：

表达式

描述

实例

nodename

选取nodename节点的所有子节点

xpath('//div')

选取了div节点的所有子节点

/

从根节点选取

xpath('/div')

从根节点上选取div节点

//

选取所有的当前节点，不考虑他们的位置

xpath('//div')

选取所有的div节点

.

选取当前节点

xpath('./div')

选取当前节点下的div节点

..

选取当前节点的父节点

xpath('..')

回到上一个节点

@

选取属性

xpath('//@calss')

选取所有的class属性

二、谓语

谓语被嵌在方括号内，用来查找某个特定的节点或包含某个制定的值的节点

实例：

表达式

结果

xpath('/body/div[1]')

选取body下的第一个div节点

xpath('/body/div[last()]')

选取body下最后一个div节点

xpath('/body/div[last()-1]')

选取body下倒数第二个div节点

xpath('/body/div[positon()<3]')

选取body下前两个div节点

xpath('/body/div[@class]')

选取body下带有class属性的div节点

xpath('/body/div[@class="main"]')

选取body下class属性为main的div节点

xpath('/body/div[price>35.00]')

选取body下price元素值大于35的div节点

三、通配符

Xpath通过通配符来选取未知的XML元素

表达式

结果

xpath('/div/*')

选取div下的所有子节点

xpath('/div[@*]')

选取所有带属性的div节点

四、取多个路径

使用“|”运算符可以选取多个路径

表达式

结果

xpath('//div|//table')

选取所有的div和table节点

五、Xpath轴

轴可以定义相对于当前节点的节点集

轴名称

表达式

描述

ancestor

xpath('./ancestor::*')

选取当前节点的所有先辈节点(父、祖父)

ancestor-or-self

xpath('./ancestor-or-self::*')

选取当前节点的所有先辈节点以及节点本身

attribute

xpath('./attribute::*')

选取当前节点的所有属性

child

xpath('./child::*')

返回当前节点的所有子节点

descendant

xpath('./descendant::*')

返回当前节点的所有后代节点(子节点、孙节点)

following

xpath('./following::*')

选取文档中当前节点结束标签后的所有节点

following-sibing

xpath('./following-sibling::*')

选取当前节点之后的兄弟节点

parent

xpath('./parent::*')

选取当前节点的父节点

preceding

xpath('./preceding::*')

选取文档中当前节点开始标签前的所有节点

preceding-sibling

xpath('./preceding-sibling::*')

选取当前节点之前的兄弟节点

self

xpath('./self::*')

选取当前节点

六、功能函数

使用功能函数能够更好的进行模糊搜索

函数

用法

解释

starts-with

xpath('//div[starts-with(@id,"ma")]')

选取id值以ma开头的div节点

contains

xpath('//div[contains(@id,"ma")]')

选取id值包含ma的div节点

and

xpath('//div[contains(@id,"ma") and contains(@id,"in")]')

选取id值包含ma和in的div节点

text()

xpath('//div[contains(text(),"ma")]')

选取节点文本包含ma的div节点

#!/usr/bin/env python

#-*- coding:utf-8 -*-

fromscrapy.selector import Selector, HtmlXPathSelectorfromscrapy.http import HtmlResponse

html= """

• first item
• first item
• second itemvv

second item

"""response= HtmlResponse(url='http://example.com', body=html,encoding='utf-8')

# hxs=HtmlXPathSelector(response)

# print(hxs)

# hxs= Selector(response=response).xpath('//a')

# print(hxs)

# hxs= Selector(response=response).xpath('//a[2]')

# print(hxs)

# hxs= Selector(response=response).xpath('//a[@id]')

# print(hxs)

# hxs= Selector(response=response).xpath('//a[@id="i1"]')

# print(hxs)

# hxs= Selector(response=response).xpath('//a[@href="link.html"][@id="i1"]')

# print(hxs)

# hxs= Selector(response=response).xpath('//a[contains(@href, "link")]')

# print(hxs)

# hxs= Selector(response=response).xpath('//a[starts-with(@href, "link")]')

# print(hxs)

# hxs= Selector(response=response).xpath('//a[re:test(@id, "i\d+")]')

# print(hxs)

# hxs= Selector(response=response).xpath('//a[re:test(@id, "i\d+")]/text()').extract()

# print(hxs)

# hxs= Selector(response=response).xpath('//a[re:test(@id, "i\d+")]/@href').extract()

# print(hxs)

# hxs= Selector(response=response).xpath('/html/body/ul/li/a/@href').extract()

# print(hxs)

# hxs= Selector(response=response).xpath('//body/ul/li/a/@href').extract_first()

# print(hxs)

# ul_list= Selector(response=response).xpath('//body/ul/li')

#for item inul_list:

# v= item.xpath('./a/span')

# # 或

# # v= item.xpath('a/span')

# # 或

# # v= item.xpath('*/a/span')

# print(v)