一句话掌握 Python 最难知识点:元类
2017-11-08
Python网络爬虫与数据挖掘
来源:刘羽冲
segmentfault.com/a/1190000011447445
千万不要被所谓“元类是99%的python程序员不会用到的特性”这类的说辞吓住。因为每个中国人,都是天生的元类使用者
学懂元类,你只需要知道这句话:
- 道生一,一生二,二生三,三生万物
- 我是谁?我从哪来里?我要到哪里去?
在python世界,拥有一个永恒的道,那就是“type”,请记在脑海中,type就是道。如此广袤无垠的python生态圈,都是由type产生出来的。
道生一,一生二,二生三,三生万物。
- 道 即是 type
- 一 即是 metaclass(元类,或者叫类生成器)
- 二 即是 class(类,或者叫实例生成器)
- 三 即是 instance(实例)
- 万物 即是 实例的各种属性与方法,我们平常使用python时,调用的就是它们。
道和一,是我们今天讨论的命题,而二、三、和万物,则是我们常常使用的类、实例、属性和方法,用hello world来举例:
# 创建一个Hello类,拥有属性say_hello ----二的起源
class
Hello
()
:
def
say_hello
(
self
,
name
=
'world'
)
:
print
(
'Hello, %s.'
%
name
)
# 从Hello类创建一个实例hello ----二生三
hello
=
Hello
()
# 使用hello调用方法say_hello ----三生万物
hello
.
say_hello
()
输出效果:
Hello, world.
这就是一个标准的“二生三,三生万物”过程。
从类到我们可以调用的方法,用了这两步。
那我们不由自主要问,类从何而来呢?回到代码的第一行。
class Hello其实是一个函数的“语义化简称”,只为了让代码更浅显易懂,它的另一个写法是:
def
fn
(
self
,
name
=
'world'
)
:
# 假如我们有一个函数叫fn
print
(
'Hello, %s.'
%
name
)
Hello
=
type
(
'Hello'
,
(
object
,),
dict
(
say_hello
=
fn
))
# 通过type创建Hello class ---- 神秘的“道”,可以点化一切,这次我们直接从“道”生出了“二”
这样的写法,就和之前的Class Hello写法作用完全相同,你可以试试创建实例并调用
# 从Hello类创建一个实例hello ----二生三,完全一样
hello
=
Hello
()
# 使用hello调用方法say_hello ----三生万物,完全一样
hello
.
say_hello
()
输出效果:
Hello, world. ----调用结果完全一样。
我们回头看一眼最精彩的地方,道直接生出了二:
Hello = type(‘Hello’, (object,), dict(say_hello=fn))
这就是“道”,python世界的起源,你可以为此而惊叹。
注意它的三个参数!暗合人类的三大永恒命题:我是谁,我从哪里来,我要到哪里去。
- 第一个参数:我是谁。 在这里,我需要一个区分于其它一切的命名,以上的实例将我命名为“Hello”
- 第二个参数:我从哪里来。在这里,我需要知道从哪里来,也就是我的“父类”,以上实例中我的父类是“object”——python中一种非常初级的类。
- 第三个参数:我要到哪里去。在这里,我们将需要调用的方法和属性包含到一个字典里,再作为参数传入。以上实例中,我们有一个say_hello方法包装进了字典中。
值得注意的是,三大永恒命题,是一切类,一切实例,甚至一切实例属性与方法都具有的。理所应当,它们的“创造者”,道和一,即type和元类,也具有这三个参数。但平常,类的三大永恒命题并不作为参数传入,而是以如下方式传入
class
Hello
(
object
){
# class 后声明“我是谁”
# 小括号内声明“我来自哪里”
# 中括号内声明“我要到哪里去”
def
say_hello
(){
}
}
- 造物主,可以直接创造单个的人,但这是一件苦役。造物主会先创造“人”这一物种,再批量创造具体的个人。并将三大永恒命题,一直传递下去。
- “道”可以直接生出“二”,但它会先生出“一”,再批量地制造“二”。
- type可以直接生成类(class),但也可以先生成元类(metaclass),再使用元类批量定制类(class)。
元类——道生一,一生二
一般来说,元类均被命名后缀为Metalass。想象一下,我们需要一个可以自动打招呼的元类,它里面的类方法呢,有时需要say_Hello,有时需要say_Hi,有时又需要say_Sayolala,有时需要say_Nihao。
如果每个内置的say_xxx都需要在类里面声明一次,那将是多么可怕的苦役! 不如使用元类来解决问题。
以下是创建一个专门“打招呼”用的元类代码:
class
SayMetaClass
(
type
)
:
def
__new__
(
cls
,
name
,
bases
,
attrs
)
:
attrs
[
'say_'
+
name
]
=
lambda
self
,
value
,
saying
=
name
:
print
(
saying
+
','
+
value
+
'!'
)
return
type
.
__new__
(
cls
,
name
,
bases
,
attrs
)
记住两点:
- 元类是由“type”衍生而出,所以父类需要传入type。【道生一,所以一必须包含道】
- 元类的操作都在 __new__中完成,它的第一个参数是将创建的类,之后的参数即是三大永恒命题:我是谁,我从哪里来,我将到哪里去。 它返回的对象也是三大永恒命题,接下来,这三个参数将一直陪伴我们。
在__new__中,我只进行了一个操作,就是
attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')
它跟据类的名字,创建了一个类方法。比如我们由元类创建的类叫“Hello”,那创建时就自动有了一个叫“say_Hello”的类方法,然后又将类的名字“Hello”作为默认参数saying,传到了方法里面。然后把hello方法调用时的传参作为value传进去,最终打印出来。
那么,一个元类是怎么从创建到调用的呢?
来!一起根据道生一、一生二、二生三、三生万物的准则,走进元类的生命周期吧!
# 道生一:传入type
class
SayMetaClass
(
type
)
:
# 传入三大永恒命题:类名称、父类、属性
def
__new__
(
cls
,
name
,
bases
,
attrs
)
:
# 创造“天赋”
attrs
[
'say_'
+
name
]
=
lambda
self
,
value
,
saying
=
name
:
print
(
saying
+
','
+
value
+
'!'
)
# 传承三大永恒命题:类名称、父类、属性
return
type
.
__new__
(
cls
,
name
,
bases
,
attrs
)
# 一生二:创建类
class
Hello
(
object
,
metaclass
=
SayMetaClass
)
:
pass
# 二生三:创建实列
hello
=
Hello
()
# 三生万物:调用实例方法
hello
.
say_Hello
(
'world!'
)
输出为
Hello, world!
注意:通过元类创建的类,第一个参数是父类,第二个参数是metaclass
普通人出生都不会说话,但有的人出生就会打招呼说“Hello”,“你好”,“sayolala”,这就是天赋的力量。它会给我们面向对象的编程省下无数的麻烦。
现在,保持元类不变,我们还可以继续创建Sayolala, Nihao类,如下:
# 一生二:创建类
class
Sayolala
(
object
,
metaclass
=
SayMetaClass
)
:
pass
# 二生三:创建实列
s
=
Sayolala
()
# 三生万物:调用实例方法
s
.
say_Sayolala
(
'japan!'
)
输出
Sayolala, japan!
也可以说中文
# 一生二:创建类
class
Nihao
(
object
,
metaclass
=
SayMetaClass
)
:
pass
# 二生三:创建实列
n
=
Nihao
()
# 三生万物:调用实例方法
n
.
say_Nihao
(
'中华!'
)
输出
Nihao, 中华!
再来一个小例子:
# 道生一
class
ListMetaclass
(
type
)
:
def
__new__
(
cls
,
name
,
bases
,
attrs
)
:
# 天赋:通过add方法将值绑定
attrs
[
'add'
]
=
lambda
self
,
value
:
self
.
append
(
value
)
return
type
.
__new__
(
cls
,
name
,
bases
,
attrs
)
# 一生二
class
MyList
(
list
,
metaclass
=
ListMetaclass
)
:
pass
# 二生三
L
=
MyList
()
# 三生万物
L
.
add
(
1
)
现在我们打印一下L
print
(
L
)
>>>
[
1
]
而普通的list没有add()方法
L2
=
list
()
L2
.
add
(
1
)
>>>
AttributeError
:
'list'
object
has no
attribute
'add'
太棒了!学到这里,你是不是已经体验到了造物主的乐趣?
python世界的一切,尽在掌握。
年轻的造物主,请随我一起开创新世界。
我们选择两个领域,一个是Django的核心思想,“Object Relational Mapping”,即对象-关系映射,简称ORM。
这是Django的一大难点,但学完了元类,一切变得清晰。你对Django的理解将更上一层楼!
另一个领域是爬虫领域(黑客领域),一个自动搜索网络上的可用代理,然后换着IP去突破别的人反爬虫限制。
这两项技能非常有用,也非常好玩!
挑战一:通过元类创建ORM
准备工作,创建一个Field类
class
Field
(
object
)
:
def
__init__
(
self
,
name
,
column_type
)
:
self
.
name
=
name
self
.
column_type
=
column_type
def
__str__
(
self
)
:
return
'<%s:%s>'
%
(
self
.
__class__
.
__name__
,
self
.
name
)
它的作用是
在Field类实例化时将得到两个参数,name和column_type,它们将被绑定为Field的私有属性,如果要将Field转化为字符串时,将返回“Field:XXX” , XXX是传入的name名称。
准备工作:创建StringField和IntergerField
class
StringField
(
Field
)
:
def
__init__
(
self
,
name
)
:
super
(
StringField
,
self
).
__init__
(
name
,
'varchar(100)'
)
class
IntegerField
(
Field
)
:
def
__init__
(
self
,
name
)
:
super
(
IntegerField
,
self
).
__init__
(
name
,
'bigint'
)
它的作用是
在StringField,IntegerField实例初始化时,时自动调用父类的初始化方式。
道生一
class
ModelMetaclass
(
type
)
:
def
__new__
(
cls
,
name
,
bases
,
attrs
)
:
if
name
==
'Model'
:
return
type
.
__new__
(
cls
,
name
,
bases
,
attrs
)
print
(
'Found model: %s'
%
name
)
mappings
=
dict
()
for
k
,
v
in
attrs
.
items
()
:
if
isinstance
(
v
,
Field
)
:
print
(
'Found mapping: %s ==> %s'
%
(
k
,
v
))
mappings
[
k
]
=
v
for
k
in
mappings
.
keys
()
:
attrs
.
pop
(
k
)
attrs
[
'__mappings__'
]
=
mappings
# 保存属性和列的映射关系
attrs
[
'__table__'
]
=
name
# 假设表名和类名一致
return
type
.
__new__
(
cls
,
name
,
bases
,
attrs
)
它做了以下几件事
- 创建一个新的字典mapping
- 将每一个类的属性,通过.items()遍历其键值对。如果值是Field类,则打印键值,并将这一对键值绑定到mapping字典上。
- 将刚刚传入值为Field类的属性删除。
- 创建一个专门的__mappings__属性,保存字典mapping。
- 创建一个专门的__table__属性,保存传入的类的名称。
一生二
class
Model
(
dict
,
metaclass
=
ModelMetaclass
)
:
def
__init__
(
self
,
**
kwarg
)
:
super
(
Model
,
self
).
__init__
(
**
kwarg
)
def
__getattr__
(
self
,
key
)
:
try
:
return
self
[
key
]
except
KeyError
:
raise
AttributeError
(
"'Model' object has no attribute '%s'"
%
key
)
def
__setattr__
(
self
,
key
,
value
)
:
self
[
key
]
=
value
# 模拟建表操作
def
save
(
self
)
:
fields
=
[]
args
=
[]
for
k
,
v
in
self
.
__mappings__
.
items
()
:
fields
.
append
(
v
.
name
)
args
.
append
(
getattr
(
self
,
k
,
None
))
sql
=
'insert into %s (%s) values (%s)'
%
(
self
.
__table__
,
','
.
join
(
fields
),
','
.
join
([
str
(
i
)
for
i
in
args
]))
print
(
'SQL: %s'
%
sql
)
print
(
'ARGS: %s'
%
str
(
args
))
如果从Model创建一个子类User:
class
User
(
Model
)
:
# 定义类的属性到列的映射:
id
=
IntegerField
(
'id'
)
name
=
StringField
(
'username'
)
email
=
StringField
(
'email'
)
password
=
StringField
(
'password'
)
这时
id= IntegerField(‘id’)就会自动解析为:
Model.__setattr__(self, ‘id’, IntegerField(‘id’))
因为IntergerField(‘id’)是Field的子类的实例,自动触发元类的__new__,所以将IntergerField(‘id’)存入__mappings__并删除这个键值对。
二生三、三生万物
当你初始化一个实例的时候并调用save()方法时候
u
=
User
(
id
=
12345
,
name
=
'Batman'
,
email
=
'batman@nasa.org'
,
password
=
'iamback'
)
u
.
save
()
这时先完成了二生三的过程:
- 先调用Model.__setattr__,将键值载入私有对象
- 然后调用元类的“天赋”,ModelMetaclass.__new__,将Model中的私有对象,只要是Field的实例,都自动存入u.__mappings__。
接下来完成了三生万物的过程:
通过u.save()模拟数据库存入操作。这里我们仅仅做了一下遍历__mappings__操作,虚拟了sql并打印,在现实情况下是通过输入sql语句与数据库来运行。
输出结果为
Found
model
:
User
Found
mapping
:
name
==> <
StringField
:
username
>
Found
mapping
:
password
==> <
StringField
:
password
>
Found
mapping
:
id
==> <
IntegerField
:
id
>
Found
mapping
:
email
==> <
StringField
:
email
>
SQL
:
insert into User
(
username
,
password
,
id
,
email
)
values
(
Batman
,
iamback
,
12345
,
batman
@
nasa
.
org
)
ARGS
:
[
'Batman'
,
'iamback'
,
12345
,
'batman@nasa.org'
]
- 年轻的造物主,你已经和我一起体验了由“道”演化“万物”的伟大历程,这也是Django中的Model版块核心原理。
- 接下来,请和我一起进行更好玩的爬虫实战(嗯,你现在已经是初级黑客了):网络代理的爬取吧!
挑战二:网络代理的爬取
准备工作,先爬个页面玩玩
请确保已安装requests和pyquery这两个包。
# 文件:get_page.py
import
requests
base_headers
=
{
'User-Agent'
:
'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.71 Safari/537.36'
,
'Accept-Encoding'
:
'gzip, deflate, sdch'
,
'Accept-Language'
:
'zh-CN,zh;q=0.8'
}
def
get_page
(
url
)
:
headers
=
dict
(
base_headers
)
print
(
'Getting'
,
url
)
try
:
r
=
requests
.
get
(
url
,
headers
=
headers
)
print
(
'Getting result'
,
url
,
r
.
status_code
)
if
r
.
status_code
==
200
:
return
r
.
text
except
ConnectionError
:
print
(
'Crawling Failed'
,
url
)
return
None
这里,我们利用request包,把百度的源码爬了出来。
试一试抓百度
把这一段粘在get_page.py后面,试完删除
if
(
__name__
==
'__main__'
)
:
rs
=
get_page
(
'https://www.baidu.com'
)
print
(
'result:\r\n'
,
rs
)
试一试抓代理
把这一段粘在get_page.py后面,试完删除
if
(
__name__
==
'__main__'
)
:
from
pyquery
import
PyQuery
as
pq
start_url
=
'http://www.proxy360.cn/Region/China'
print
(
'Crawling'
,
start_url
)
html
=
get_page
(
start_url
)
if
html
:
doc
=
pq
(
html
)
lines
=
doc
(
'div[name="list_proxy_ip"]'
).
items
()
for
line
in
lines
:
ip
=
line
.
find
(
'.tbBottomLine:nth-child(1)'
).
text
()
port
=
line
.
find
(
'.tbBottomLine:nth-child(2)'
).
text
()
print
(
ip
+
':'
+
port
)
接下来进入正题:使用元类批量抓取代理
批量处理抓取代理
from
getpage
import
get_page
from
pyquery
import
PyQuery
as
pq
# 道生一:创建抽取代理的metaclass
class
ProxyMetaclass
(
type
)
:
"""
元类,在FreeProxyGetter类中加入
__CrawlFunc__和__CrawlFuncCount__
两个参数,分别表示爬虫函数,和爬虫函数的数量。
"""
def
__new__
(
cls
,
name
,
bases
,
attrs
)
:
count
=
0
attrs
[
'__CrawlFunc__'
]
=
[]
attrs
[
'__CrawlName__'
]
=
[]
for
k
,
v
in
attrs
.
items
()
:
if
'crawl_'
in
k
:
attrs
[
'__CrawlName__'
].
append
(
k
)
attrs
[
'__CrawlFunc__'
].
append
(
v
)
count
+=
1
for
k
in
attrs
[
'__CrawlName__'
]
:
attrs
.
pop
(
k
)
attrs
[
'__CrawlFuncCount__'
]
=
count
return
type
.
__new__
(
cls
,
name
,
bases
,
attrs
)
# 一生二:创建代理获取类
class
ProxyGetter
(
object
,
metaclass
=
ProxyMetaclass
)
:
def
get_raw_proxies
(
self
,
site
)
:
proxies
=
[]
print
(
'Site'
,
site
)
for
func
in
self
.
__CrawlFunc__
:
if
func
.
__name__
==
site
:
this_page_proxies
=
func
(
self
)
for
proxy
in
this_page_proxies
:
print
(
'Getting'
,
proxy
,
'from'
,
site
)
proxies
.
append
(
proxy
)
return
proxies
def
crawl_daili66
(
self
,
page_count
=
4
)
:
start_url
=
'http://www.66ip.cn/{}.html'
urls
=
[
start_url
.
format
(
page
)
for
page
in
range
(
1
,
page_count
+
1
)]
for
url
in
urls
:
print
(
'Crawling'
,
url
)
html
=
get_page
(
url
)
if
html
:
doc
=
pq
(
html
)
trs
=
doc
(
'.containerbox table tr:gt(0)'
).
items
()
for
tr
in
trs
:
ip
=
tr
.
find
(
'td:nth-child(1)'
).
text
()
port
=
tr
.
find
(
'td:nth-child(2)'
).
text
()
yield
':'
.
join
([
ip
,
port
])
def
crawl_proxy360
(
self
)
:
start_url
=
'http://www.proxy360.cn/Region/China'
print
(
'Crawling'
,
start_url
)
html
=
get_page
(
start_url
)
if
html
:
doc
=
pq
(
html
)
lines
=
doc
(
'div[name="list_proxy_ip"]'
).
items
()
for
line
in
lines
:
ip
=
line
.
find
(
'.tbBottomLine:nth-child(1)'
).
text
()
port
=
line
.
find
(
'.tbBottomLine:nth-child(2)'
).
text
()
yield
':'
.
join
([
ip
,
port
])
def
crawl_goubanjia
(
self
)
:
start_url
=
'http://www.goubanjia.com/free/gngn/index.shtml'
html
=
get_page
(
start_url
)
if
html
:
doc
=
pq
(
html
)
tds
=
doc
(
'td.ip'
).
items
()
for
td
in
tds
:
td
.
find
(
'p'
).
remove
()
yield
td
.
text
().
replace
(
' '
,
''
)
if
__name__
==
'__main__'
:
# 二生三:实例化ProxyGetter
crawler
=
ProxyGetter
()
print
(
crawler
.
__CrawlName__
)
# 三生万物
for
site_label
in
range
(
crawler
.
__CrawlFuncCount__
)
:
site
=
crawler
.
__CrawlName__
[
site_label
]
myProxies
=
crawler
.
get_raw_proxies
(
site
)
道生一:元类的__new__中,做了四件事:
- 将“crawl_”开头的类方法的名称推入ProxyGetter.__CrawlName__
- 将“crawl_”开头的类方法的本身推入ProxyGetter.__CrawlFunc__
- 计算符合“crawl_”开头的类方法个数
- 删除所有符合“crawl_”开头的类方法
怎么样?是不是和之前创建ORM的__mappings__过程极为相似?
一生二:类里面定义了使用pyquery抓取页面元素的方法
分别从三个免费代理网站抓取了页面上显示的全部代理。
如果对yield用法不熟悉,可以查看:廖雪峰的python教程:生成器
二生三:创建实例对象crawler
略
三生万物:遍历每一个__CrawlFunc__
- 在ProxyGetter.__CrawlName__上面,获取可以抓取的的网址名。
- 触发类方法ProxyGetter.get_raw_proxies(site)
- 遍历ProxyGetter.__CrawlFunc__,如果方法名和网址名称相同的,则执行这一个方法
- 把每个网址获取到的代理整合成数组输出。
那么。。。怎么利用批量代理,冲击别人的网站,套取别人的密码,狂发广告水贴,定时骚扰客户? 呃!想啥呢!这些自己悟!如果悟不到,请听下回分解!
年轻的造物主,创造世界的工具已经在你手上,请你将它的威力发挥到极致!
请记住挥动工具的口诀:
- 道生一,一生二,二生三,三生万物
- 我是谁,我来自哪里,我要到哪里去
进群与高手一起Python交流
Python网络爬虫与数据挖掘
学习Python和网络爬虫关注公众号:
datanami
近期文章:
- Python 面试中 8 个必考问题
- 关于Python爬虫,这里有一条高效的学习路径
- Python分析薛之谦与李雨桐互撕微博
- Python 面向对象(初级篇)
- Python 面向对象(进阶篇)
- 2017年最受数据科学家欢迎的Top15个Python库!
- 学习 Python 编程的 19 个资源
- 从零开始的 Python 爬虫速成指南
- 用Python玩微信:如何获得自己微信的好友统计信息
- 3行Python代码完成人脸识别
- 用python抓取公众号所有文章
- 力荐!Python的14张思维导图