项目简介:
github地址:https://github.com/LL233/crawler
这是一个基于php开发的爬虫框架
只需要在配置文件中写好对应参数,框架即可运行
在app文件中是使用者开发的文件
使用者的开发主要是使用hooks
程序每运行到一个地方就会触发相应的钩子,并传递给钩子函数相应的参数,使用者只要在自己的文件中写好对应的钩子函数处理即可
例如,在这个页面内容过滤完之后,会触发钩子filter_end,会传递三个参数给钩子函数,第一个参数是level,当前的层级,第二个参数data,根据用户定义的过滤规则过滤出来的数据,第三个参数url,根据用户自定义的url过滤规则过滤出来的url数据
所有钩子函数:
start
没有任何参数传递
这个钩子函数是在程序一开始执行的