Portia---一款开源可视化爬虫工具

< …FOLDER> 路径自定义即可 ， 可在后面加上portia的版本

docker run -i -t --rm -v <PROJECTS_FOLDER>:/app/data/projects:rw -p 9001:9001 scrapinghub/portia

git上是如下语句

docker run -v ~/portia_projects:/app/data/projects:rw -p 9001:9001 scrapinghub/portia

具体可参考[官方文档](https://bbs.csdn.net/topics/618317507)


##### 使用Portia包


###### 新建project


Portia安装完成以后使用浏览器打开`http://localhost:9001`, 在create a new project 中输入项目名  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20190701151523633.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mjc1NDA1,size_16,color_FFFFFF,t_70)  
 点击　New spider 创建一个新的spider  
 右边侧栏会提示你输入一个url，Portia会将网页的url作为一个start page。  
 这个start page一般被用来当做seek（种子），用来获得更多的链接。


![在这里插入图片描述](https://img-blog.csdnimg.cn/20190701151923879.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mjc1NDA1,size_16,color_FFFFFF,t_70)  
 Portia支持创建 page sample（页面样本），当你创建了一个页面样本，就可以调度后面的任务按照你设定的模板抓取元素。（所以我们需要先创建这样的模板）


**page sample**  
 创建了sample之后，我们可以开始注释页面。注释会将页面中的一条数据链接到项目字段。这些即是我们想要提取的数据


![在这里插入图片描述](https://img-blog.csdnimg.cn/2019070115242460.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mjc1NDA1,size_16,color_FFFFFF,t_70)


字段命名，选择数据类型  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20190701152511951.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mjc1NDA1,size_16,color_FFFFFF,t_70)  
 Portia默认遵循所有域内URL。在许多情况下，您需要限制Portia将访问的页面，以便不会在不相关的页面上浪费请求。  
 为此，您可以分别设置跟随和排除白名单和黑名单URL的模式。可以通过将爬网策略更改为来配置这些。Configure URL patterns  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20190701152911993.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mjc1NDA1,size_16,color_FFFFFF,t_70)


到此操作结束


可以在最右侧看到我们选中的项目，将所有需要提取的items注释完之后，关闭样本。Close Sample，如果以后需要再添加其他元素，继续配置此样本，方便后续的抓取。


最后，我们可以在右边看到我们需要的数据，json如下格式


###### 启动程序


我们配置好了sample page和start pages，那么就要开始抓取数据了，也就是将数据保存到json文件或者数据库中。这里我们保存成json文件


官方给出的代码如下

docker run -i -t --rm -v PROJECTS_FOLDER:/app/data/projects:rw -v OUPUT_FOLDER:/mnt:rw -p 9001:9001 scrapinghub/portia \
portiacrawl /app/data/projects/PROJECT_NAME SPIDER_NAME -o /mnt/RESULT.json

其中可以更改的是大写的那些部分：PROJECTS\_FOLDER / OUPUT\_FOLDER / PROJECT\_NAME / SPIDER\_NAME / RESULT.json  
 依次是： 项目名 / 输出目录 / project的名字 / Spider名字 / 保存结果的文件


启动程序前必须先关闭Portia的调试页面，这里我直接使用kill命令，因为我在docker启动的终端按下ctrl+c 或 crtl+z都无效，只能用进程关闭


**（1）Python所有方向的学习路线（新版）**  

这是我花了几天的时间去把Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

最近我才对这些路线做了一下新的更新，知识体系更全面了。



![在这里插入图片描述](https://img-blog.csdnimg.cn/1f807758e039481fa866130abf71d796.png#pic_center)



**（2）Python学习视频**



包含了Python入门、爬虫、数据分析和web开发的学习视频，总共100多个，虽然没有那么全面，但是对于入门来说是没问题的，学完这些之后，你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。

![在这里插入图片描述](https://img-blog.csdnimg.cn/d66e3ad5592f4cdcb197de0dc0438ec5.png#pic_center)



**（3）100多个练手项目**

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了，只是里面的项目比较多，水平也是参差不齐，大家可以挑自己能做的项目去练练。

![在这里插入图片描述](https://img-blog.csdnimg.cn/f5aeb4050ab547cf90b1a028d1aacb1d.png#pic_center)




**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**[需要这份系统化学习资料的朋友，可以戳这里无偿获取](https://bbs.csdn.net/topics/618317507)**

**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**