火车头采集翻页内容_前嗅ForeSpider采集教程:采集「链接列表」的数据

案例:采集“人上人”官网首页数据列表

一. 网站内容

1. 网站截图说明

本教程通过采集“人上人”首页“最新资讯”栏目列表中的数据为例,如下图:

5ab6e4e74f3fc5242d854de04b07c157.png

【人上人官网-“联系我们”】

2. 采集结果截图

208c4989fb63fba10a413677fc2a4b77.png

【链接列表采集预览】

一. 操作方法

1. 新建任务

按图片数字所示,1-2-3完成新建任务的步骤

153fcdaa2f22e3957458f7b620e1930d.png

【新建任务】

Step1:点击“采集配置”

Step2:点击【任务列表】中的“+”,新建采集任务

Step3:在如图的红框中输入采集地址和任务名称(可自定义),完成后点击“下一步”。

需要采集正文数据,所以此处需要勾选【链接列表】和【普通翻页】,如图,最后点击“完成”即可。

7dbb64559925ee7dada07219effdf3f7.png

【新建采集任务】

2. 确认选区

由于我们只需要采集链接列表的数据,故需要过滤掉其他无效数据,保留最终有效数据。这里我们可以使用【确认选区】功能即可轻松筛查,操作如下图所示:

13b6bf68c67e1c4013712f7bd4b63d89.png

Step1:点击Shift+左键,将页面中所有的“链接列表”选中。

Step2:点击“确认选区”即可完成有效数据的筛选。

3. 链接列表 采集预览

e27f3c5f9ff2c48a5fa2e4327e6fd71e.png

点击“采集预览”,左侧下滑列表中选择“链接列表”,最终呈现如下图所示即可表示筛选正确。

312edce17e76fe02bbcc3f9792c18094.png

【采集预览】

4. 普通翻页配置

按图片数字所示,1-2-3完成新建任务的步骤

a9bc2795c7fb3336f889130f51f8bfc3.png

Step1:点击左侧“链接抽取-普通翻页”

Step2:这时我们将网页拉到最底部,Ctrl+左键 选择“下一页”确认选区

Step3:勾选“标题过滤”,过滤规则选择“包含”并在输入框中,手动输入“下一页”即可完成 普通翻页的配置。

注意:记得随时点击右上角的“保存”,养成良好的操作习惯。

5. 普通翻页-采集预览

完成第4步骤后,点击右上方“采集预览”,最终呈现应如下图:

913045d9326b5aa2c2f3074d81ebcb54.png
4d41018eb3106ea28c6d5879d41751e8.png

左侧下滑列表中选择“全部有效链接”和“普通翻页”如均出现【下一页】则表示配置成功,进行下一步骤。

6. 添加【数据抽取】

完成链接列表和普通翻页配置后,最后我们应抽取网页中的列表数据,如下图:

acf8ac03e4baca6ca2bc30bace9807b7.png

点击左侧“模板抽取配置”旁边的“+”,配置数据抽取,操作如下:

2143b2673fb48902a381e02e09505a3c.png

最终如下:

34f92026f095ddb03bf7a9e16bfa140d.png

7. 数据抽取建表

按图片数字所示,1-2-3完成新建任务的步骤

2ada79ee107c1fa331f79201ee6d8b31.png

如图示点击【数据建表】:

Step1:点击“采集配置”

Step2:选择“数据建表”

Step2:点击“+”,新建表单并自定义名称,这里取“人上人数据”

根据所需内容,配置表单字段,此处配置了包括主键、标题、文章摘要等等。表单建立如下:

d8ee9aec081a212269b0ce3a4e6fc42d.png

【创建主键】

字段名称:id

采集内容 选择“主键”,此处务必选“自增ID主键”。

PS:非链接内正文数据的“网页主键”

数据类型 选择“长数字”

字段属性 选择 “索引字段”、“健值唯一”、“主键字段”、“全文索引”

最后点击“确定”即可。

dbccfd7c33957e878084d1a472109c0d.png

【创建字段1-标题】

字段名称:tittle

采集内容 选择“选区内可见文本”

数据类型 选择“字符串”

数据长度 选择 范围50即可,最后点击确定。(备注可随意)

bbd5ec03b8235e003e933b6a05cc4bca.png

【创建字段2-摘要】

字段名称:zhaiyao

采集内容 选择“选区内可见文本”

数据类型 选择“字符串”

数据长度 选择 范围100左右即可,最后点击确定。(备注可随意)

8. 创建关联数据表

表单配置完毕后,需要进行数据关联,操作如下:

e871eae6704fd020be3c7e2c798d4f0e.png

选择刚才建立的“人上人数据”,点击【创建】按钮,即可生成对应的“关联数据表”

382886fdb9fe9ac3db0b774c33c69523.png

创建表名称可随意填写,需注意 仅可使用“全英文”,最后点击 确定 即可完成。

注意:创建完成后,记得“勾选”

aa893982ff4d59d2c091a86b90e6f148.png

9. 数据建表 确认选区

ID字段务必保证是 “自增ID主键”,如果是“网页主键”在红框位置可选择更改。

86064ae0aa190af8e9bdb05052fb7542.png
a3bd98dfaa21fca94fa591edd385575e.png

Tittle选区:

Step1:点击左侧“tittle”

Step2:Ctrl+左键选择图示2位置的标题

Step2:点击图示3位置的“确认选区”即可完成

5a5c0078112e276a7efd509d16593926.png

Zhaiyao选区:

Step1:点击左侧“zhaiyao”

Step2:Ctrl+左键选择图示2位置的文字部分

Step2:点击图示3位置的“确认选区”即可完成

以上步骤完成后,点击右上角的“保存”,即可完成数据建表的步骤。

三. 链接列表 数据预览

完成所有步骤后,最后点击右上方的“采集预览”即可查看“最新资讯”的链接列表数据啦~。

b0dc5c7c265b97f879ba439090f0b22e.png

最终如下图所示,即可完成本次的操作了,你学会了吗?

e8c7bc1f2789a3c45a6e67a512bcd663.png
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值