GoldData将采集数据融合到两张关联关系表

概述

在上一期中,我们抓取了新闻数据,现在我们要通过GoldData融合到两张数据库表news_site和news表当中去。如下图所示:

dataset_show

news_site

news

我们很容易看到这两张表存在关联,那是怎样将数据写入关联呢,我们将接上一期在此一一介绍。

定义融合映射

数据集news ==> 表news_site

在“融合管理”中,选择数据集"news",选择数据库表news_site点击“添加”按扭,然后再点击“编辑映射”。如下图所示:

dataset_map

关联数据方式选择“关联字段”,关联表字段"name",关联数据集JS为“dataset.source”,然后选择“保存”即可。

news_site表有两个字段:一个是id字段,由于是自增长字段,所以不用关联;另一个是name字段,选择映谢方式为“数据集字段”,而内容是来自于数据集news的source字段。

手动作业

我们回到“融合管理”页面,点击“融合作业”,然后点击“手动作业”,打开“手动作业”子页面,如下图所示:

fuse_manual_job

在这里我们可以看到融合是没问题的。点击“提交且下一条”,则会将合并结果写入到数据库表当中。如下图所示:

news_site_record

然后回到“融合作业”子页面,点击“开始融合”,将会开始自动融合。如下图所示:

start_job

系统就将会将数据集的数据按照指定的规则进行一个个的融合了。

数据集news ==> 表news

在“融合管理”中,选择数据集"news",选择数据库表news点击“添加”按扭,然后再点击“编辑映射”。如下图所示:

ronghe2

关联数据方式选择“不关联,数据追加”,这将意味着数据集里的新数据将会追加到表news新记录里,但当然老数据不会追加为news新记录里,也就是多次反复融合也不会在表news里产生重复数据。

对于字段映射,说明如下:

字段说明
id自增长,不用映射
title直接映射为数据集字段title
pub_date使用JS 将数据集字段pubdate内容添加:00即可
site_id映射表news_site,通过数据集字段source查找得到id
content直接映射为数据集字段content
date_created用JS创建该值即可

手动作业

我们回到“融合管理”页面,点击“融合作业”,然后点击“手动作业”,打开“手动作业”子页面,如下图所示:

fuse_manual_news

确认正确无误,点击“提交且下一条”,数据将会写入数据库中。如下图所示:

data_row_news

然后回到“融合作业”子页面,点击“开始融合”,将会开始自动融合。

结语

通过GoldData后,我们很容易将数据及数据之间关系融合到关系数据库表中。接下来我们还介绍自关联数据的融合。

转载于:https://my.oschina.net/u/4095696/blog/3022316

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值