点击「京东金融技术说」可快速关注
「引言」随着社会的日益发展,数据急剧增长,而数据背后的关系的挖掘的就显得更加重要,目前越来越多的人通过图技术去挖掘海量数据中的价值,却没有一个统一的平台,而【图灵】是为此而诞生的,支持百亿级顶点千亿级边数量级,通过【图灵】平台的一站式图形化操作快速的构建项目上线,最短可在一日内上线。
一、图简介
图是什么?
图是一种将实体以及实体之间的关系,抽象表达为图技术上的顶点(V)和边(E)。例如账号(pin)之间的关系,pin与pin之间是朋友、亲属、密友还是本人这些的关系都可以通过如下一张图形象的展示出来:
通过图相关的技术可以解决传统数据库无法或者很难解决的一些问题。
二、应用场景
图的应用场景很多,以下举例几个场景:
1、路径规划:在使用导航软件时,用户在选择一个开始地点和目的地之后导航软件会给出各种如路程最短,不走高速,时长最短等方案,而这些结果的计算都是基于图算法两点路径算法结合相应数据定制改良综合而得到的。
2、社区发现:在好友关系中,根据社区之间联系或紧密,利用图louvain算法或者其他算法对用户进行分群从而达到精准营销,个性化服务等。
3、金融贷后催收:利用图算法找出符合条件的失联人的联系人,从而提高催收失联修复的覆盖率、有效联系率,助力不良资产的回收。
上面只是几个简单应用场景,图技术还被用于很多其他的场景如:社交网络,通信网络,城市计算等等。
三、图灵平台是什么?
图灵平台是集图数据库和图计算于一身,提供图建模到图可视化一体化的通用一站式图应用平台,致力于服务业务,快速构建基于图技术的应用项目,提升效率,节约成本。
根据上图可看出图灵在架构上可以分为以下几层:
1、图服务层:
图灵提供了一整套灵活图可视化解决方案,前端采用模块化的组件方式,可根据项目的配置,灵活的设置前端样式以及最终的可视化效果,并提供灵活在线写gremlin的方式,根据用户灵活的需求自主定制分析语句,并可根据需要灵活选择两种输出结果:
图可视化
Json格式
2、图接口层:
图灵提供标准的几种类型的输出接口
点查询类型
路径查询类型
图查询
定制化查询
3、图引擎层:
图引擎层有分为图数据库和图计算引擎,通过这两部分一站式解决OLTP和OLAP类型的需求。
图数据库:
图数据库致力于间接OLTP的在线查询分析类型的需求,其具备以下几个特点:
分布式:支持百亿顶点千亿边级别的数据存储
元数据管理
图索引:支持模糊匹配查询
事务管理
版本管理:支持数据多版本
图计算引擎(Joygraph)
图计算引擎Joygraph是一个性能高远超GraphX的高效的计算引擎,致力于解决海量数据下的OLAP类型的离线数据分析需求,可在百亿顶点千亿边的数据下,高效运行图上的各类常规图算法,并可根据业务场景灵活的定制图算法。并实现了以下特性:
增量图计算
顶点为中心的编程模型
图分区
Push/pull双模式自适应
Numa-aware
内置算法包
定制算法...
4、存储层:
在数据存储上,图灵支持分布式存储系统,关系型数据库和其他类型的存储。
四、图灵如何实现一站式
1、图应用
在图应用方面,图灵在功能上设计了一套建模流程,通过这套流程可以无需写一行程序代码的情况下的生成图应用项目,通过界面的简单操作便可完成上线。以下是建模流程:
Schema设计:图形化的简易操作即可抽象刻画顶点与边的关系,达到顶点与边的关系一目了然。
ER设计:将数据源的表加载至页面,通过简易的操作将数据库中表转换为图需要的数据格式。
数据映射:通过前端拖拽式的操作,将数据源与schema设计中的顶点、边、属性进行手动或者自动映射。
数据加载:在数据加载设计了全自动化的入库流程,打通内部相关平台,实时精确监控入库的各个流程,高效入库,百亿数据可在几小时内完成。
图可视化:提供强大的图可视化功能具体包括:
多布局:支持力导引布局,上下布局,左右布局
图保存:在图探索中可随时保持当前查询结果,保障关闭浏览器之后,下次打开可在上次的结果上继续操作
图下载:可将当前结果直接转换为图片形式存储
自定义查询
外链:可直接将图灵项目内嵌至其他系统
声明式/命令式扩展
多节点路径
路径下载:可将搜索出的路径以excel形式下载使用
在线写Gremlin
数据批量隐藏恢复
无限前进后退操作
图结果定位:名称结果定位/属性定位...
2、图计算
提供可视化的数据计算流程服务,通过界面化的拖拽生成计算服务,集流程与调度一体,实时监控算法各个步骤。
图灵平台图计算模块内置了丰富的算法组件,组件即服务,具体如下:
PageRank
连通子图
连通路径
K-Core
最短路径
标签传播
三角计数
关系预测...
五、项目支撑和成果
图灵系统发布至今已经陆续接入了许多项目,并得到了多方认可。已上线和即将上线项目达十余个,下面是具体已上线项目情况:
Idmapping(百亿级)
失联修复项目(百亿级)
企业征信(10亿级)
数仓知识图谱
智能实验室项目...
随着图灵平台项目的陆续接入,个性需求多样化,图灵平台会根据需求不断完善改进,丰富图灵平台功能,优化操作,争取打造一个更加便捷易用的一站式图应用平台。有合作意向的团队可联系本文作者哦!
互动话题
图的应用场景除了本文第二部分写到的,还有其他哪些呢?
回复留言被选中轻松拿小礼物喽!!!
京东金融技术说&技术课堂
▼▼▼
由京东金融-技术研发部策划组织
倡导“原创·实用·技术·专业”
致力于分享技术领域实战经验与技术干货
线上订阅“京东金融技术说”,线下聆听“技术课堂”
为加强技术分享、总结沉淀,提升金融技术影响力而搭建的线上线下融合交流平台
不只一技之长 · 我有N技在手
咨询、建议、合作请联系:
刘嘉璐(liujialu)/张明瑛(zhangmingying3)