省级国土空间基础信息平台建设方案分析

简介:2020年,各省根据要求建立了省级国土空间基础信息平台,各省采用了不同的解决方案,实现了相似的架构模式。笔者通过对这些经验的总结,梳理出建设空间大数据平台的常用方法和工具。另外,平台建设中对ArcGIS系统的高度依赖,也暴露出我国相关领域技术的不足。

关键词:大数据平台;国土空间;

0 引言

2017年7月,国土资源部下发了《国土空间基础信息平台建设总体方案》和《省级国土空间基础信息平台建设要求》,《要求》指出利用 4 年的时间,全面完成省级国土空间基础信息平台建设,在2020年形成功能完善、持续服务的省级云管理与服务平台。

目前,各省均以完成平台建设,笔者通过对各省成功经验的学习,对具体技术实施方案进行了总结。对于省级国土空间信息平台的整体架构和提供的服务,《方案》中已有详尽的叙述,在此不做过多解释,请读者查阅原文。

1 总体架构

省级国土资源基础信息平台由于数据存储和处理需求大,系统用户多,服务种类多样,并且需要统筹省、市、县三级节点,通常采用分布式的面向服务架构(SOA),部分服务采用微服务架构。物理上分散、逻辑上集中,通过建立负载均衡 和互为备份机制,满足大用户并发使用、海量数据存储管理的需要。【总体方案】

SOA(Service Oriented Architecture),中文意思为 “面向服务的架构”,SOA架构通过引入ESB(Enterprise Service Bus,企业服务总线),实现资源的统一调度。你可以将它理解为一个架构模型或者一种设计方法,而并不是服务解决方案。其中包含多个服务, 服务之间通过相互依赖或者通过通信机制,来完成相互通信的,最终提供一系列的功能。一个服务通常以独立的形式存在与操作系统进程中。各个服务之间通过网络调用 。

微服务架构其实和SOA架构类似,微服务是在SOA上做的升华。微服务架构重点强调的一个是"业务需要彻底的组件化和服务",原有的单个业务系统会拆分为多个可以独立开发、设计、运行的小应用。这样的小应用和其他各个应用之间,相互去协作通信,来完成一个交互和集成,这就是微服务架构。

2 架构层次

省级国土资源基础信息平台的架构层次分为四层,即:

  1. 基础设施层,包括计算资源、存储资源、网络资源等基础设施资源,有云原生资源、硬件虚拟化等多种解决方案;
  2. 数据资源层,即系统中存储的各种数据资源及其存储方法和模式,包括各种各类地理时空数据和非时空数据,还包括影音图片等非结构化数据。
  3. 服务层,各类数据和分析运算服务,包括地图接口(如WMS、WMTS、WFS),数据接口(REST),空间分析和决策服务接口等。
  4. 应用层,根据用户需求打造调查评价、监管决策、空间规划、用途管制等功能模块,包含前端界面和数据可视化等。

3 基础设施层的实现

负载均衡与虚拟化

在基础设施层,由于系统规模很大,负载均衡与虚拟化策略是工作重点,解决方案有三种,即云原生、虚拟化和Arc GIS for Server方案。

硬件基础设施层包括计算资源、存储资源、网络资源等基础设施资源。本文的基础设施资源基于黑龙江省地理空间大数据中心进行构建,平台采用云原生、分布式的架构,构造服务资源池,支撑省级国土空间基础信息平台数据资源的海量存储,以及高并发下资源的访问。【李冰,黑龙江】

研究大规模空间数据在分布式集群环境中存储的负载均衡性问题,保持空间数据位置邻近性和存储局部性特点,将大规模空间数据存储与高并发应用访问负载均摊在所有集群节点上,避免出现I/O拥塞和单点失效问题,确保系统的高可用性。研究空间数据在分布式环境中数据切分、布局与放置方法,实现传统空间数据存储向大数据分布式环境转换。【张健峰,新疆】

本项目主要通过VMware虚拟化技术将底层硬件资源、网络资源、存储资源进行池化, 并提供标准化的VMware调整控制接口。再通过GIS云计算管理技术, 与VMware的控制接口进行通讯并实现有效的接管, 实现资源的调度使用, 形成一个GIS服务与资源动态调配层。最后再通过开发业务应用系统与该资源动态调配层进行衔接, 最终实现GIS的应用建设。【马骁驰,广西】

基于Arc GIS for Server的弹性云架构, 利用国土云基础设施提供的资源池服务, 扩展IaaS平台的资源池化能力, 将数据中心的GIS平台资源与底层基础设施资源进行深度整合, 实现云环境中Arc GIS资源实例的统一化、智能化和云端化管理, 并通过多租户资源隔离机制, 实现安全的多租户和可控的基础架构的共享。同时, 面向业务用户提供按需的GIS计算和存储能力, 用户通过自服务门户以服务的方式直接使用这些云GIS资源服务。【王志敏,云南】

4 数据接入与管理

数据规范与整合

国土空间基础信息数据横向涵盖国土、测绘、发改、环保、住建、交通、水利、农业、林业等不同行业;纵向贯穿国家、省、市、 县四级。按照数据类型分为现状数据、规划数据、管理数据和社 经济数据,其中现状数据包含基础地理、遥感影像、地理国情、土地利用现状、耕地后备资源、矿产资源等,【总体规划】需要在空间、时序比例尺上对各类数据进行标准化整合、对接、去重、融合分层,并集成地理国情数据库、基础地理信息数据等核心数据库资源,形成统一的自然资源一张图数据体系[4]。【李冰,黑龙江】

以往投资项目审批过程中往往缺少统一的空间参考约束,各地市上传的项目红线范围空间参考包括城市独立坐标系、地市2000平面坐标系、国家2000平面坐标系、国家2000大地坐标系等,本次空间协同审批统一使用国家2000大地坐标系作为空间数据标准空间参考,通过多态空间参考一体化坐标转换技术,统一将多态、多源的空间参考转换为国家2000大地坐标系。【屠龙海,浙江】

数据存储

数据分为空间数据、非空间关系数据、非结构化数据和缓存数据四类,对于这四类数据采用不同的存储工具。

  1. 空间数据,包括矢量数据、栅格瓦片等,可以采用关系型数据库+中间件的方案,如PostgreSQL+PostGIS进行管理和存储【林澍哲,广东】,也可以使用非关系型数据库,如MongoDB【张健峰,新疆】。使用Mongo DB对栅格数据进行非关系型的分片存储,可以提高瓦片检索和浏览效率。【李冰,黑龙江】矢量数据采用HBase数据库集群进行分布式管理,利用其高性能高安全性的特点,为空间大数据分析提供支撑。【李冰,黑龙江】

  2. 具有关系结构的非空间数据,可以使用传统的关系型数据库进行管理,如PostgreSQL或Mysql。【林澍哲,广东】

  3. 非结构数据包括办公文档、pdf、图片、视频等内容,非空间大数据的存储主要采用Hadoop分布式文件系统, 按照特定的约束方式存到HBase构建的内容库中。【黄弘,湖南】

  4. 缓存数据通过Radis内存数据库管理,提高应用系统性能。【林澍哲,广东】

大数据分析技术

面对多源异构数据的高效加工整理需求,需要综合利用Hadoop、Spark等高性能集群计算技术,构建时空数据融合计算框架,实现统一的自然资源数据分布式任务调度,突破传统空间数据处理的计算瓶颈。【林澍哲,广东】采用基于Spark计算引擎的集群式大数据分析计算,实现海量图斑数据的空间分析。【李冰,黑龙江】

并行空间分析算法设计中,基于分而治之思想,满足计算向数据靠拢原则,特别是跨中心重型空间分析任务中,考虑数据通信成本和负载均衡性,发挥集群计算能力。【张健峰,新疆】采用基于HDFS+MPP的存储、集群服务调用数据、虚拟化动态调用硬件资源等技术实现海量空间数据无瓦片秒级渲染显示,不切片且支持动态更新,提升空间基础信息浏览体验和应用价值。【张健峰,新疆】

实际应用中采用基于Spark大数据分析能力的ArcGIS GeoAnalysis大数据分析模块实现大数据应用分析。【顾长梅,江苏】

5 服务层的实现

平台将各类数据资源以服务的形式进行封装,主要包括栅格数据服务、矢量瓦片数据服务、地名地址服务,同时提供数据浏览、数据查询,二三维一体化展示,数据共享、数据关联、联动更新、在线制图等功能。【赵秋菊,新建】

对于地理数据,根据OGC标准地理信息数据标准化供给,构建WMTS、MWS、CSW、WPS及Web Service(SOAP REST)等服务接口,为用户提供二三维地图、智能搜索、路径规划及影像处理等多维度的地理信息服务。【张健峰,新疆】采用REST方案和JSON等交换格式提高数据的交换速度。【林澍哲,广东】

采用矢量瓦片+分布式渲染方案,前端渲染数据服务时,将请求的瓦片渲染任务进行分解,由多个分布式子节点进行多进程实时切片,实现海量数据可视化渲染秒级响应,同时支撑大规模高并发使用场景下的渲染效率,采用自动缓存技术对用户浏览过的数据进行无感自动缓存,再次浏览该区域时,无须再次进行渲染。采用矢量瓦片技术,前端显示海量数据资源,解决了传统栅格瓦片显示失真问题,并可自由配置数据样式。【李冰,黑龙江】

6 应用层的实现

服务架构通常采用B/S模式,通过浏览器即可访问服务,无需额外软件。前端界面通常采用Vue等渐进式框架进行开发,并搭配百度Echarts等可视化框架进行非空间数据的可视化。【王志敏,云南】

对于空间数据展现和各种分析功能,可以利用portal for ArcGIS开发框架,进行快速开发。【马骁驰,广西】通过配置的应用程序模板, 快速构建的Web应用程序, 不需要任何编程技术就可以部署在自己的服务器下。【马骁驰,广西】

Arc GIS提供的Web App Builder工具进行开发可以开发各类微组件, 其自带如打印地图、定位地址、计算面积、路径量算、指北针、叠加分析等常用功能。【马骁驰,广西】

7 安全和保密措施

由于空间数据往往涉及保密内容,需要比一般大数据系统更强的安全措施,安全措施主要通过物理隔离、信息加密和用户身份认证实现。

网络安全隔离

于云计算安全架构, 结合省级国土资源政务信息系统架构和特点, 可按照以下原则规划国土云的安全防护措施:【黄弘,湖南】

(一) 内外网安全隔离

将国土云分为两个大的安全区域, 一个是内部服务区域, 供内部信息系统使用;一个是外部服务区域, 供因特网信息系统使用。两个区域之间通过多层次的隔离技术对云服务器、数据库和存储等计算和存储资源进行安全隔离, 完全不能互访。内部信息系统不分配公网IP, 因此无法从公网访问内部应用。互联网应用分配公网IP, 可以从公网发起访问。【黄弘,湖南】

(二) 区域内安全隔离

服务区域内的每一个信息系统作为一个单独的安全域, 安全域内可以互相访问, 安全域之间默认无法互访;同一服务区域内的不同应用之间如果有互访需要, 则可以通过安全域防火墙授权访问。【黄弘,湖南】

(三) 互联网应用安全防护

由阿里云盾 (包括防DDoS、入侵防御、网站安全防护等功能模块组成) 保护互联网入口。【黄弘,湖南】

(四) 数据安全交换

国土云内部服务区通过涉密专线接入省电子政务内网, 外部服务区通过专线或VPN连接到网闸等安全设备。国土云内部服务区与省电子政务内网的其他单位、机构网络间交互数据, 通过密码机进行数据加解密传输进行。【黄弘,湖南】

身份认证技术

为解决市级平台信息共享问题,平台建设基于空间信息服务总线技术,主节点和分节点信息服务以接口方式进行统一注册、管理与应用。实现基于服务的多级空间信息服务节点对接,合并多源数据和不同的应用服务,形成平台共享标准空间信息服务,适应并服务每个节点和部门及更广泛的应用环境。【王伟伟,甘肃】

利用SSO技术的统一用户授权机制为国土空间基础信息平台分布式部署提供了支撑,国土空间基础信息平台各项功能服务使用分布式的方式进行部署,即平台功能以微服务的方式分布在不同的服务器,通过统一用户授权机制,即可根据用户权限直接无缝访问平台的分布式服务,解决不同服务器之间的权限及用户状态共享问题,SSO验证机制如图2所示。【李冰,黑龙江】

为进一步提高安全性,通过将身份鉴定、访问控制与密码支撑有机结合,实现登录系统与硬件的绑定,通过硬件key保存身份信息与唯一标志,并对登录使用身份认定,通过硬件(USBKey)和软件客户端相结合的方式实现了物理身份与数字身份的双重认证;从而保障数据的唯一、合法性。【王毅,甘肃】

8 总结

各省都采取了相似的架构模式,但是解决方法各不相同,SOA和B/S模式是统一特点,在资源调度和负载均衡方案上,有云原生和虚拟化等不同方案;在数据存储层面上,既有使用传统的数据库方案,也有使用Hadoop等新型分布式文件系统;在数据分析上则大部分采用Spark分布式计算技术;复杂的数据格式和严格的安全性需求是空间信息平台不同于其他大数据平台的显著特点;另外,在系统建设中普遍依赖ArcGIS系统和相关产品,也暴露出我国相关领域的不足。

参考文献

[1] 国土资源部.国土空间基础信息平台建设总体方案[Z].2017.

[2]国土资源部.省级国土空间基础信息平台建设要求[Z].2017.

[3]池美月.基于“一张图”的福建省自然资源数据体系建设[J].水利科技,2021(03):62-65.

[4]顾长梅,喻磊,吴锦州.省级国土空间基础信息大数据平台设计与实践[J].国土资源信息化,2019(02):12-16+21.

[5]马骁驰.基于GIS云服务的广西国土空间协同共享平台建设研究[J].国土资源信息化,2017(06):7-12.

[6]金群,李宁,孟成,刘刚.省级国土空间基础信息平台数据资源体系建设研究[J].上海国土资源,2018,39(02):46-49.

[7]李茜,朱剑.浅谈省级国土空间基础信息平台建设的关键技术[J].南方国土资源,2017(12):37-40.

[8]王伟伟,张开洲,余文富.省级国土空间基础信息平台建设关键技术研究——以甘肃省为例[J].国土资源信息化,2020(06):40-45.

[9]王志敏.基于GIS云服务的云南省国土空间大数据可视化系统建设研究[J].地矿测绘,2018,34(03):12-16.

[10]黄弘,贺晨骋.国土资源大数据云存储关键技术研究与实现[J].国土资源导刊,2018,15(04):82-86.

[11]林澍哲,黎雷,杨帆,王炯维,余海洋.省级国土空间基础信息平台及政务管理系统设计与实现——以广东省为例[J].国土资源信息化,2021(06):60-65.

[12]张健峰,范晨.省级国土空间基础信息平台建设方案研究与应用——以新疆为例[J].测绘与空间地理信息,2021,44(06):87-90+94.

[13]赵鹏飞,赵敏,王亮.省级国土空间基础信息平台建设关键技术研究[J].测绘与空间地理信息,2021,44(S1):106-109.

[14]李冰,关显明,古一鸣.基于大数据的省级国土空间基础信息平台关键技术研究及应用[J].测绘与空间地理信息,2021,44(S1):65-68.

[15]屠龙海,汤赛.基于国土空间基础信息平台的分布式多层次协同审批关键技术研究与应用[J].浙江国土资源,2020(07):39-41.

  • 2
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

高堂明镜悲白发

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值