深夜奶爸
这个作者很懒,什么都没留下…
展开
-
GeoWave存储栅格数据
此处预留原创 2021-07-28 11:15:13 · 293 阅读 · 0 评论 -
GeoWave 1.2.0 版本解决GS发布矢量NIO ByteBuffer flip() java.lang.NoSuchMethodError 返回值错误问题
在GeoWave v1.2.0 版本中在发布矢量时,会报错,具体错误如下:2021-07-19 15:19:48,519 ERROR [geotools.rendering] - java.nio.ByteBuffer.flip()Ljava/nio/ByteBuffer;java.lang.NoSuchMethodError: java.nio.ByteBuffer.flip()Ljava/nio/ByteBuffer; at org.locationtech.geowave.core.index.原创 2021-07-22 11:18:29 · 541 阅读 · 0 评论 -
openlayer 扩展自定义组件(图层管理器,图例控件)
最近看了下网上一些对于openlayer的封装,抽取了两个比较好的案例封装了下,封装了图例和图层管理器图层选择器代码封装.hxMap-layer-switcher.shown.ol-control { background-color: transparent;}.hxMap-layer-switcher.shown.ol-control:hover { background-color: transparent;}.hxMap-layer-switcher { position原创 2021-07-19 17:40:10 · 409 阅读 · 0 评论 -
GeoWave 将SHP数据转存到KUDU上,并通过Spark从KUDU上将数据读取处理
单机版的KUDU安装后面专门出一篇博客,还是有一点点坑要避,此处只展示SHP转化到KUDU,并且从KUDU读取通过Spark进行数据处理的展示。整体代码块package com.ideawin.datagaea.geowave.appsimport com.alibaba.fastjson.JSONObjectimport com.ideawin.datagaea.geotrellis.apps.AppHanderimport com.ideawin.datagaea.geotrellis.co原创 2021-07-19 16:58:59 · 193 阅读 · 0 评论 -
GeoWave 通过Spark处理文件系统数据
代码块package com.ideawin.datagaea.geowave.appsimport com.alibaba.fastjson.JSONObjectimport com.ideawin.datagaea.geotrellis.apps.AppHanderimport com.ideawin.datagaea.geotrellis.common.SparkConfigureimport com.ideawin.datagaea.geotrellis.entity.dto.Raste原创 2021-07-18 12:00:25 · 165 阅读 · 0 评论 -
GeoWave处理本地文件
最近在看GeoWave,此处将最新一个GeoWave的代码整理出来,因为最近刚吧GeoWave的算子封装模块整理出来,所以最近更新有点慢package com.ideawin.datagaea.geotrellis.appsimport com.alibaba.fastjson.JSONObjectimport com.ideawin.datagaea.geotrellis.common.SparkConfigureimport com.ideawin.datagaea.geotrellis.en原创 2021-07-18 11:30:07 · 171 阅读 · 0 评论 -
GeoWave和GeoMesa对比
官网上的例子使用的是accumulo,由于当前业务需要做到单条数据进行更新,所以此处选择kudu作为数据存储中间件,此处按照GeoMesa的封装将GeoWave相关的数据存储驱动进行封装,原创 2021-07-14 15:06:11 · 1269 阅读 · 0 评论 -
GeoTrellis对点云格式数据的处理(此处预留)
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入欢迎使用Markdown编辑器你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar原创 2021-05-27 10:18:51 · 222 阅读 · 0 评论 -
GeoTrellis 进行栅格矢量化
最近进行GeoTrellis进行栅格矢量化原创 2021-04-07 23:11:17 · 275 阅读 · 0 评论 -
GeoTrellis 基于GeoTrellis滤波算法实现
最近打算通过GeoTrellis做滤波相应的算法,此处先放出来原创 2021-04-07 10:20:47 · 218 阅读 · 0 评论 -
GeoMesa Hbase windows下塔建单节点环境
1.安装hadoop windows 环境信息(1) 下载windows版本的Hadoop代码下载winutils下载地址:https://github.com/steveloughran/winutils.git(2) 环境变量里面配置hadoop环境信息配置环境变量 hadoop_home: D:\bigdata\hadoop-2.7.1\hadoop-2.7.12.安装hbase windows 环境信息去官网查看hadoop2.7.1 匹配的Hbase版本此处下载的是1.4.1原创 2021-03-30 15:51:09 · 373 阅读 · 0 评论 -
GeoMesa执行SparkSQL源代码分析
最近用GeoMesa 和PG执行空间函数做了下对比,和预期的差距好大,就简单看了一下里面的执行计划,先说下结论吧,单纯从SparkSQL执行效果上来看,SparkSQL在单表操作上还有点性能,如果通过JOIN两张表,不管的大表还是小表,性能都一般,一下说明下执行问题。...原创 2021-03-24 11:40:35 · 318 阅读 · 0 评论 -
GeoTrellis 基于GeoTrellis 进行栅格瓦片生成
读取minio上的影像文件当前GeoTrellis的版本是3.5.2 val source1 = S3GeoTiffRDD.spatialMultiband("datas", "multiband.tif", S3GeoTiffRDD.Options(maxTileSize = None, partitionBytes = None, getClient = () => client.get()))(SparkConfigure.sc)定义重采样和重投影参数定义瓦片大小和原创 2021-03-15 15:20:26 · 718 阅读 · 0 评论 -
GeoMesa SparkSQL 支持 ShortType(PG int2 不被支持 java.util.NoSuchElementException: head of empty list)
源码原始文件SparkUtils 支持的数据类型如下:private def createStructField(ad: AttributeDescriptor): Option[StructField] = { val bindings = Try(ObjectType.selectType(ad)).getOrElse(Seq.empty) val dt = bindings.head match { case ObjectType.STRING => DataT原创 2021-03-05 17:58:25 · 480 阅读 · 0 评论 -
GeoTrellis栅格数据按照金字塔进行数据提取
GeoTrellis 栅格数据处理@Serviceclass RasterIngestImageHander @Autowired()(miniTools: MiniTools) extends AppHander { private val LOG: Log = LogFactory.getLog(this.getClass) private val sparkUtil = new SparkUtil private val convert = new RasterIngest原创 2021-03-04 10:54:08 · 463 阅读 · 1 评论 -
GeoTrellis做矢量栅格化
样例代码整理@Serviceclass VectorDataRasterHander @Autowired()(geoTools: GeoTools) extends AppHander { private val LOG: Log = LogFactory.getLog(this.getClass) private val sparkUtil = new SparkUtil private val convert = new VectorDataRasterConvert原创 2021-03-04 10:51:27 · 234 阅读 · 1 评论 -
Spark算子引入Spring boot 项目 按照环境获取配置信息(GeoMesa)
最近写GeoMesa 进行矢量处理的算子,因为现在区分不同的环境信息,所有的传参都是通过Redis进行触发,数据的上传也是在MiniO上,所以需要引入Spring boot 来处理环境信息和初始化过程Spring boot 启动类代码更改@Slf4j@SpringBootApplicationpublic class GeoMesaToolsApplication implements CommandLineRunner { public static void main(String[]原创 2021-03-04 10:46:46 · 375 阅读 · 1 评论 -
GeoMesa 实现ArcGIS 矢量分析模块 “标识“能力实现
算法描述地址:https://desktop.arcgis.com/zh-cn/arcmap/10.3/tools/coverage-toolbox/how-identity-works.htm算法参数实体类:class VectorMarkEntity extends Serializable { @BeanProperty var taskNo: String = null @BeanProperty var appName: String = null @BeanPro原创 2021-03-04 10:27:58 · 261 阅读 · 1 评论 -
GeoMesa 将矢量文件(GeoJSON)转存到Hbase集群内
GeoMesa对矢量文件(shp,geojson)都是需要GeoTools的支持,主要是依赖GeoToolsSpatialRDDProvider来处理配置POM文件支持GeoJson接入 <dependency> <groupId>org.geotools</groupId> <artifactId>gt-geojsondatastore</artifactId> <原创 2021-01-19 14:28:13 · 617 阅读 · 1 评论 -
GeoSpark处理SHP文件并转存到MYSQL
最近看关于ELT相关的东西,因为我们前面已经设计了数仓,是面向Gis的数仓设计,所有需要对一些Gis行业相关的数据提供一定的Spark处理能力,小数据量就基于docker进行处理,大数据量docker的处理规模和效率就满足不了,所有就先用GeoSpark处理了下数据刚开始代码的坑主要在jar包不匹配,找不见某些函数最后查了下官网的maven依赖关系,pom.xml 内容 <depen...原创 2019-09-03 16:58:39 · 773 阅读 · 0 评论 -
GeoTrellis进行栅格数据切片
这段时间在做数仓相关的东西,也快完成了,就看看ETL相关的技术,做做前期demo,关于Geo行业的大数据处理相关的组件搜刮了下,服务器目前还没空闲,的到10月才能整合空闲资源,所有就以单机环境为例写写demoGeoTrellis网上有一篇是关于多波段栅格文件切片的,但是自己试了下没跑通,就自己从官网上看了下,整合了下网上的例子,终于跑通了 def spliteetl = { var a...原创 2019-09-03 16:31:00 · 1274 阅读 · 0 评论 -
GeoMesa 3.2.0 st_transform 报错问题处理
在GeoMesa 3.2.0 中st_transform 函数无法执行,包括3.1.0 需要统一jtl的包版本重新编译因为gt里面依赖的是1.17.0 两个包对面要素外环的获取返回类型不统一,导致坐标转化会出错原创 2020-12-15 15:18:46 · 661 阅读 · 0 评论 -
GeoMesa 支持多坐标系存储
最近在使用GeoMesa 处理数据,发现源码中只支持WGS84,最近更改了下源码贴出解决办法原创 2020-12-15 15:12:47 · 732 阅读 · 1 评论 -
hadoop + zk+ hbase+ GeoMesa + GeoServer单环境部署
最近公司正在用GeoMesa处理SHP数据,需要通过GeoServer进行数据发布,就将单机环境下安装教程总结下:这里采用的是GeoMesa 2.3.2 + HBASE 1.3.6 + HADOOP 2.9.21.Hadoop安装1.1 下载hadoop包http://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-2.9....原创 2019-11-26 11:06:39 · 1002 阅读 · 0 评论 -
GeoMesa处理SHP数据
object GeoMesaHandle { def geoMesaSqlToRDB(input:Map[String,String],params:Map[String,String],out:Map[String,Object],sc:SparkContext)={ // Create SparkSession //val url = "jdbc:postgresql://...原创 2019-11-14 09:53:56 · 1144 阅读 · 0 评论