- 博客(113)
- 资源 (17)
- 问答 (1)
- 收藏
- 关注
原创 Linkis 0.11.0 发布,新增 ElasticSearch 与 Presto 引擎
大家期待已久的ElasticSearch引擎和Presto引擎来啦!Linkis 0.11.0 是由微众银行和MobTech团队作为主要贡献者的一个重要版本。这是基于Linkis 0.10.0的下一个发行版本。此版本新增了Presto引擎、Es引擎、以及Spark引擎on cluster模式进行了实现,并对0.10.0版本前的多个Bug进行了修复。特性增强1. 新增了ElasticSearch引擎,支持通过Linkis-Client提交esql和ejson脚本;2. 新增 Presto.
2021-01-22 14:38:07
669
原创 Linlis 0.X版本架构解析系列 --Job执行流程架构源码解析
作业执行服务在Linkis 中承担了计算的作用,Job作为作业执行服务中的最小单元,为Job定义了通用的接口和执行优化,来提升Job的通用性和能力。从Job封装到运行,涉及到Linkis中的多个服务,本文将介绍linkis 0.X版本中的Job从提交到执行的整个过程。开源计算中间件Linkis介绍:https://github.com/WeBankFinTech/LinkisLinkis是一个打通了多个计算存储引擎如:Spark、TiSpark、Hive、Python和HBase等,对外提供统一.
2020-11-04 19:20:56
591
1
原创 Linkis和DSS本地和远程调试文档
一、前言Linkis和DSS的每个微服务都支持调试的,大部分服务都支持本地调试,部分服务只支持远程调试。支持本地调试的服务Eureka:设置的调试Main class是com.webank.wedatasphere.linkis.eureka.SpringCloudEurekaApplication DSS-Server的主类为:com.webank.wedatasphere....
2020-03-02 14:51:52
2733
原创 Linkis 0.9.2 版本发布
GitHub地址:https://github.com/WeBankFinTech/Linkis什么是Linkis?Linkis是微众银行自研的一个打通了多个计算存储引擎如:Spark、TiSpark、Hive、Python和HBase等,对外提供统一REST/WebSocket/JDBC接口,提交执行SQL、Pyspark、HiveQL、Scala等脚本的计算中间件。Linkis 0...
2019-12-31 10:36:31
592
原创 Spark常见问题汇总
整理工作中遇见的Spark问题,希望能给大家在使用Spark或者运维Spark如果遇到类似的问题可以参考进行解决一.SparkSQL相关在执行insert 语句时报错,堆栈信息为:FileSystem closed。常常出现在ThriftServer里面。原因: 由于hadoop FileSystem.get 获得的FileSystem会从缓存加载,如果多线程一个线程closedFi...
2019-07-31 18:13:42
3266
2
原创 Scala学习笔记
本文主要是我在阅读快学Scala(Scala for the Impatient)中所记录的笔记,暂缺:十六、十九、二十二。神奇的Scala:面向表达式编程。
2017-03-13 15:29:07
2997
原创 dubbo-admian的打包和平台搭建
本文简单介绍下dubbo-admin的搭建过程,包括dubbo-admin的打包细节,以及在打包过程中jdk8的一些坑的解决。
2017-03-06 14:51:28
3607
原创 利用Thrift和zk简单实现服务治理框架中的订阅发布机制
本文简单介绍下利用Thrift和zk简单实现服务治理框架服务的订阅发布机制,类似于Dubbo的服务治理。这个只是简单版本,只供学习和理解用。
2017-01-06 10:59:42
4098
1
原创 RMI(远程方法调用)介绍
本文简单介绍下RMI。即Java RMI(Java Remote Method Invocation)是Java编程语言里,一种用于实现远程过程调用的应用程序编程接口。它使客户机上运行的程序可以调用远程服务器上的对象。远程方法调用特性使Java编程人员能够在网络环境中分布操作。RMI全部的宗旨就是尽可能简化远程接口对象的使用。
2016-10-14 09:42:09
2257
原创 netty入门学习
本文简单介绍下netty。Netty是由JBOSS提供的一个java开源框架。Netty提供异步的、事件驱动的网络应用程序框架和工具,用以快速开发高性能、高可靠性的网络服务器和客户端程序。
2016-10-09 10:24:55
2003
原创 利用ZooKeeper简单实现分布式锁
下面讲解下怎么利用ZooKeeper简单实现分布式锁,对于zk的安装和简单使用请参考我的文章:Hadoop集群之 ZooKeeper和Hbase环境搭建
2016-09-18 09:00:17
30789
4
原创 nginx的安装与使用
趁最近还没准备毕业论文的间隙,简单开启下微服务教程,希望能给大家带来帮助。本文是负载均衡部分使用第一篇,简单介绍下nginx的使用,以及nginx的反向代理,静态优化,负载均衡简单介绍.
2016-09-16 11:29:41
960
原创 leetcode10-Regular Expression Matching之Java版本
我的leetcode之旅,该篇章主要完成使用Java实现算法。这是第10篇Regular Expression Matching
2016-09-12 12:30:27
1216
原创 leetcode09-Palindrome Number之Java版本
我的leetcode之旅,该篇章主要完成使用Java实现算法。这是第9篇Palindrome Number
2016-08-02 17:03:56
1335
原创 leetcode08- String to Integer (atoi)之Java版本
我的leetcode之旅,该篇章主要完成使用Java实现算法。这是第8篇String to Integer (atoi)
2016-07-18 21:19:48
1796
原创 leetcode07- Reverse Integer之Java版本
我的leetcode之旅,该篇章主要完成使用Java实现算法。这是第7篇Reverse Integer
2016-06-22 11:06:47
671
原创 leetcode06- ZigZag Conversion之Java版本
我的leetcode之旅,该篇章主要完成使用Java实现算法。这是第6篇ZigZag Conversion
2016-06-02 19:05:51
3213
原创 leetcode05- Longest Palindromic Substring之Java版本
我的leetcode之旅,该篇章主要完成使用Java实现算法。这是第5篇 Longest Palindromic Substring
2016-05-27 15:17:53
2935
原创 leetcode03-Longest Substring Without Repeating Characters之Java版本
我的leetcode之旅,该篇章主要完成使用Java实现算法。这是第三篇Longest Substring Without Repeating Characters
2016-05-25 18:09:32
3270
原创 JAVA相关的视频学习视频,内容较多
整理的一些JAVA相关的视频,提供百度云链接,觉得有用的就自己择优选择。视频较多,一定要自己甄别出对自己有用的。
2016-05-12 17:51:52
24539
2
原创 Hadoop简单入门之伪分布式搭建
前面两章主要讲解了完全分布式的搭建,这章主要讲解服务器单机完成伪分布的搭建,介绍Hadoop配置,启动,以及简单测试。我的机器:阿里云服务器,64位,Java64,Hadoop2.4.1(64)
2016-05-08 10:04:52
4084
原创 Hadoop集群之 ZooKeeper和Hbase环境搭建
前面讲解了Hadoop完全分布式的搭建,本章主要讲解一下在Hadoop完全分布式已经搭建成功的情况下搭建ZooKeeper和Hbase环境
2016-05-07 09:52:14
12697
原创 Hadoop完全分布式安装
本文主要讲解Hadoop完全分布式的搭建,使用vm建立三个相同配置的主机进行搭建。本文讲解所有详细步骤希望对大家有用。
2016-05-06 20:50:21
8305
原创 leetcode02-Add Two Numbers之beats98.68%Java版本
我的leetcode击败90%之旅,该篇章主要完成使用Java实现算法,达到进入10%的阵营。这是第二篇Add Two Numbers
2016-04-11 09:50:40
1047
原创 leetcode01-Two Sum之beats99.47%Java版本
我的leetcode击败90%之旅,该篇章主要完成使用Java实现算法,达到进入10%的阵营。这是第一篇Two Sum
2016-04-09 10:39:47
2059
转载 如果你用GitHub,可以这样提高效率
一年时间我们从几个人的开发团队发展到十几人的团队,最初的我们只有两个后端加两个前端,而且其中三个还是实习生。但今时不同往日,现在我们有前端、后端、测试、运维、设计、产品、交互,成功集齐了七个兵种,可以召唤神龙,赐我们一个敏捷的开发团队。作为一个敏捷性的开发团队,我们要保持快速的迭代速度的同时保证高质量的代码,这是一个艰巨的过程。
2016-04-01 09:31:59
1888
原创 springMvc的Hello world(xml配置)
本章主要介绍与Struts2类似的mvc框架SpringMvc,讲解怎么建立第一个helloworld程序的建立
2016-03-25 16:17:06
1685
原创 Msql入门实战之下
前面一章主要讲解了mysql的select的用法,将select的大部分用法进行分别讲解。本章主要讲解Msql约束表的建立,以及存储过程的实现,附带其他介绍。暂时就算入门了,Mysql索引之后另开章节;
2016-01-25 10:34:19
2335
zkDistributedLock
2016-09-17
thriftDependencyJar
2016-09-12
mysql-workbench-community-6.3.5-1ubu1504-amd64.deb
2015-11-18
StrutsPrepareAndExecuteFilter中字段的问题
2015-12-22
TA创建的收藏夹 TA关注的收藏夹
TA关注的人