- 博客(21)
- 资源 (1)
- 收藏
- 关注
原创 [JAVA] 生成MD5 java.security.MessageDigest BUG
数据校验用的MD5:def getMessageMd5(string: String): String = { try { val mD5 = MessageDigest.getInstance("MD5") mD5.update(string.getBytes()) BigInt(1, mD5.digest()).toString(16)
2017-08-22 17:33:22 894
转载 数据仓库建设
概念:浅析数据仓库与数据库的区别数据仓库(Data Warehouse)是一个面向主题的(Subject Oriented)、集成的(Integrate)、相对稳定的(Non-Volatile)、反映历史变化(Time Variant)的数据集合,用于支持管理决策。所谓的(1) 面向主题:指数据仓库中的数据是按照一定的主题域进行组织。(2)集成:指对原有分散的数据库数据经过系统加工, 整理得到的消除
2017-08-15 11:58:42 452
转载 MySQL 存储过程
入门:MYSQL中存储过程的创建,调用及语法 我们常用的操作数据库语言SQL语句在执行的时候需要要先编译,然后执行,而存储过程(Stored Procedure)是一组为了完成特定功能的SQL语句集,经编译后存储在数据库中,用户通过指定存储过程的名字并给定参数(如果该存储过程带有参数)来调用执行它。 一个存储过程是一个可编程的函数,它在数据库中创建并保存。它可以有SQL语句和一些特殊的控
2017-08-14 15:18:35 468
原创 databricks notebook 笔记
我们要做的 大数据平台 打算使用spark 来做 ,我很开心spark 软件栈丰富全面,涵盖了离线数据清洗、流处理、迭代的机器学习想不起来了暂时Databricks是Berkeley AMPLab Spark大牛们的新作, 定位是”Databricks is a managed platform for running Apache Spark”It’s a point and clic
2017-08-14 14:50:24 2426
转载 java虚拟机笔记
Java 内存区域与内存溢出异常相比于c++,Java在内存管理机制的帮助下,不容易出现内存泄露,内存溢出的问题but,由于内存的控制权不在coder手里,所有一旦出现内存问题,。。。 所以要了解Java虚拟机是怎样使用内存的运行时数据区域jvm是什么
2017-08-11 10:57:56 336
原创 ipython notebook
ipython notebook 是用Python 做教学,科研 计算的工具 Ipython 用浏览器做界面,后台想Ipython 服务器发送请求,获得结果 使用 websocket 不支持IE浏览器 反正我用chrome websocket: WebSocket是HTML5开始提供的一种浏览器与服务器间进行全双工通讯的网络技术。 WebSocket通信协议于2011年被IETF
2017-08-08 15:37:39 384
转载 shell 看门狗
应用是通过nohup java -jar xx.jar & 难免遇到unkown error 挂掉,所以有必要编写看门狗 保护一下 #!/bin/bash now=date ‘+%Y-%m-%d %H:%M:%S’`grepFlag=’datawarehouseLoader.jar’ thisLog=’/loader/watchDogLog.log’baseDir=”/loader/”
2017-08-02 10:12:38 1095
原创 Mastering Http Response
HTTP请求报文和HTTP响应报文http 报文是面向文本的,报文中的每一个字段都是一些ASCII码串,各个字段的长度是不确定的。分两种,请求报文和响应报文。请求报文//ToDo响应报文http响应由四部分组成,分别是: 状态行、消息报头、空行、 响应正文格式: //[]状态行格式如下:HTTP-Version Status-Code Reason-Phrase CRLF其
2017-08-01 09:14:13 297
原创 Apple MackBook 选购比较
结论先行Macbook air 虽然便宜,但是屏幕不是Retina 显示屏,可以排除候选行列,15寸MacBook Pro的太沉,也排除Macbook 屏幕是Retina 显示屏,屏幕12寸,性价比不高Macbook pro 带touch bar版13寸,配置最高、性能最好、特别是在图像处理方面的性能尤佳Macbook pro 不带touch bar版13寸,性价比最高,我司前端开发多数
2017-08-01 09:14:10 1172
原创 Todo
TodoList:3 docker 了解 1 scala implicit 复习5 scaladoc 学习 1 redshift 插入效率1 数据库连接线程池 ok 暂时用不到1 redis1 完善log ok4 类加载器2 偏函数3 JVM 参数 等等3 sbt1 睡眠十率 ok 5*1.5 = 7.5- 还有点小复杂,暂时不用了,之情项目都没有用,现在自己来做这件事
2017-08-01 09:14:07 330
原创 Redis Learning
应用场景:redis 适用于小而热的数据Redis应用场景Redis作者谈Redis应用场景我们在应用redis的场景是 缓存将收到的post报文缓存下,然后批量插入redshiftgithub上的scala版redis client官方推荐了好几款开源的scala 版客户端,都不知道选哪个比较好了,应该迅速读一遍scala 并发编程Redis is an open source(
2017-08-01 09:14:04 338
原创 Hash 算法
散列算法(Hash Algorithm),又称哈希算法,杂凑算法,是从任意文件中创造小的数字[指纹]的方法。散列算法是一种以较短的信息来保证文件唯一性标志,这种标志与文件的每一个字节都相关,而且难以找到逆向规律。因此,当原有文件发生改变时,其标志值也会发生改变,从而告诉文件使用者当前文件已经不是你所需求的文件。先举个例子。我们每个活在世上的人,为了能够参与各种社会活动,都需要一个用于识别自己的
2017-08-01 09:14:01 278
原创 Spray handle Post request
应用rest层使用的是spray库,之前使用GET REQUEST比较多,现在用到POST REQUEST了,现在记录总结下HTTP/1.1 协议规定的 HTTP 请求方法有 OPTIONS、GET、HEAD、POST、PUT、DELETE、TRACE、CONNECT 这几种。其中 POST 一般用来向服务端提交数据,本文主要讨论 POST 提交数据的几种方式。我们知道,HTTP 协议是以 A
2017-08-01 09:13:58 694
原创 Using Ubuntu16.04LS
使用ubuntu有段时间了,有些问题解决了没记录,有时间找回来在这里将使用过程中遇到值得记录的Mark下来卸载软件由于software总是打不开,所以选择用apt-get卸载//列出所有已安装的软件包dpkg --list结果ii xserver-common 2:1.18.3-1ub all common files used by various X seii
2017-08-01 09:13:55 778
原创 scala implicit
why应用中自己写的代码和调用的第三方函数库有着一个基本的区别:也就是你可以任意修改和扩展自己写的代码,而一般来说在没有源码的情况下很难扩展第三方函数库,只能利用函数库提供什么就是什么。在Scala中解决这个问题是使用隐含类型变换和隐时参数。它们可以使调用函数库变得更加方便,并避免一些繁琐和显而易见的细节。Scala 的implicit 可以有implicit 类方法参数。扩展的
2017-08-01 09:13:50 263
原创 了解Docker
DockerWhat is Docker?我的理解:在操作系统上新增的一层抽象解决的痛点:同一台服务器上多应用间的依赖冲突问题优势:很多,比如将多个应用部署在同一个云主机上,该云主机弹性扩展,这样能够节约不少成本目前的项目暂时用不到docker教程
2017-08-01 09:13:47 273
原创 Mastering Akka
程序是怎样运行的?进程和线程在当前抢占式多任务操作系统中,程序员几乎或者彻底失去了命令处理器调整程序执行次序的权利将程序中的各个可执行部分分配给指定的处理器,通常是操作系统OS的工作,这种机制称作多任务处理,而且对计算机用户透明进程是指被执行的计算机程序的一个实例在同一个进程中出现的独立控制流实体称为线程,在执行程序的过程中,每个线程都会描述程序栈和程序计数器的当前状态可以将进程视为一组OS线
2017-08-01 09:13:44 413
原创 SBT增加国内镜像并生效
第五章 SBT国内源配置2017-06-13 14:07:07前几天执行:sbt update 失败主要是 project/plugins.sbt里的插件下载失败resolved xx failed,说找不到该插件试了n多方法未果,今天发现用idea中的sbt插件可以正常获取到plugins.sbt中插件,所以严重怀疑是本机安装SBT有问题,sudo apt-get remove sbt然后,按
2017-08-01 09:13:41 1836
原创 Mastering HTTP侧
Http调试工具Postman使用Postman Postman测试接口之JSON结构化数据提交Postman使用详解JSONJSON:JavaScript Object NotationJSON is a syntax for storing and exchanging dataJSON is text,written with JavaScript object notation
2017-08-01 09:13:38 262
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人