- 博客(15)
- 资源 (4)
- 收藏
- 关注
原创 学习了解nacos原理以及源码解析
英文全称Dynamic Naming and Configuration Service,Na为naming/nameServer即注册中心,co为configuration即注册中心,service是指该注册/配置中心都是以服务为核心(相当于Spring Cloud的Eureka+Config)。nacos涉及的原理学习了解,以及从源码解析nacos工作原理。
2022-09-20 15:43:59 1693
原创 Java EasyExcel带格式多线程导出百万数据
Java结合Alibaba EasyExcel,通过多线程加redis缓存的方式,将明细表数据带有数据格式(字体格式,表头冻结,单元格合并等格式),导出百万数据量,响应时间30s左右。
2022-09-19 16:53:45 9056 31
原创 JAVA爬取淘宝、京东、天猫以及苏宁商品详细数据(一)
JAVA爬取某东、某宝以及某宁商品详细数据(一)写在最前反爬策略问题解决请求头配置无代理模式代理模式某东JDHTML解析JD商品解析天猫TMHTML解析苏宁SNHTML解析写在最前 防止篇幅过长,对于如何爬取某东、某宝以及某宁的历史价格数据,会在下一篇博客中进行总结:https://blog.csdn.net/qq_40921561/article/details/110950930反爬策略问题解决 某东、某宝以及某宁电商网站平台,对于爬虫还算比较友好,唯一的问题就是有些数据是动态加载
2020-12-10 13:23:19 4341 6
原创 Oracle——Mybatis的使用与sql优化总结
Oracle——sql优化总结序言case when原语句在现三级目录序言 写在最前,此博客会不断更新,整理总结开发工作(实战过程)中的sql优化问题;因笔者在大数据部门工作,所以数据量基本都是非常多的,也就更加关注大数据下的性能(所以对于有些操作可能在数据少的情况下,具有更高的效能)。也欢迎大家讨论补充。。case when case when 表达式是一个通用条件的表达式,可以在表达式有效的任何位置使用。原语句在现SELECT * FROM( SELECT t.*, (c
2020-10-14 20:42:37 1620
原创 Oracle——各种问题的分析、解决与总结
Oracle——各种问题的“踩坑”、“填坑”与“面壁思过”序言order byunion all用法说明补充:union与union all的区别union all 字段具有不同数量的列union all 字段顺序不一致序言 写在最前,此博客会不断更新,整理总结开发工作(实战过程)中的sql问题。欢迎大家指出问题。order by关于多次order by,结果集的顺序问题:链接: Oracle——分页查询出现重复数据问题的分析与解决.union all用法说明 UNION 操作符用
2020-09-23 18:00:12 490
原创 Java技术栈——Java多线程详述
多线程https://blog.csdn.net/u012403290/article/details/64910926对于synchronized与lock,看懂这个就足够了,不需要再深入其实synchronized映射成字节码指令就是增加来两个指令:monitorenter和monitorexit。当一条线程进行执行的遇到monitorenter指令的时候,它会去尝试获得锁,如果获得锁那么锁计数+1(为什么会加一呢,因为它是一个可重入锁,所以需要用这个锁计数判断锁的情况),如果没有获得锁,那么阻塞。
2020-09-20 15:34:41 3351 2
原创 Java技术栈——Java 8的Lambda讲解与应用
Lambda表达式Java8 的 lambda 的使用确实方便了许多,但也使初次了解的人感觉到难以阅读,其实是你不习惯的原因。很多语言从一开始就支持了 Lambda 表达式,像 Groovy,Scala 等。1.1 Lambda 表达式和函数式接口在 Java8 以前,我们想要让一个方法可以与用户进行交互,比如说使用方法内的局部变量;这时候就只能使用接口做为参数,让用户实现这个接口或使用匿名内部类的形式,把局部变量通过接口方法传给用户。传统匿名内部类缺点:代码臃肿,难以阅读Lambda 表达式L
2020-09-05 18:33:52 3119 1
原创 Oracle——分页查询出现重复数据问题的分析与解决
今天在使用SELECT * FROM ( SELECT A.*, ROWNUM RN FROM (SELECT * FROM TABLE_NAME) A WHERE ROWNUM <= n) WHERE RN > m作分页查询时,其中数据根据order by feeType asc 排序。结果查询的数据,很多页的数据居然是一样的。深思后怀疑,是排序的字段值不唯一,造成每次查询时的数据排序不一定完成一样。百度查找到原因和解决方法如下:在Oracle分页查询中,我们采用类似以下所示的公认的比较
2020-09-05 11:28:43 7209 6
原创 Java技术栈——Java的Class与反射机制原理详解(理解这些就足够了)
深入理解java的Class与反射机制https://blog.csdn.net/javazejian/article/details/70768369那为什么需要这样一个Class对象呢?是这样的,当我们new一个新对象或者引用静态成员变量时,Java虚拟机(JVM)中的类加载器子系统会将对应Class对象加载到JVM中,然后JVM再根据这个类型信息相关的Class对象创建我们需要实例对象或者提供静态变量的引用值。需要特别注意的是,手动编写的每个class类,无论创建多少个实例对象,在JVM中都只有一
2020-08-24 13:58:02 2167 1
原创 大数据技术栈——ETL(数据仓库技术)
ETL(数据仓库技术)ETL的概念ETL的三个阶段一、 数据的抽取(Extract)二、数据的清洗转换(Cleaning、Transform)三、ETL日志、警告发送ETL特点ETL的概念 ETL是英文Extract-Transform-Load的缩写,用来描述将数据从来源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程。目的就是将企业中的分散、零乱、标准不统一的数据整合到一起,为企业的决策提供分析依据。 ETL是BI(Business Intelligen
2020-08-19 15:05:06 5910
原创 大数据部门的作用与大数据工程师的工作
1.大数据部门作用 随着大数据产业迎来了发展的黄金期,越来越多的互联网公司转型为大数据公司。为促进大数据公司的健康发展,解决发展中遇到的问题,从大数据公司的概念及业务内容等入手,剖析大数据公司因有着不同于传统企业的复杂业务,在发展中不断遇到新问题而更需要构建内部控制。基于大数据公司的业务特点及出现的问题,认为内部控制环境、风险控制和内控监督、信息与沟通等要素是公司内部控制的重点,应构建适于大数据公司特点的企业发展战略、诚信的生态系统及文化理念、胜任大数据业务的人力资源战略、实时风险防控和监督体系等内
2020-08-18 22:42:57 2551
原创 大数据技术栈——Hadoop概述
大数据技术栈——Hadoop概述引例MapReduceHDFSHadoopHBaseHivePigCassandraChukwaZooKeeper引例Hadoop是专为离线和大规模数据分析而设计的,上图Hadoop整体技术框架描述。(为了方便学习,会先介绍Map Reduce与HDFS)MapReduceMapReduce是Google提出的大规模并行计算解决方案,应用于大规模廉价集群上的大数据并行处理(Map Reduce1.0运行模型如下)。MapReduce以key/value的分布式存
2020-08-17 13:52:17 3966
原创 pom.xml依赖报错,Missing artifact XXX 问题解决
pom.xml依赖报错,Missing artifact XXX 问题解决可能原因pom.xml依赖项配置格式说明手动下载相应的jar,然后将其安装到本地仓库pom.xml修改后eclipse导入或者新建Maven项目,pom.xml配置文件的报错,Missing artifact xxx-jar,问题即是Maven启动后,没有在指定仓库中找到该jar包。可能原因中心仓库或者本地仓库无此jar包;有些jar包是收费的(比如:Oracle 的 ojdbc.jar 驱动包),Maven 中央库中实际上
2020-08-13 14:09:44 10493
sapjco3-3.0.17.7z
2020-12-22
commons-lang-2.5-sources.jar
2020-08-14
commons-validator-1.2.0.jar
2020-08-14
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人