- 博客(670)
- 资源 (10)
- 收藏
- 关注
原创 【JAVA】雪花算法处理交易流水号
雪花算法是一种分布式ID生成方案,通过64位结构(1位符号位+41位时间戳+10位工作机器ID+12位序列号)实现全局唯一、趋势递增的ID。其Java实现类SnowflakeIdWorkerUtils支持生成支付单号、退款单号等业务ID,核心方法nextId()通过时间戳、机器ID和序列号的组合保证线程安全。该算法具有高性能、可反解等特点,适用于分布式系统场景。使用时需配置workerId和datacenterId,并通过getPointNo()等方法生成特定业务ID。
2025-05-28 17:43:09
554
1
原创 【MYSQL】mysql单表亿级数据查询优化处理
MySQL单表数据量过亿时性能下降明显,可通过合理使用索引进行优化。文章介绍了索引创建、查看和删除的SQL语法(CREATE INDEX/SHOW INDEX/ALTER TABLE DROP INDEX)。同时全面总结了MySQL聚合函数,包括基本聚合(COUNT/SUM/AVG/MIN/MAX)、高级统计(STD/VARIANCE)、分组函数(GROUP_CONCAT/WITH ROLLUP)和窗口函数(MySQL 8.0+的ROW_NUMBER等)。特别强调聚合函数与GROUP BY的配合使用、NUL
2025-05-28 17:35:35
864
原创 【JAVA】业务系统订单号,流水号生成规则工具类
在设计和实现业务系统的订单号和流水号生成工具时,需考虑多个关键因素以确保系统的稳定性和高效性。首先,唯一性是基础,特别是在分布式环境中,必须确保生成的ID不会重复。其次,有序性有助于提升数据库索引的性能,通常通过时间戳实现。可读性则要求ID中包含时间信息,便于人工识别和排查问题。扩展性方面,ID应支持业务前缀和类型区分,以适应不同的业务需求。性能上,本地生成ID可避免网络开销,而高并发场景下需确保线程安全,避免阻塞。
2025-05-12 15:11:42
884
1
原创 【JAVA】商城积分发放,回退核心逻辑实现示例
数据库表设计:-- 用户积分账户表user_id BIGINT NOT NULL COMMENT '用户ID',total_points BIGINT NOT NULL DEFAULT 0 COMMENT '总积分',available_points BIGINT NOT NULL DEFAULT 0 COMMENT '可用积分',frozen_points BIGINT NOT NULL DEFAULT 0 COMMENT '冻结积分',
2025-05-08 10:45:36
1033
1
原创 【JAVA】如何快速阅读一个基于maven构建的springboot项目
在JAVA项目开发过程中,现在比较流行的是springboot机构,特别是在后端开发的项目中,springboot应用的非常普遍。第五步,展开项目的层级结构,看看controller,service, serviceImpl,dao,mapper这些都是怎么写的。后端 Server 的主项目,通过引入需要 test-module-xxx 的依赖,比如数据库的链接,redis的连接,定时任务的配置,日志输出的配置等相关内容。比如数据库,消息队列,监控,认证,数据库连接池,工具类,日志类等等组件。
2025-05-02 11:37:09
1140
1
原创 【管理】管人就是管责权利
乱象二、在一个企业的管理中,激励措施匮乏,无论员工的付出的多还是少,或者报酬的机会都是一样,有的虽然有激励措施,但是在实际的管理过程中,并没有按照激励措施去执行,导致了员工们工作积极性不高,躺平模式和摸鱼模式的显著。经过大量的实践和验证,许许多多的管理者们,企业CEO们总结很多非常宝贵的经验,他们在企业管理中获得了卓越的成就,有的将企业规模不断做大做强,有的开创了新的局面,有的挽狂澜于既倒。一个优秀的管理者,靠的原则,规则,契约,制度,付出与价值来管理企业和员工,其他的仿佛并不是那么凑效。
2025-05-02 09:23:52
55
原创 【Java】 使用 HTTP 响应状态码定义web系统返回码
ErrorCode TOO_MANY_REQUESTS = new ErrorCode(429, "请求过于频繁,请稍后重试");// 并发请求,不允许。ErrorCode INTERNAL_SERVER_ERROR = new ErrorCode(500, "系统异常");// ========== 客户端错误段 ==========// ========== 服务端错误段 ==========// ========== 自定义错误段 ==========
2025-04-28 16:55:54
569
原创 数据仓库ODS、DWD、DWS、ADS各层介绍
1. ODS(Operational Data Store,操作型数据存储)ODS层是数据仓库体系结构的最底层,主要用于存储从各个操作系统采集来的原始数据。它作为数据仓库的临时区域,经过ETL(抽取、转换、加载)过程后,将数据源中的数据抽取、洗净并传输到ODS层。ODS层的主要功能是为后续的数据仓库层(如DWD层)提供原始数据,同时减少对业务系统的影响。2. DWD(Data Warehouse Detail,数据仓库明细层)DWD层是数据仓库的明细层,用于存储详细、完整的数据。
2025-04-22 09:14:34
2889
2
原创 【软考】论NoSQL数据库技术及其应用示例
本人有幸参与了公司的全息系统的开发,该系统涉及到大数据领域与web应用领域,主要业务是采集用户使用互联网行为习惯数据,对互联网用户进行用户画像刻画,该系统架设在超2000个hadoop集群节点上,每天收集和处理数据超过100个TB,面对如此庞大的数据采集和查询,NOSQL数据库是我们系统应用的数据库之一,下面让我来介绍NOSQL数据库在该系统中的应用和处理效果。全息系统需要能够随着数据量的增长而扩展。例如,MongoDB的副本集和分片功能,以及Cassandra的集群模式,都提供了强大的扩展能力。
2025-04-21 16:32:01
558
原创 【软考】论devops在企业信息系统开发中的应用
随着互联网的不断发展,各行各业都在建设自己的企业信息系统,而随着业务的不断升级和复杂化,系统的更新迭代速度越来越快,系统也越来越复杂。对于信息系统开发者,架构师,管理者,如何高效的开发,集成,交付高质量的系统功能成了系统开发者,架构师,管理者们的一项具有挑战性的工作。在不断的实践经验中 ,我们总结了devops方法,能够快速 进行系统开发,系统集成 ,系统交付,从而缓解了企业对系统建设快速交付的要求,该套方法介绍系统开发中如何应用devops进行系统快速开发,持续集成,快速交付的方法和工具。
2025-04-16 09:50:22
1243
1
原创 日常数据库运维操作整理
在对MYSQL表进行更新操作过程中可能会出现死锁问题,这时我们需要释放锁 ,保障被锁 数据 表能够 正常被其他应用程序更新。3、clickhouse运维。1、MYSQL死锁处理。2、mysql中查询。保留前一天的日期数据。
2025-04-15 17:13:26
881
原创 软考案例分析实例答题模板
解决方案一: 采用统一的数据接口, 实现系统间数据的高效交互;效率,降低开发成本;先, 分析了智慧城市建设的现状与需求, 提出了基于云计算的智慧城市建设架构;2. 应用层部署了多个业务系统, 如电商系统、 在线教育系统等, 这些系统之间通过。 加强系统安全性, 如采用加密技术、 防火墙等手段, 提高系统的安全性和可靠性。3. 数据一致性问题: 分布式架构中, 数据可能存在不一致的情况, 需要采取相应的。1. 高度耦合: 微服务架构中, 服务之间存在大量的接口依赖, 可能导致服务之间的。
2025-04-08 17:15:47
141
1
原创 【软考备考】管道一过滤器(Pipe-Filter)的架构风格
在 软考中我们常见的几个关键字:管道一过滤器(Pipe-Filter)的架构风格。。我 也是在软考 试题中财发现 有这样的描述。所以来了解一下。
2025-03-31 15:20:56
787
1
原创 【数据仓库】数据库仓库分层
数据中心的用户希望数据是由他们熟悉的术语表现的。数据集市(Data Mart),也叫数据市场,数据集市就是满足特定的部门或者用户的需求,按照多维的方式进行存储,包括定义维度、需要计算的指标、维度的层次等,生成面向决策分析需求的数据立方体。但是,实际情况下,我们所面临的数据状况很有可能是复杂性高、且层级混乱的,我们可能会做出一套表依赖结构混乱,且出现循环依赖的数据体系,比如下面的右图。该层是在DWD层的数据基础上,对数据做一些轻微的聚合操作,生成一些列的中间结果表,提升公共指标的复用性,减少重复加工的工作。
2025-03-31 11:20:20
1014
原创 【软考备考】系统架构设计论文完整范文示例
本文以某省级智慧政务平台建设项目为背景,针对传统政务系统存在的"信息孤岛"、扩展性差、维护成本高等问题,提出了一套基于微服务与云原生技术的解决方案。通过领域驱动设计方法划分业务边界,采用Spring Cloud Alibaba微服务框架实现服务治理,基于Kubernetes构建容器化运行环境,结合服务网格技术完善服务间通信机制。在数据层面,通过数据中台实现政务数据共享,采用多级缓存与读写分离策略提升系统性能。安全方面构建了包含身份认证、访问控制、数据脱敏的全方位安全体系。
2025-03-28 16:05:05
1257
原创 【软考备考】系统架构案例分析示例(一)
某大型电商企业计划开发新一代电商平台,要求支持:日均PV 1亿以上促销期间峰值QPS 10万+商品SKU超5000万支持多平台接入(Web、App、小程序等)实现秒杀、拼团等营销功能。
2025-03-28 09:25:39
1114
原创 阿里云通用数据开发流程
DataWorks提供数据集成服务,可以支持多种数据源类型,根据预设的调度周期同步业务系统的数据至MaxCompute。通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。
2025-03-14 15:27:41
878
1
原创 阿里云dataworks入门操作
DataWorks基于MaxCompute、Hologres、EMR、AnalyticDB、CDP等大数据引擎,为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。从2009年起,DataWorks不断沉淀阿里巴巴大数据建设方法论,支撑数据中台建设,同时与数万名政务、央国企、金融、零售、互联网、能源、制造、工业等行业的客户携手,不断提升数据应用效率,助力产业数字化升级。产品架构DataWorks十多年沉淀数百项核心能力,通过。
2025-03-14 10:54:35
1784
原创 【管理】管理者最容易犯的错就是抛开权力只谈责任
管理一个公司或者项目 或者团队其实很简单,那就是建立规章制度,工作流程,工作机制,协同机制。而不是带有感情色彩的一顿乱指挥,责权利协同考虑进行,而不是永远只谈责任。
2025-03-12 17:47:52
82
原创 【人工智能】数据挖掘与应用题库(501-600)
21、一个完善的ETL系统必须具有流程步骤控制能力,系统的划分和流程调度的能力,有合理的调度算法,有日志和警告系统,且有较高的可靠性。14、ETL数据加载策略包括时间戳的加载方式、全表对比的加载方式、通过读取日志表进行加载的方式、全表删除后再进行加载的方式。答案:贪婪模式表示尽可能多的匹配,匹配模式:(.*),非贪婪模式表示尽可能少的匹配,匹配模式:(.*?12、ETL数据抽取的周期是根据业务的需求制定的,如按小时抽取,或者按天、月、季度、年等抽取。
2025-03-06 16:30:09
900
1
原创 java中使用java扩展包下的mail实现邮件发送
Java中经常需要使用发送邮件的场景 ,比如日志告警,某些任务运行情况,当无人值守的时候,系统出现了问题,需要系统自动发送邮件给到运维人员。所以实现自动发送邮件是java开发人员必掌握的技能之一。
2025-03-06 09:22:15
1224
原创 人工智能】数据挖掘与应用题库(401-500)
29、在爬取某些网页的时候,有些数据在网页源代码中找不到,这种数据被称为Ajax数据,有些Ajax数据在浏览器中可以找到,有些则需要借助于抓包工具如Fiddler找到。66、DataFrame中获取某一列的值有两种写法,一种是通过括号+引号,例如jobInfo['职位名'],另一种是.获取,例如jobInfo.职位名。9、异常值又称为离群点,是指数值明显偏离其余观测值的数据。35、免费的代理IP不靠谱,时效快,付费的代理IP比较靠谱,但是会有使用限制,比如IP限制,或者账户、密码限制。
2025-03-05 17:33:36
2643
原创 【人工智能】java流式返回数据接口
最近由于需要接入deepseek,而且使用的java的后端框架,平时的接口都是返回实体数据,使用deepseek由于模型在思考的过程中比较耗时,有使用流输出和非流输出两种方式。事件流格式:使用简单的文本格式传输数据,每条消息以"data:"开头,并以两个换行符"\n\n"结束。如果web服务器使用的是nginx,还要配合nginx配置,如果不配置,就无法通过流的方式输出到客户端。单向通信:SSE是单向的,服务器可以向客户端推送数据,但客户端不能向服务器发送数据。SseEmitter的使用方法。
2025-02-28 17:54:32
2128
原创 【人工智能】数据挖掘与应用题库(301-400)
57、字符串函数replace用于替换字符串中指定的字符串,有两个常用参数,第一个参数表示被替换的字符串,第二个参数表示用于替换旧字符串的新字符串。79、Scrapy项目中,默认为ROBOTSTXT_OBEY = True,即遵守Robots协议,如果需要禁用Robots协议,将次参数注释掉。92、创建多个进程,目的是为了利用CPU的多核,让CPU同时执行多个任务。5、在数据框book_info中,进行频率统计,用book_info['出版社'].value_counts(),默认是升序排列。
2025-02-28 17:35:22
1551
原创 【人工智能】数据挖掘与应用题库(201-300)
scrapy项目中,XPath语句最后需要加上extract方法,例如response.xpath('//title/text()').extract()在Scrapy项目中,使用XPath格式为response.xpath,例如response.xpath('//title/text()')34、以下描述是否正确,贪婪模式表示尽可能多的匹配,匹配模式:(.*),费贪婪模式表示尽可能少的匹配,匹配模式:(.*?67、Selenium中,获取元素的属性通过get_attribute('class')。
2025-02-27 17:13:35
1073
原创 【人工智能】数据挖掘与应用题库(101-200)
78、Pytorch中,如果一个变量依赖的变量的requires_grad属性为True,则该变量的requires_grad也会被置为True,即也会自动计算该变量的梯度。答案:加载全模型所用的是models模块的load_model ()函数,加载全模型所用的是模型对象的load_model()方法。答案:谷歌公司推出的深度学习框架,基于数据流图的开源平台,2.x版本已整合Keras作为推荐的API。77、关于有Pytorch中的Variable对象,下列说法正确的是?
2025-02-26 16:59:51
1370
原创 【人工智能】数据挖掘与应用题库(1-100)
23、基于大量的统计数据,确定因变量与某些自变量的相关关系,建立一个相关性较好的回归方程(函数表达式),此为回归分析。26、若向量α=(1,3,-1,-2),β=(-1,1,-2,3),则α与β的内积为( )11、神经网络一般包括3层: 输入层、中间层(隐藏层)、输出层,激活函数通常位于( )60、神经网络一般包括3层: 输入层、中间层(隐藏层)、输出层,激活函数通常位于( )99、若向量α=(1,3,-1,-2),β=(-1,1,-2,0),则α与β的内积为( )
2025-02-26 15:29:24
839
原创 机器学习中降维的主要算法主成分分析(PCA)、线性判别分析(LDA)、潜在语义分析(LSA)和t-分布邻域嵌入算法(t-SNE)
LDA是一种监督学习的降维方法,其目标在于找到一个低维度的表示,使得同类别的数据点尽可能接近,而不同类别的数据点尽可能远离。本文将详细介绍四种常用的降维方法:主成分分析(PCA)、线性判别分析(LDA)、潜在语义分析(LSA)和t-分布邻域嵌入算法(t-SNE)。t-SNE是一种非线性降维方法,其目标在于找到一个低维度的表示,同时保留原始数据中的局部结构和非线性关系。t-SNE在高维数据的可视化方面表现出色。LSA是一种基于矩阵分解的降维方法,旨在找到一个低维度的表示,同时保留原始数据中的语义信息。
2025-02-17 10:58:50
1094
1
原创 【人工智能】人工智能学习基础知识汇总
例如:tup1=('Google',‘baidu',1997,2000)tup1[0]的值为'Google'2. 阈值(也叫临界值):在许多分类模型中,模型预测的结果不是negative(负类)/positive。2. 基于树的算法(如决策树、随机森林等)不考虑特征的大小,通常不需要进行数据缩放,离散化也叫分箱(binning),是指把连续的特征值划分为离散的特征值(划分为不同的箱。机器学习算法是实现人工智能落地的引。1. 神经网络概念:是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。
2025-02-14 17:18:03
3038
1
原创 【人工智能】临时抱佛脚准备明天的人工智能考试,试题与答案汇总
反向传播算法反向传播算法是一种用于训练神经网络的算法,其核心思想是计算代价函数对参数的梯度,通过梯度优化方法更新参数,从而使得模型产生更好的预测效果。实现过程可以分为两个步骤:前向传播和反向传播。前向传播:将输入数据传入网络,经过一系列的矩阵乘法和非线性变换后得到模型的输出值。同时,记录下每层的输入和输出值。反向传播:计算代价函数对模型参数(权重和偏置)的梯度,并利用梯度下降方法更新参数。反向传播的具体实现可以使用链式法则,即从输出层开始,依次计算每一层的误差并向前传递。最终得到的梯度可以用于更新参数。
2025-02-14 15:07:54
1042
原创 【人工智能】通过python练习机器学习中的8大算法
python一系列练习在前面几节中基本练习了一遍,本篇通过机器学习的算法加强python的训练。我印象中常用的几种算法有:线性回归、逻辑回归,决策树,向量机SVM,KNN-近邻,朴素贝叶斯,K-means,神经网络tensorflow。记起来的也就这些,那么久通过python去撸一遍看看效果。马上开搞。
2025-02-13 15:54:34
1479
原创 【人工智能】python部署到linux系统运行
前言前面博主练习了python的一些基本操作还有更早之前的python的数据结构,算法,变量,函数,类python的模块,,python提供http接口,python连接数据库等等这些练习,还接入deepseek,程序都能运行起来,不过都是在Windows系统上运行的,从练习经验来说,在Windows通过编辑工具Pycharm去运行python程序很简单,用到库和包,就直接去安装就行。那么如果将程序放到linux上去要怎么操作呢。博主就按照小白的思路去逐步学习和练习,我遇到的问题肯定新手也遇到过。
2025-02-13 09:42:01
1325
原创 【人工智能】通过python连接mysql数据库
上一节练习了通过python来读取本地文件的操作,搞得满头大汗,这就是调试程序的过程,在上一节中我们使用到了pandas 库来读取文件,这和Java中方法 的调用类型。练习的过程中,虽然遇到了些小问题,不过,最后还是成功读取到了文件。在文件操作过程中,我们需要注意文件编码的问题。这一节我们尝试通过python连接mysql数据库。检查环境是否安装了mysql库,我是已经安装了的。那就可能是代码的原因或者需要重启电脑?导库发现库无法安装,
2025-02-12 15:25:10
438
原创 【人工智能】python读取文件操作
前言上一节联系了python提供http接口给外部调用,已经成功了。很简单的代码,但是返回内容还是需要优化,现在返回的是HTML的内容,我们应该返回字典数据更好,或者是JSON数据,这个放到以后练习,本节练习python读取文件操作马上开干这里使用到了pandas库。我们直接调用库里的方法就行。运行一下看看竟然报错说找不到文件,我检查了路径,已经创建了文件,那么python中读取文件的路径是怎么的,或者需要放在什么路径下?于是搜索解决说可能是转义的问题于是修改代码。
2025-02-12 11:11:49
368
原创 【人工智能】python如何提供API接口供他人调用
上面几节把python折腾了一翻,最后也使用python对接了deepseek,那么python如何提供API接口供他人调用呢。我们在这里做一个实验,我们一遍接入deepseek,一遍通过deepseek教我们怎么通过python提供api我们向deepseek提问:python如何提供API接口供他人调用输出内容:通过deepseek的回答,我们可以看到好像需要一个叫Flas的框架于是就按照deepseek的提示进行安装根据deepseek的提示增加框架和代码运行,报错。
2025-02-11 15:46:52
1278
原创 腾讯云大数据套件TBDS与阿里云大数据能力产品对比
通过建设数仓,以数据可视化和数据应用的方式赋能业务,TBDS - 数据仓库(简称 TCHouse)提供数据集成和开发处理,完成数仓分层建模,搭配海量数据查询引擎,提升数据查询性能,满足实时/在线数据分析的需要。DataWorks数据治理包含数据治理中心、数据质量、数据地图等多个产品,覆盖数据湖仓中事前、事中、事后的数据生命周期,通过数据治理健康分、质量规则、数据大血缘等能力,将书面的数据治理规范落地成平台化的产品能力,让数据治理不再只是一个 “阶段性项目”,而是一个“可持续的运营项目”。
2025-02-11 10:19:34
1416
原创 【人工智能】python类库全家桶汇总
前几节学习了python的基础知识,包括数据结构和算法,函数,类,最终也通过python接入了deepseek.感觉非常简单。我们学习python的最终目的就是构建人工神经网络,实现人工智能。万丈高楼平地起,人工智能是个抽象的概念,我们初步分解那就是,智能,推理,神经网络,神经元,函数,连接。翻译到编程语言,神经网络,就是成百上千上亿的函数和函数关系组成了神经元和神经网络,使整神经网络的输出像人一样有了智能一样,也就是人工智能。那么可以说人工智能就是人工神经网络,人工神经网络就是无数的python函数。
2025-02-10 16:28:33
558
1
原创 【人工智能】Java接入deepseek亲测有效
* 出于与 OpenAI 兼容考虑,您也可以将 base_url 设置为 https://api.deepseek.com/v1 来使用,但注意,此处 v1 与模型版本无关。* deepseek-chat 模型已全面升级为 DeepSeek-V3,接口不变。 通过指定 model='deepseek-chat' 即可调用 DeepSeek-V3。* deepseek-reasoner 是 DeepSeek 最新推出的推理模型 DeepSeek-R1。通过指定 model='deepseek-reas
2025-02-10 11:42:16
3986
2
原创 【人工智能】刚学完的python,马上接入现在deepseek试试
安装完后,检查安装是否成功 python --version 如果显示版本信息说明安装成功了、这里注意的是python 不会报错,但是没显示版本信息,说明系统环境上还是没有python的。前面几节基本把python语言的基本语法,数据结构和算法学完了,现在来开始实战,使用python开发语言接入deepseek。之前我们有安装python在windows。于是从官网上下载进行安装。下载下来,双击安装就行,这里不赘述。导入包 通过快捷键导入模块。代码报错了,那就运行看看。
2025-02-08 16:30:11
2266
20
原创 【人工智能】python中module的练习
这是由你自己编写的模块,以供你的项目或其他程序使用。通过将相关功能组织成模块,你可以更好地组织代码并实现代码的重用性。下面进行练习。
2025-02-08 14:57:33
905
软件需求规格说明书模板
2023-02-01
软件项目过程文档模板汇总
2023-01-12
java统一认证中心单点登录系统源码,开箱即用
2023-08-23
SpringCloud项目测试开发环境部署文档
2023-08-21
微服务逆向生成工程源码(兼容mysql,oracle,postgresql和达梦数据库)
2023-07-31
【java面试题】java面试宝典基础知识版
2023-03-04
java怎么实现收银台
2023-10-11
springtool suite4配置 IEDA对应的maven Runer参数在哪配
2023-05-10
Thinkpad X13 windown 10笔记本 的部分 按键经常失灵.怎么解决?
2023-04-21
TA创建的收藏夹 TA关注的收藏夹
TA关注的人