- 博客(95)
- 收藏
- 关注
原创 大模型LLM深入浅出、主打通俗易懂
众所周知,如果想直接训练蓝色的原始模型,将是十分耗费资源,需要8张A100显卡(A100目前市场价格13万一个),并且训练中耗费大量电力资源(OpenAI的chatGPT-3训练一次的成本约为140万美元),而为了节省资源,LoRA思想是将右边橘色的两个模型,先分别初始化为高斯分布和0,训练的时候固定预训练语言模型的参数(蓝色部分),只训练降维矩阵 A 与升维矩阵 B,而模型的输入输出维度不变,输出时将 BA 与预训练语言模型的参数叠加。根据上述已知信息,简洁和专业的来回答用户的问题。
2023-09-20 09:57:03
2984
原创 元宇宙、区块链 通俗易懂
所以我们假设有一个腾讯支持多人编辑的文档,文档里有10个sheet,10个将军分别在sheet页上编写自己的想法,是打还是不打,并且各个将军只能编辑自己的sheet页数据,同时也能查看其他将军sheet页的数据,每个sheet页记录了每个将军想法,是打还是不打,亦或者是其他各种想法(签名加密技术)上图中,密密麻麻的都是AMD高性能显卡,在不停的挖矿。系统会出一个计算题,节点会进行不断的计算,谁首先计算出结果,谁就能获得这个区块的交易打包权,以及这个区块的打包奖励,也就是比特币的奖励。1.以当前时代为背景。
2023-03-07 10:35:41
6240
3
原创 谈谈我对ai发展的看法
在GPT-3发布之前,最大的语言模型是微软在2020年推出的图灵Turing NLG, 参数达到170亿,仅是GPT-3的10% ,目前来看,GPT-3是全球最大数据参与的模型训练,它也是基于传统的NLP和机器学习的一种模型,依然使用神经网络架构,其中包含很多深度学习层,初始模型(监督训练) -> RLHF(Reward 模型) -> 深度自我学习,详细原理有兴趣可以爬梯子去官方一探究竟。但是得到的都是局部最优解,并非全局最优,训练时可能都无法收敛,有限数据还会带来泛化不足的问题。
2023-02-20 16:28:16
2410
原创 非对称加密算法java
public class GetSignFuncImpl implements GetSignFunc { private static final int MAX_ENCRYPT_BLOCK = 117; private static final int MAX_DECRYPT_BLOCK = 128; private static final String PUBLIC_KEY = "213213213213123dsvdvdsfdsfdsfsf"; @Over.
2022-05-25 14:30:51
392
原创 volatile怎么实现禁止重排序
private static volatile User user; //第一步 public ActivitySearchRequest getIns(){ if(Objects.isNull(user)){ //第二步 synchronized (PrimarySearchFacadeImpl.class){ //第三步 if(Objects.isNull(user)){ //第四步 ...
2022-04-26 14:00:27
669
原创 接口响应组装集合的分页
public static void fenye(List list,int pageNo, int pagesize){ List<Integer> subList= list.subList((pageNo-1)*pagesize,pagesize*(pageNo)); System.out.println(subList); }public static void main(String[] args) { List<.
2022-04-05 17:15:08
361
原创 JVM 调优实战
内存分配1.被 线程共享:堆:用来存放对象的,几乎所有对象都放在这里,被线程/栈共享堆也是垃圾回收的主要区域,又叫GC堆存放被NEW出来的对象方法区:方法区主要用来存储已被虚拟机加载的类的信息、常量、静态变量和即时编译器编译后的代码等数据。该区域是被线程共享的。2.非共享:虚拟机栈:用来存栈帧的,对象的引用。随着线程结束内存就释放,不需要垃圾回收。内存溢出,通过减小最大堆和栈容量来换取更多的线程。本地方法栈:和虚拟机栈一样,但是只为本地方法服务程序计数器:..
2022-04-05 16:18:18
566
原创 springBoot跨域
@Configurationpublic class CorsConfig implements WebMvcConfigurer { @Override public void addCorsMappings(CorsRegistry registry) { registry.addMapping("/**") .allowedOrigins("*") .allowCredentials(true) .
2021-05-07 15:06:59
210
原创 事件异步单服务层调用
/*** 业务逻辑**/public void test(){ //todo //..... //异步执行事件,方法直接返回true applicationEventPublisher.publishEvent(new asyEvent("123"));}/*** 监听**/import org.springframework.context.ApplicationEvent;@Getter@Setter@ToStringpublic cl...
2021-04-08 15:19:48
231
原创 docker搭建Nacos
1. 下载nacos镜像 docker pull nacos/nacos-server:1.3.12. mkdir -p /opt/nacos/init.d3. mkdir -p /opt/nacos/logs4. cd /opt/nacos/init.d5. 在custom.properties中编写如下: mnagement.endpoints.web.exposure.include=*6. 启动镜像 docker run -d -p 88.
2021-04-06 17:45:40
311
原创 接口重试
package com.kids.boss.retry;public class RetryDemo { public static void main(String[] args) { Boolean flag = false; int i = 0; while( !flag && i++ < 5){ try{ int a = 1/1; .
2021-03-25 15:57:46
346
原创 入参自动转换枚举
/*** 定义一个枚举**/@Getterpublic enum StatusType { SUCCESS("1","成功"), FAIL("2","失败"), PROCESSING("3","进行中"), ; StatusType(String code,String desc){ this.code = code; this.desc = desc; } private String code;..
2021-03-17 15:29:09
541
原创 java金额转换
public static void main(String[] args) { //分-万 Double amount = new BigDecimal(1512121).divide(new BigDecimal(10000), 4, BigDecimal.ROUND_HALF_UP).doubleValue(); System.out.println(amount); //分-千 Double amount1 = new .
2021-03-04 14:08:29
902
1
原创 JDK8 LocaDate相关用法
public static void main(String[] args) { //年 int year = LocalDate.now().getYear(); System.out.println(year); //月(英文) Month month = LocalDate.now().getMonth(); System.out.println(month); //日 .
2021-03-04 13:44:31
317
3
原创 Hadoop+HDFS+MapReduce使用总结
1.首先了解下hadoop:1.1分为三个重要模块: 分布式文件系统:HDFS —— 实现将文件分布式存储在很多的服务器上 分布式运算编程框架:MapReduce —— 实现在很多机器上分布式并行运算 分布式资源调度平台:Yarn —— 帮用户调度大量的mapreduce程序,并合理分配运算资源 1.2hadoop:相关框架Hadoop:Java编写的软件框架,以支持数据密集型分布式应用 ZooKeeper:高可靠性分布式协调系统 MapReduce:针...
2020-06-12 17:11:35
914
原创 分布式事务
分布式事务1.XA两阶段提交:引入协调者。三阶段提交,引入询问阶段XA是数据库的分布式事务,强一致性,在整个过程中,数据一张锁住状态,即从prepare到commit、rollback的整个过程中,一直把持折数据库的锁,如果有其他人要修改数据库的该条数据,就必须等待锁的释放,严重影响性能缺点:1.性能问题:XA协议遵循强一致性。在事务执行过程中,各个节点占用着数据库资源锁,只有当...
2020-04-11 18:50:45
331
原创 kafka安装
1.将kafka包 解压至/usr/local/下,新建一个logs文件夹2.修改 /config/server.properties 中的logs参数,值为 上一步创建的logs位置3.修改配置文件,当前是使用自己的zookeeper,修改./config/server.properties中的这四个地方listeners = PLAINTEXT://localhost:9092zoo...
2020-04-03 17:27:36
357
原创 雪花算法生成主键id demo
package com.kids.demo01.snow;//SnowFlake算法用来生成64位的ID,刚好可以用long整型存储,能够用于分布式系统中生产唯一的ID, 并且生成的ID有大致的顺序。//在这次实现中,生成的64位ID可以分成5个部分:// `0 - 41位时间戳 - 5位数据中心标识 - 5位机器标识 - 12位序列号`public class SnowFlake ...
2020-04-03 17:22:57
1011
原创 lambda简单案列
package com.kids.demo01.lanbuda;import com.kids.demo01.entity.user;import java.util.ArrayList;import java.util.List;import java.util.Map;import java.util.stream.Collectors;//兰姆达表达式public cla...
2020-04-03 17:20:02
308
原创 GET和POST AES加密验签,body加解密步骤
需求:根据name和age查询数据,需要验签(只讲逻辑) 假设参数:?name=316314643131654&age=15&AppID=98233030&iv=9406238369428fe3c305c9195f4a6f5a&sign=xxxx 1.首先获取get方式传入的参数,其中有固定的一个必传参数AppId,通过AppId去数据库中取...
2019-11-12 17:45:53
2648
原创 AES 加解密模式CBC + 填充模式PKCS5Padding + 128位加解密
对称加解密算法AES +加解密模式CBC+ 填充模式PKCS5Padding + 128位加解密 1.对称加密: 加密者和解密者用的是同一串秘钥 2.AES有四种加解密模式:CBC、EBC、CFB、OFB 。CBC模式下,加密时,是对明文进行分组加密的,每组大小一致,到 最后一组时,可能长度不够,这个时候就需要填充到一样长度,就有了下面的填充模式。 ...
2019-11-12 15:06:59
6469
原创 Hbase命令增删查改
启动: ./bin/start-hbase.sh关闭: ./bin/stop-hbase.sh查询版本 version进入shell命令: /bin/hbase shell退出: quit列出所有表:list建表名t1,f1和f2列族: create 't1', {NAME => 'f1', VERSIONS => 1}, {NAME => 'f2...
2019-06-21 09:59:28
633
1
原创 CentOS安装mysql
1.将下载的包上传至服务器,并解压 tar -xvf MySQL-5.5.44-1.linux2.6.x86_64.rpm-bundle.tar2.安装客户端 rpm -ivh MySQL-client-5.5.44-1.linux2.6.x86_64.rpm 如果报错信息为: 那么, 先安装下面这个依赖,再安装client ...
2019-06-17 14:28:29
177
原创 oracle创造亿级别数据过程
create table EMP(EMPNO NUMBER(8) PRIMARY KEY,ENAME VARCHAR2(20),MGR NUMBER(20),HIREDATE DATE);create table che(id NUMBER(8) PRIMARY KEY,name VARCHAR2(20),HIREDATE DATE);declarei int...
2019-04-28 10:10:04
759
原创 千万数据线程转储
public void saveByThreadPool() { //获取千万级数据 List<Data> datas = Repository.query(); if (datas == null || datas.size() == 0) { log.info("目前没有需要处理的数据"); ...
2019-04-25 09:32:24
162
原创 Yum安装nginx
安装:yum -y install nginx1创建目录,引用目录关系mkdir -p /etc/nginx/stream.d/;echo "include /etc/nginx/stream.d/*.conf;" >> /etc/nginx/nginx.conf2编写conf配置文件cat > /etc/nginx/stream.d/stream.conf ...
2019-01-21 16:51:25
277
原创 nginx基础配置文件+域名跳转服务器内部tomcat
user root;worker_processes 1;events { worker_connections 1024;}http { include mime.types; default_type application/octet-stream; sendfile on; keepalive_time...
2019-01-18 17:04:23
434
原创 脚本编写学习
1.if [ true ]; then echo "有值" else echo "没有值"fi 2.shell=$1xshell=$2if [ ${shell} ];then echo "${shell} ${xshell}" else echo "我走了" ...
2019-01-18 15:46:00
4137
1
原创 Liunx防火墙相关使用
执行以下命令后,恢复running:systemctl stop firewalld;pkill -f firewalld;systemctl start firewalld出错请打开systemctl start iptables.service1、firewalld的基本使用启动: systemctl start firewalld查看状态: systemctl stat...
2019-01-18 14:09:23
294
原创 liunx上EalsticSearch安装步骤,亲测可用
#安装javayum -y install java#安装wgetyum -y install wget#安装eswget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.6.3.tar.gz#解压至 /usr/localtar -zxvf elasticsearch-5.6.3....
2019-01-17 14:01:37
302
原创 VMWare虚拟机调试 桥接和NAT 网络
查看VM本机ip: ip a本文介绍 VMWare虚拟机调试 桥接和NAT 两种网络//若本机ip: 192.168.40.2381.设置虚拟机的方式:桥接 -->nmtui-->设置ipv4的ip (网段和本机一样,192.168.40.100/24) ...
2019-01-14 10:19:26
1079
2
原创 存储过程 百万级数据编造
//mysql中 创建存储过程脚本, loop_times (入参)DROP PROCEDURE IF EXISTS proc_api ; CREATE PROCEDURE proc_api (IN loop_times INT)BEGINDECLARE var INT DEFAULT 0;WHILE var < loop_times DOSET var = var ...
2018-12-03 12:25:03
274
原创 springBoot中Excel导出
依赖<dependency> <groupId>org.apache.poi</groupId> <artifactId>poi</artifactId> <version>3.10.1</version></dependency>//工具类pac
2018-12-01 11:13:04
496
原创 接口的加密解密
接口加密1.接口参数加密(基础加密)2.接口参数加密+接口时效性验证(一般达到这个级别已经非常安全了)3.接口参数加密+时效性验证+私钥(达到这个级别安全性固若金汤)4.接口参数加密+时效性验证+私钥+Https(我把这个级别称之为金钟罩,世间最安全莫过于此)加密算法(对称加密和非对称加密):对称加密:加密数据用的密钥,跟解密数据用的密钥是一样的。非对称加密:加密数据用...
2018-11-14 15:58:23
5159
原创 Docker安装mongodb
docker search mongodocker pull mongo:3.2docker run -d --name mongo -p 27017:27017 -v $PWD/db:/data/db -d mongo:3.2docker ps docker run -it mongo:3.2 mongo --host 172.17.0.1
2018-11-14 15:54:08
175
原创 docker安装mysql+tomcat
Docker安装mysqldocker search mysqldocker pull mysql:5.6docker images |grep mysqldocker run -p 3306:3306 --name mymysql -v $PWD/conf:/etc/mysql/conf.d -v $PWD/logs:/logs -v $PWD/data:/var/lib/my...
2018-11-14 15:48:28
331
原创 阿里云ESC安装docker
添加yum源。# yum install epel-release –y# yum clean all# yum list安装并运行Docker。# yum install docker-io –y# systemctl start docker检查安装结果。# docker info Docker基本用法:docker search 关键词 在Do...
2018-11-14 15:41:54
808
转载 23种设计模式(通俗易懂,白话翻译)
创建型模式1、FACTORY—追MM少不了请吃饭了,麦当劳的鸡翅和肯德基的鸡翅都是MM爱吃的东西,虽然口味有所不同,但不管你带MM去麦当劳或肯德基,只管向服务员说“来四个鸡翅”就行了。麦当劳和肯德基就是生产鸡翅的Factory工厂模式:客户类和工厂类分开。消费者任何时候需要某种产品,只需向工厂请求即可。消费者无须修改就可以接纳新产品。缺点是当产品修改时,工厂类也要做相应的修改。如:如何创建及如...
2018-10-09 15:15:29
2338
2
原创 base64的加密解密
import sun.misc.BASE64Decoder;import sun.misc.BASE64Encoder;import java.io.UnsupportedEncodingException;public class Base64 { public String getBase64(String str) { byte[] b = null;...
2018-10-08 11:02:36
234
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人