- 博客(9)
- 收藏
- 关注
原创 调用bert后显存叠加的情况
如果不想训练bert,就要保证通过bert生成(包括二三次生成)的变量不能调用两次,否则可能计算梯度改变网络。换个变量名或者直接detach(),这里不能用clone()最好的办法还是训练模型前先生成bert模型的向量,再进行输入。这里还有一个打印显存的办法,找显存爆炸的地方再看看怎么改。
2023-03-20 23:39:45
205
原创 Hadoop知识
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录Hdfs的命令常用命令实操MapReduceHdfs的命令在集群上运行,即操作master:50070上的文件,包括上传、下载、复制以hadoop fs 开头,只要start-all.sh,在根目录下输命令就行常用命令实操(0)启动Hadoop集群(方便后续的测试)[atguigu@hadoop102 hadoop-2.7.2]$ sbin/start-dfs.sh[atguigu@hadoop103 hadoop.
2022-03-21 13:49:26
1445
原创 推理论文笔记
Recurrent Event Network: Autoregressive Structure Inference overTemporal Knowledge Graphs一、创新点二、模型步骤1.三、问题Temporal Knowledge Graphs)一、创新点时间知识图(TKG)这类数据的推理相对还未被探索过TKG推理主要有两种设置:内插和外推(interpolation and extrapolation)。内插主要是用于预测已知时间范围内的新事件外推是预测未来时间段的新事件
2022-03-20 13:03:01
1301
原创 shapley和树的shap
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档shapley and shapShapley交互阶的计算关于树结构Shap的计算Shapley交互阶的计算首先一阶的计算公式二阶(交互值)计算三阶计算一般式(来源于文章Fuzzy measures and integrals in MCDM)举个例子,设N={1,2,3}特别地,计算时需要知道所有特征组合,因此复杂度很高,达到指数级别。关于树结构Shap的计算如果采用树结构的话,只需要遍历树所有可能的路径.
2022-03-14 21:38:31
1048
原创 线性模型与树模型
线性模型与树模型一、LR模型二、GBDT模型三、XGBoost模型四、SVM模型五、FM模型一、LR模型LR模型是一种线性模型,即y = w*x+b,模型过程一般分为两步,一是用最大似然法预测线性模型的参数,第二步是使用非线性函数,即sigmod函数,将一条直线转成曲线,输出二分类的概率sigmod函数:最大似然法推导过程:极大似然估计,通俗理解来说,就是利用已知的样本结果信息,反推最具有可能(最大概率)导致这些样本结果出现的模型参数值,即产生分类结果的参数值。其中,似然函数 l 这个函数
2022-02-24 11:54:08
1177
原创 SQL操作
SQL操作同个表的操作同个表的操作SELECT *FROM Employee AS a, Employee AS b;例子求工资超过经理的员工这个时候就可以用来拆成a,b表了SELECT a.Name AS 'Employee'FROM Employee AS a, Employee AS bWHERE a.ManagerId = b.Id AND a.Salary > b.Salary...
2022-02-20 15:37:02
276
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人