- 博客(15)
- 收藏
- 关注
RSS订阅原创 微调BART进行中英文翻译任务(Pytorch代码)
BART是兼具上下文语境信息和自回归特性的Transformer，由FaceBook于2019年提出，。BART继承了Transformer全部的编码器解码器架构，能够胜任各项任务，翻译就是其中之一。本文聚焦于在英中文翻译任务中微调BART的代码实现。
2023-11-03 22:23:29
941
4
原创 详解加性注意力和缩放点积注意力
注意力机制的本质是加权求和，评分函数a计算查询与键之间的注意力分数，经过softmax计算得到注意力权重，权重与值进行加权求和得到注意力输出。
2023-10-31 17:05:17
832
1
原创 微调BERT进行中文文本分类任务(Pytorch代码实现)
BERT(Bidirectional Encoder Representation from Transformers)是2018年10月由Google AI研究院提出的一种预训练模型。其模型结构由多层Transformer的Encoder堆叠而成，在大规模语料中进行预训练后，迁移到下游任务，仅进行参数微调训练，就能显著提升性能。本文聚焦于微调中文BERT进行新闻标题分类任务的代码实现。
2023-10-31 11:12:29
3998
15
原创 腾讯开源中文词向量用法介绍
腾讯AI实验室于2021年12月24日发布了中文词向量0.2.0版本。相比已经存在的中文词向量模型，腾讯词向量的优越性在于：覆盖面广、新颖以及准确性高。
2023-10-30 21:42:58
3047
原创 算法比赛Trick(1)——后处理指标优化
在算法比赛中，往往存在类别不均衡的问题，在有“偏见”数据上训练出的模型可能不是最优的。如果我们能在模型预测出的各类别分数上，添加权重因子，并利用优化算法自动计算这些因子的值，使预测结果达到验证集上的最优，那么在测试集也许会有提升。
2023-10-30 21:34:14
166
原创 耗时HTTP请求的实时进度展示实现思路
在进行业务开发时，有时会面临耗时请求。也就是前端发给后端的请求，后端需要一定时间进行处理，远远超出了一般HTTP请求的timeout，本文分享一种前端实时展示处理进度的实现思路。
2023-05-20 18:11:31
721
1
原创 ElementUI 年份范围选择器
本文实现的年份范围选择组件具有基本的年份范围选择功能。借助Vue的组件特性，能够灵活应用到页面任何位置。基于组件通信，能够优雅的管理数据。
2022-11-26 12:17:11
7539
原创 前端全屏滚动学习总结
全屏滚动是指一次鼠标滚动切换整个屏幕的内容，多用于产品展示、年终总结等页面，能够在网页上呈现出PPT般的效果，简洁且美观。本文介绍从零开始代码实现和调用插件实现全屏滚动两种方法。
2022-11-18 19:37:17
1192
原创 手写两层神经网络来拟合函数y = x1^2 + x2 + 100 (2)
手写两层神经网络来拟合函数y = x1^2 + x2 + 100 (2)，添加激活函数，讨论预测效果差的原因。
2022-06-22 21:47:11
598
原创 JNI技术经验总结
JNI技术经验总结JNI是Java Native Interface的缩写，为Java程序提供与本地程序交互的能力。使用JNI技术，能够使得Java程序充分利用本地代码的优势，如高性能，不必重复造轮子等，在生产中，有着诸多实用价值。JNI工作流程JNI的典型使用场景是：Java程序调用C，C++代码编译而成的动态库文件。动态库文件在Windows下是.dll文件，在Linux下为.so文件。其主要工作流程如图所示：[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-fSlK
2021-11-08 11:35:16
498
原创 手写两层神经网络来拟合函数y = x1^2 + x2 + 100 (1)
手写神经网络来拟合函数y = x1^2 + x2 + 100摘要本文首先生成数据，然后搭建包含一层隐藏层的神经网络训练数据，最后利用测试数据评价模型的拟合效果。本文没有讲神经网络的原理以及推导过程，适合读过神经网络原理，想要动手实现的同学参考。数据生成import numpy as npfrom matplotlib import pyplot as pltfrom mpl_toolkits.mplot3d import Axes3D# y = x1^2 + x2 + 100# 生成训练
2021-10-04 22:39:06
1410
2
原创 Python turtle 画正多边形和多角形
Python turtle 画正多边形和多角形作正多边形作正多角形计算内角画图代码作棱角分明的多角形观察棱角分明的多角形简洁的结论代码高斯与正十七边形作出正十七角形思考原创文章，转载请申明出处作正多边形正n边形的内角和：x = (n - 2) * 180° / nimport turtle# 正n边形参数n = 7x = (n - 2) * 180 / n# 调整画笔速度...
2020-02-03 20:51:35
15424
3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人