- 博客(11)
- 收藏
- 关注
RSS订阅原创 Transformer模型（翻译项目）
先来看看Transformer模型的全貌：我们要完成翻译任务，左边是英文（input），右边是中文（output），我们需要根据左边训练完成的语义信息联合已经知道的翻译结果来一起训练，从而得到能够根据英文直接得到中文的英译中模型。由上图可知，我们可以粗略的分为（获得适合的输入头）、（很明显有一个残差思想在里面，左边的输出要作为右边的输入的一部分，当然Add也是残差，通过模型训练出数据的语义等信息）、用一个来输出（将模型处理后的结果转换成我们想要的结果）
2025-08-07 22:50:47
610
原创 PyTorch学习笔记
PyTorch会将数据封装成张量（Tensor）进行计算，所谓张量就是元素为相同类型的多维矩阵。张量可以在 GPU 上加速运行。
2025-07-07 17:27:08
1147
原创 (期末)机器学习常考知识点
增加学习率不是解决梯度消失问题的可靠方法。梯度消失源于网络深层反向传播时，梯度因激活函数导数连乘或参数初始化不当，导致梯度趋近于 0，与学习率无直接关联。学习率控制参数更新步长，仅影响优化速度，不改变梯度本身的大小或传播机制。遇到梯度消失问题时，优先考虑更结构性的改变（激活函数、网络结构如残差连接、BN），盲目增大学习率可能导致优化过程震荡、参数发散（如梯度爆炸），或陷入更差的局部最优，恶化模型性能。
2025-06-09 15:47:50
1045
原创 机器学习笔记（上）
Python语言机器学习工具Scikit-learn包括许多智能的机器学习算法的实现Scikit-learn文档完善，容易上手，丰富的API接口函数sklearnscikit-learn中文社区数据量小，数据在sklearn库的本地，只要安装了sklearn，不用上网就可以获取数据集加载函数样本数类别数特征数任务类型描述鸢尾花数据集15034分类三种鸢尾花的花瓣和花萼尺寸手写数字数据集179710。
2025-05-27 21:07:46
2178
原创 Pandas学习笔记（下）
注意：numpy的方差默认为总体方差，pandas默认为样本方差分母为n-1的样本方差的期望等于总体的方差，因此样本方差是总体方差的无偏估计。
2025-05-24 11:34:11
1812
原创 Numpy学习笔记（下）
数组的运算通常在相应的元素上进行，而广播是 numpy 对进行数值计算的方式，广播机制的核心是对形状较小的数组，在横向或纵向上进行一定次数的重复，使其与形状较大的数组拥有相同的维度。
2025-05-21 16:02:51
837
原创 Numpy学习笔记（上）
数组中的每个元素占有大小相同的内存块，按照一定布局排列，按行或按列，可以使用索引或切片的方式获取数组的每个元素。如果直接在创建数组后面加 reshape,或者用相同的变量名，原数组名指向reshape后的新数组原来的数组名字被新数组占用，释放原数组内存，原数组销毁，而非 reshape 在原数组上进行修改，不要混为一谈。由于数组只能有一个数据类型，这里将后面的整型自动转化（隐式转换）为浮点型， 打印结果为 float64 ，创建时不指定 dtype 会自动根据数据来匹配一个合适的数据类型。
2025-05-19 17:46:46
1160
原创 Matplotlib学习笔记（下）
subplot 是一个较早的函数，用于创建并返回一个子图对象。它的使用比较简单，通常用于创建网格状的子图布局。subplot 的参数通常是一个三位数的整数，其中每个数字代表子图的行数、列数和子图的索引。add_subplot 是一个更灵活的函数，它是 Figure类的一个方法，用于向图形容器中添加子图。推荐使用 add_subplot，因为它提供了更好的灵活性和控制。语法：案例：importmatplotlibpyplotaspltimportnumpyasnp创建数据xnp。
2025-02-07 17:15:13
946
原创 Matplotlib学习笔记（上）
指整个图形，您可以把它理解成一张画布，它包括了所有的元素，比如标题、轴线等。对象（即轴域对象），它指定了一个有数值范围限制的绘图区域。：这是一个映射库，包含面向对象的映射投影定义，以及任意点、线、面的图像转换。它可以根据提供的 x。函数返回一个包含所有子图的数组，这使得你可以更方便地对每个子图进行操作。：指坐标系中的垂直轴与水平轴，包含轴的长度大小（图中轴长为。：指定绘图对象的分辨率，即每英寸多少个像素，默认值为。参数，它也是一个序列，它包含了所有线型的实例。模块中的一个函数，用于创建一个包含多个子图（
2025-02-06 18:35:07
928
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人