xiao_yuzaijia-CSDN博客

原创第九周：transformer（嵌入和自注意力）

在陆陆续续学习了ransformer一段时间后，本周回归原文，着重再学习了transformer的嵌入和自注意力机制，一步步剖析公式，虽然字数不多，但力求简洁，希望能够带来一些不一样的角度理解transformer。下周展示多头注意力和残差连接。

2024-11-02 17:20:58 641

原创第八周：RNN和LSTM+Linux基础+Docker

本周大致了解了RNN和LSTM的原理，这是为了之后理解tansfomer做准备。学习了Linux的基本操作，并实践了SSH远程登录，学会Linux并非一朝一夕，还得多用才能熟练掌握。了解了Docker，使用docker创建简单的镜像，运行容器。

2024-10-25 21:13:10 472

原创第七周:机器学习+绘制学习曲线

本周学习了对模型的评估方法，多个模型的选择方法，偏差和方差，学习曲线的作用。对于上周的CNN训练结果绘制了学习曲线，并进行了分析。

2024-10-17 12:09:05 668

原创第六周：卷积神经网络（CNN）+ 搭建CNN识别MNIST实践

继承nn.Module来完成卷积神经网络的搭建，整个神经网络由四个序列（Sequential）的层来构建：卷积层1，卷积层2，全连接层1，全连接层2。卷积层1，卷积层1接受来自原始数据图输入，输入图为28x28大小的单通道图数据。首先使用2d卷积，输入特征图通道1，输出特征图通道32，卷积核5*5，步长1，samepadd在外圈填充2圈0，填充之后再卷积，输出图大小仍然为28x28。（由于使用了padding，图大小没变）激活函数使用ReLU。

2024-10-11 21:33:27 922

原创第五周：机器学习+pytorch

本周学习了用于多分类的softmax回归，并将其用于神经网络中，与二分类方法（逻辑回归）进行了对比。学习了如何使用Pytorch的transforms进行图像处理，包括规范化和调整大小。如何使用DataLoader加载CIFAR-10数据集，以及使用GPU加速和PyTorch的Autograd提高模型训练效率方面。

2024-10-02 22:11:23 800

原创第四周：机器学习+pytorch

MLP本周学习了神经网络的基础结构，这是一种非常重要的算法，对前向传播和反向传播进行了推导，但是对于推导过程的细节任然有不懂的地方，推导过程也进行了简化，还需要进一步理解。pytorch学习了基本的数据形式tensor，以及通过tansforms将图片转换为tensor。

2024-09-28 21:00:37 721

原创第三周：机器学习+人工智能情感背景调研

andemotion本周完成了机器学习正则化的学习，主要学习了正则化的原理和在线性回归逻辑回归中的应用。同时完成了吴恩达机器学习课程（一）监督学习，下周开始学习第二部分，(二）：高级学习算法 Advanced Learning Algorithms。本周对论文（题目：基于需求的人工智能情感生成模型）进行了前期的背景调研和引言起草。但是对于文献的检索和阅读还不熟练，文章的书写也多有不流畅的地方，参考文献也有诸多差错。下一阶段需要修改和重新排编。

2024-09-21 22:13:05 1042

原创第二周：机器学习+pytorch

使用pytorch我们可以自定义数据集。自定义数据集需要继承Dataset类，并重写__len__和两个方法。import osself.root_dir = root_dir # 数据所在的目录self.label_dir = label_dir # 对应标签的目录self.img_path = os.listdir(self.path) # 每一个图片数据的名称都在这个列表中img_name = self.img_path[idx] # 通过下标获取图片数据的名称。

2024-09-14 20:57:36 1097