royi_0825的博客

学习笔记

今天一直很忙……所以没什么时间了。本章讨论重点为如何训练模型。真讨厌一些人啊，根本不相信然后对我说我要你帮我算一下，我说的过程中就使劲怼我说不对，虽然这点在图里面也显现了，乐。不说了，来看！学习这一篇的本章分成目标函数和优化算法两部分。

是很基础的CNN方法，但是对于最后的结果来讲比上次提升了0.3，说明了卷积神经网络的效果之优秀。XunFeiDataset在这里主要继承了Torch中的dataset，除此之外根据数据集的自身性质进行了一定的修改。可以直接看出，XunFeiNet继承于RestNet18模型，并在其后面增加了一层卷积层，一层平均池化层，以及一层全连接层，最后输出为（512，2），符合二分类最后应有的输出。XunFeiNet是一个很简单的网络，里面包含两个函数，一个是初始化函数，另一个是前向传播函数。

data whale很友好的给出来了本次的baseline。本次比赛属于二分类问题。整体baseline符合标准的机器学习的步骤：对数据进行预处理后，提取出相应的特征。接着利用sklearn库中的逻辑回归，简单的运行得到最后的结果。fill:#333;color:#333;color:#333;fill:none;数据提取逻辑回归得到结果整体来讲框架非常简单，私以为重点在于特征提取步骤上。由于本次比赛为医疗影像比赛，因此需要使用医疗影像相关的library。

昨天晚上是openmmlab的第一节课。介绍的内容都比较的基础，基本上是对后面要学的东西的一些概括。计算机视觉的主要任务，通过一套算法对图像信息进行数据分析。最基础的三大任务：分类，检测，分割目标检测（在图像分类上增加了很多信息，既有类别又有位置信息，位置由框来体现，通过左上角的横纵坐标和右下角的横纵坐标来确定。图像分割任务：能够把像素点直接扣出来。分割也分为两类，一种是直接对像素进行分类，也就是语义分割semantic segmentation另一类叫实例分割，不仅把像素分出来，而且把同一类别

今天没什么要写的碎碎念，因为话题太过私人了所以我转移到github的博客上写了。昨天看分布式训练看到了很多不错的想法，下午找论文也寻找到了不错的idea，总之这场学习没有白费力气，很好。一定要去积极的搜索查找学习资料。不多说废话了，开始今天的学习。这一章是“新的模型架构”。我不知道什么是“新的模型架构”。目前来讲多模态clip也用的是transformer。回想一下第7章 模型架构，神经语言模型的核心接口是一个将token序列映射到上下文嵌入的编码器themouseatethe。

今天又熬夜了，乐。原本Day4的打卡是早上10点就已经写好了的，硬是拖到了晚上回来，发现已经累到不行了（我也不懂为什么我会那么累，但是就是挺累的），直接躺床上忘记了这回事，今天早上洗澡的时候才想起来woc好像还没打卡。好在天无绝人之路我还是给补打卡了哈哈哈哈，原本想着如果不能补打卡我就一次性把这些全都看一遍，写篇笔记啥的呢。今天早上看助教点评作业我也是在反思自己，我的作业是不是只有学习而没有思考了，或者说我其实就完全学的不是很深入呢。。。带着这些问题来看看今天的学习。

终于到Day8了，真是不容易啊。从这一周的时间上来看这周事情真的超级多。原本说昨晚应该准备口语素材的结果没准备qwq跑去占星了，昨天晚上原本有kaggle比赛的第一讲，我也没看（不过时间确实可以放在数学建模之后或者这两天有空看一下，和新的对友聊了一下发现对方连pytorch是什么都不知道，唉）、关于医学图像相关的知识我了解的也不是很多，后续可能需要做很多相关的学习。从这段时间开始我就得抓紧每天的时间去学习了，节奏可能会有点快（？

大模型学习day2：困惑度学习以及对各种任务的了解

昨天晚上突然发现自己之前参加datawhale拿了优秀学习者的比赛，自己得了二等奖……证书忘记申请了。我当时真没想到自己能得奖，毕竟CV好卷。昨晚过去瞅了一眼发现自己竟然得奖了。说回这边的大模型学习，昨天做的笔记链接，我最后都没有放入打卡里面，因为实在是很丢人，把原本的笔记给照抄照搬了一份过来。今天早上看新一章节的时候就在想要怎么写笔记。我想应该还是“尝试用自己的话来概括”，第二是仔细思考能从里面学习到，或者有什么疑问吧。

大模型基础学习

这十天的学习说真的有点累了。我一开始的时候觉得自己有这个能力坚持下去，所以没有选择组队。我现在发现我确实是需要这样一个学习小组之类的东西。。从以前我就有感觉到自己其实很早就没有那个良好的学习氛围，大学也没有找到志同道合的朋友和一起交流的学习环境。一群人确实可以走得更远，希望能认识到更加优质更加积极而非无意义的卷的团体。环境影响是一个巨大的话题。一切都是相互联系的，所以很难得出一个干净的定量指标。但要真正着眼于全局。尽管如今大语言模型的还很少，但它正在快速增长。

September9-Day3组队学习

是一些感想

感觉这个写在前面都快成我每天的日记本了（笑）。前天的时候终于第一次来了这边校区的图书馆，很大很漂亮。没想到我的卡竟然刷不进新校区图书馆，也是寄寄了。想着可能是因为校园卡被冻结了，于是昨天跑了一趟老图，没想到老图还能刷。很震惊。把校园卡解冻后还没尝试刷校园卡买东西，刷新图书馆还是刷不进来，图书馆管理员查询我信息也很正常。最后打电话给技术部，今天早上终于是给解决了。。不得不说学校技术部门还是给力。我昨天在图书馆里发现了一本自然语言处理的书籍，上次有说到关于《数学之美》。其实那本书我还没有读完。

学习day1

学习笔记

笔记

8255的地址由CS,A1,A0来确定。你的图上因为CS(P2.7)=0,A1(P2.1)A0(P2.0)=00这是PA口的访问地址，而P0口只传输数据，不影响地址，全1.所以地址是7CFFH