第十章 扩展知识与简历书写

VIT(Vision Transformer)

之前的transformer都是应用于文字,有没有方法应用到图片上。图片不是token

把图片离散化,把四万多像素(224*224)离散成token

复试的道(领域,知道哪些模型)和术(动手能力)

多模态

多模态-图文(clip模型)

BERT天然为多模态而生

只要输入维度一样,就可以进行self-attention交互

只要你的输入是一个向量,我不管它原来是什么,我只管让他与其他向量交互。

ViltBERT多模态模型

明明有transformer就可以了,为什么还要有这个

假如选了BERT,预训练都是文字,没有文字参数,把预训练参数拿过来不好用

而这个预训练参数既有图片也有文字

预训练时考虑了很多图片和文字的交互

VisualBERT

之前的几个模型平均分成几块,文字和图片间不能一一匹配

ALBEF

深度学习常见研究方向

文字生成类

命名实体识别(NER)

判断句子中的某一段是什么类别的

医学图像分类,分割,检测

小样本

训练数据只有二十个,如何达到很好的效果?
方法1:迁移学习
方法2:数据增广。
等等。

异常检测

银行里交易正常的占百分之99.9,不正常的占百分之0.01。

模型全部推测为正常 loss依然很低

可解释性

分子结构预测(NERF)

解微分方程

颅面复原到人脸

还有之前的

普通图片分类


文字情感分类。


半监督,无监督, 自监督。

分布式训练

大语言模型:LLM(Large Language Model)

transformer发展过来的。少了交互部分 crossattention部分

大模型是一个自回归的生成模型

大模型的训练方式

only decoder所以不能进行MLM训练。prompt给大模型的输入

强化学习是最终方向,未来

代码中用的细节之处。

  1. 设计更好的学习率。
  2. 设计更好的优化器。
  3. 设计更好的loss。
  4. 设计更好的模型架构
  5. 更快的计算方法
  6. 更少的模型参数 

如何把学的内容写到简历之中?

实例1:回归

 实例2:分类

  1. 我在一个分类数据集上, 尝试了不同的模型。 我对不同模型的理解。(resNet为什么这么深,vgg和resnet区别?)

  2. 我根据不同的数据集, 设计了不同的模型。 我是如何设计的?

  3. 我对数据做了什么处理? 使用了哪些数据增广方式?为什么mnist数据集不适合用翻转?和其他增广方式对比。

    1. 翻转 上下翻转6翻过来为9

    2. 数据增广雨天加雨 雾天加雾

  4. 我是如何处理无标签数据的?  半监督的实现原理。

  5. 我是如何使用迁移学习方法的。是否迁移的对比。

实例3:自然语言处理 

我们使用Bert用法很简单, 但是Bert本身就够复杂。 

  1. 我对自然语言处理很感兴趣, 我将来想做这个方向。所以提前学习了self-attention并且使用Bert处理了情感分类任务。
  2. 我对自然语言处理模型架构的理解,我尝试了不同的架构。RNN, LSTM的优势和缺陷。 Self-attention 为什么这么流行?SA的架构细节。
  3. Bert的原理是什么, 为什么Bert能够这么有效?  他是如何训练的?  简述预训练任务。
    1. 使用BERT进行了什么分类任务,达到了什么效果 
    2. 预训练才有效
  4. Bert的训练。你使用了什么优化器?你训练了多少epoch?(3-4个很快)
  5. bert的输出是如何处理的? Bert最后的输出有几种不同的方式?各准确率多少?
    1. 128*768 -> 768 直接取第一个/取最大/平均

 实例4:生成任务

  1. Bart是什么模型啊喂?你和谁做了比较选了它?

    1. Bart是摘要生成模型,和我们任务比较贴切

  2. Bart的预训练任务是什么?和bert的区别是什么?

    1. 医学数据集比赛,一个生成数据集根据CT图像生成医生描述。

  3. 生成任务的原理,细节,如何生成结束?如何输入?测试和训练有什么不同?

    1. 输入需要masked

  4. 你是如何处理生成任务的输入的?

写两个就可以

其他

  1. 我对对比学习很感兴趣。 自监督是一个很迷人的方向。所以我XXXX,   自监督和无监督的原理是什么。 你研究了什么?
  2. 我对多模态很感兴趣, 所以我XXXXX, 几个多模态模型的架构和原理。
  3. 不同的激活函数有什么不同, 各有什么优缺点? 不同的有优化器有什么不同, 原理, 有什么优缺点?
一、考试基本要求面向对象程序设计考试是为了测试学生是否具备面向对象编程思想和初步应用Java语言编程的能力的考试。考生要求达到以下“知识”和“技能”两方面的目标。 【知识方面】:熟练掌握面向对象程序设计的基本概念,熟练掌握Java语言的编程语法和常用类库的使用。【技能方面】:能正确阅读和理解Java程序,能编写和调试一般功能需求的Java程序。二、考试方式、时间、题型及比例1.考试方式:闭卷笔试2.考试时间:150分钟3.题型比例:总分值为200分,题型为选择20%、简答题20%、程序阅读20%、程序综合设计40%。三、考试内容及考试要求第一章 Java语言概述 [知识要点]: Java语言的产生、应用前景和特点;Java虚拟机及Java运行系统; Java语言和C++语言的相同及不同之处;熟练掌握Java应用程序的编辑、编译和运行过程。 [考试要求]: 1.了解:Java 语言的产生、应用前景和特点; 2.了解:Java虚拟机及Java运行系统; 3.掌握:Java 语言和 C++语言的相同及不同之处; 4.掌握:Java 应用程序的编写、编译和运行过程。 第二章 Java 语言基础 [知识要点]:Java 语言的数据类型;变量和常量;正确书写表达式;数组;流程控制。 [考试要求]: 1.了解:数据类型的转换(自动类型转换和强制类型转换);运算符的优先级和结合性; 2.掌握:Java语言各种数据类型; 3.掌握:Java语言算术运算符、关系运算符、逻辑运算符、位运算符和复合赋值运算符的功能及使用; 4.掌握:Java语言变量、常量的使用及其运算操作; 5.掌握:Java语言流程控制语句的功能及使用;6.掌握:Java数组的定义;数组的初始化和数组的应用;二维数组的应用。 第三章 面向对象编程[知识要点]:面向对象的基本概念;面向对象的软件开发过程。 [考试要求]: 1.了解:面向对象的概念;2.掌握:类的创建使用;3.掌握:方法的定义和使用;4.掌握:对象的基本操作方式;5.掌握:构造方法的定义和使用;6.掌握:this关键字和static关键字的使用;7.理解:成员变量和局部变量的区别。第四章 面向对象的特性 [知识要点]:掌握面向对象的三大特性。 [考试要求]: 1.理解:封装的概念; 2.理解:继承的概念;3.理解:多态的概念;4. 掌握:final关键字的使用5. 掌握:Lambda表示式的使用第五章 抽象类和接口 [知识要点]:抽象类接口的基本概念以及实际应用。 [考试要求]: 1.掌握:抽象类和接口的使用;2.掌握:Java中的内部类; 2.了解:单例模式; 3.了解:模板设计方法; 第六章 Java异常 [知识要点]:Java异常的基本概念;Java异常处理机制;自定义Java异常类的应用。 [考试要求]: 1.理解:异常的概念; 2.掌握:异常的处理机制;3.掌握:自定义异常的使用第七章 Java常用类[知识要点]:应用Java语言的工具类库。 [考试要求]: 1.掌握:字符串相关类的使用; 2.掌握:System类Runtime类的使用;3.掌握:Math类Random类的使用;4.掌握:日期类的使用。第八章 集合框架[知识要点]:应用Java语言的集合框架解决具体问题。 [考试要求]: 1.掌握:List、Map、Set集合的使用; 2.掌握:集合遍历的方法;3.掌握:泛型的使用;4.掌握:集合工具类的使用;5.掌握:Stream API的使用。第九章 Java IO[知识要点]:Java 输入输出文件处理。 [考试要求]: 1.掌握: File类及其用法; 2.掌握:操作字节流和字符流读写文件;3.了解:其他IO流;4.了解:NIO的概念及其用法;5.了解:常见字符编码。第十章 图形用户界面[知识要点]:Java的Swing组件、容器、布局管理器的概念;图形界面上的事件响应。 [考试要求]: 1.了解: AWT组件和Swing组件的联系和区别; 2.掌握:常用的Swing组件的使用;3.理解:常用的窗体和布局管理器;4.掌握:事件处理机制。第十一章 Java多线程[知识要点]:多线程的基本概念;创建和启动线程;线程的生命周期;多线程同步问题;多线程通信;线程池的概念。 [考试要求]: 1.了解: 进程和线程的区别; 2.掌握:创建线程的方法;3.理解:线程的生命周期及其状态转换;4.掌握:多线程的同步;5.掌握:多线程之间的通信;6.了解:线程池的使用。第十二章 Java网络编程[知识要点]:网络协议;使用Java开发网络程序。 [考试要求]: 1.了解:网络通信协议; 2.了解:UDP通信;3.了解:TCP通信;4.掌握:网络程序的开发。第十三章 JDBC编程[知识要点]:数据库基本概念;JDBC原理;应用JDBC接口操作数据库。 [考试要求]: 1.了解:JDBC原理; 2.掌握:Connection接口、Statement接口、ResultSet接口、PreparedStatement接口的使用;3.掌握:使用JDBC操作数据库。四、其他说明 1.此次考试为笔试考试,不能使用任何的编程机器; 2.所有程序阅读题、编程题或算法设计题均采用程序填空题方式完成。五、参考书目李松阳、马剑威.Java程序设计基础实战(微课版),人民邮电出版社,2022年8月. ISBN: 9787115591746 根据这个考纲帮我生成三套试卷
03-20
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值