NTU Machine Learning
-
「已注销」
这个作者很懒,什么都没留下…
展开
-
Auto - encoder
概念auto encoer 应用在downstrem的任务,也就是把图片输入进入encoder,然后在用其 生成的低维向量来应用到其他的任务当中。一张图片的便是是有限的,也就是化繁为简,将原图片的复杂表示 ,装换成压缩成低维的表示。Feature DisentangleDiscrete Representation...原创 2021-10-21 19:59:07 · 77 阅读 · 0 评论 -
___GAN
GAN的训练步骤Theoty behind GAN我们的目标是 让 网络G 输出的distribution 和Pdata 的 distribution 的divergence越小越好我们的困难时难以计算 两者的 divergence训练的目标是 让Objective Funct 越大越好,并且 maxV(D,G)的值 跟 两者的divergence 有关。...原创 2021-10-18 20:59:05 · 71 阅读 · 0 评论 -
Transformer
seq2seq的模型很多,输入一排向量,输出一排向量,可以使用self-attention,rnn,cnn,而transformer使用的就是self-attentiontransformer结构residualnorm (Layer Norm)原创 2021-10-12 23:56:40 · 86 阅读 · 0 评论 -
Self-Attention
类型对于输入n个向量,网络输出 m 个向量,即输出的个数由机器自己决定,我们称作 seq2seq 任务Self-Attention架构,输入一排向量,输出一排向量,输出的每一个向量都考虑了 这个sequence。原创 2021-10-11 14:58:15 · 61 阅读 · 0 评论 -
Logistic Regression
Logistic Regression 与 Linear Regression 的区别为何Logistic Regression 不使用Square Error从数学推到可以看出,当距离训练目标 过远 或 过近是 使用gradient descent 算出的Gradient 值会非常的小可以画图看一下:因此 Logistic Regression 配合 Square Error 不容易找出 最优解。Discriminative vs GenerativeDiscriminat.原创 2021-10-08 21:36:28 · 64 阅读 · 0 评论 -
Optimization for Deep Learning
待更原创 2021-10-07 12:37:37 · 117 阅读 · 0 评论 -
2021-09-11
Yolov3 对比 Yolov41.Mosiac 数据增强2.Neck 使用了 FPN + PAN 的结构, PAN 区别于PANet中的PAN结构3.Prediction创新,(1).IOU_lossIOU_LOss 会出现两个问题,问题1: 无法优化两个框想离的情况,此时不可导,问题2:(2)GIOU(3) DIOU_Loss我们发现,对于一个好的损失函数,需要可以较好的表示两个框的各种关系。(4) CIOU...原创 2021-09-11 23:36:22 · 344 阅读 · 0 评论 -
2021-09-11
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入欢迎使用Markdown编辑器你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar原创 2021-09-11 21:14:24 · 61 阅读 · 0 评论