- 博客(22)
- 收藏
- 关注
RSS订阅原创 论文学习——A graph model-based multiscale feature fitting method forunsupervised anomaly detection
关于某一个像素点是不是异常，有一个阈值τ1，关于整幅图像是不是异常，有一个阈值τ2，这两个阈值都是动态变化的，根据FPR的值不断调整。在传统的异常检测与定位的方法下，存在一系列问题：比如异常区域可能很小也可能很大，异常的尺寸不定难以预测。为了兼顾语义异常和像素异常，将在不同深度提取的特征统一起来。然后将这k个点的特征混合在一起，得到一个新的特征向量。这种往往采用将在不同深度提取的特征统一起来的做法。的差异越大，是异常的可能性就越大。这和传统的重构图是截然不同的。第四部分，计算是异常的可能性。
2023-04-24 21:27:19
210
原创 论文学习-广义少镜头分类问题
第二，根据shot-aware选择不同的权重，这是因为测试样本不只是novel节点，还有base节点，而二者的最适合权重是不一样的。值得一提的是，这种解决方法存在一种假设，即所有测试节点必须从novel类中独立采样，这在真实世界的应用中很难实现。粗浅的理解，大概就是，用大量所有任务的样本训练元学习器，然后元学习器帮助分类器更好地训练学习测试任务的测试样本。不一致偏好：个人理解是学习base节点特征的权重与novel节点特征的权重是不一样的。这种元学习法可以用进少镜头学习中。第一，和元学习器一样的学习器。
2023-04-19 16:43:03
215
原创 论文笔记——AnomMAN: Detect anomalies on multi-view attributed networks
第二个亮点，因为图中含有多种交互行为，因此分视图进行神经网络处理，结构检测一直是分开做，但属性检测考虑到user的不同交互行为可能存在联系，举例说明，某用户的评论行为特别多，如果每个交互行为单独分析，很有可能得出该用户是水军（异常）的推断，但如果与此同时该用户的购买行为也同样高，则该用户就回被推断为正常用户。为此转弊为利，我们将一组图卷积网络输出的嵌入向量z做内积进行重构，与原图误差越大证明是异常图的可能性越高，因为异常图在图卷积中的损失更多。交互行为有三种：发表评论，购物，加进购物车。
2023-04-15 23:44:54
160
1
原创 自注意力机制-李宏毅课程笔记
试想一下，在多视角网络中可以得到不同视图下的嵌入矩阵，常规方式是将这些嵌入矩阵分别输入神经网络中得到结果，但这样做会出现一个明显的问题：各个嵌入矩阵在神经网络中的处理变得毫不相关。而按照我们的经验来讲，在多视角网络中得到的不同视图下的嵌入矩阵常常是存在关系的，为了解决这种问题，传统的做法是如下图所示将所有情况罗列出来。为此我们引入了注意力机制：简单来讲，就是将原本单个嵌入矩阵输入神将网络，修改成按照一定的权重混合在一起后一起输入进去。因为目前在看一篇论文，里面涉及了有关注意力机制的问题，因此特学习一下。
2023-04-15 20:49:02
147
原创 多老师知识蒸馏模型——Anomaly detection based on multi-teacher knowledge distillation
第一点，尝试将单老师模型修改成多老师模型，这是因为每个老师网络的结构不同，可能适合不同种类图像的检测，例如Resnet152和Vgg19擅长处理纹理图像，Densenet210更好处理的物体图像。首先在数据预处理时，关于裁剪图像，小一点的还好说，但大图像如果缩小，异常区域也会跟着变小，就会变得难检查。为此，在训练时，我们将正常图随机切割。第三点，在计算特征误差时，除了我们熟悉的MSE均方误差外，还添加了cossim函数，目的是不断迭代优化使老师网络产生的特征值与学生网络产生的特征值方向越来越接近。
2023-04-15 11:34:54
981
1
原创 关于知识蒸馏的笔记
从“知识”角度看，在传统训练过程中我们使用的是真实标签与模型结果进行比对，这就造成了部分信息损失；而KD在训练时使用的是不是真实标签，而是soft target，简单来说就是把老师模型的一个中间值与学生模型的同样的中间值进行比较，这样的好处是信息量增加，负标签的信息量大大增加(我的理解是，在一个分类问题中，中间值往往是各个类别的概率，而只有对应的那个类别的概率才算正标签，其余都是负标签，也就是说正标签只有唯一的一个，其余都是负标签)。学生模型学习的是老师模型的优秀泛化能力，这也是深度学习的本质。
2023-04-13 22:25:31
84
原创 图神经网络学习笔记
换句话说，每个邻居节点的权重是相同的，但其实并不合理，应该根据邻居节点的邻居数量来决定权重大小。值得一提的是，此时提到的图神经网络是最基础的形式，其中的节点也指的是属性特征（尚未涉及到）下一个问题，作用在节点A上的节点竟然都只是邻居节点，居然不包含自己！考虑到本身节点对自己的贡献可能与其他邻居节点对自己的贡献有差别，因此使用另个权重。输出的嵌入向量之间的距离就可以表示原图节点间的距离与向量。图神经网络的层数其实是指计算图延伸的距离。表示的是计算图k-1层级对应的嵌入向量。这是最关键的部分，我认为。
2023-04-12 10:03:09
110
原创 单片机入门笔记
晶振的频率可以在1MHz-24MHz内选择。当CPU需要从程序存储器中读取指令时，它会将相应的地址发送到程序存储器，并同时发出一个PSEN控制信号，通知程序存储器准备将数据（指令）传送回CPU。RS，此脚为高电平时， 进行数据字节（即使用在 LCD1602上显示的字节，且LCD1602 的数据是 8 位的）的传输操作；只要控制不同单元的控制线，就可以向各单元写入不同的数据了——>用8根线或16根线来译码——>传递数据的八根线是公用的，称为数据总线，十六根地址线也是公用的，称之为地址总线。
2023-04-09 23:34:50
468
原创 李宏毅机器学习笔记——生成模型
在这里有个tips值得说一下，图的每个像素一般RGB三色，问题出在当RGB三个值相差不大时最终的结果像素点的颜色趋向灰色，于是乎，为了使生成的图像更加鲜亮，就需要拉高三个值的差距。总而言之，上图其实是有许多个gaussion分布组合而成的，比如有10个，那么能sample就最多有10种情况，但当我们采用映射的方法，z拥有无穷多的可能，时，KL(q(z|x)||P(z|x))值将不断缩小(问为什么？Log(P(x))不会改变，如图所示，我们从寻找P(x|z)变成了寻找P(x|z)与q(z|x)
2023-03-29 17:11:29
562
原创 李宏毅机器学习笔记——概率模型
在神经网络中y=w*x+b，为什么是这个形式？这门课将在最后归结到这一点上。我们假定A类的71个点遵循gaussion distribution，很有意思的一门课，但关于如何利用P(x)生成x还存在疑惑。举一个实际的例子，训练集中A类71个B类69个。
2023-03-28 22:08:53
110
原创 图神经网络
消息传递神经网络：无法区分节点1和节点2（计算图相同）传统机器学习，数据样本间彼此独立，不知道对方的存在。1，每个节点的嵌入向量都需要单独训练，没有参数共享。GCN内核不是单射函数，因此表达能力没有GIN强。节点层面，连接层面，子图层面， 全图层面。2， 直推式，无法泛化到新图和新节点。图节点：图中节点——>d维向量。3，没有用到节点属性特征标注。
2023-03-25 15:01:13
82
原创 pytorch学习笔记（更新中）
参考文献1，为什么要创建张量？torch.Size`` 返回值是 tuple类型, 所以它支持tuple类型的所有操作.任何 以``_`` 结尾的操作都会用结果替换原变量. 例如: ``x.copy_(y)``, ``x.t_()``, 都会改变 ``x``.: 可以改变张量的维度和大小如果你有只有一个元素的张量，使用.item()来得到Python数据类型的数值与张量有关操作atorchones(5)banumpy()a与b共享一个内存地址。
2023-03-06 00:27:53
238
原创 yolov5学习笔记
yolo将特征图划分为s*s的小格子，每个格子负责对落入其中的目标进行检测，一次性预测所以各自包括目标的边界框，定位置信度以及所有类别概率向量。
2023-03-05 23:26:35
240
原创 用yolov5进行图像检测的实例
在yolov5/data下新建项目annotations(存放xml文件)，imageSets空项目，images(存放原始图片)（原本不是这个名字，但代码中读取图片用的是images，于是懒得改代码，就把自己的项目名称改了）值得一提的是，注意代码中的classes与标注时的类名必须完全一致，我第一次就是因为一个是鱼一个是fish而在labels中得到一堆空文件。最终labels文件中得到图片对应的txt,在data目录下生成了train.txt,test.txt,val.txt。在用detact检测时。
2023-03-05 11:03:19
429
原创 mac解决ModuleNotFoundError: No module named ‘utils‘错误
如图所示，我把yolov5中的utils文件夹复制粘贴到了这个地方，之后运行指令，错误消失。虽然我已经使用了各种pip指令重新安装utils文件，但一直没有效果。但明明我的yolov5文件夹中有utils包，却报错显示包不存在。同时由于其他各种无关项目也叫utils的，产生了歧义，因此报错。于是我觉得可能是重新安装的utils文件没有存放在正确的位置。不幸的是，这些都不能解决我的问题，但最后还是得到了解决方法。我在下载yolov5时，执行指令下述指令时出现了错误。于是我开始在网上寻找对策：（浅浅总结一下）
2023-03-03 20:15:18
6106
4
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人