![](https://img-blog.csdnimg.cn/20200813163941141.jpg?x-oss-process=image/resize,m_fixed,h_224,w_224)
人工智能
文章平均质量分 76
关于人工智能的
强劲九
有问题可以找我「strongnine」!
展开
-
AI 绘图:MidJourney 的提示语句(Prompt)怎么写?
这篇文章主要总结了在 AI 绘画中,使用 MidJourney 时提示语句 Prompt 的写法。原创 2023-04-03 15:02:43 · 6749 阅读 · 1 评论 -
伴随方法:线性方程的伴随方程(Adjoint Equation)
伴随方法是 Neural-ODE 中十分重要的一个方法,它让一个计算量复杂到基本无法求解的问题变得有可能。在神经网络中嵌套线性方程或者非线性方程也会遇到同样的问题,这篇文章从最简单的例子线性方程中的网络参数求解中,表达一下伴随方法的思想以及一些公式的推导。原创 2022-05-15 21:25:35 · 3990 阅读 · 0 评论 -
Julia:Flux.jl 中的网络更新优化器参数解释
网络参数更新的优化器有很多的选择,但是大部分都是 Adam 算法的变种或者优化,下面是关于这些优化器的一些介绍和参数的意义,详细的可以去看不同算法的论文深入了解。原创 2022-05-05 15:14:16 · 350 阅读 · 0 评论 -
特征工程:什么是「组合特征」?要如何处理「高维组合特征」?
为了提高复杂关系的拟合能力,在特征工程中经常会把一阶离散特征两两组合,构成高阶组合特征。在实际问题中,需要面对多种高维特征,简单地两两组合,依然容易存在参数过多、过拟合等问题。原创 2022-04-21 11:50:12 · 1005 阅读 · 0 评论 -
特征工程:归一化与标准化
归一化(Normalization)方法泛指把数据特征转换为相同尺度的方法原创 2022-02-01 20:36:45 · 3408 阅读 · 0 评论 -
PyTorch:常见错误 inplace operation
inplace 操作是 PyTorch 里面一个比较常见的错误,这篇文章记录了一个一些排查这种错误的方法原创 2022-01-30 17:17:57 · 5207 阅读 · 0 评论 -
Julia:Zygote 上自定义后向传播
Zygote 是 Julia 上一个实现自动微分、自动求导的包,其中 @adjoint 宏是 Zygote 接口的一个重要组成部分。原创 2021-12-01 09:13:11 · 350 阅读 · 0 评论 -
Julia:用多层感知机解决异或问题
1/ 异或问题(XOR Problem)异或问题就是当两个输入的布尔值一致时,输出为 True(可以用 1 代表),如果两个输入的布尔值不一致的时候,输出为 False(可以用 0 代表)。据说多层感知机(MLP)是很难处理异或问题的,就好比下面的问题。首先由一个问题引入,来自邱锡鹏老师的书《神经网络与深度学习》第四章的习题 4-2:习题 4-2 试设计一个前馈神经网络来解决 XOR 问题,要求该前馈神经网络具有两个隐藏神经元和一个输出神经元,并使用 ReLU 作为激活函数。一个可行的结果如下,原创 2021-06-07 19:49:25 · 3024 阅读 · 2 评论 -
自动微分(AutoDiff)的原理
自动微分(AutoDiff)的原理1/ 各种自动微分的优缺点1机器学习的一个重要的任务,就是对参数求导得到损失函数对于每个参数的偏导数,然后进行梯度下降。而求偏微分,可以选择的方法有:手工微分(manual differentiation)、符号微分(symbolic differentiation)、数值微分(numerical differentiation)、前向自动微分(forward-mode autodiff)和反向自动微分(reverse-mode autodiff)。而在 Julia原创 2021-05-19 11:19:19 · 1602 阅读 · 0 评论 -
PyTorch:一篇使用技巧汇总
设定 tensor 默认的 dtype:torch.set_default_tensor_type(torch.DoubleTensor)Pytorch 有八个类型:Daya typedtypeTensor types32-bit 浮点torch.float32 or torch.floattorch.*.FloatTensor64-bit 浮点torch.float64 or torch.doubletorch.*.DoubleTensor16-bit 浮点原创 2021-03-13 11:07:55 · 366 阅读 · 1 评论 -
《神经网络与深度学习》第二章习题
第二章 机器学习概述习题 2-1 分析为什么平方损失函数不适用于分类问题。平方损失函数为:L(y,f(x;θ))=12(y−f(x;θ))2(2.14)\mathcal{L}\left(y,f(\boldsymbol{x};\theta)\right)=\frac{1}{2}\left(y-f(\boldsymbol{x};\theta)\right)^2 \tag{2.14}L(y,f(x;θ))=21(y−f(x;θ))2(2.14)对于分类问题,例如如果一个分类问题有标签 [1,2,3]原创 2020-08-14 13:41:55 · 1036 阅读 · 1 评论 -
核函数:RBF 是如何让线性 SVM 可以分类非线性数据的?
核函数:RBF 是如何让线性 SVM 可以分类非线性数据的?1. 线性支持向量机支持向量机的思想就是给定训练样本集 DDD,在样本空间中找到一个划分的超平面,例如下图:但如果遇到某一些数据,并没有这么容易可以用一个平面分隔开,像如下的环形数据:现实中非线性的数据还是很多数的,而解非线性问题要远比线性问题复杂得多,花费的资源也会成倍的增加,为此我们使用了核技巧(kernel trick)...原创 2020-03-11 21:28:37 · 3157 阅读 · 0 评论 -
将一维时间序列转化成二维图片
原文地址:Encoding Time Series as Images虽然现在深度学习在计算机视觉和语音识别上发展得很好,但是碰到时间序列时,构建预测模型是很难的。原因包括循环神经网络较难训练、一些研究比较难以应用,而且没有现存与训练网络,1D-CNN 不方便。但是如果使用 Gramian Angular Field (GAF),可以把时间序列转成图片,充分利用目前机器视觉上的优势。这篇文章...原创 2019-01-13 13:40:51 · 51985 阅读 · 79 评论 -
深度学习中的激活函数
参考:The Activation in Deep Learning 浅谈深度学习中的激活函数一、The Activation Function in Deep Learning1. Sigmoid(): f(x)=11+e−xf(x)=11+e−xf(x) = \dfrac{1}{1+e^{-x}}2. Tanh(): f(x)=1−e−2x1+e−2xf(x)=1−e−2x...原创 2018-12-05 11:00:00 · 258 阅读 · 0 评论 -
Faster R-CNN : end2end 和 alternative 训练
0.0原创 2018-12-05 10:55:22 · 1181 阅读 · 1 评论 -
Caffe:使用 classify.py 批量对图片分类
一般使用 Caffe 训练完网络后,会用 test.bin 来测试一下网络的精度,然后还能用 classification.bin 来用网络对图片进行单张的分类,但是一张一张的分,效率很低,所以我改写了 classify.py 文件,使其读取 test.txt 文件批量分类,输出具体哪一张图片分错了。代码如下:# copyright (c) strongnineimport caffei...原创 2018-12-04 20:21:23 · 705 阅读 · 0 评论 -
Caffe:查看并可视化 LMDB 文件
Caffe 训练的时候,网络会指定 LMDB 文件。LMDB 文件的全称是 Lightning Memory-Mapped Database,也就是闪电内存映射数据库,用这种数据可以省去大量读取小文件的时间花费和 IO 花费,可以提高训练的速度。LMDB 文件里面存储的内容很简单,就是一堆字符串。像是 Python 中的 dictionary 数据那样,它是一个 key 对应一个 value ...原创 2018-12-04 16:31:14 · 2975 阅读 · 0 评论 -
机器学习/深度学习资源下载合集(持续更新...)
这篇转载自「译智社」的成员 —— 林夕的文章机器学习/深度学习资源下载集合(持续更新…)。如果你对人工智能感兴趣,欢迎关注公众号 —— 译智社。从入门到进阶,所用到机器学习资料,包括书、视频、源码。文章首发于 Github,若下载资源请跳转 Github.文章目录1. 视频:1.1. 吴恩达老师机器学习课程:1.2. 吴恩达 深度学习课程:1.3. 斯坦福 CS231n: Convoluti...转载 2018-11-24 11:44:38 · 2042 阅读 · 0 评论 -
Logistic Regression with a Neural Network mindset
一、导入模块import numpy as npimport matplotlib.pyplot as pltimport h5pyimport scipyfrom PIL import Imagefrom scipy import ndimagefrom lr_utils import load_dataset二、数据集数据集是两个 .h5 格式的文件,有训练集和测试...原创 2018-07-09 16:20:55 · 255 阅读 · 0 评论 -
TensorFlow:Ubuntu 下安装 TensorFlow - GPU支持
最近为了学习 tensorflow,要在主机上安装 tensorflow。所以在 github 上面下载了一个官方编译的 whl 来安装。一、主机主机为双路的 Titan xp,系统是Ubuntu 16.04二、配置过程(一)先更新显卡驱动“系统设置”-- “软件与更新”-- “额外驱动”--选择第一个就好了。选好后点应用,输入密码,就会自动开始下载更新。(二)安...原创 2018-05-05 20:41:12 · 3510 阅读 · 3 评论 -
Caffe:使用 cudnn 5.1 配置 Faster-RCNN Caffe 并运行 demo
配置: 系统:Ubuntu 16.04 环境:CUDA 8.0 + cudnn 5.1 + BLAS + opencv 3.0.01. Caffe 的配置(1). 安装依赖项①. 一般依赖项sudo apt-get install libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libboost-...原创 2018-05-27 17:25:32 · 474 阅读 · 1 评论 -
平均精度均值(Mean Average Precision, mAP)
与目标识别不同,目标检测中不仅仅需要在一张图片中检测到是否含有某物体,还需要将该物体的位置找出来,所以在判定模型的好坏时,就有其标准——mAP一、Mean Average Precision – mAP(一)什么是 mAP ?平均精度均值(mAP)是预测目标位置以及类别的这一类算法的性能度量标准。mAP 对于评估目标定位模型、目标检测模型以及实例分割模型非常有用。 在模型预测...原创 2018-08-01 16:48:41 · 26299 阅读 · 8 评论 -
R-CNN:训练和测试 Faster R-CNN 模型中遇到的问题
最近使用自己标注的数据集用 Faster R-CNN 训练了两个模型:VGG16 和 ResNet-50 ,在训练和测试的时候还是踩了很多坑,把遇到的问题及解决方法总结了一下,以供以后回顾。训练1. 错误:./tools/train_faster_rcnn_end2end.py is not found执行文件的位置不正确,注意所有的命令最好都在 faster rcnn 的根目...原创 2018-07-06 19:45:39 · 1912 阅读 · 2 评论 -
R-CNN:使用自己的数据训练 Faster R-CNN 的 ResNet-50 模型
上次使用 Faster R-CNN 训练了一个 VGG16 的网络,为了再提升识别的准确率,利用 ResNet 网络在同样的数据上面训练了多一次,过程如下原创 2018-07-06 19:45:16 · 15973 阅读 · 48 评论 -
R-CNN:使用自己的数据训练 Faster R-CNN 的 VGG-16 模型
最近在学习 Faster R-CNN 模型,为了了解其中网络的结构,利用 PascalVOC 数据集,来扩展网络的类别(原来有 20 类)。过程分为:数据准备 ==> 相关文件修改 ==&amp原创 2018-07-06 19:44:48 · 8679 阅读 · 3 评论 -
PascalVOC 数据集
里面有一个 VOC2007 ,另一个是 VOC2012 。 进去里面有 5 个文件夹: VOC2012 ├──Annotations ├──ImageSets ├──Action ├──Layout ├──Main └──Segmentation ├──JPEGImage ├──SegmentationClass └──SegmentationObjectAnno...原创 2018-07-05 23:05:52 · 7935 阅读 · 1 评论 -
IoU(Intersection-over-Union)
交并比 (intersection over union)即为两个区域的交集与并集的比值。 例如有两个区域 C 与 G,如下图表示: 那么 IoU 的值定义为: IoU=C∩GC∪GIoU=C∩GC∪GIoU=\frac{C \cap G}{C \cup G}目标检测中的 IoU在目标检测中,算法预测出来的 bounding box 不会与 ground truth box ...原创 2018-07-03 23:25:06 · 1319 阅读 · 0 评论 -
R-CNN:Faster R-CNN 模型学习笔记
参考:论文:Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks Blog:深度学习系列之Faster R-CNN 个人总结一、Faster R-CNNFaster R-CNN 使用了一个 区域建议网络 ,使用端到端的方式去训练,生成高质量的区域建议。1. Faster R-C...原创 2018-07-02 21:39:16 · 1196 阅读 · 0 评论 -
翻译:Deep Residual Learning for Image Recognition
图像识别中的深度残差学习 摘要更深的神经网络更加难以训练。我们提出了一个残差学习框架,以简化比那些以往使用的更加充分深的网络的训练。我们显式地将层重新表示为学习残差函数,并参考层的输入,而不是学习未参考的函数。我们提供了全面的实证证据表明,这些残差网络是最容易优化的,并且可以从显著增加的深度中增加准确性。在 ImageNet 数据集上我们评估深度多达152层的残差网络,这个网络比 VGG 网...翻译 2018-07-22 09:23:29 · 1713 阅读 · 0 评论 -
翻译:Multi-scale Multi-path Multi-model Fusion Nerwork
M3Net: 多尺度多路径多模型融合网络及其在 RGB-D 显着目标检测中的应用实例摘要 — 融合 RGB 和深度数据对于提高各种机器人和计算机视觉任务的性能是很受关注的。通常,RGB 和深度信息的(数据)流在早期或者晚期的阶段合并为一个单一的融合点,以生成合并的特征或者决策。单一的融合点也意味着单一的融合路径,它拥挤且不灵活,无法融合来自不同模态的所有信息。因此,融合过程是暴力的,所以也缺乏...翻译 2018-08-09 12:18:06 · 1323 阅读 · 0 评论 -
翻译:Selective Search for Object Detection
在这篇指导,我们将会理解一个在目标检测中的重要概念——Selective Search。我们也会在 C++ 的和 Python 上分享 OpenCV 代码。翻译 2018-07-12 17:08:31 · 943 阅读 · 0 评论 -
胶囊网络的简单介绍
原文:https://kndrck.co/posts/capsule_networks_explained/Posted on November 10, 2017 by Kendrick Tan预修知识:卷积神经网络,变分自编码器免责声明:本文不涉及胶囊网络背后的数学,而是说一下它们背后的直觉和动机。什么是胶囊网络?为什么要使用胶囊网络?胶囊网络是 Geoffrey Hinton 提出的...翻译 2018-09-29 11:56:40 · 8639 阅读 · 0 评论 -
Apple 新产品中的机器学习算法
原文:How Machine Learning Algorithms & Hardware Power Apple’s Latest Watch and iPhonesPRANAV DAR, SEPTEMBER 13, 2018机器学习算法和硬件如何让苹果最新的手表和 iPhone 变得更好前言现在是成为数据科学家的好时机 —— 所有顶尖的科技巨头都在将机器学习集成到他们的旗舰产...翻译 2018-09-22 21:46:53 · 803 阅读 · 0 评论 -
2018 年 8 月以来 5 个最好的机器学习 GitHub 项目和 Reddit 热帖
原文:The 5 Best Machine Learning GitHub Repositories & Reddit Threads from August 20182018 年 8 月以来 5 个最好的机器学习 GitHub 项目和 Reddit 热帖PRANAV DAR, SEPTEMBER 2, 2018前言当我去年年初开始使用 GitHub 时,我从来没有想过它对我来说...翻译 2018-09-22 21:37:39 · 715 阅读 · 0 评论 -
Caffe:使用 Caffe 训练自己的 Alexnet
使用 Caffe 训练自己的 Alexnet1. 数据准备2. 计算图像均值3. 定义网络3.1 修改 solver.prototxt3.2 修改 train_val.prototxt4. 训练网络参考:caffe:用自己的图像数据训练模型(图片分类)Brewing ImageNet1. 数据准备在 caffe_master/data 中新建文件夹 myself9,在 myself9...原创 2018-10-05 19:28:56 · 3073 阅读 · 3 评论