【头歌平台】人工智能-深度学习初体验

已于 2023-04-23 21:06:09 修改
阅读量6.5k 收藏 58
点赞数 12
文章标签： 深度学习 人工智能 神经网络
于 2022-11-21 14:23:51 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42754727/article/details/127963884
版权

深度学习初体验

第1关：什么是神经网络

第一题

在这里插入图片描述

神经网络中也有神经元，这些神经元也会与其他神经元相连接，这样就形成了神经网络，而且这种网络我们称之为全连接网络。如下图所示(方块表示神经元):

在这里插入图片描述

从图可以看出，神经网络由一层一层的神经元所构成的，并且不同的层有不同的名字。其中输入层表示用来接收数据输入的一组神经元。输出层表示用来输出的一组神经元。隐藏层表示介于输入层与输出层之间的一组神经元。

第二题

在这里插入图片描述

如果我们搭积木搭得很高就变成了高楼大厦，同样，如果我们神经网络的层数比较多，我们就成为这样的神经网络为深层神经网络。如果我们用深层神经网络来完成我们想要的功能，我们就叫它为深度学习。

第三题

在这里插入图片描述

ReLU（11）=max（0，11）=11

在这里插入图片描述

第四题

在这里插入图片描述

如果我们神经网络的层数比较多，我们就成为这样的神经网络为深层神经网络。如果我们用深层神经网络来完成我们想要的功能，我们就叫它为深度学习。

含有1层隐藏层的神经网络层数太少，并不是深层神经网络。

第2关：反向传播

第一，二题

在这里插入图片描述

在这里插入图片描述

神经网络的训练过程就是不断地寻找合适的 W 和 b 来让预测输出与真实标签之间差异最小的过程。那么我们可以将训练过程拆开来看，首先我们需要能够衡量预测输出和真实标签之间的差异，其次我们需要能够不断地优化 W 和 b 使得预测输出与真实标签之间地差异变小。

首先，想要衡量差异，我们可以将预测输出和真实标签输入到一个函数中，然后通过这个函数的计算来量化差异的大小。像这种函数我们称之为损失函数。损失函数的种类有很多，比如面对分类问题时，通常使用交叉熵损失、面对回归问题时通常使用均方误差等。总之可以看成是一个能够量化差异的黑盒子，而且量化出的差异值越小，代表我们的神经网络的预测输出越准确。

其次，我们需要找出 W 和 b 来让差异最小，这个时候我们会使用梯度下降算法来迭代更新 W 和 b 。梯度下降算法的思想是，让 W 和 b 朝着让差异值变小的大体方向来更新，而大体方向怎样获取，就需要计算 W 和 b 对于损失函数的偏导(梯度)。但由于计算 W 和 b 对于损失函数的偏导需要知道 W 和 b 对于神经元中线性计算部分的偏导和线性计算部分对于损失函数的偏导。所以就有了反向传播算法。

第三题

在这里插入图片描述

神经网络和其他机器学习算法一样，同样有训练和预测的过程。如果用一句话来概括的话就是预测过程为前向传播的过程，训练过程为重复前向传播加反向传播的过程。

第3关：动手实现CNN识别手写数字

想要 add 一层卷积层，代码如下：

from keras.layers import Conv2D
model = Sequential()
'''
16表示该卷积层有16个卷积核
kernel_size=3表示卷积核的大小为3*3
activation='relu'表示卷积层的激活函数是relu
input_shape=[IMAGE_HEIGHT, IMAGE_WIDTH, 3]表示待卷积图像为32*32的3通道图像
'''
model.add(Conv2D(16, kernel_size=3, activation='relu', input_shape=[32, 32, 3]))

想要 add 一层最大池化层，代码如下：

from keras.layers import Conv2D
model = Sequential()
'''
pool_size=2表示池化窗口的大小为2*2
'''
model.add(MaxPooling2D(pool_size=2))

想要 add 一层扁平层，代码如下：

from keras.layers import Conv2D
model = Sequential()
'''
卷积或者池化后想要接上全连接层之前需要接入扁平层
'''
model.add(Flatten())

所以，如果想要构建如下结构的卷积神经网络，可以编写如下代码：

# 1.有32个5*5的神经元的卷积层，激活函数为relu，输入的数据为宽28高28的灰度图像
# 2.有64个5*5的神经元的卷积层，激活函数为relu
# 3.最大池化层，池化核大小为2*2
# 4.扁平
# 5.有128个神经元的全连接层，激活函数为relu
# 6.有10个神经元的全连接层，激活函数为softmax
model = Sequential()
model.add(Conv2D(32, (5, 5), activation='relu', input_shape=[28, 28, 1]))
model.add(Conv2D(64, (5, 5), activation='relu'))
model.add(MaxPool2D(pool_size=(2, 2)))
model.add(Flatten())
model.add(Dense(128, activation='relu'))
model.add(Dense(10, activation='softmax'))

完整代码和运行结果如下：

from keras.models import Sequential
from keras.layers import Conv2D, MaxPool2D, Flatten, Dense
import numpy as np
# 设置随机种子
np.random.seed(1447)

def build_model():
    '''
    在Begin-End段中构建出如下结构的卷积神经网络
    1.64个5*5的卷积核组成的卷积层，激活函数为relu
    2.最大池化层，池化核大小为2*2
    3.扁平
    4.128个神经元的全连接层，激活函数为relu
    5.10个神经元的全连接层，激活函数为softmax
    :return: 构建好的模型
    '''
    model = Sequential()
    model.add(Conv2D(32, (5, 5), activation='relu', input_shape=[28, 28, 1]))
    #********* Begin *********#
    model.add(Conv2D(64, (5, 5), activation='relu'))
    model.add(MaxPool2D(pool_size=(2, 2)))
    model.add(Flatten())
    model.add(Dense(128, activation='relu'))
    model.add(Dense(10, activation='softmax'))

    #********* End *********#
    return model

在这里插入图片描述

第4关：动手实现RNN分析影评情感

使用 Keras 构建循环神经网络

在 Keras 中想要添加 RNN 的结构非常简单，代码如下：

from keras.layers import Embedding, SimpleRNN, Dense
from keras import Sequential
model = Sequential()
# 对输入的影评进行word embedding，一般对于自然语言处理问题需要进行word embedding
model.add(Embedding(1000, 64))
# 构建一层有40个神经元的RNN层
model.add(SimpleRNN(40))
# 将RNN层的输出接到只有一个神经元全连接层
model.add(Dense(1, activation='sigmoid'))

编程要求

填写 python 代码，在 Begin-End 段中构建出如下结构的循环神经网络：

​ 有 30 个神经元的 SimpleRNN 层；

​ 有 16 个神经元的全连接层，激活函数为 relu；

​ 有 1 个神经元的全连接层，激活函数为 sigmoid

代码如下：

from keras.models import Sequential
from keras.layers import Embedding, SimpleRNN, Dense

def build_model():
    '''
    在Begin-End段中构建如下结构的循环神经网络
    1.有30个神经元的SimpleRNN层
    2.有16个神经元的全连接层，激活函数为relu
    3.有1个神经元的全连接层，激活函数为sigmoid
    :return: 构建好的模型
    '''
    model = Sequential()
    model.add(Embedding(1000, 64))
    #********* Begin *********#
    model.add(SimpleRNN(30))
    model.add(Dense(units=16, activation='relu'))
    
    model.add(Dense(units=1, activation='sigmoid'))
    #********* End *********#
    return model

完整代码和运行结果如下：

from keras.models import Sequential
from keras.layers import Embedding, SimpleRNN, Dense

def build_model():
    '''
    在Begin-End段中构建如下结构的循环神经网络
    1.有30个神经元的SimpleRNN层
    2.有16个神经元的全连接层，激活函数为relu
    3.有1个神经元的全连接层，激活函数为sigmoid
    :return: 构建好的模型
    '''
    model = Sequential()
    model.add(Embedding(1000, 64))
    #********* Begin *********#
    model.add(SimpleRNN(30))
    model.add(Dense(units=16, activation='relu'))
    
    model.add(Dense(units=1, activation='sigmoid'))
    #********* End *********#
    return model

在这里插入图片描述

第5关：动手实现猫狗大战

读取图片

读取图片可以使用 OpenCV（ OpenCV 是一个开源的计算机视觉库，许多功能都有 python 接口）的 API 来实现。

想要在 python 中使用 opencv ，首先需要导入 cv2 。

import cv2

导入了 cv2 之后，可以使用 imread 函数来读取图片，其中 filename 是想要读取的图片路径。

img = cv2.imread(filename)

由于训练集中的图片大小不一，所以需要将读取到的图片强制缩放到固定的宽和高。所以需要使用 resize 函数，其中 (32, 32) 的意思是将源图像缩放成宽和高都是 32 个像素的图像。

resized_image = cv2.resize(img, (32, 32))

图像归一化

由于卷积神经网络中的参数是通过梯度下降的方式训练出来的，而图像中的每个像素都可以看成是一个特征，因此对图像中的像素值进行归一化能够提高卷积神经网络在梯度下降时的速度，减少损失的震荡程度。想要对图像进行归一化非常简单，因为 opencv 读取后的图像是使用 numpy 的 ndarray 这一数据结构来表示的，所以归一化只需要使用如下代码即可：

img = img / 255.0

onehot编码

在遍历 train_data 目录中的图片时可以根据图片的名字来确定图片所对应的真实标签（ 0 (猫)，1 (狗)）。但是在使用神经网络训练前，需要对标签进行 onehot 编码处理。

onehot 编码是分类变量作为二进制向量的表示。这首先要求将分类值映射到整数值。然后，每个整数值被表示为二进制向量，除了整数的索引之外，它都是零值，它被标记为 1。

在本次实训中，onehot 编码可以看成把左表转换成右表:

在这里插入图片描述

从上图可以看出， onehot 编码是把真实标签中所有可能的结果作为列（数据集中只有猫和狗，所以猫和狗作为列），然后把对应的列填上 1 和 0。比如表格中的第 1 行的图片名是 cat.1.jpg （肯定是猫），所以就在猫那一列填成 1，狗那一列填成 0 。第 3 行的图片名是 dog.1.jpg （肯定是狗），所以就在狗那一列填 1，猫那一列填 0。

想要实现 onehot 编码也很简单，只需要先用 numpy 的 zeros 函数分配好空间（ row 指的是有多少张训练集图片，col 指的是有多少种标签）。

onehot = np.zeros((row, col))

然后根据图片名字在对应的列上填 1 即可（在这里假设 onehot 的第 1 列是猫，第 2 列是狗）。

综上可完成题目中get_train_data(data_path)函数的代码：

def get_train_data(data_path):
    '''
    读取并处理数据
    :return:处理好的图像和对应的one-hot编码
    '''
    images = []
    onehot = np.zeros((500, 2))
    #********* Begin *********#
    for i, img_name in enumerate(os.listdir(data_path)):
        if 'cat' in img_name:
            onehot[i, 0] = 1
        else:
            onehot[i, 1] = 1
        img = cv2.imread(os.path.join(data_path, img_name))
        img = cv2.resize(img, (IMAGE_HEIGHT, IMAGE_WIDTH))
        images.append(np.array(img, "float32") / 255.0)

    #********* End *********#
    return np.array(images), onehot

通过查找img_name里是否出现’cat’来判断图片种类，并进行onehot编码

利用os.path.join(data_path, img_name) 将路径连接起来

利用np.array(img, “float32”) / 255.0将img转为float再除以255.0

实现猫狗分类

处理好数据之后，就可以着手构建模型并训练模型了，如：

model = keras.Sequential()
model.add(Conv2D(32, kernel_size=3, activation='relu', input_shape=[IMAGE_HEIGHT, IMAGE_WIDTH, 3]))
model.add(MaxPooling2D(pool_size=2))
model.add(Conv2D(32, kernel_size=3, activation='relu'))
model.add(MaxPooling2D(pool_size=2))
model.add(Flatten())
model.add(Dense(96, activation='relu'))
model.add(Dense(2, activation='softmax'))
model.compile(loss='categorical_crossentropy',    optimizer=keras.optimizers.Adam(lr=0.0001),
              metrics=['accu\fracy'])
model.fit(images, onehot, epochs=20, batch_size=32, verbose=0)

综上完成build_model()函数代码

def build_model():
    '''
    构建模型
    :return:构建好的模型
    '''
    model = keras.Sequential()
    #********* Begin *********#
    model.add(Conv2D(32, kernel_size=3, activation='relu', input_shape=[IMAGE_HEIGHT, IMAGE_WIDTH, 3]))
    model.add(MaxPooling2D(pool_size=2))
    model.add(Conv2D(32, kernel_size=3, activation='relu'))
    model.add(MaxPooling2D(pool_size=2))
    model.add(Flatten())
    model.add(Dense(96, activation='relu'))
    model.add(Dense(2, activation='softmax'))
    #********* End *********#
    return model

完成编译模型代码

#********* Begin *********#
    # 编译模型
    model.compile(loss='categorical_crossentropy', optimizer=keras.optimizers.Adam(lr=0.0001), metrics=['accuracy'])
    #********* End *********#

完整代码和运行结果如下：

一遍过不了可以多交几遍就能过了。

from keras.layers import Dense, Activation, Flatten, Dropout, Conv2D, MaxPooling2D
import keras
import os
import numpy as np
import cv2

# 设置随机种子
np.random.seed(1447)

IMAGE_HEIGHT = 128
IMAGE_WIDTH = 128


def get_train_data(data_path):
    '''
    读取并处理数据
    :return:处理好的图像和对应的one-hot编码
    '''
    images = []
    onehot = np.zeros((500, 2))
    #********* Begin *********#
    for i, img_name in enumerate(os.listdir(data_path)):
        if 'cat' in img_name:
            onehot[i, 0] = 1
        else:
            onehot[i, 1] = 1
        img = cv2.imread(os.path.join(data_path, img_name))
        img = cv2.resize(img, (IMAGE_HEIGHT, IMAGE_WIDTH))
        images.append(np.array(img, "float32") / 255.0)

    #********* End *********#
    return np.array(images), onehot

def build_model():
    '''
    构建模型
    :return:构建好的模型
    '''
    model = keras.Sequential()
    #********* Begin *********#
    model.add(Conv2D(32, kernel_size=3, activation='relu', input_shape=[IMAGE_HEIGHT, IMAGE_WIDTH, 3]))
    model.add(MaxPooling2D(pool_size=2))
    model.add(Conv2D(32, kernel_size=3, activation='relu'))
    model.add(MaxPooling2D(pool_size=2))
    model.add(Flatten())
    model.add(Dense(96, activation='relu'))
    model.add(Dense(2, activation='softmax'))
    #********* End *********#
    return model


def fit_and_predict(model, train_images, onehot, test_images):
    '''
    训练模型，并对测试图像进行预测
    :param model: 训练好的模型
    :param train_images: 训练集图像
    :param onehot: 训练集的one-hot编码
    :param test_images: 测试集图像
    :return: 预测结果
    '''
    #********* Begin *********#
    # 编译模型
    model.compile(loss='categorical_crossentropy', optimizer=keras.optimizers.Adam(lr=0.0001), metrics=['accuracy'])
    #********* End *********#
    model.fit(train_images, onehot, epochs=20, batch_size=32, verbose=0)
    result = model.predict(test_images, batch_size=10)
    predict_idx = np.argmax(result, axis=1)
    return predict_idx

在这里插入图片描述

动手实现猫狗大战.txt
11-25
搭配头歌实验平台学习：在 Begin-End 段中填写 Python 代码，实现猫狗分类。 补全代码即可，程序内部会使用你所构建的模型进行训练与预测，当预测准确率高于 70% 时，视为过关。
人工智能-深度学习初体验
Pretend的博客
12-24 5897
EduCoder平台：深度学习初体验 第1关：什么是神经网络 第2关：反向传播 第3关：动手实现CNN识别手写数字 编程要求： 填写 python 代码，在 Begin-End 段中构建出如下结构的卷积神经网络： 64 个 5*5 的卷积核组成的卷积层，激活函数为 relu； 最大池化层，池化核大小为 2*2； 扁平； 128 个神经元的全连接层，激活函数为 relu； 10 个神经元的全连接层，激活函数为 softmax。 测试说明： 只需按要求构建模型即可，程序内部会使用你所构建的模型进行训练与
关于深度学习的初体验
qq_41988459的博客
04-08 477
以下是关于刚刚接触深度学习的一点心得体验，一名小白，没有什么干货，大佬可绕道。 飞桨paddlepaddle 本来是无意中关注了飞桨公众号，然后通过公众号了解了七天打卡营课程活动，能参与到这其中一起学习可以说是个非常好的机会了。课程安排非常合理，有理论部分，有实战部分，还有助教老师们随时在群里在网站答疑，对于一个小白来说，简直太友好了。也很遗憾之前没有发现，希望下面的课也能紧紧跟住听一听。 一些心...
深度学习初体验
chenglinhust的专栏
02-21 750
深度学习初体验1.  偏差   1）首先 Error（误差） = Bias（偏差） + Variance（方差）Error反映的是整个模型的准确度，Bias反映的是模型在样本上的输出与真实值之间的误差，即模型本身的精准度，Variance反映的是模型每一次输出结果与模型输出期望之间的误差，即模型的稳定性。2.  感知器和激活函数    详见：https://yq.aliyun.com/articl...
头歌第1关：VGG
最新发布
qq_73866088的博客
05-16 523
return x。
Educode--python常用损失函数的实现
qq_57409899的博客
04-22 2092
第1关：实现常见损失函数的前向传播 任务描述 本关任务：实现常见损失函数的前向传播。 相关知识 为了完成本关任务，你需要掌握：常见损失函数的定义。 本实训内容可参考《深度学习入门——基于 Python 的理论与实现》一书中第4.1−4.2章节的内容。 神经网络的训练 神经网络作为上世纪90年代就已经出现的技术，为什么忽然在2012年以后重新进入人们的视野，并在计算机视觉、自然语言处理领域等领域展现了前所未有的统治力呢？答案包括两个因素，第一是计算机硬件的高速发展，为深度学习提供了强大的算力支撑
机器学习-PCA
记录学习过程所学
01-24 2575
PAC(主成分分析法) 将高维数据特征降低为低维数据特征，减少维度冗余，将数据沿方差最大方向投影，数据更易于区分，在同一维度的相关性降低 能够去除部分噪声，因为最小特征值所对应的特征向量往往与噪声有关 提高运算速度 属于非监督学习算法 PCA处理过程 方法1原则 最大可分性：样本点到这个超平面上的投影尽可能分得开，通过投影点的方差来度量 方法2原则 最近重构性：样本点到这个超平面的距离足够近 分析步骤 第一步：均值归零 第二步：目标函数 定义方差：X
头歌人工智能学习记录
林一百二十八的博客
06-08 1998
神经网络中的每个神经元节点接受上一层神经元的输出值作为本神经元的输入值，并将输入值传递给下一层，输入层神经元节点会将输入属性值直接传递给下一层（隐层或输出层）。在多层神经网络中，上层节点的输出和下层节点的输入之间具有一个函数关系，这个函数称为激活函数（又称激励函数）。激活函数是计算神经网络中非常重要的一环，激活函数增加了神经网络模型的非线性特征，倘若神经网络中不存在激活函数，那么无论神经网络的深度有多少层 ，最终均是若干次的矩阵相乘，若输入输出依然存在线性关系，则对于机器学习就失去了意义。
头歌工程实训答案-机器学习篇之手写体识别篇
m0_71537260的博客
06-10 1808
第2关：激活函数'''x:负无穷到正无穷的实数'''if x<=0:return 0else:return x#***第3关：反向传播算法import os。
【头歌】机器学习 --- 神经网络
qq_63142181的博客
11-28 9552
【头歌】机器学习 --- 神经网络
AI培训:1-AI初体验-人工智能通识基础课
03-10
【AI培训：1-AI初体验-人工智能通识基础课】是针对想要了解和学习人工智能基础知识的初学者设计的一门课程。在这个课程中，学员将接触到人工智能的基本概念、原理以及在大数据背景下的应用。课程旨在帮助学员建立起...
AI人工智能资料 机器学习和深度学习知识 day04-Tensorflow基础与进阶 共74页.pptx
05-03
深度学习是现代人工智能领域的重要分支，其核心在于构建深层次的神经网络模型，模拟人脑的学习过程，以解决复杂的数据分析和模式识别问题。深度学习包括多种模型，如深度神经网络（DNN）、卷积神经网络（CNN）和递归...
thxt.rar_grandfathere76_人工智能/神经网络/深度学习
07-14
标题中的"thxt.rar_grandfathere76_人工智能/神经网络/深度学习"表明这是一个与人工智能，特别是神经网络和深度学习相关的压缩文件。"grandfathere76"可能是作者或者项目的别名，这通常用于标识项目来源或者个人风格...
清华大学AI人工智能概论课程 第1章 AI时代的起航 含习题 共56页 .pptx
09-21
【清华大学AI人工智能概论课程】全面涵盖了人工智能领域的基础知识和核心概念，旨在为学生提供一个全面了解AI的平台。课程从AI的起源和发展历程入手，详细讲述了AI从20世纪40年代至今的波折起伏，其中包括重要的里程...
Python分类实例之猫狗大战
热门推荐
ZHW-鲜橙大AI课题组的博客
06-17 1万+
pytorch之猫狗大战编程实战指南比赛数据集介绍（Dogs vs cats）环境配置模型定义数据加载训练和测试结果展示参考 编程实战指南 通过前面课程的学习，相信同学们已经掌握了Pytorch中大部分的基础知识，本节课将结合之前讲的内容，带领同学们从头实现一个完整的深度学习项目。本节课的重点不在于如何使用Pytorch的接口，而在于合理的设计程序的结构，使得程序更具可读性、更易用。 在学习某个深度学习框架时，掌握其基本知识和接口固然重要，但如何合理地组织代码，使代码具有良好的可读性和可扩展性也很关键。在做
【Educoder】— 机器学习（PCA第一关）
qq_51023388的博客
03-29 1575
PCA第一关 — 维数灾难与降维。
头歌机器学习 --- 神经网络
2302_80089843的博客
04-27 3117
是一种具有局部连接、 权重共享等特性的深层前馈神经网络。想要识别图像中的物体，就需要提取出比较好的特征，该特征应能很好地描述想要识别的物体。所以物体的特征提取是一项非常重要的工作。卷积神经网络最早主要用来处理图像信息。搭建出卷积神经网络模型，再对模型进行训练，并将训练好的模型保存至。我们会加载你训练好的模型，并对测试集数据进行预测，预测正确率高于。操作能够较好地抓住物体特征的以上。
机器学习基础 PCA
NelsonCheung的博客
04-16 616
动机 许多类型的数据维度比较大，导致了计算时间复杂度高。 许多高维数据常常聚集在一个低维空间中，例如三维平面的点位于同一个平面上。 我们希望找到数据的一些主方向，而主方向的数量是远远小于数据的维度的。使用这些主方向就可以近似地表示原始数据，从而能够达到降维的目的。这种分析方法被称为主成分分析方法(Principal components analysis)。 最小近似误差 假设我们找到一组在高维空间中的向量集{u1,u2,⋯ ,uM}\{u_1,u_2,\cdots,u_M\}{u1​,u2​,⋯,uM
头歌深度学习数据采集实验
03-27
头歌深度学习数据采集实验是一个用于采集和标注数据的实验项目。它旨在通过采集大量的数据样本，并对这些样本进行标注，以用于深度学习模型的训练和评估。 在头歌深度学习数据采集实验中，通常会使用各种传感器和设备来采集数据，例如摄像头、麦克风、加速度计等。这些设备可以捕捉到不同类型的数据，如图像、音频、运动等。 采集到的数据需要进行标注，即给每个样本打上正确的标签或注释。标注的方式可以根据具体的任务而定，例如对图像进行分类、目标检测或语义分割等。标注过程需要人工参与，确保数据的准确性和可用性。 通过头歌深度学习数据采集实验，可以获得大规模的、高质量的训练数据集，为深度学习模型的训练提供有力支持。这些数据集可以用于各种应用领域，如计算机视觉、语音识别、自然语言处理等。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值