深度学习引论（五）：手写数字识别 Ⅱ（目标输出为音频）

最新推荐文章于 2024-01-08 01:30:00 发布
最新推荐文章于 2024-01-08 01:30:00 发布
阅读量891 收藏 5
点赞数
分类专栏： 深度学习 文章标签： 深度学习 神经网络 数据 标签
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_25436597/article/details/78972142
版权

神经网络其实可以处理很大的数据，也可以处理音频。接下来我们就用使用上次的栗子来验证一次，但这次的目标输出是一个2983*1的音频，远远大于之前的10*1。

同样的还是一步一步的来

Step1 ：Prepare Data

我们还是使用MNIST_small作为输入。（MNIST_small的介绍请参照上一篇博客）

但这次，我们不使用现有的标签作为目标输出，而是使用已经录制好的10个数字的音频（2983*10）作为神经网络的目标输出。（音频及代码框架下载地址）

代码如下：

% prepare the data set
load mnist_small_matlab.mat;
train_size = 10000;
X_train{1} = reshape(trainData(1: 14, 1: 14, :), [], train_size);
X_train{2} = reshape(trainData(15: 28, 1: 14, :), [], train_size);
X_train{3} = reshape(trainData(15: 28, 15: 28, :), [], train_size);
X_train{4} = reshape(trainData(1: 14, 15: 28, :), [], train_size);
X_train{5} = zeros (0, train_size);
X_train{6} = zeros (0, train_size);
X_train{7} = zeros (0, train_size);
X_train{8} = zeros (0, train_size);

test_size = 2000;
X_test{1} = reshape(testData(1: 14, 1: 14, :), [], test_size);
X_test{2} = reshape(testData(15: 28, 1: 14, :), [], test_size);
X_test{3} = reshape(testData(15: 28, 15: 28, :), [], test_size);
X_test{4} = reshape(testData(1: 14, 15: 28, :), [], test_size);
X_test{5} = zeros (0, test_size);
X_test{6} = zeros (0, test_size);
X_test{7} = zeros (0, test_size);
X_test{8} = zeros (0, test_size);

% prepare standard speech audio

audio_list = dir('audio/*.wav');

for i = 1 : numel(audio_list)
    audio_name = audio_list(i).name;
    [aud, ~] = audioread(strcat('audio/', audio_name));
end

目标输出的音频处理放在之后介绍

Step2 ：Design Network Architecture

这里写图片描述

代码如下：

% define network architecture

layer_size = [196 6000
              196 6000
              196 6000
              196 6000
                0 4000
                0 4000
                0 4000
                0 2983];
L = 8;

Step3 : Initialize Parameters

Initialize Weights

for l = 1: L - 1
    w{l} = (rand(layer_size(l + 1, 2), sum(layer_size(l, :))) * 2 - 1) * sqrt(6 / (layer_size(l + 1, 2) + sum(layer_size(l, :))));
end

Choose Parameters

alpha = 1; %learning rate 学习率
max_iter = 300; %number of iteration 迭代次数
mini_batch = 100; %number of samples in a batch 每一批处理的样本个数

注：mini_batch表示每一次批处理的样本个数，即每次批处理100个样本，而不是直接处理10000个样本，每次处理的100个样本是随机从10000个样本中选择出来的。

Step4 : Run the Network

激活函数

经验表明，以ReLU函数作为激活函数往往能够取得较好的训练效果。在本次试验中，除倒数第二层外，其余层均使用ReLU函数作为激活函数。

神经网络的输出是一个有10个元素的列向量，这个列向量只能有一位为1，其余为0，第几位为1表示这是数字几。如第0位为1，则判断该数字为0.（从0开始数数）

考虑到神经网络的输出，我们在最后一层的前一层使用sigmoid函数作为激活函数，以保证输出的结果为0到1直接的数。举个栗子，以数字‘8’作为输入，若输出的结果向量中的第八位非常接近1，其余位接近0，则认为该样本为数字‘8’，神经网络的输出结果正确。

前向计算

ReLU函数：

function [a_next, z_next] = fc(w, a, x)
    % define the activation function
    f = @(s) max(0, s);

    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
    % Your code BELOW
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
    % forward computing (either component or vector form)
    a = [x
         a];
    z_next = w * a;
    a_next = f(z_next);
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
    % Your code ABOVE
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
end

Sigmoid函数：

function [a_next, z_next] = fc2(w, a, x)
    % define the activation function
    f = @(s) 1 ./ (1 + exp(-s));

    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
    % Your code BELOW
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
    % forward computing (either component or vector form)
    a = [x
         a];
    z_next = w * a;
    a_next = f(z_next);
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
    % Your code ABOVE
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
end

Cost Function

J = [J 1/2/mini_batch*sum((a{L}(:) - y(:)).^2)];

后向计算

ReLU函数：

function delta = bc(w, z, delta_next)
    % define the activation function
    f = @(s) max(0, s);

    % define the derivative of activation function
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
    % Your code BELOW
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
    % backward computing (either component or vector form)
    xxj = size(z, 1);
    delta = w' * delta_next;
    df = [];
    for i = 1 : size(z, 1)
        for j = 1 : size(z, 2)
            if z(i, j) > 0
                df(i, j) = 1;
            else
                df(i, j) = 0;
            end
        end
    end
    delta = delta(1 : xxj, :)  .* df;
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
    % Your code ABOVE
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
end

Sigmoid函数：

function delta = bc2(w, z, delta_next)
    % define the activation function
    f = @(s) 1 ./ (1 + exp(-s)); 
    % define the derivative of activation function
    df = @(s) f(s) .* (1 - f(s)); 

    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
    % Your code BELOW
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
    % backward computing (either component or vector form)
    xxj = size(z, 1);
    delta = w' * delta_next;
    delta = delta(1 : xxj, :)  .* df(z);
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
    % Your code ABOVE
    %%%%%%%%%%%%%%%%%%%%%%%%%%%%%
end

更新权值

for l = 1 : L - 1
    gw = delta{l + 1} * [x{l}; a{l}]' / mini_batch;
    w{l} = w{l} - alpha * gw;
end

Step5 : Evaluation

Acc = number of correct predictionsnumber of samples

Accuracy of training set : 

a{1} = zeros(layer_size(1, 2), train_size);
for l = 1 : L - 1
    a{l + 1} = fc(w{l}, a{l}, X_train{l});
end
[~, ind_train] = max(trainLabels);
[~, ind_pred] = max(a{L});
train_acc = sum(ind_train == ind_pred) / train_size;
fprintf('Accuracy on training dataset is %f%%\n', train_acc * 100);

Accuracy of testing set : 

a{1} = zeros(layer_size(1, 2), test_size);
for l = 1 : L - 1
    a{l + 1} = fc(w{l}, a{l}, X_test{l});
end
[~, ind_test] = max(testLabels);
[~, ind_pred] = max(a{L});
test_acc = sum(ind_test == ind_pred) / test_size;
fprintf('Accuracy on testing dataset is %f%%\n', test_acc * 100);

完整代码：（目标输出的处理请参照代码）

% clear workspace and close plot windows
clear;
close all;

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
% Your code BELOW
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
% prepare the data set
load mnist_small_matlab.mat;
train_size = 10000;
X_train{1} = reshape(trainData(1: 14, 1: 14, :), [], train_size);
X_train{2} = reshape(trainData(15: 28, 1: 14, :), [], train_size);
X_train{3} = reshape(trainData(15: 28, 15: 28, :), [], train_size);
X_train{4} = reshape(trainData(1: 14, 15: 28, :), [], train_size);
X_train{5} = zeros (0, train_size);
X_train{6} = zeros (0, train_size);
X_train{7} = zeros (0, train_size);
X_train{8} = zeros (0, train_size);

test_size = 2000;
X_test{1} = reshape(testData(1: 14, 1: 14, :), [], test_size);
X_test{2} = reshape(testData(15: 28, 1: 14, :), [], test_size);
X_test{3} = reshape(testData(15: 28, 15: 28, :), [], test_size);
X_test{4} = reshape(testData(1: 14, 15: 28, :), [], test_size);
X_test{5} = zeros (0, test_size);
X_test{6} = zeros (0, test_size);
X_test{7} = zeros (0, test_size);
X_test{8} = zeros (0, test_size);

% prepare standard speech audio

audio_list = dir('audio/*.wav');

for i = 1 : numel(audio_list)
    audio_name = audio_list(i).name;
    [aud, ~] = audioread(strcat('audio/', audio_name));
end

% choose parameters

alpha = 1;
max_iter = 300;
mini_batch = 100;
J = [];
Acc = [];

% define network architecture

layer_size = [196 6000
              196 6000
              196 6000
              196 6000
                0 4000
                0 4000
                0 4000
                0 2983];
L = 8;

% initialize weights

for l = 1: L - 1
    w{l} = (rand(layer_size(l + 1, 2), sum(layer_size(l, :))) * 2 - 1) * sqrt(6 / (layer_size(l + 1, 2) + sum(layer_size(l, :))));
end

% train

for iter = 1 : max_iter

    ind = randperm(train_size);

    for k = 1 : ceil(train_size / mini_batch)

        a{1} = zeros(layer_size(1, 2), mini_batch);

        for l = 1 : L
            x{l} = X_train{l}(:, ind((k - 1) * mini_batch + 1 : min(k * mini_batch, train_size)));
        end

        % 目标输出
        y = [];
        y2 = [];
        y1 = double(trainLabels( :, ind((k - 1) * mini_batch + 1 : min(k * mini_batch, train_size))));
        for i = 1 : 100
            y2 = find(y1(:, i)) - 1;
            if y2 ~= 0
                audio_name = audio_list(y2).name;
            else
                ausio_name = 0;
            end
            y = [y double(audioread(strcat('audio/', audio_name)))];
        end

        for l = 1 : L-2
            [a{l + 1}, z{l + 1}] = fc(w{l}, a{l}, x{l});
        end

        [a{L}, z{L}] = fc2(w{L - 1}, a{L - 1}, x{L - 1});

        J = [J 1/2/mini_batch*sum((a{L}(:) - y(:)).^2)];
        fprintf('J=%.4f\n', J);

        [~, ind_y] = max(y);
        [~, ind_pred] = max(a{L});
        xxj = sum(ind_y == ind_pred) / mini_batch;
        Acc = [Acc xxj];

        delta{L} = (a{L} - y) .* a{L} .* (1 - a{L});

        delta{L - 1} = bc2(w{L - 1}, z{L - 1}, delta{L});

        for l = L - 2 : -1 : 2
            delta{l} = bc(w{l}, z{l}, delta{l + 1});
        end

        for l = 1 : L - 1
            gw = delta{l + 1} * [x{l}; a{l}]' / mini_batch;
            w{l} = w{l} - alpha * gw;
        end

    end

end

figure
plot(J);


figure
plot(Acc);

% save model

save model.mat w layer_size

% display/listen to some results pairs

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
% Your code ABOVE
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

我的结果太差了。。。还是不贴结果了
不知道是不是神经网络的设计又问题
求指导！

谦虚的海绵
关注
专栏目录
代数群引论：第五章 群扩张
程序员光剑
07-25 702
代数群引论：第五章 群扩张 关键词： 代数群 群扩张 Lie群 拓扑群 半单群 1. 背景介绍 1.1 问题的由来
辛几何引论：第五章Poisson流形
最新发布
程序员光剑
07-19 613
辛几何引论：第五章 Poisson流形 关键词： Poisson结构 Poisson流形 Poisson群 Poisson代数 Poisson微分方程
手慢无！0~9 数字 用于语音识别 wav格式音频
11-27
就是语音识别的数字音频 wav格式 可以用来进行孤立词识别
深度学习引论（一）：神经网络简要介绍&熟悉Matlab
qq_25436597的博客
11-05 649
在大学的最后一学年，有幸上了我院院长的深度学习引论课程。老师的课程循序渐进，一步一步带着我们了解深度学习。虽然只有八次课，但整个课程收获颇丰。最近比较闲。。。所以尝试用自己的方式将所学内容讲明白，一方面是为了重新学习，巩固一下，另一方面是觉得老师的课程实在非常适合入门，来种草来了～1 . 深度神经网络概念深度神经网络就是一种在某种程度上模仿大脑计算的计算模型 我们的大脑通过：信息输入➡️神经元处理
深度学习引论（四）：手写数字识别(Step by step)
qq_25436597的博客
01-04 1223
经过前面的学习，我们已经掌握了构建神经网络的整个过程，接下来使用手写数字识别这个例子来巩固一下。 Step1 : Prepare Data Dataset : MNIST_small（下载地址） MNIST数据库是一个手写数字的数据库，它提供了六万的训练集和一万的测试集。数字放在一个归一化的，固定尺寸(28*28)的图片的中心。 而MNIST_small是MNIST的一个子集，包含1000
DeepLearning课堂笔记（一）——引论概述
weixin_42313598的博客
03-10 276
什么是深度学习 深度学习（Deep learning ）是一种实现机器学习的技术, 是机器学习重要的分支。其源于人工神经网络的研究。深度学习的模型结构是一种含多隐层的神经网络。通过组合低层特征形成更加抽象的高层特征。 数据集及其拆分 有监督学习中数据通常分成训练集、测试集两部分。  训练集(training set)用来训练模型，即被用来学习得到系统的参数取值。  测试集(testing...
深度学习引论（二）：计算模型
qq_25436597的博客
12-15 948
神经元的计算模型特征：多输入、单输出 基本功能：收集、转换 （图片来自百度图片（捂脸）） x1, x2, …, xn表示神经元的输入，eg.要预测一套房子的价格时，输入可以是房子的面积、位置、装修等等 w1, w2, …, wn表示连接权，可理解为上一步输入的内容每一项所占的权重，比如面积占的权重较大，位置所占的权重稍小 神经元根据输入和连接权，计算输出。计算输出需要两步，首先是要把每个因素都考
回归课堂原点的深度学习——回归课堂原点的深度学习引论.pdf
08-19
深度学习是一种以学生内部动机为导向，对有价值的学习内容进行深入、准确、丰富和深刻学习的教学方法。它强调触及学科本质，促进学生的持续建构和心灵深处的学习。深度学习包含三个基本命题： 1. 有意义的学习：这...
深度学习引论课程报告_王君有_20171414611571
08-08
Fashion-MNIST是手写数字识别数据集MNIST的一个升级版，由德国时尚科技公司Zalando的研究部门提供，包含了10个类别共计7万个商品的28x28像素灰度图像。该数据集被设计为测试神经网络性能的工具，具有与MNIST相同的...
深度学习高被引论文集（PDF搜集）
12-20
本压缩包文件“深度学习高被引论文集（PDF搜集）”聚焦于神经网络与深度学习领域的前沿研究，为相关领域的学者和研究人员提供了宝贵的参考资料。 神经网络是一种模拟人脑神经元结构的计算模型，它通过大量的连接和...
Halcon深度学习手写数字识别代码
04-11
halcon17.12 progress深度学习训练和预测手写数字的代码（HDevelop），包含Mnist数据集，供学习研究。 注：需要64位系统，支持cuda8以上的显卡
Mnist数据集matlab下的mat格式文件
12-03
Mnist数据集，matlab版本，可以直接读入，大小为784，每个标签对应0~9大小，另外建议各位在使用时使用one-hot处理数据
深度学习的语音识别：如何使用深度学习进行语音识别
程序员光剑
01-08 2407
1.背景介绍 语音识别，也被称为语音转文本，是人工智能领域的一个重要技术。它可以将人类的语音信号转换为文本信息，从而实现人机交互、语音搜索、语音助手等功能。随着深度学习技术的发展，语音识别技术也得到了很大的提升。本文将介绍如何使用深度学习进行语音识别，包括核心概念、算法原理、具体操作步骤、代码实例等。 2.核心概念与联系 2.1 语音识别的基本概念 语音识别是将人类语音信号转换为文本的过程...
tensorflow.keras与keras：TypeError: objectof type 'xxx' has no len()
weixin_40818267的博客
03-12 1918
from tensorflow.keras.layers import Input, Multiply, GlobalAveragePooling1D, Add, Dense, Activation, ZeroPadding1D, \ BatchNormalization, Flatten, Conv1D, AveragePooling1D, MaxPooling1D, GlobalMax...
深度学习－－手写数字识别＜一＞
akadiao的博客
10-08 1万+
手写字符识别数据集THE MNIST DATABASE of handwritten digits：http://yann.lecun.com/exdb/mnist/ 其中训练集60000例，测试集10000例．加载数据 1．　读取数据#!/usr/bin/python # coding:utf-8import numpy as np import cPickle import gzip de
深度学习引论（三）：损失函数、BP算法
qq_25436597的博客
12-16 5534
损失函数（cost function）经过上一节课的学习，我们已经对神经网络有了一定的概念。而评价一个神经网络的性能，往往使用损失函数来评价。在有监督的学习中，每一次的训练，我们都已知目标输出，通常将神经网络真实的输出与已知目标输出的距离作为损失函数，两者相差越小，则认为神经网络性能越好，若两者相差很大，则认为神经网络性能不好。设目标输出为yLy^L，神经网络的输出为aLa^L（两者都是n*1的列向
深度学习－－手写数字识别＜二＞－－交叉熵损失函数(cross entropy cost function)
akadiao的博客
10-13 6168
交叉熵损失函数(cross entropy cost function):当激活函数采用sigmoid()函数，损失函数使用二次和成本函数时： C=12∥∥y−aL∥∥=12∑j(yj−aLj)2\ C=\frac{1}{2}\left \| y-a^{L} \right \|=\frac{1}{2}\sum_{j}^{ }(y_{j}-a_{j}^{L})^{2} 其中： a=σ(z)\ a
如何用深度学习进行语音识别
Suan2014的博客
08-22 2万+
作者：九五要当学霸 链接：https://zhuanlan.zhihu.com/p/24703268 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处 原文：Adam Geitgey 原文链接：https://medium.com/@ageitgey/machine-learning-is-fun-part-6-how-to-do-speech-recogn...
系统学习深度学习（八）--损失函数
热门推荐
工作笔记
02-21 2万+
转自：http://blog.csdn.net/google19890102/article/details/50522945   一、分类算法中的损失函数 在分类算法中，损失函数通常可以表示成损失项和正则项的和，即有如下的形式： 其中，L为损失项，R为正则项。mi的具体形式如下： 对于损失项，主要的形式有： 0-1损失 Log损失 Hinge损失 指数损失 感知损失 ...
蔡宣平教授讲解：贝叶斯手写数字识别实战与理论
蔡宣平教授的模式识别课程讲义中，主要介绍了利用贝叶斯分类器实现手写数字识别的具体实例。在这个例子中，手写数字被划分为25份，每份大小为NxN像素，通过统计每一份内像素的占有率，设定阈值T=0.05来决定特征值。...
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值