基于FPGA实现手写数字的识别——OpenCL

最新推荐文章于 2023-05-26 11:58:34 发布
最新推荐文章于 2023-05-26 11:58:34 发布
阅读量4.3k 收藏 41
点赞数 13
分类专栏： FPGA 文章标签： OpenCL
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43279579/article/details/117304492
版权

文章目录

使用工具说明：
Linux的虚拟机或者服务器
Quartus Standard 18.1
Intel SoC FPGA Embedded Development Suite Standard 18.1
DE-10 Standard开发板(Cyclone V)
Putty（远程登录工具）
Win32 磁盘映像工具

一、环境准备

  1. 设置OpenCL开发环境
    ①将Quartus Standard 18.1和Intel SoC FPGA Embedded Development Suite Standard 18.1安装在Linux（可以是Ubuntu，CentOS）的服务器或者虚拟机当中
    ②下载OpenCL的BSP
    链接：https://pan.baidu.com/s/13ebaS7pU7y4pNczyyrdA8A
    提取码：wlz3
    进行解压，得到一个镜像文件和文件夹
    ③设置环境变量
    在Linux服务器或虚拟机下
    export QUARTUS_HOME=/opt/intelFPGA/18.1
export QSYS_ROOTDIR=/opt/intelFPGA/18.1/quartus/sopc_builder/bin
export INTELFPGAOCLSDKROOT=/opt/intelFPGA/18.1/hld
export QUARTUS_ROOTDIR=$QUARTUS_HOME/quartus
export QUARTUS_64BIT=1
export AOCL_BOARD_PACKAGE_ROOT=$INTELFPGAOCLSDKROOT/board/cyclonev
export LD_LIBARY_PATH=$LD_LIBARY_PATH:$INTELFPGAOCLSDKROOT/host/arm32/lib
export PATH=$PATH:$QUARTUS_ROOTDIR/bin:$QUARTUS_HOME/embedded/ds-5/bin:$QUARTUS_HOME/embedded/ds-5/sw/gcc/bin:$INTELFPGAOCLSDKROOT/bin:$INTELFPGAOCLSDKROOT/host/arm32/bin
    测试环境变量是否设置成功
    source ~/.bashrc
aoc -list-board
  2. 设置开发板运行环境
    ①烧录镜像
    使用Disk Imager，将OpenCL BSP的镜像文件烧录到sd卡上，并使用该sd卡启动开发板
    在这里插入图片描述
    将烧录好的SD卡，插入到板子对应的位置
    ②安装FT232R USB UART（连接好USB，电源）
    驱动下载地址：http://www.ftdichip.com/Drivers/VCP.htm
    未安装前
    在这里插入图片描述
    安装后
    在这里插入图片描述
    安装方式：再未安装前，选中有感叹号的进行更新，进入后，选择浏览本地进行安装
    ③通过串口进行登录
    打开putty工具，进行相关设置
    在这里插入图片描述
    进入后，输入root就进入系统下
  3. 板子通过以太网连接网络
    板子与PC直接通过网线直接连接
    选择开始->设置->网络和连接
    ①WLAN的设置
    在这里插入图片描述设置完成后，应该会有一个提示信息，信息内容大概是电脑自动分配网关
    ②以太网的设置
    避免后面出现问题，此处是手动对于以太网进行IP设置
    在这里插入图片描述
    ③对比WLAN和以太网详细信息
    选中WLAN和以太网后，右键选择状态，分别选中详细信息
    在这里插入图片描述
  4. 测试网络是否连接成功
    登录后，出现下面内容或者后面ifconfig没有IP地址
    在这里插入图片描述
    通过点击板子上面的WARM button
    ①查看PC下，以太网的IP（跟上面设置一致）
    ②查看板子的IP
    在这里插入图片描述
    ③测试是否连通
    板子跟PC之间和baidu
    在这里插入图片描述
  5. 设置ssh
    开启ssh
    cd /etc/init.d
sshd
    在这里插入图片描述
    ①sshd re-exec requaires execution with an absolute path
    解决方式：
    /etc/init.d/sshd
    ②Could not load host key: /etc/ssh/ssh_host_key Could not load host key: /etc/ssh/ssh_host_rsa_key Could not load host key: /etc/ssh/ssh_host_dsa_key Disabling protocol version 1. Could not load host key Disabling protocol version 2. Could not load host key sshd: no hostkeys available — exiting
    解决方式：
    cd ..
ssh-keygen -t dsa -f /etc/ssh/ssh_host_dsa_key
/etc/init.d/sshd start
    在这里插入图片描述
    ③Could not load host key: /etc/ssh/ssh_host_key Could not load host key: /etc/ssh/ssh_host_rsa_key done
    解决方式：
    ssh-keygen -t rsa -f /etc/ssh/ssh_host_dsa_key
/etc/init.d/sshd restart
    在这里插入图片描述
    出现如下，就表示启动成功在这里插入图片描述

二、训练神经网络

  1. 训练模型（此过程可以在PC机上面完成）
    训练模型代码
    import os
import tensorflow as tf
from tensorflow.examples.tutorials.mnist import input_data
 
import mnist_forward
 
# 每轮输入的文件数量
BATCH_SIZE = 200
# 设定初始的学习率
LEARNING_RATE_BASE = 0.8
# 设定学习率的衰减率
LEARNING_RATE_DECAY = 0.99
# 设定正则化系数
REGULARIZER = 0.0001
STEPS = 50000
# 设定滑动平局率
MOVING_AVG_DECAY = 0.99
MODEL_SAVE_PATH = 'models'
MODEL_NAME = 'mnist_model'
 
 
def backward(mnist):
    x = tf.placeholder(tf.float32, [None, mnist_forward.INPUT_NODE])
    y_ = tf.placeholder(tf.float32, [None, mnist_forward.OUTPUT_NODE])
    y = mnist_forward.forward(x, REGULARIZER)
    global_step = tf.Variable(0, trainable=False)
 
    # 构建交叉熵
    cross_entropy = tf.nn.sparse_softmax_cross_entropy_with_logits(
        logits=y, labels=tf.argmax(y_, 1))
    # 构建基于交叉熵的损值函数
    cross_entropy_mean = tf.reduce_mean(cross_entropy)
    # 对损值函数进行曾则话
    loss = cross_entropy_mean + tf.add_n(tf.get_collection('losses'))
 
    # 设定动态学习率
    learning_rate = tf.train.exponential_decay(
        LEARNING_RATE_BASE,
        global_step,
        mnist.train.num_examples/BATCH_SIZE,
        LEARNING_RATE_DECAY,
        staircase=True
    )
 
    train_step = tf.train.GradientDescentOptimizer(
        learning_rate).minimize(loss, global_step=global_step)
 
    # 设定滑动平均率
    ema = tf.train.ExponentialMovingAverage(MOVING_AVG_DECAY, global_step)
    ema_op = ema.apply(tf.trainable_variables())
 
    # 对train应用滑动平均率
    with tf.control_dependencies([train_step, ema_op]):
        train_op = tf.no_op(name='train')
 
    # 初始化模型保存器
    saver = tf.train.Saver()
 
    with tf.Session() as sess:
        init_op = tf.global_variables_initializer()
        sess.run(init_op)
 
        # 从模型路径加载已有的训练结果，恢复到当前session
        ckpt = tf.train.get_checkpoint_state(MODEL_SAVE_PATH)
        if ckpt and ckpt.model_checkpoint_path:
            saver.restore(sess, ckpt.model_checkpoint_path)
 
        for i in range(STEPS):
            # 读取mnist数据集
            xs, ys = mnist.train.next_batch(BATCH_SIZE)
            # 进行对应的训练
            _, loss_value, learning_rate_val, step = sess.run(
                [train_op, loss, learning_rate, global_step],
                feed_dict={x: xs, y_: ys})
            if 0 == i % 1000:
                fmt = 'After {:05d} steps, loss is {:.09f}, learning rate is {:.09f}'
                print(fmt.format(step, loss_value, learning_rate_val))
                # 将模型进行保存
                saver.save(sess, os.path.join(MODEL_SAVE_PATH, MODEL_NAME), global_step=global_step)
 
 
def main():
    mnist = input_data.read_data_sets('data', one_hot=True)
    backward(mnist)
 
 
if __name__ == '__main__':
    main()
    训练过程结束之后，会在当前目录下生成models文件夹，这个文件夹就是训练完成的模型
    在这里插入图片描述
  2. 提取参数
    模型训练出来的参数需要送入到神经网络进行计算，才可以执行推测操作。而Tensorflow训练完成的参数是numpy类型的数据，C/C++以及OpenCL无法直接读取，因此，我们需要将其转换，使之符合C/C++的语法规范。同时，OpenCL的限制，无法向OpenCL传递多维指针/数组，需要将这些数据处理为1维的数组。
    参数提取代码
    import tensorflow as tf

import numpy as np

if __name__ == '__main__':
    reader = tf.train.NewCheckpointReader('models/mnist_model-49001')
    all_variables = reader.get_variable_to_shape_map()
    #quantized_conv_list = ['Variable', 'Variable_1', 'Variable_2', 'Variable_3']
    #params = ['weight_layer1', 'bias_layer1', 'weight_layer2', 'bias_layer2']
    #for key, item in zip(quantized_conv_list, params):
    #    with open(item, 'w+') as f:
    #        f.write(str(reader.get_tensor(key).tolist()))
    with open('layer1_weight', 'w+') as f:
        layer1_weight = np.reshape(reader.get_tensor('Variable'), [1, 784*500])
        f.write(str(layer1_weight.tolist()))

    with open('layer1_bias', 'w+') as f:
        layer1_bias = reader.get_tensor('Variable_1')
        f.write(str(layer1_bias.tolist()))

    with open('layer2_weight', 'w+') as f:
        layer2_weight = np.reshape(reader.get_tensor('Variable_2'), [1, 500*10])
        f.write(str(layer2_weight.tolist()))

    with open('layer2_bias', 'w+') as f:
        layer2_bias = reader.get_tensor('Variable_3')
        f.write(str(layer2_bias.tolist()))
    执行完成之后，会在当前目录生成几个文件：layer1_weight，layer1_bias，layer2_weight和layer2_bias，表示权重参数和偏置项参数。然后将文件统一修改为.h结尾的头文件，便于我们将其作为参数，送入到神经网络当中进行计算。由于这些文件当中的数据并没有变量名，需要在文件最开始的地方，添加变量名称定义。（规则：layer1_weight.h头文件当中的参数定义为layer1_weight）同时，需要将文件中的[]修改为{}。
    在这里插入图片描述
    生成的头文件的说明：
    layer1_weight包含了784×500个元素，layer1_bias包含500个元素，layer2_weight包含500×10个元素，layer2_bias包含10个元素。
    特别注意，所有的变量都是一维数组，因此，需要将这些头文件当中多余的”{”和”}”删除掉。
  3. 转换图片数据
    图片数据转换代码
    from PIL import Image
import tensorflow as tf
import numpy as np


def pre_dic(pic_path):
    img = Image.open(pic_path)
    reIm = img.resize((28, 28), Image.ANTIALIAS)
    img_array = np.array(reIm.convert('L'))
    nm_array = img_array.reshape([1, 784])
    nm_array = nm_array.astype(np.float32)
    img_ready = np.multiply(nm_array, 1.0/255.0)
    return img_ready


if __name__ == '__main__':
    array = pre_dic('2.bmp')
    with open('input', 'w') as f:
        f.write(str(array.tolist()))
    执行程序，生成一个input的文件。图片数据是神经网络的输入，需要将input文件转换为一个合法的头文件。方法跟上面一样。

三、编译神经网络的OpenCL程序

  1. 编译内核
    在上面的Linux服务器或者虚拟机上
    cd opencl
aoc -v -report -o mnist_c5.aocx mnist_c5.cl -board=de10_standard_sharedonly
rm –rf mnist_c5 mnist_c5.aoco
    编译完成之后，将会生成mnist_c5.aocx文件
  2. 编译主机端程序
    主机端程序需要使用神经网络的参数，即上面所生成的头文件
    mkdir include
mv ../full/*.h include
    编译
    make
    生成开发板上的可执行文件mnist_c5

四、FPGA进行神经网络加速实现手写数字识别

  1. 开发板设置环境变量
    如果没有设置，会出现下面问题在这里插入图片描述
    使用putty登录
    source ./init_opencl.sh
    问题描述：执行后，完全没有反应，一直不变化
    解决方式：查看板子上SW3的配置是否跟下面的表格一致，不一致就更改为一样的设置
    在这里插入图片描述
  2. 上传生成的mnist_c5和mnist_c5.aocx到开发板上（方式比较多）
    推荐使用scp在这里插入图片描述
  3. 执行可执行程序在这里插入图片描述
    解决方式：在这里插入图片描述
    执行结果在这里插入图片描述
    最终识别的结果跟预期的结果不一致，但是，整个实现流程大概是这样的。文章内容是在完成后，才写的，可能在某些部分比较不够详细。
HarrietLH
关注
  • 13
    点赞
  • 踩
  • 41
    收藏
    觉得还不错? 一键收藏
  • 7
    评论
专栏目录
GPU编程与优化——OpenCL
程序员光剑
09-03 1421
作者：禅与计算机程序设计艺术 1.简介 OpenCL（Open Computing Language）是一个开源的、跨平台、通用且功能丰富的编程模型，它提供一个框架，通过可移植编译器支持多种设备平台（CPU/GPU/FPGA），并通过统一接口使得开发者可以方便地部署在各种环境中运行，从而让程序在各个设备
Zynq/FPGA实现CNN手写数字识别
最新发布
2303_82320853的博客
07-22 295
Zynq/FPGA实现CNN手写数字识别
Windows下的基于FPGA的opencl环境配置
han422858897的博客
05-26 852
Windows下的基于FPGA的opencl环境配置什么是opencl开发环境的配置1.工具准备2.设计环境变量环境测试开发板环境测试参考内容 什么是opencl OpenCL(全称为Open Computing Langugae，开放运算语言)，是开发跨平台并行编程标准。OpenCL标准还能够自然的描述在FPGA中实现的并行算法，其抽象级要比VHDL或者Verilog等硬件描述语言（HDL）高得多。虽然有很多高级综合工具能够实现高等级的抽象功能，但是都存在同样的基本问题。这些工具会采用连续C程序，产生并行
采用OpenCL标准实现FPGA设计
爱.NET
06-18 740
转自：http://www.ednchina.com/ART_8800501745_19_35499_AN_a996b8f4.HTM OpenCL标准简介 OpenCL应用程序含有两部分。OpenCL主程序是纯软件例程，以标准C/C++编写，可以运行在任何类型的微处理器上。例如，这类处理器可以是FPGA中的嵌入式软核处理器、硬核ARM处理器或者外置x86处理器，如图4所示。 ...
基于FPGA的脱机手写体汉字识别系统
大海的专栏
05-25 5291
1设计摘要 1.1项目背景 汉字作为非字母化、非拼音化的文字，在当今高度信息化的社会里，如何快速高效地将汉字输入计算机，已成为影响人机交流信息效率的一个重要瓶颈。目前，汉字输入主要分为人工键盘输入和机器自动识别输入两种，其中人工键入速度慢且劳动强度大。自动识别输入分为语音识别和汉字识别两种，其中汉字识别是将汉字点阵图形转换成电信号，然后输入给数字信号处理器或计算机进行处理，依据一定的分类算法在
FPGA实现mnist手写数字识别（软件部分）
南瑾与春风的博客
11-04 2477
FPGA实现mnist手写数字识别 ① 环境配置 ② 数据集及代码下载 ③ 代码操作 （1）训练模型 （2）权重输出 （3）关于灰度转换
Altera的野望——OpenCL FPGA
weixin_34310369的博客
06-24 145
去年11月Altera"悄悄的"发布了Altera面向FPGA的OpenCL计划，内容仅仅是一个网页和一份仅仅8页的白皮书，没有可以实现的工程。内容虽少，但是难掩Alter在可配置计算领域的野心。 OpenCL为何物？ OpenCL (Open Computing Language，开放计算语言) 是一个为异构平台编写程序的框架，此异构平台可由CPU，GPU或其他类型的处理器组成。OpenCL...
基于FPGA和OpenCL硬件加速的运动物品识别系统.pdf
07-13
基于FPGA和OpenCL硬件加速的运动物品识别系统是一个将FPGA平台与OpenCL标准相结合，利用硬件加速来实现高速运动物品识别的技术解决方案。系统的核心在于通过硬件模块化的方式将图像处理算法转换为硬件描述语言（HDL...
基于FPGA的CNN图像识别加速与优化.pdf
07-13
根据提供的文件信息，下面详细阐述了基于FPGA的CNN图像识别加速与优化的知识点： 1. FPGA技术基础与应用： FPGA（现场可编程门阵列）是一种可以通过编程来配置的半导体设备，它允许在硬件层面上定制电路来执行特定...
intel fpga opencl 编程指南
09-06
intel fpga opencl 编程指南 The Intel® FPGA SDK for OpenCL™ Programming Guide provides descriptions, recommendations and usage information on the Intel Software Development Kit (SDK) for OpenCL compiler and tools. The Intel FPGA SDK for OpenCL1 is an OpenCL2-based heterogeneous parallel programming environment for Intel FPGA products.
基于FPGA的数字识别三
11-29
在《基于FPGA的数字识别三》中我们将完成多个数字的同时识别，且不限于多个数字在屏幕上的位置大小。
基于FPGA的印刷体数字识别系统设计.zip
01-06
基于FPGA的印刷体数字识别系统设计
用FPGA来加速采用OpenCL的多功能打印机图像处理
01-19
摘要：在高性能计算、娱乐和科学计算市场，OpenCL的采用在持续增长。OpenCL的灵活性和便携性使之成为了一个开发图像处理应用的平台。然而，OpenCL尚未应用到硬拷贝打印机和多功能打印机（MFP）市场。传统上，打印机/MFP市场使用全定制系统级芯片（SoC或ASIC）、专用集成电路进行图像处理。在本文中，我们探讨了配合Altera SoC FPGA（现场可编程门阵列）的OpenCL在MFP图像处理流水线中的应用。图像处理流水线以每分钟大于90页信纸大小的全色RGB持续速率运行，图像分辨率为600DPI（每英寸点数），同时采用了成本有效的FPGA器件。相比运行在嵌入式CPU上的基于C语言的软
深度学习ANN识别手写数字数据集的FPGA实现（入门向）
qq_41103479的博客
11-23 2189
封面图片来自网络，如侵立删。
OpenCL浅析(1)-GPU和FPGA平台搭建
热门推荐
愿戎马一生，归来仍少年
06-30 1万+
OpenCL简介OpenCL是有Khronos Group组织发布的针对异构设备进行并行化计算的一套开源的API以及程序语言。介绍了CPU和GPU，以及FPGA的区别，然后介绍OpenCL底层的调用机制，最后介绍GPU和FPGA平台的搭建。
OpenCL开发记录一（基于Intel Cyclone V FPGA加速卡）
huangzhicong3的博客
05-26 1424
这篇文章主要分享我个人对OpenCL的学习和使用过程。
FPGA - OpenCL异构并行计算 学习日记（四）
麦子点点的博客
02-02 503
openCL标量数据类型，以cl_开头 openCL字节对其是以2的幂对其的 openCL中用户定义的数据类型前面需要添加_attribute_((aligned)); opencl中的隐式转换 cl_int x=9; cl_float y=x; //y将得到9.0 向量是opencl中比较强大的地方，它允许硬件从存储器批量加载数据或者将批量数据存储到存储器中**，这里可以利用算法的时间或空间的...
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值