《专业创新实践Ⅱ》大作业 LeNet在眼疾识别数据集iChallenge-PM上的应用

 

《专业创新实践Ⅱ》大作业

项目名称 LeNet在眼疾识别数据集iChallenge-PM上的应用

                                                        学    院   信息与通信工程学院        

                                                        年级专业  20级智能科学与技术        

                                                        姓    名    孙成                    

                                                        学    号    20203101694             

                                      完成时间    2021-7-7                

                                                       指导教师    邵春艳老师              

                                            开 课 时 间 2020 至 2021 学年第  二  学期

一、引言

LeNet在眼疾识别数据集iChallenge-PM上的应用

iChallenge-PM是百度大脑和中山大学中山眼科中心联合举办的iChallenge比赛中，提供的关于病理性近视（Pathologic Myopia，PM）的医疗类数据集，包含1200个受试者的眼底视网膜图片，训练、验证和测试数据集各400张。

---

说明：

如今近视已经成为困扰人们健康的一项全球性负担，在近视人群中，有超过35%的人患有重度近视。近视会拉长眼睛的光轴，也可能引起视网膜或者络网膜的病变。随着近视度数的不断加深，高度近视有可能引发病理性病变，这将会导致以下几种症状：视网膜或者络网膜发生退化、视盘区域萎缩、漆裂样纹损害、Fuchs斑等。因此，及早发现近视患者眼睛的病变并采取治疗，显得非常重要。

二、方法

（1）数学模型

LeNet是最早的卷积神经网络之一[1]。1998年，Yann LeCun第一次将LeNet卷积神经网络应用到图像分类上，在手写数字识别任务中取得了巨大成功。LeNet通过连续使用卷积和池化层的组合提取图像特征，其架构如 图1 所示，这里展示的是用于MNIST手写体数字识别任务中的LeNet-5模型： 

第一模块：包含5×5的6通道卷积和2×2的池化。卷积提取图像中包含的特征模式（激活函数使用Sigmoid），图像尺寸从28减小到24。经过池化层可以降低输出特征图对空间位置的敏感性，图像尺寸减到12。

第二模块：和第一模块尺寸相同，通道数由6增加为16。卷积操作使图像尺寸减小到8，经过池化后变成4。

第三模块：包含4×4的120通道卷积。卷积之后的图像尺寸减小到1，但是通道数增加为120。将经过第3次卷积提取到的特征图输入到全连接层。第一个全连接层的输出神经元的个数是64，第二个全连接层的输出神经元个数是分类标签的类别数，对于手写数字识别的类别数是10。然后使用Softmax激活函数即可计算出每个类别的预测概率。

（2）方法工具

1、运行环境：

 ​​​​​​​

百度人工智能平台Paddle

2、数据集：

眼疾识别数据集iChallenge-PM中既有病理性近视患者的眼底图片，也有非病理性近视患者的图片，命名规则如下：

• 病理性近视（PM）：文件名以P开头
• 非病理性近视（non-PM）：
  • 高度近视（high myopia）：文件名以H开头
  • 正常眼睛（normal）：文件名以N开头

我们将病理性患者的图片作为正样本，标签为1； 非病理性患者的图片作为负样本，标签为0。从数据集中选取两张图片，通过LeNet提取特征，构建分类器，对正负样本进行分类，并将图片显示出来。

​​​​​​​​​​​​​​

• 实验过程

1. 数据集准备

training.zip：包含训练中的图片和标签

validation.zip：包含验证集的图片

valid_gt.zip：包含验证集的标签

其中需要注意，需要将“/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation-GT”目录下“PM_Label_and_Fovea_Location.xlsx”文件转存成.csv格式，本节代码示例中已经提前转成文件labels.csv。

（2）查看数据集图片

iChallenge-PM中既有病理性近视患者的眼底图片，也有非病理性近视患者的图片，命名规则如下：

• 病理性近视（PM）：文件名以P开头
• 非病理性近视（non-PM）：
  • 高度近视（high myopia）：文件名以H开头
  • 正常眼睛（normal）：文件名以N开头

我们将病理性患者的图片作为正样本，标签为1； 非病理性患者的图片作为负样本，标签为0。从数据集中选取两张图片，通过LeNet提取特征，构建分类器，对正负样本进行分类，并将图片显示出来。

代码如下：

1. import os  
2. import numpy as np  
3. import matplotlib.pyplot as plt  
4. %matplotlib inline  
5. from PIL import Image  
6.   
7. DATADIR = '/home/aistudio/work/palm/PALM-Training400/PALM-Training400'  
8. # 文件名以N开头的是正常眼底图片，以P开头的是病变眼底图片  
9. file1 = 'N0012.jpg'  
10. file2 = 'P0095.jpg'  
11.   
12. # 读取图片  
13. img1 = Image.open(os.path.join(DATADIR, file1))  
14. img1 = np.array(img1)  
15. img2 = Image.open(os.path.join(DATADIR, file2))  
16. img2 = np.array(img2)  
17.   
18. # 画出读取的图片  
19. plt.figure(figsize=(16, 8))  
20. f = plt.subplot(121)  
21. f.set_title('Normal', fontsize=20)  
22. plt.imshow(img1)  
23. f = plt.subplot(122)  
24. f.set_title('PM', fontsize=20)  
25. plt.imshow(img2)  
26. plt.show()  
27. # 查看图片形状  
28. img1.shape, img2.shape  
29. ((2056, 2124, 3), (2056, 2124, 3))  

1. 定义数据读取器

使用OpenCV从磁盘读入图片，将每张图缩放到224×224224×224大小，并且将像素值调整到[−1,1][−1,1]之间，代码如下所示：

1. import cv2  
2. import random  
3. import numpy as np  
4. import os  
5.   
6. # 对读入的图像数据进行预处理  
7. def transform_img(img):  
8.     # 将图片尺寸缩放道 224x224  
9.     img = cv2.resize(img, (224, 224))  
10.     # 读入的图像数据格式是[H, W, C]  
11.     # 使用转置操作将其变成[C, H, W]  
12.     img = np.transpose(img, (2,0,1))  
13.     img = img.astype('float32')  
14.     # 将数据范围调整到[-1.0, 1.0]之间  
15.     img = img / 255.  
16.     img = img * 2.0 - 1.0  
17.     return img  
18.   
19. # 定义训练集数据读取器  
20. def data_loader(datadir, batch_size=10, mode = 'train'):  
21.     # 将datadir目录下的文件列出来，每条文件都要读入  
22.     filenames = os.listdir(datadir)  
23.     def reader():  
24.         if mode == 'train':  
25.             # 训练时随机打乱数据顺序  
26.             random.shuffle(filenames)  
27.         batch_imgs = []  
28.         batch_labels = []  
29.         for name in filenames:  
30.             filepath = os.path.join(datadir, name)  
31.             img = cv2.imread(filepath)  
32.             img = transform_img(img)  
33.             if name[0] == 'H' or name[0] == 'N':  
34.                 # H开头的文件名表示高度近似，N开头的文件名表示正常视力  
35.                 # 高度近视和正常视力的样本，都不是病理性的，属于负样本，标签为0  
36.                 label = 0  
37.             elif name[0] == 'P':  
38.                 # P开头的是病理性近视，属于正样本，标签为1  
39.                 label = 1  
40.             else:  
41.                 raise('Not excepted file name')  
42.             # 每读取一个样本的数据，就将其放入数据列表中  
43.             batch_imgs.append(img)  
44.             batch_labels.append(label)  
45.             if len(batch_imgs) == batch_size:  
46.                 # 当数据列表的长度等于batch_size的时候，  
47.                 # 把这些数据当作一个mini-batch，并作为数据生成器的一个输出  
48.                 imgs_array = np.array(batch_imgs).astype('float32')  
49.                 labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
50.                 yield imgs_array, labels_array  
51.                 batch_imgs = []  
52.                 batch_labels = []  
53.   
54.         if len(batch_imgs) > 0:  
55.             # 剩余样本数目不足一个batch_size的数据，一起打包成一个mini-batch  
56.             imgs_array = np.array(batch_imgs).astype('float32')  
57.             labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
58.             yield imgs_array, labels_array  
59.   
60.     return reader  
61.   
62. # 定义验证集数据读取器  
63. def valid_data_loader(datadir, csvfile, batch_size=10, mode='valid'):  
64.     # 训练集读取时通过文件名来确定样本标签，验证集则通过csvfile来读取每个图片对应的标签  
65.     # 请查看解压后的验证集标签数据，观察csvfile文件里面所包含的内容  
66.     # csvfile文件所包含的内容格式如下，每一行代表一个样本，  
67.     # 其中第一列是图片id，第二列是文件名，第三列是图片标签，  
68.     # 第四列和第五列是Fovea的坐标，与分类任务无关  
69.     # ID,imgName,Label,Fovea_X,Fovea_Y  
70.     # 1,V0001.jpg,0,1157.74,1019.87  
71.     # 2,V0002.jpg,1,1285.82,1080.47  
72.     # 打开包含验证集标签的csvfile，并读入其中的内容  
73.     filelists = open(csvfile).readlines()  
74.     def reader():  
75.         batch_imgs = []  
76.         batch_labels = []  
77.         for line in filelists[1:]:  
78.             line = line.strip().split(',')  
79.             name = line[1]  
80.             label = int(line[2])  
81.             # 根据图片文件名加载图片，并对图像数据作预处理  
82.             filepath = os.path.join(datadir, name)  
83.             img = cv2.imread(filepath)  
84.             img = transform_img(img)  
85.             # 每读取一个样本的数据，就将其放入数据列表中  
86.             batch_imgs.append(img)  
87.             batch_labels.append(label)  
88.             if len(batch_imgs) == batch_size:  
89.                 # 当数据列表的长度等于batch_size的时候，  
90.                 # 把这些数据当作一个mini-batch，并作为数据生成器的一个输出  
91.                 imgs_array = np.array(batch_imgs).astype('float32')  
92.                 labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
93.                 yield imgs_array, labels_array  
94.                 batch_imgs = []  
95.                 batch_labels = []  
96.   
97.         if len(batch_imgs) > 0:  
98.             # 剩余样本数目不足一个batch_size的数据，一起打包成一个mini-batch  
99.             imgs_array = np.array(batch_imgs).astype('float32')  
100.             labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
101.             yield imgs_array, labels_array  
102.   
103.     return reader  
104. # 查看数据形状  
105. DATADIR = '/home/aistudio/work/palm/PALM-Training400/PALM-Training400'  
106. train_loader = data_loader(DATADIR,   
107.                            batch_size=10, mode='train')  
108. data_reader = train_loader()  
109. data = next(data_reader)  
110. data[0].shape, data[1].shape  
111.   
112. eval_loader = data_loader(DATADIR,   
113.                            batch_size=10, mode='eval')  
114. data_reader = eval_loader()  
115. data = next(data_reader)  
116. data[0].shape, data[1].shape  

1. 启动训练：代码如下

1. # -*- coding: utf-8 -*-  
2. # LeNet 识别眼疾图片  
3. import os  
4. import random  
5. import paddle  
6. import numpy as np  
7.   
8. DATADIR = '/home/aistudio/work/palm/PALM-Training400/PALM-Training400'  
9. DATADIR2 = '/home/aistudio/work/palm/PALM-Validation400'  
10. CSVFILE = '/home/aistudio/labels.csv'  
11.   
12. # 定义训练过程  
13. def train_pm(model, optimizer):  
14.     # 开启0号GPU训练  
15.     use_gpu = True  
16.     paddle.set_device('gpu:0') if use_gpu else paddle.set_device('cpu')  
17.   
18.     print('start training ... ')  
19.     model.train()  
20.     epoch_num = 5  
21.     # 定义数据读取器，训练数据读取器和验证数据读取器  
22.     train_loader = data_loader(DATADIR, batch_size=10, mode='train')  
23.     valid_loader = valid_data_loader(DATADIR2, CSVFILE)  
24.     for epoch in range(epoch_num):  
25.         for batch_id, data in enumerate(train_loader()):  
26.             x_data, y_data = data  
27.             img = paddle.to_tensor(x_data)  
28.             label = paddle.to_tensor(y_data)  
29.             # 运行模型前向计算，得到预测值  
30.             logits = model(img)  
31.             loss = F.binary_cross_entropy_with_logits(logits, label)  
32.             avg_loss = paddle.mean(loss)  
33.   
34.             if batch_id % 10 == 0:  
35.                 print("epoch: {}, batch_id: {}, loss is: {}".format(epoch, batch_id, avg_loss.numpy()))  
36.             # 反向传播，更新权重，清除梯度  
37.             avg_loss.backward()  
38.             optimizer.step()  
39.             optimizer.clear_grad()  
40.   
41.         model.eval()  
42.         accuracies = []  
43.         losses = []  
44.         for batch_id, data in enumerate(valid_loader()):  
45.             x_data, y_data = data  
46.             img = paddle.to_tensor(x_data)  
47.             label = paddle.to_tensor(y_data)  
48.             # 运行模型前向计算，得到预测值  
49.             logits = model(img)  
50.             # 二分类，sigmoid计算后的结果以0.5为阈值分两个类别  
51.             # 计算sigmoid后的预测概率，进行loss计算  
52.             pred = F.sigmoid(logits)  
53.             loss = F.binary_cross_entropy_with_logits(logits, label)  
54.             # 计算预测概率小于0.5的类别  
55.             pred2 = pred * (-1.0) + 1.0  
56.             # 得到两个类别的预测概率，并沿第一个维度级联  
57.             pred = paddle.concat([pred2, pred], axis=1)  
58.             acc = paddle.metric.accuracy(pred, paddle.cast(label, dtype='int64'))  
59.   
60.             accuracies.append(acc.numpy())  
61.             losses.append(loss.numpy())  
62.         print("[validation] accuracy/loss: {}/{}".format(np.mean(accuracies), np.mean(losses)))  
63.         model.train()  
64.   
65.         paddle.save(model.state_dict(), 'palm.pdparams')  
66.         paddle.save(optimizer.state_dict(), 'palm.pdopt')  
67.   
68.   
69. # 定义评估过程  
70. def evaluation(model, params_file_path):  
71.   
72.     # 开启0号GPU预估  
73.     use_gpu = True  
74.     paddle.set_device('gpu:0') if use_gpu else paddle.set_device('cpu')  
75.   
76.     print('start evaluation .......')  
77.   
78.     #加载模型参数  
79.     model_state_dict = paddle.load(params_file_path)  
80.     model.load_dict(model_state_dict)  
81.   
82.     model.eval()  
83.     eval_loader = data_loader(DATADIR,   
84.                         batch_size=10, mode='eval')  
85.   
86.     acc_set = []  
87.     avg_loss_set = []  
88.     for batch_id, data in enumerate(eval_loader()):  
89.         x_data, y_data = data  
90.         img = paddle.to_tensor(x_data)  
91.         label = paddle.to_tensor(y_data)  
92.         y_data = y_data.astype(np.int64)  
93.         label_64 = paddle.to_tensor(y_data)  
94.         # 计算预测和精度  
95.         prediction, acc = model(img, label_64)  
96.         # 计算损失函数值  
97.         loss = F.binary_cross_entropy_with_logits(prediction, label)  
98.         avg_loss = paddle.mean(loss)  
99.         acc_set.append(float(acc.numpy()))  
100.         avg_loss_set.append(float(avg_loss.numpy()))  
101.     # 求平均精度  
102.     acc_val_mean = np.array(acc_set).mean()  
103.     avg_loss_val_mean = np.array(avg_loss_set).mean()  
104.   
105.     print('loss={}, acc={}'.format(avg_loss_val_mean, acc_val_mean))  
106. # -*- coding:utf-8 -*-  
107.   
108. # 导入需要的包  
109. import paddle  
110. import numpy as np  
111. from paddle.nn import Conv2D, MaxPool2D, Linear, Dropout  
112. import paddle.nn.functional as F  
113.   
114. # 定义 LeNet 网络结构  
115. class LeNet(paddle.nn.Layer):  
116.     def __init__(self, num_classes=1):  
117.         super(LeNet, self).__init__()  
118.   
119.         # 创建卷积和池化层块，每个卷积层使用Sigmoid激活函数，后面跟着一个2x2的池化  
120.         self.conv1 = Conv2D(in_channels=3, out_channels=6, kernel_size=5)  
121.         self.max_pool1 = MaxPool2D(kernel_size=2, stride=2)  
122.         self.conv2 = Conv2D(in_channels=6, out_channels=16, kernel_size=5)  
123.         self.max_pool2 = MaxPool2D(kernel_size=2, stride=2)  
124.         # 创建第3个卷积层  
125.         self.conv3 = Conv2D(in_channels=16, out_channels=120, kernel_size=4)  
126.         # 创建全连接层，第一个全连接层的输出神经元个数为64  
127.         self.fc1 = Linear(in_features=300000, out_features=64)  
128.         # 第二个全连接层输出神经元个数为分类标签的类别数  
129.         self.fc2 = Linear(in_features=64, out_features=num_classes)  
130.   
131.     # 网络的前向计算过程  
132.     def forward(self, x, label=None):  
133.         x = self.conv1(x)  
134.         x = F.sigmoid(x)  
135.         x = self.max_pool1(x)  
136.         x = self.conv2(x)  
137.         x = F.sigmoid(x)  
138.         x = self.max_pool2(x)  
139.         x = self.conv3(x)  
140.         x = F.sigmoid(x)  
141.         x = paddle.reshape(x, [x.shape[0], -1])  
142.         x = self.fc1(x)  
143.         x = F.sigmoid(x)  
144.         x = self.fc2(x)  
145.         if label is not None:  
146.             acc = paddle.metric.accuracy(input=x, label=label)  
147.             return x, acc  
148.         else:  
149.             return x  
150. # 创建模型  
151. model = LeNet(num_classes=1)  
152. # 启动训练过程  
153. opt = paddle.optimizer.Momentum(learning_rate=0.001, momentum=0.9, parameters=model.parameters())  
154. train_pm(model, optimizer=opt)  
155. evaluation(model, params_file_path="palm.pdparams")  

（5）参数调整：

文件报错：invalid literal for int() with base 10: ''

从网上找相关资料发现因为python不能直接将包含小数点的字符串转化为整数，而原始数据的格式经常是不一致的，故类型转化时造成ValueError异常。
解决方法：先将字符串转换为浮点数float，在将浮点数转化为整数int。

第一次改正：label = int(float(line[2]))

依旧报错：ValueError: could not convert string to float: ''

之后继续检阅资料发现原因：空字符串无法转成整型
解决办法：加入异常值抛出。若遇到ValueError错误，直接pass，否则执行else下面的程序。
 

修改后程序：

(6)除此之外就是一些文件地址的修改

以下是改正后的代码

1. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
2. # 文件名以N开头的是正常眼底图片，以P开头的是病变眼底图片  
3. file1 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400/N0012.jpg'  
4. file2 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400/P0095.jpg'  
5. DATADIR2 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation400'  
6. CSVFILE = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation-GT/labels.csv'          
7.   
8. paddle.save(model.state_dict(), '眼疾识别.pdparams')  
9. paddle.save(optimizer.state_dict(), '眼疾识别.pdopt')  
10. evaluation(model, params_file_path="眼疾识别.pdparams")  

(7)文件顺利执行，得出结果：

1. 评估后得出结果:

loss=0.6918540149927139.acc=0.46750000305473804

可以看出效果并不是很理想，需要进一步调整学习率优化准确度

• 结论

在老师布置了创新创业大作业以后，我便开始选择题目，在浏览了十多题后，我最终选择了眼疾识别问题作为此次创新创业课程设计的大作业。如今近视已经成为困扰人们健康的一项全球性负担，在近视人群中，有超过35%的人患有重度近视。因此，及早发现近视患者眼睛的病变并采取治疗，显得非常重要。定题后，我便开始后面的设计。

我们是这学期学的Python语言和百度Paddle人工智能平台，一下子接触很多新的概念，多多少少有点不适应，平时忙着复习预习物理数学等科目，就仅仅周末有一些时间练习Python语言和百度Paddle人工智能平台，于是把paddle平台和python的训练给丢下了，在最后一个月，才开始抓紧学习两个平台的搭配使用。

从Paddle平台获得程序后，我首先下载平台提供的数据集，并对已完成的代码更改程序中打开的本地文件地址。

在检查好滴之后，第一次运行，出现了左右两只眼球的图，把我高兴坏了，但高兴没过一会儿，出现了一个文件报错，内容是：invalid literal for int() with base 10: '' 从CSDN上检索了相关问题的解决办法，首先尝试的是将数据先转为float类型，再用int函数强行变为整型，但是发现改正后运行还是继续报错，报错内容为：ValueError: could not convert string to float: '' 这个时候，心里是有点害怕的，到底是接着int(float())改还是退回int（）改，再冷静思考后，我决定还是退回int（）改，以防代码出现大面积更换，不利于后期程序运行和理解。

在CSDN上继续检索后，又发现一个解决的方案，就是用pass函数跳过，

将代码处理后，再次运行，完美得到结果，并且没有出现任何大面积的程序改动。

顿时，好像一下子从暗无天日的盲目中找到了方向，心中一下子开阔起来。

这个过程出现了曲折大致可以认为是编程软件的更新，以及本地环境的不匹配导致的，网上很多的代码的都是基于个人本地环境实现的，相关的代码我不能直接套用，针对这个问题，我首先是阅读他的程序，判断哪些是我能自主修改最终能在我本地运行的。

检阅python相关的语法，接着学习paddle的使用方法，在进行改码时，还是出现了很多错误，在一遍遍的修改查资料后，还是不能一下子就很快地将程序调出来，这个时候我们想到了学长，在学长的指导下，我们很快地找到了问题的症结———相关文件尺寸的问题。

接下来的过程就很轻松，一遍遍的运行代码，一遍遍的优化代码，最终获得了实验得出最优的眼疾识别代码。

最后一点最重要的体会就是：要学会查找资料，要学会请教他人，学会坚持和钻研。不要怕！不要悔！

五、参考文献

   1、代码高亮处理http://www.codeinword.com

  2、paddle人工智能平台飞桨PaddlePaddle-源于产业实践的开源深度学习平台

  3、第一次处理方法https://blog.csdn.net/weixin_44034883/article/details/112918440

  4、第二次处理办法

https://blog.csdn.net/zcs_xueli/article/details/107458068?utm_medium=distribute.pc_relevant.none-task-blog-baidujs_title-0&spm=1001.2101.3001.4242

六、以下是完整代码：

1. import os  
2. import numpy as np  
3. import matplotlib.pyplot as plt  
4. from PIL import Image  
5.   
6. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
7. # 文件名以N开头的是正常眼底图片，以P开头的是病变眼底图片  
8. file1 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400/N0012.jpg'  
9. file2 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400/P0095.jpg'  
10.   
11. # 读取图片  
12. img1 = Image.open(os.path.join(DATADIR, file1))  
13. img1 = np.array(img1)  
14. img2 = Image.open(os.path.join(DATADIR, file2))  
15. img2 = np.array(img2)  
16.   
17. # 画出读取的图片  
18. plt.figure(figsize=(16, 8))  
19. f = plt.subplot(121)  
20. f.set_title('Normal', fontsize=20)  
21. plt.imshow(img1)  
22. f = plt.subplot(122)  
23. f.set_title('PM', fontsize=20)  
24. plt.imshow(img2)  
25. plt.show()  
26.   
27. import cv2  
28. import random  
29. import numpy as np  
30. import os  
31.   
32. # 对读入的图像数据进行预处理  
33. def transform_img(img):  
34.     # 将图片尺寸缩放道 224x224  
35.     img = cv2.resize(img, (224, 224))  
36.     # 读入的图像数据格式是[H, W, C]  
37.     # 使用转置操作将其变成[C, H, W]  
38.     img = np.transpose(img, (2,0,1))  
39.     img = img.astype('float32')  
40.     # 将数据范围调整到[-1.0, 1.0]之间  
41.     img = img / 255.  
42.     img = img * 2.0 - 1.0  
43.     return img  
44.   
45. # 定义训练集数据读取器  
46. def data_loader(datadir, batch_size=10, mode = 'train'):  
47.     # 将datadir目录下的文件列出来，每条文件都要读入  
48.     filenames = os.listdir(datadir)  
49.     def reader():  
50.         if mode == 'train':  
51.             # 训练时随机打乱数据顺序  
52.             random.shuffle(filenames)  
53.         batch_imgs = []  
54.         batch_labels = []  
55.         for name in filenames:  
56.             filepath = os.path.join(datadir, name)  
57.             img = cv2.imread(filepath)  
58.             img = transform_img(img)  
59.             if name[0] == 'H' or name[0] == 'N':  
60.                 # H开头的文件名表示高度近似，N开头的文件名表示正常视力  
61.                 # 高度近视和正常视力的样本，都不是病理性的，属于负样本，标签为0  
62.                 label = 0  
63.             elif name[0] == 'P':  
64.                 # P开头的是病理性近视，属于正样本，标签为1  
65.                 label = 1  
66.             else:  
67.                 raise('Not excepted file name')  
68.             # 每读取一个样本的数据，就将其放入数据列表中  
69.             batch_imgs.append(img)  
70.             batch_labels.append(label)  
71.             if len(batch_imgs) == batch_size:  
72.                 # 当数据列表的长度等于batch_size的时候，  
73.                 # 把这些数据当作一个mini-batch，并作为数据生成器的一个输出  
74.                 imgs_array = np.array(batch_imgs).astype('float32')  
75.                 labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
76.                 yield imgs_array, labels_array  
77.                 batch_imgs = []  
78.                 batch_labels = []  
79.   
80.         if len(batch_imgs) > 0:  
81.             # 剩余样本数目不足一个batch_size的数据，一起打包成一个mini-batch  
82.             imgs_array = np.array(batch_imgs).astype('float32')  
83.             labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
84.             yield imgs_array, labels_array  
85.   
86.     return reader  
87.   
88. # 定义验证集数据读取器  
89. def valid_data_loader(datadir, csvfile, batch_size=10, mode='valid'):  
90.     # 训练集读取时通过文件名来确定样本标签，验证集则通过csvfile来读取每个图片对应的标签  
91.     # 请查看解压后的验证集标签数据，观察csvfile文件里面所包含的内容  
92.     # csvfile文件所包含的内容格式如下，每一行代表一个样本，  
93.     # 其中第一列是图片id，第二列是文件名，第三列是图片标签，  
94.     # 第四列和第五列是Fovea的坐标，与分类任务无关  
95.     # ID,imgName,Label,Fovea_X,Fovea_Y  
96.     # 1,V0001.jpg,0,1157.74,1019.87  
97.     # 2,V0002.jpg,1,1285.82,1080.47  
98.     # 打开包含验证集标签的csvfile，并读入其中的内容  
99.     filelists = open(csvfile).readlines()  
100.     def reader():  
101.         batch_imgs = []  
102.         batch_labels = []  
103.         for line in filelists[1:]:  
104.             line = line.strip().split(',')  
105.             name = line[1]  
106.             try:  
107.                 label = int(line[2])  
108.             except ValueError as e:  
109.                 pass  
110.             else:  
111.                 # 根据图片文件名加载图片，并对图像数据作预处理  
112.                 filepath = os.path.join(datadir, name)  
113.                 img = cv2.imread(filepath)  
114.                 img = transform_img(img)  
115.                 # 每读取一个样本的数据，就将其放入数据列表中  
116.                 batch_imgs.append(img)  
117.                 batch_labels.append(label)  
118.                 if len(batch_imgs) == batch_size:  
119.                     # 当数据列表的长度等于batch_size的时候，  
120.                     # 把这些数据当作一个mini-batch，并作为数据生成器的一个输出  
121.                     imgs_array = np.array(batch_imgs).astype('float32')  
122.                     labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
123.                     yield imgs_array, labels_array  
124.                     batch_imgs = []  
125.                     batch_labels = []  
126.   
127.         if len(batch_imgs) > 0:  
128.             # 剩余样本数目不足一个batch_size的数据，一起打包成一个mini-batch  
129.             imgs_array = np.array(batch_imgs).astype('float32')  
130.             labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
131.             yield imgs_array, labels_array  
132.   
133.     return reader  
134.   
135. # 查看数据形状  
136. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
137. train_loader = data_loader(DATADIR,  
138.                            batch_size=10, mode='train')  
139. data_reader = train_loader()  
140. data = next(data_reader)  
141. data[0].shape, data[1].shape  
142.   
143. eval_loader = data_loader(DATADIR,  
144.                            batch_size=10, mode='eval')  
145. data_reader = eval_loader()  
146. data = next(data_reader)  
147. data[0].shape, data[1].shape  
148.   
149. # LeNet 识别眼疾图片  
150. import os  
151. import random  
152. import paddle  
153. import numpy as np  
154.   
155. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
156. DATADIR2 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation400'  
157. CSVFILE = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation-GT/labels.csv'  
158.   
159. # 定义训练过程  
160. def train_pm(model, optimizer):  
161.     # 开启0号GPU训练  
162.     use_gpu = False  
163.     paddle.set_device('gpu:0') if use_gpu else paddle.set_device('cpu')  
164.   
165.     print('start training ... ')  
166.     model.train()  
167.     epoch_num = 5  
168.     # 定义数据读取器，训练数据读取器和验证数据读取器  
169.     train_loader = data_loader(DATADIR, batch_size=10, mode='train')  
170.     valid_loader = valid_data_loader(DATADIR2, CSVFILE)  
171.     for epoch in range(epoch_num):  
172.         for batch_id, data in enumerate(train_loader()):  
173.             x_data, y_data = data  
174.             img = paddle.to_tensor(x_data)  
175.             label = paddle.to_tensor(y_data)  
176.             # 运行模型前向计算，得到预测值  
177.             logits = model(img)  
178.             loss = F.binary_cross_entropy_with_logits(logits, label)  
179.             avg_loss = paddle.mean(loss)  
180.   
181.             if batch_id % 10 == 0:  
182.                 print("epoch: {}, batch_id: {}, loss is: {}".format(epoch, batch_id, avg_loss.numpy()))  
183.             # 反向传播，更新权重，清除梯度  
184.             avg_loss.backward()  
185.             optimizer.step()  
186.             optimizer.clear_grad()  
187.   
188.         model.eval()  
189.         accuracies = []  
190.         losses = []  
191.         for batch_id, data in enumerate(valid_loader()):  
192.             x_data, y_data = data  
193.             img = paddle.to_tensor(x_data)  
194.             label = paddle.to_tensor(y_data)  
195.             # 运行模型前向计算，得到预测值  
196.             logits = model(img)  
197.             # 二分类，sigmoid计算后的结果以0.5为阈值分两个类别  
198.             # 计算sigmoid后的预测概率，进行loss计算  
199.             pred = F.sigmoid(logits)  
200.             loss = F.binary_cross_entropy_with_logits(logits, label)  
201.             # 计算预测概率小于0.5的类别  
202.             pred2 = pred * (-1.0) + 1.0  
203.             # 得到两个类别的预测概率，并沿第一个维度级联  
204.             pred = paddle.concat([pred2, pred], axis=1)  
205.             acc = paddle.metric.accuracy(pred, paddle.cast(label, dtype='int64'))  
206.   
207.             accuracies.append(acc.numpy())  
208.             losses.append(loss.numpy())  
209.         print("[validation] accuracy/loss: {}/{}".format(np.mean(accuracies), np.mean(losses)))  
210.         model.train()  
211.   
212.         paddle.save(model.state_dict(), '眼疾识别.pdparams')  
213.         paddle.save(optimizer.state_dict(), '眼疾识别.pdopt')  
214.   
215.   
216. # 定义评估过程  
217. def evaluation(model, params_file_path):  
218.   
219.     # 开启0号GPU预估  
220.     use_gpu = False  
221.     paddle.set_device('gpu:0') if use_gpu else paddle.set_device('cpu')  
222.   
223.     print('start evaluation .......')  
224.   
225.     #加载模型参数  
226.     model_state_dict = paddle.load(params_file_path)  
227.     model.load_dict(model_state_dict)  
228.   
229.     model.eval()  
230.     eval_loader = data_loader(DATADIR,  
231.                         batch_size=10, mode='eval')  
232.   
233.     acc_set = []  
234.     avg_loss_set = []  
235.     for batch_id, data in enumerate(eval_loader()):  
236.         x_data, y_data = data  
237.         img = paddle.to_tensor(x_data)  
238.         label = paddle.to_tensor(y_data)  
239.         y_data = y_data.astype(np.int64)  
240.         label_64 = paddle.to_tensor(y_data)  
241.         # 计算预测和精度  
242.         prediction, acc = model(img, label_64)  
243.         # 计算损失函数值  
244.         loss = F.binary_cross_entropy_with_logits(prediction, label)  
245.         avg_loss = paddle.mean(loss)  
246.         acc_set.append(float(acc.numpy()))  
247.         avg_loss_set.append(float(avg_loss.numpy()))  
248.     # 求平均精度  
249.     acc_val_mean = np.array(acc_set).mean()  
250.     avg_loss_val_mean = np.array(avg_loss_set).mean()  
251.   
252.     print('loss={}, acc={}'.format(avg_loss_val_mean, acc_val_mean))  
253. # -*- coding:utf-8 -*-  
254.   
255. # 导入需要的包  
256. import paddle  
257. import numpy as np  
258. from paddle.nn import Conv2D, MaxPool2D, Linear, Dropout  
259. import paddle.nn.functional as F  
260.   
261. # 定义 LeNet 网络结构  
262. class LeNet(paddle.nn.Layer):  
263.     def __init__(self, num_classes=1):  
264.         super(LeNet, self).__init__()  
265.   
266.         # 创建卷积和池化层块，每个卷积层使用Sigmoid激活函数，后面跟着一个2x2的池化  
267.         self.conv1 = Conv2D(in_channels=3, out_channels=6, kernel_size=5)  
268.         self.max_pool1 = MaxPool2D(kernel_size=2, stride=2)  
269.         self.conv2 = Conv2D(in_channels=6, out_channels=16, kernel_size=5)  
270.         self.max_pool2 = MaxPool2D(kernel_size=2, stride=2)  
271.         # 创建第3个卷积层  
272.         self.conv3 = Conv2D(in_channels=16, out_channels=120, kernel_size=4)  
273.         # 创建全连接层，第一个全连接层的输出神经元个数为64  
274.         self.fc1 = Linear(in_features=300000, out_features=64)  
275.         # 第二个全连接层输出神经元个数为分类标签的类别数  
276.         self.fc2 = Linear(in_features=64, out_features=num_classes)  
277.   
278.     # 网络的前向计算过程  
279.     def forward(self, x, label=None):  
280.         x = self.conv1(x)  
281.         x = F.sigmoid(x)  
282.         x = self.max_pool1(x)  
283.         x = self.conv2(x)  
284.         x = F.sigmoid(x)  
285.         x = self.max_pool2(x)  
286.         x = self.conv3(x)  
287.         x = F.sigmoid(x)  
288.         x = paddle.reshape(x, [x.shape[0], -1])  
289.         x = self.fc1(x)  
290.         x = F.sigmoid(x)  
291.         x = self.fc2(x)  
292.         if label is not None:  
293.             acc = paddle.metric.accuracy(input=x, label=label)  
294.             return x, acc  
295.         else:  
296.             return x  
297. # 创建模型  
298. model = LeNet(num_classes=1)  
299. # 启动训练过程  
300. opt = paddle.optimizer.Momentum(learning_rate=0.001, momentum=0.9, parameters=model.parameters())  
301. train_pm(model, opt)  
302. evaluation(model, params_file_path="眼疾识别.pdparams")  

夹带点私货：海大牛！都给我来海大，也希望我能追的到我喜欢的女生