tensorflow 学习笔记1-最邻近实现（NN）

本文的例子都是参考github地址，自己增加了一些注释和理解的部分，原理部分可以参考统计学习方法的kNN，这里不详细介绍，主要是代码实现，能够熟练使用tensorflow。
原理：

1. 数据分为两个部分，训练数据和测试数据，包括数据点和label
2. 针对每一个测试数据，计算测试数据和训练数据中每一个点的距离，取最小的作为改测试数据的预测lable，然后对比测试数据自己的lable，最后计算准确率

import numpy as np
import tensorflow as tf


# 下载数据
from tensorflow.examples.tutorials.mnist import input_data
mnist = input_data.read_data_sets("../MNIST_data", one_hot=True)

# 生成训练数据和测试数据
X_tr, Y_tr = mnist.train.next_batch(5000)
X_te, Y_te = mnist.test.next_batch(200)
# 占位符 
x_tr = tf.placeholder("float", [None, 784])
x_te = tf.placeholder("float", [784])
# 计算训练数据和测试数据的L1距离
distance = tf.reduce_sum(tf.abs(tf.add(x_tr, tf.negative(x_te))), reduction_indices=1)
# 得到距离最小的索引值
pred = tf.arg_min(distance, 0)

accuracy = 0.
# 初始化所有的变量
init = tf.global_variables_initializer()
# 开始会话
with tf.Session() as sess:
    sess.run(init)  # 执行初始化
    # 对于每一个测试数据都要算出与它最近的一个训练数据
    for i in range(len(X_te)):
        nn_index = sess.run(pred, feed_dict={x_tr: X_tr, x_te: X_te[i, ]})
        # 对比测试数据自己的label和最邻近的训练数据的label
        print("Test", i, "Prediction:", np.argmax(Y_tr[nn_index]), "True Class:", np.argmax(Y_te[i]))
        # 如果相等就视为准确
        if np.argmax(Y_tr[nn_index]) == np.argmax(Y_te[i]):
            accuracy += 1. / len(X_te)
    print("Done!")
    print("Accuracy:", accuracy)