cs231n_assignment1_knn

1、2个循环

答案：

# 传进来x_test shape(500,3072)
# self.X_train shape(5000,3072)
def compute_distances_two_loops(self, X):
    # 500
	num_test = X.shape[0]
    # 5000
    num_train = self.X_train.shape[0]
    # 生成一个shape(500,5000)的全为0矩阵
    dists = np.zeros((num_test, num_train))
    # 两重for循环
    for i in range(num_test):
    	for j in range(num_train):
            # 利用欧式距离计算
    	    dists[i，j]=np.sqrt(np.sum(np.square(X[i，:]-self.X_train[j，:])))
    return dists

思路：得到dists，可以理解为dists矩阵的每一个元素都是1个test图片（1，3072）和1个train图片的欧几里得距离。

实现：np.square()函数，求平方

            np.sum()，求和（由于此时计算是一维向量，所以不用指定维度）

            np.sqrt,求根号

2、1个循环

答案：

def compute_distances_one_loop(self, X):
        # 500
        num_test = X.shape[0]
        # 5000
        num_train = self.X_train.shape[0]
        # (500,5000)
        dists = np.zeros((num_test, num_train))
        for i in range(num_test):
            dists[i, :] = np.sqrt(np.sum(np.square(self.X_train - X[i, :]), axis=1))
        return dists

思路：使用依次循环，提高运算速度，直接求1个test图片和（5000，3072）矩阵进行相减，此时用到了broadcast方法，即

            将test（1，3072）广播为（5000，3072）

3、0个循环

def compute_distances_no_loops(self, X):
        num_test = X.shape[0]
        num_train = self.X_train.shape[0]
        dists = np.zeros((num_test, num_train))
        dists = np.sqrt(np.sum(X**2, axis=1, keepdims=True) + (-2 * np.dot(X, self.X_train.T)) + np.sum(self.X_train**2, axis=1))
        return dists

思路：采用平方差公式

实现：实现的时候要注意矩阵加减乘的维度要一致或者可以使用broadcast扩展成一致的。

            np.sum中的keepdims=True，使得矩阵维度和之前保持一致，如果不加这个那么得到的是一维的（1，500）无法和（500，5000）broadcast，因此会出错。

补充知识点：numpy broadcast（原文链接：https://blog.csdn.net/fendyu/article/details/79955154 ）

广播仅仅是一组用于在不同大小的数组上应用二元ufuncs(加法、减法、乘法等)的规则。

对于相同大小的数组，二元操作按元素逐元素执行。

In[1]: import numpy as np
In[2]: a = np.array([0, 1, 2])
b = np.array([5, 5, 5])
a + b
Out[2]: array([5, 6, 7])

广播允许在不同大小的数组上执行这些类型的二元操作。

在NumPy中，广播遵循一组严格的规则来确定两个数组之间的操作:

规则1:如果两个数组在维度的数量上有差异，那么维度较少的数组的形状就会被用1填充在它的前导(左)边。
规则2:如果两个数组的形状在任何维度上都不匹配，但等于1，那么在这个维度中，形状为1的数组将被拉伸以匹配另一个形状。

规则3:如果在任何维度上，大小都不一致，且两者都不等于1，就会出现错误。

下面看例子：

In[1]: import numpy as np
In[2]: M = np.ones((2, 3))
       a = np.arange(3)
 
In [3]: M.shape
Out[3]: (2, 3)
In [4]: a.shape
Out[4]: (3,)

根据规则1，数组a的维数更少，所以我们用1填充在它的左边。

M.shape -> (2, 3)
a.shape -> (1, 3)
根据规则2，我们现在看到第一个维度不匹配，所以我们扩展这个维度来匹配。

M.shape -> (2, 3)
a.shape -> (2, 3)
现在就可以相加了，而且最终的shape是(2, 3)。我们验证一下：

In [5]: (M + a).shape
Out[5]: (2, 3)

再看一个例子：

In[6]: a = np.arange(3).reshape((3, 1))
        b = np.arange(3)
 
In [7]: a.shape
Out[7]: (3, 1)
In [8]: b.shape
Out[8]: (3,)
根据规则1，数组b的维数更少，所以我们用1填充在它的左边。

a.shape -> (3, 1)
b.shape -> (1, 3)
规则2告诉我们，我们将每一个是1的都升级，以匹配另一个数组的相应大小。

a.shape -> (3, 3)
b.shape -> (3, 3)
现在可以相加了，验证下：

In [9]: (a + b).shape
Out[9]: (3, 3)
下面看一个满足规则3的例子：

In [15]： M = np.ones((3, 2))
In [16]： a = np.arange(3)
 
In [16]: M.shape
Out[16]: (3, 2)
In [17]: a.shape
Out[17]: (3,) 
根据规则1，

M.shape -> (3, 2)
a.shape -> (1, 3)
根据规则2,a的第一个维度被拉伸到与M匹配:

M.shape -> (3, 2)
a.shape -> (3, 3)
现在根据规则3，如果我们进行加的操作，会出现错误，验证下：

In [18]: M + a
Traceback (most recent call last):
 
  File "<ipython-input-18-8cac1d547906>", line 1, in <module>
    M + a
 
ValueError: operands could not be broadcast together with shapes (3,2) (3,) 

注意这里可能出现的混淆:你可以想象出a和M的兼容性，比方说，用1在右边而不是左边填充a。但这不是广播规则的工作方式!还要注意的是，虽然我们一直在关注+运算符，但是这些广播规则适用于任何二元ufunc。

4.np.argsort()函数：

用于返回从小到大数组的索引值

x = np.array([2, 1, 1, 3])

np.argsort(x) 

得到[1, 2, 0, 3]

5.np.bincount():

用于得到0-9（0-N）每个正整数下对应出现的频率

array([2, 1, 9, 1])
>>> np.bincount(x)
array([0, 2, 1, 0, 0, 0, 0, 0, 0, 1])

6.np.argmax(np.bincount(list_1))：

这两个函数结合得到该数组list_1中出现频率最大的值。
7.np.array_split(x,3,axis=0) 函数 使用前后不改变维度,默认axis=0(第0维)

8.总体说明在knn分类中，train过程是一个简单的赋值过程，并没有做任何处理，课程作业主要是对predict做处理。

9.a = [1, 2, 3, 4, 5]如果取出一个数，将剩下的数据合并，要用到切片，[0:3]得到的不包括索引3 而[3:4]包括索引3，这点要记清楚

10.np.vstack(a,b)将a,b两个数组或矩阵竖着拼

np.hstack(a,b)将a,b两个数组或矩阵横着拼

总结参考：https://baijiahao.baidu.com/s?id=1591097602240769168&wfr=spider&for=pc