待总结
用scikit-learn和pandas学习线性回归
用scikit-learn和pandas学习Ridge回归
待整理的
numpy——主要对其 N 维数组对象有用 http://www.numpy.org/
Pandas数据转为 numpy数据
df_numpyMatrix = df.as_matrix()
df_numpyMatrix=df.valuesa=([3.234,34,3.777,6.33])
#a为python的list类型
#将a转化为numpy的array:
np.array(a)
array([ 3.234, 34. , 3.777, 6.33 ])#将a转化为python的list
a.tolist()python中list与array互相转换
u = array([[1,2],[3,4]])
m = u.tolist() #转换为list
m.remove(m[0]) #移除m[0]
m = np.array(m) #转换为arraynumpy库是数值计算，NumPy为Python带来了真正的多维数组功能，并且提供了丰富的函数库处理这些数组。它将常用的数学函数都进行数组化，使得这些数学函数能够直接对数组进行操作。NumPy为Python提供了快速的多维数组处理的能力，但是它不能用来做各种科学计算，这时候就需要scipy了。
NumPy小抄
#array initialization
import numpy as np
np.array([2, 3, 4])
np.empty(20, dtype=np.float32)
np.zeros(200)
np.ones((3,3), dtype=np.int32)
np.eye(200)
np.zeros_like(a)
np.linspace(0., 10., 100) # 100 points from o to 10
np.arange(0, 100, 2)
np.logspace(-5, 2, 100) #100 log-spaces points between -5 and 2
np.copy(a) # copy array to new memory
#数学本质是一种截断.clip的第一个参数表示目标区间最小值，第二个参数表示最大值，原始序列凡小于这个最小值的被这个最小值所替换，凡大于这个最大值的被这个最大值替换，必须指定一个参数，则另一个参数默认为∞。
np.clip() import numpy as np
array = np.array([[1,2,3],[2,3,4]])
print(array)
print('number of dim:',array.ndim) #矩阵的维度
print('shape:',array.shape) # 矩阵的大小
print('size:',array.size) #矩阵的元素个数# 数组的type
a = np.array([2,3,4],dtype=np.int64)
print(a.dtype)
a = np.array([2,3,4],dtype=np.float)#default is float64
print(a.dtype)
a = np.array([2,3,4],dtype=np.float32)
print(a.dtype)# 创建各种各样的array矩阵和数组
a = np.array([2,3,5])
print(a)
a = np.zeros((3,4),dtype=np.int32) #生成一个零矩阵
a = np.ones((3,4),dtype=np.int64)# 生成一个单位矩阵
a = np.empyt((3,4))# 生成一个空矩阵
a = np.arange(10,20,2)#生成一个数列，从10到20，步长为2,有序数列
a = np.arange(12).reshape((3,4)) #生成一个矩阵，可定义shape
a = np.linspace(1,10,20).reshape((4,5)) #生成一个从1到10的数列，有20段，有序矩阵。
class_pred = np.array([])
class_actual=np.array([])
ss = np.array([]).reshape(-1,2)
array([], dtype=float64)
array([], dtype=float64)
array([], shape=(0, 2), dtype=float64)
print(class_pred.shape, type(class_pred), class_actual.shape, type(class_actual), ss.shape, type(ss))
((0,), <type 'numpy.ndarray'>, (0,), <type 'numpy.ndarray'>, (0, 2), <type 'numpy.ndarray'>)
Reading/ Writing files
np.fromfile(fname/object, dtype=np.float32, count=5)
np.loadtxt(fname/object, skiprows=2, delimiter=',')
indexing
a = np.arange(100)
a[:3] = 0
a[2:5] = 1 #set indices 2-4 to 1
a[start:stop:step]
a[None, :]
a[[1, 1, 3, 8]]
a = a.reshape(10, 10) # transform to 10 x 10 matrix
a.T #return transposed view
b = np.transpose(a, (1,0))
a[a<2]#索引
import numpy as np
A =np.arange(2,14).reshape((3,4))
print(A)
print(np.argmin(A))
print(np.argmax(A))
print(np.mean(A))
print(A.mean())
print(np.average(A))
print(np.median(A))
print(A)
print(np.cumsum(A)) #逐步累加
print(np.diff(A)) #前后之差，类差
print(np.nonzero(A))
print(np.sort(A))
print(np.transpose(A)) #矩阵的转置
print(A.T)
print((A.T).dot(A)) # A'A
print(np.clip(A,5,9)) #矩阵的截断，小于5为5，大于9的为9
import numpy as np
A = np.arange(3,15)
print(A)
print(A[3])
A = np.arange(3,15).reshape((3,4))
print(A)
print(A[3])
#输出1行1列
print(A[1][1])
print(A[1,1])
print(A[2,:]) #2行
print(A[:,1])#1列
print(A[1,1:3])
#输出每一行
for row in A:
print(row)
# 输出一列
for column in A.T:
print(column)
#输出每一个元素
print(A.flatten()) #返回所有值
for item in A.flat:
print(item)
array properties and operations
a.shape
len(a)
a.ndim
a.sort(axis=1)
a.flatten()
a.conj()
a.astype(np.int16)#numpy中的数据类型转换，不能直接改原数据的dtype! 只能用函数astype()
np.argmax(a, axis=1)
np.cumsum(a)
np.any(a)
np.all(a)
np.argsort(a, axis =1)
np.linalg.norm
顾名思义，linalg=linear+algebra，norm则表示范数，首先需要注意的是范数是对向量（或者矩阵）的度量，是一个标量（scalar）：
numpy数据类型dtype转换，astype
a = np.random.random(4)
>>> a
array([ 0.0945377 , 0.52199916, 0.62490646, 0.21260126])
>>> a.dtype
dtype(‘float64‘)
>>> a.shape
(4,)
#改变dtype，发现数组长度翻倍！
>>> a.dtype = ‘float32‘
>>> a
array([ 3.65532693e+20, 1.43907535e+00, -3.31994873e-25,
1.75549972e+00, -2.75686653e+14, 1.78122652e+00,
-1.03207532e-19, 1.58760118e+00], dtype=float32)
>>> a.shape
(8,)
#用 astype(int) 得到整数，并且不改变数组长度
b = np.array([1., 2., 3., 4.])
print(b.dtype, b.shape, b)
c = b.astype(int)
print(c.dtype, c.shape, c)
(dtype('float64'), (4,), array([ 1., 2., 3., 4.]))
(dtype('int64'), (4,), array([1, 2, 3, 4]))x = np.array([3, 4])
np.linalg.norm(x) # 默认二范数
5.
np.linalg.norm(x, ord=2) #二范数 ℓ2：sqrt(x1^2+x2^2+…+xn^2)
5.
np.linalg.norm(x, ord=1) # 1 范数 ℓ1：|x1|+|x2|+…+|xn|
7.
np.linalg.norm(x, ord=np.inf) #无穷范数 ℓ∞：max(|xi|)
范数理论的一个小推论告诉我们：ℓ1≥ℓ2≥ℓ∞
boolean arrays
a < 2
(a < 2) & (b > 10) # elementwise logical and
(a < 2) | (b > 10) # elementwise logical or
~ a # invert boolean array
# elementwise operations and math functions
a*2
a + 5
a + b
a / b
np.exp(a) # exponential (complex and real)
np.power(a, b) # a to the power b
np.sin(a)
np.cos(a)
np.arctan2(a,b)
np.arcsin(a)
np.radians(a) # degrees to radians
np.degrees(a) # radians to degrees
np.var(a) #variance of array
np.std(a, axis=1) #standard deviation
# numpy 中的基础运算
import numpy as np
a = np.array([10,20,30,40])
b = np.arange(4)
print(a,b)
c = a + b
c = b**2 # b^2
c = b**4 # b^4
c = 10*np.sin(a)
c = 10*np.cos(b)
c = 10*np.tan(a)
print(c)
print(b)
print(b<3)
print(b==3)
#矩阵的运算
import numpy as np
a = np.array([[1,1],[0,1]])
b = np.arange(4).reshape((2,3))
print(a,b)
#逐个乘法
c = a*b
c_dot=np.dot(a,b) #矩阵乘法
c_dot2=a.dot(b)#矩阵乘法
print(c)
print(c_dot)
print(c_dot2)
import numpy as np
a =np.random.random((2,4)) # 随机生成的矩阵，从0都1中
print(np.sum(a))
print(np.min(a))
print(np.max(a))
print(np.sum(a,axis=1)) #对行计算
print(np.min(a,axis=0)) #对列中求最小值
print(np.max(a,axis =1))#对行中求最大值
numpy的array合并
import numpy as np
A = np.array([1,1,1])
B = np.array([2,2,2])
C = np.vstack((A,B))# vertical stack 上下合并,竖直方向
print(C)
print(A.shape,C.shape)
np.vstack([np.array([1, 2, 3]), np.array([4, 5, 6])])
array([[1, 2, 3],
[4, 5, 6]])
np.column_stack([np.array([1, 2, 3]), np.array([4, 5, 6])])
array([[1, 4],
[2, 5],
[3, 6]])
D = np.hstack((A,B)) # horizontal stack 左右合并,水平方向
print(D)
print(A.shape,D.shape)
np.hstack([np.array([1, 2, 3]), np.array([4, 5, 6])])
array([1, 2, 3, 4, 5, 6])
# 两者近乎等效
np.row_stack([np.array([1, 2, 3]), np.array([4, 5, 6])])
array([[1, 2, 3],
[4, 5, 6]])
print(A.T.shape)
print(A[np.newaxis,:].shape)
print(A[:,np.newaxis].shape)
#多个合并
C =np.concatenate((A,B,A,B,A,A))
print(C)
#行和列合并
C = np.concatenate((A,B,A,B,A,A),axis=1)
C = np.concatenate((A,B,A,B,A,A),axis=0)
print(C)np.concatenate((a, b), axis=0) == np.vstack((a, b))
# 也对应于默认的情况，np.concatenate((a, b))
np.concatenate((a, b), axis=1) == np.hstack((a, b))a = np.ndarray((3, 2, 3))
b = np.ndarray((2, 2, 3))
print(a.shape, b.shape)
(3, 2, 3) (2, 2, 3)
c = np.concatenate((a, b), axis = 0)
print(c.shape)
(5, 2, 3)#append,矩阵的追加是采用append这个函数
a = np.array([1, 2, 3, 4, 5])
a = np.append(a, 10)
array([ 1, 2, 3, 4, 5, 10])
a = np.append(a, [1, 2, 3])
array([ 1, 2, 3, 4, 5, 10, 1, 2, 3])#列表的扩展(extend), 列表的扩展就是把两个列表合并,采用extend函数
a = [1, 2, 3, 4]
b = [5, 6, 7, 8]
c = a.extend(b)
c
a
[1, 2, 3, 4, 5, 6, 7, 8]
请注意extend这个函数的返回值是None，所以上面c的输出为空，而a的值已经变了，所以它是直接在a后面扩展的，并没有任何返回值。#列表的追加直接用append就行
a = [1, 2,3,4]
a.append(6)
[1, 2, 3, 4, 6]numpy数组拼接方法介绍
#思路：首先将数组转成列表，然后利用列表的拼接函数append()、extend()等进行拼接处理，最后将列表转成数组
>>> import numpy as np
>>> a=np.array([1,2,5])
>>> b=np.array([10,12,15])
>>> a_list=list(a)
>>> b_list=list(b)
>>> a_list.extend(b_list)
>>> a_list
[1, 2, 5, 10, 12, 15]
>>> a=np.array(a_list)
>>> a
array([ 1, 2, 5, 10, 12, 15])
该方法只适用于简单的一维数组拼接#思路：numpy提供了numpy.append(arr, values, axis=None)函数。对于参数规定，要么一个数组和一个数值；要么两个数组，不能三个及以上数组直接append拼接。append函数返回的始终是一个一维数组。
>>> a=np.arange(5)
>>> a
array([0, 1, 2, 3, 4])
>>> np.append(a,10)
array([ 0, 1, 2, 3, 4, 10])
>>> a
array([0, 1, 2, 3, 4])
>>> b=np.array([11,22,33])
>>> b
array([11, 22, 33])
>>> np.append(a,b)
array([ 0, 1, 2, 3, 4, 11, 22, 33])
#numpy的数组没有动态改变大小的功能，numpy.append()函数每次都会重新分配整个数组，并把原来的数组复制到新数组中。#思路：numpy提供了numpy.concatenate((a1,a2,...), axis=0)函数。能够一次完成多个数组的拼接。其中a1,a2,...是数组类型的参数
>>> a=np.array([1,2,3])
>>> b=np.array([11,22,33])
>>> c=np.array([44,55,66])
>>> np.concatenate((a,b,c),axis=0) # 默认情况下，axis=0可以不写
array([ 1, 2, 3, 11, 22, 33, 44, 55, 66]) #对于一维数组拼接，axis的值不影响最后的结果
>>> a=np.array([[1,2,3],[4,5,6]])
>>> b=np.array([[11,21,31],[7,8,9]])
>>> np.concatenate((a,b),axis=0)
array([[ 1, 2, 3],
[ 4, 5, 6],
[11, 21, 31],
[ 7, 8, 9]])
>>> np.concatenate((a,b),axis=1) #axis=1表示对应行的数组进行拼接
array([[ 1, 2, 3, 11, 21, 31],
[ 4, 5, 6, 7, 8, 9]])numpy的array分割
import numpy as np
A = np.arange(12).reshape((3,4))
print(A)
print(np.split(A,2,axis=1))#列，纵向
print(np.split(A,3,axis=0))#行分割
print(np.split(A,3,axis=1))# 不可分割成不相等的分割，列方向
#不等的分割
print(np.array_split(A,3,axis=1))#列不等的分割
print(np.vsplit(A,3)) # 纵向分割，行分割
print(np.hsplit(A,2)) #横向分割,列分割numpy 的copy
#numpy的赋值有关联,也就是说a,b,c,d任何一个值变化，其他值也会有变化
import numpy as np
a = np.arange(4)#有序数列
b = a
c = a
d = b
d[1:3] =[22,33]
d is a
b is a
#不关联的赋值
b = a.copy() #deep copy
print(b)
a[3]=44
print(a,b)
inner/ outer products
np.dot(a, b)
np.einsum('ij,kj->ik', a, b)
np.sum(a, axis=1)
np.abs(a)
a[None, :] + b[:, None]
a[None, :] * b[:, None]
np.outer(a, b)
np.sum(a * a.T)
interpolation, integration
np.trapz(a, x=x, axis=1)
np.interp(x, xp, yp)
fft
np.fft.fft(a)
f = np.fft.fftfreq(len(a))
np.fft.fftshift(f)
np.fft.rfft(a)
np.fft.rfftfreq(len(a))
rounding
np.ceil(a) # rounds to nearest upper int
np.floor(a) # rounds to nearest lower int
np.round(a) # runds to nearest int
random variables
np.random.normal(loc=0, scale=2, size=100)
np.random.seed(23032)
np.random.rand(200)
np.random.uniform(1, 30, 200)
np.random.randint(1, 16, 300)
本文中的 numpy.ipynb 格式可见我的CSDN下载。
#https://python.freelycode.com/contribution/detail/340
#http://www.datadependence.com/2016/05/scientific-python-numpy/
#Python科学计算之NumPy
#NumPy是Python用于处理大型矩阵的一个速度极快的数学库。
#它允许你在Python中做向量和矩阵的运算，而且很多底层的函数都是用C写的，
#你将获得在普通Python中无法达到的运行速度。#数组基础
#NumPy的功能围绕着一些叫数组的东西。其实NP矩阵，但我们并不需要担心。
#有了这些数组，我们可以做各种有用的东西，如快速处理向量和矩阵数学。
#创建一个数组4种不同的方法。最基本的方法就是传递一个序列给NumPy的array()函数；
#你可以传递给它任何的序列，不仅仅是你通常看到的列表。
import numpy as np
# 1D Array
a = np.array([0, 1, 2, 3, 4])
b = np.array((0, 1, 2, 3, 4))
c = np.arange(5)
d = np.linspace(0, 2*np.pi, 5)
print(a)
print(b)
print(c)
print(d)
print(a[3])[0 1 2 3 4]
[0 1 2 3 4]
[0 1 2 3 4]
[ 0. 1.57079633 3.14159265 4.71238898 6.28318531]
3
#上面的数组例子是如何用NumPy表示一个向量。
#接下来我们就来看看我们如何可以展示矩阵和更多的多维数组。
aa = np.array([[11, 12, 13, 14, 15],
[16, 17, 18, 19, 20],
[21, 22, 23, 24, 25],
[26, 27, 28, 29, 30],
[31, 32, 33, 34, 35]])
print(aa)
print(aa[2,4])[[11 12 13 14 15]
[16 17 18 19 20]
[21 22 23 24 25]
[26 27 28 29 30]
[31 32 33 34 35]]
25
#向量是同时具有方向和大小的量。
#矩阵类似于向量，除了它是由行和列组成外，更像一个网格。矩阵中的值可以通过给对应的行和列来引用
#多维数组切片
import numpy as np
# MD slicing
print(aa[0, 1:4])
print(aa[1:4, 0])
print(aa[::2, ::2])
print(aa[:, 1])[12 13 14]
[16 21 26]
[[11 13 15]
[21 23 25]
[31 33 35]]
[12 17 22 27 32]
#数组属性
aa = np.array([[11, 12, 13, 14, 15],
[16, 17, 18, 19, 20],
[21, 22, 23, 24, 25],
[26, 27, 28, 29, 30],
[31, 32, 33, 34, 35]])
print(type(aa))
print(aa.dtype)
print(aa.size)
print(aa.shape)
print(aa.itemsize) #“itemsize”属性是每项占用了多少个字节,int64有64位，每个字节8位
print(aa.ndim) #“ndim”属性是指某个数组是几维的
print(aa.nbytes) #“nbytes”属性是某个数组中所有数据所占用的字节<class 'numpy.ndarray'>
int64
25
(5, 5)
8
2
200
#处理数组
#基本操作
# Basic Operators
aaa = np.arange(25)
print(aaa)
aaa = aaa.reshape((5, 5))
print(aaa)
bbb = np.array([10, 62, 1, 14, 2, 56, 79, 2, 1, 45,
4, 92, 5, 55, 63, 45, 45, 3, 123, 45,
34,5,67, 23,456])
print(bbb)
bbb = bbb.reshape((5,5))
print(bbb)
print( aaa + bbb)
print(aaa -bbb)
print(aaa*bbb)
print(aaa/bbb)
print(aaa**2)
print(aaa<bbb)
print(aaa>bbb)
print(aaa.dot(bbb)) #dot()函数计算出两个数组的点积[ 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24]
[[ 0 1 2 3 4]
[ 5 6 7 8 9]
[10 11 12 13 14]
[15 16 17 18 19]
[20 21 22 23 24]]
[ 10 62 1 14 2 56 79 2 1 45 4 92 5 55 63 45 45 3
123 45 34 5 67 23 456]
[[ 10 62 1 14 2]
[ 56 79 2 1 45]
[ 4 92 5 55 63]
[ 45 45 3 123 45]
[ 34 5 67 23 456]]
[[ 10 63 3 17 6]
[ 61 85 9 9 54]
[ 14 103 17 68 77]
[ 60 61 20 141 64]
[ 54 26 89 46 480]]
[[ -10 -61 1 -11 2]
[ -51 -73 5 7 -36]
[ 6 -81 7 -42 -49]
[ -30 -29 14 -105 -26]
[ -14 16 -45 0 -432]]
[[ 0 62 2 42 8]
[ 280 474 14 8 405]
[ 40 1012 60 715 882]
[ 675 720 51 2214 855]
[ 680 105 1474 529 10944]]
[[ 0. 0.01612903 2. 0.21428571 2. ]
[ 0.08928571 0.07594937 3.5 8. 0.2 ]
[ 2.5 0.11956522 2.4 0.23636364 0.22222222]
[ 0.33333333 0.35555556 5.66666667 0.14634146 0.42222222]
[ 0.58823529 4.2 0.32835821 1. 0.05263158]]
[[ 0 1 4 9 16]
[ 25 36 49 64 81]
[100 121 144 169 196]
[225 256 289 324 361]
[400 441 484 529 576]]
[[ True True False True False]
[ True True False False True]
[False True False True True]
[ True True False True True]
[ True False True False True]]
[[False False True False True]
[False False True True False]
[ True False True False False]
[False False True False False]
[False True False False False]]
[[ 335 418 289 572 2130]
[ 1080 1833 679 1652 5185]
[ 1825 3248 1069 2732 8240]
[ 2570 4663 1459 3812 11295]
[ 3315 6078 1849 4892 14350]]
#数组中特定的操作
# dot, sum, min, max, cumsum
a4 = np.arange(10)
print(a4.sum())
print(a4.min())
print(a4.max())
print(a4.cumsum()) #cumsum()逐项相加之和45
0
9
[ 0 1 3 6 10 15 21 28 36 45]
print(a4)[0 1 2 3 4 5 6 7 8 9]
#高级索引
#奇特的索引
# Fancy indexing
a5 = np.arange(0, 100, 10)
indices = [1, 5, -1]
b5 = a5[indices]
print(a5)
print(b5)[ 0 10 20 30 40 50 60 70 80 90]
[10 50 90]
#布尔屏蔽
#布尔屏蔽是一个奇妙的特性，它允许我们按照我们指定的条件来检索元素。
# Boolean masking
import matplotlib.pyplot as plt
a6 = np.linspace(0, 2*np.pi, 50)
b6 = np.sin(a6)
plt.plot(a6,b6)
mask = b6 >=0
plt.plot(a6[mask], b6[mask], 'bo')
mask = (b6 >=0) & (a6 <= np.pi/2)
plt.plot(a6[mask], b6[mask], 'go')
plt.show()
#不完整的索引
#Incomplete Indexing
a7 = np.arange(0,100,10)
b7 = a7[:5]
c7 = a7[a7 >=50]
print(b7)
print(c7)[ 0 10 20 30 40]
[50 60 70 80 90]
#Where,当需要以特定条件来检索数组元素的时候。
#只需要传递给它一个条件，它将返回符合条件的元素列表。
# where
a8 = np.arange(0,100,10)
b8 = np.where(a8<50)
c8 = np.where(a8>=50)[0]
print(b8)
print(c8)(array([0, 1, 2, 3, 4]),)
[5 6 7 8 9]
numpy 辨异函数
np.repeat 与 np.tile
二者执行的是均是复制操作；
np.repeat：复制的是多维数组的每一个元素；
np.tile：复制的是多维数组本身；#np.repeat
>> x = np.arange(1, 5).reshape(2, 2)
>> np.repeat(x, 2)
array([1, 1, 2, 2, 3, 3, 4, 4])
# 对数组中的每一个元素进行复制
# 除了待重复的数组之外，只有一个额外的参数时，高维数组也会 flatten 至一维#在行的方向上（axis=1），在列的方向上（axis=0）
>> np.repeat(x, 3, axis=1)
array([[1, 1, 1, 2, 2, 2],
[3, 3, 3, 4, 4, 4]])
>> np.repeat(x, 3, axis=0)
array([[1, 2],
[1, 2],
[1, 2],
[3, 4],
[3, 4],
[3, 4]])#numpy 下的 np.tile有些类似于 matlab 中的 repmat函数。不需要 axis 关键字参数，仅通过第二个参数便可指定在各个轴上的复制倍数。
>> a = np.arange(3)
>> np.tile(a, 2)
array([0, 1, 2, 0, 1, 2])
>> np.tile(a, (2, 2))
array([[0, 1, 2, 0, 1, 2],
[0, 1, 2, 0, 1, 2]])
>> b = np.arange(1, 5).reshape(2, 2)
>> np.tile(b, 2)
array([[1, 2, 1, 2],
[3, 4, 3, 4]])
# 等价于
>> np.tile(b, (1, 2))References
扫一扫
2万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
