python函数知识点总结_Python知识点整理(持续更新)

9本人Python小白一枚,为了可以快速的学习的Python,先通过做项目的过程中逐步积累知识,期望能慢慢形成自己的体系,下面是一些做项目之前自己学习的Python的基础知识。

一、知识点1——pd.to_numeric

to_numeric:将参数转换为数值类型。根据提供的数据,默认返回的dtype是float64或int64。使用downcast参数获取其他dtype。

参数(arg)可以为:列表(list),元组( tuple),一维数组( 1-d array或者Series)

errors:{‘raise’,‘ignore’,‘coerce’},errors参数包含3种值,

如果errors=‘raise’,则无效的解析将引发异常

如果errors=‘ignore’,则无效的解析将返回输入

如果errors=‘coerce’,则无效的解析将会设置为NAN

例子1:

s = pd.Series(['1.0', '2', -3])

pd.to_numeric(s)

pd.to_numeric(s, downcast='float')

pd.to_numeric(s, downcast='signed')

例子2:

s = pd.Series(['apple', '1.0', '2', -3])

pd.to_numeric(s, errors='ignore')

pd.to_numeric(s, errors='coerce')

二、知识点2——时间转换

to_datetime:

(1)获取指定的时间和日期

pd.to_datetime('2017/01/08',format='%Y/%m/%d')

(2)将时间戳转换为时间格式

#时间戳变为时间

def convertTime(timeColList):

timeList=[]

for value in timeColList:

dateSer=time.localtime(value)

timeList.append(time.strftime('%Y-%m-%d%H:%M:%S',dateSer))

dateSer=pd.Series(timeList)

return dateSer

三、知识点3——pandas文本数据转整数分类编码

数据集中通常包含分类变量,这些变量中通常存储为表示各种特征的文本值。在进行数据分析时,我们需要对分类产量进行特征提取,以便后续建立模型。

1、替换字符串——map函数

查找列中所有的字符串,然后给不同字符串一个编号(映射为数字),然后用编号替换字符串

import pandas as pd

df = pd.DataFrame([

['green', '男', 10.1, 'class1'],

['red', '女', 13.5, 'class2'],

['blue', '女', 15.3, 'class1']])

df.columns = ['color', 'sex', 'prize', 'class label']

'''对于性别进行映射'''

sex_mapping = {

'男': 0,

'女': 1}

df['sex'] = df['sex'].map(sex_mapping)

结果:

2、标签编码——astype('category')

标签编码只是将列中的每个值转换为数字。

bs=df['class label'].astype('category')

然后你只需要使用标签的编码作为真正的数据就可以了:

bs.cat.codes.head()

标签编码的优点是它很简单,但它的缺点是数值可能被算法“误解”。

3、转换成哑变量,或者叫one-hot编码——pandas get_dummies()函数

df=pd.get_dummies(要进行转换的列,prefix='列名')

get_dummies的第一个参数为要转换为哑变量的列,第二个参数为要生成的哑变量的名称的前缀。

四、知识点4——列名重命名

1、导入数据无列名时

在导入数据时,添加参数header=None

lianjiaData = pd.read_excel('rlianjia.xlsx')

df = lianjiaData.copy()

display(df.head(5))

#导入数据

lianjiaData = pd.read_excel('rlianjia.xlsx',header=None)

#备份数据

df = lianjiaData.copy()

#列名重命名的第一种方法

df.colunms=['TotalPrice','PerPrice','Floor','Message','Popularity']

display(df.head(5))

2、第1种方法

import pandas as pd

a = pd.DataFrame({'A':[1,2,3], 'B':[4,5,6], 'C':[7,8,9]})

a

a.columns=['a','b','c']

a

3、第2种方法

a.rename(columns={'A':'a', 'B':'b', 'C':'c'}, inplace = True)

a

五、知识点5——删除缺失值

data = data[data['SALE PRICE'].notnull()]

六、知识点6——异常值处理

1、异常值的检测方法简单统计

如果使用pandas,我们可以直接使用describe()来观察数据的统计性描述(只是粗略的观察一些统计量),不过统计数据为连续型的,如下:

import pandas as pd

import numpy as np

#导入数据集

nycData=pd.read_csv('F:/nyc-property-sales/nyc-rolling-sales.csv')

#查看数据集

nycData.describe()3∂原则

使用条件:数据需要服从正态分布。在3∂原则下,异常值如超过3倍标准差,那么可以将其视为异常值。正负3∂的概率是99.7%,那么距离平均值3∂之外的值出现的概率为P(|x-u| > 3∂) <= 0.003,属于极个别的小概率事件。如果数据不服从正态分布,也可以用远离平均值的多少倍标准差来描述。箱型图

利用箱型图的四分位距(IQR)对异常值进行检测,也叫Tukey‘s test。箱型图的定义如下:

以四分位距的的1.5倍为标准,超过上四分位+1.5倍IQR距离,或者下四分位-1.5倍IQR距离的点为异常值。

以上三种方法为比较简单的判断异常值的方法,较为复杂的异常值检测方法后续用到并深入了解后再进行添加。

2、异常值处理方法删除含有异常值的记录:直接将含有异常值的记录删除;(具体操作见知识点7)

视为缺失值:将异常值视为缺失值,利用缺失值处理的方法进行处理;

平均值修正:可用前后两个观测值的平均值修正该异常值;

不处理:直接在具有异常值的数据集上进行数据挖掘;

七、知识点7——pandas.DataFrame删除/选取含有特定数值的行或列

1、删除/选取某列含有特殊数值的行

import pandas as pd

import numpy as np

a=np.array([[1,2,3],[4,5,6],[7,8,9]])

df1=pd.DataFrame(a,index=['row0','row1','row2'],columns=list('ABC'))

print(df1)

df2=df1.copy()

#删除/选取某列含有特定数值的行

#df1=df1[df1['A'].isin([1])]

#df1[df1['A'].isin([1])] 选取df1中A列包含数字1的行

df1=df1[~df1['A'].isin([1])]

#通过~取反,选取不包含数字1的行

print(df1)

2、删除/选取某行含有特殊数值的列

import pandas as pd

import numpy as np

#删除/选取某行含有特定数值的列

cols=[x for i,x in enumerate(df2.columns) if df2.iat[0,i]==3]

#利用enumerate对row0进行遍历,将含有数字3的列放入cols中

print(cols)

#df2=df2[cols] 选取含有特定数值的列

df2=df2.drop(cols,axis=1) #利用drop方法将含有特定数值的列删除

print(df2)

八、知识点8——pandas DataFrame获取索引

df.index.values

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值