python 语法记录

时间

单个时间表示

创建一个datetime对象

• pd.to_datetime(‘2010/11/12’, format=’%Y/%m/%d’)
• np.datetime64(‘2018-01-01’)
• datetime.datetime(2018, 1, 1) datetime(year, month, day, hr, min, sec, us) timedelta(day, hr, min, sec, us)

指定格式的字符串来创建 datetime 对象 dt.datetime.strptime(‘2/10/01’, ‘%m/%d/%y’)

给日期加上30天 d2 = d1 + dt.timedelta(30)

多个时间注意加[ ]

产生时间序列

• 年y 月m 日d 时H 分M 秒S AM/PM p

  大小写好像都一样，freq = ‘m/M’ 输出都是按月 分用min

• pandas.date_range(start=None, end=None, periods=None, freq=None)

pd.Series() 将产生的datetime转化为series形式

pd.Series(pd.date_range(start='1/1/2018', end='1/08/2018', freq = 'd'))

将字符串转换为datetime

• 字符串切割成指定形式字符串 如20190906

def strip(x):
    x = str(x)
    Y = x[0:4]
    M = x[4:6]
    D = x[6:]
    time = Y + '-' + M + '-' + D
    return time

• 将转换后的字符串转为datetime

df.time = pd.to_datetime(df.time,format='%Y-%m-%d %H:%M')#将读取的日期转为datatime格式

dataframe 操作

• 重制索引

df = df.reset_index(drop = True)

• 快速操作 速度极快

df = df[df.etime<stop]

• 遍历时候选择元素

df.ix[i,'etime'] 用索引+列名
df.loc[(df.a==1) & (df.b==2)] 用列名（满足这个条件的所有行）

• dataframe合并

df = pd.merge(df,arrival_df,on=['etime'],how = 'outer') #主要用于按列合并
df = pd.concat([a, b], ignore_index=True) #主要用于行合并，不要忘了加[]

on 表示针对哪些列进行合并，要为共同的列
how表示怎么合并，合并后有哪些列

• shift用法

df[' '].shift(1)  同列前一个元素
df[' '].shift(-1)  同列后一个元素

• sort_values()
  value_counts()是一种查看表格某列中有多少个不同值的快捷方法，并计算每个不同值有在该列中有多少重复值。

生成随机数

随机整数：random.randint(a,b),生成区间内的整数

随机小数：习惯用numpy库，利用np.random.randn(5)生成5个随机小数

0-1随机小数：random.random(),括号中不传参

列表

列表去重

#先转集合，再转列表
l = [1,2,1,3,4]
l = set(l)
l = [x for x in l]

展开列表

#可转化为array再拉平
b = np.array(a).flatten().tolist()

求列表交集并集差集

字典

向字典中添加键值对

d = {}
d['key'] = 0
#字符串要加‘’ 其他不用

字典删除键

del dic['name']  #删除name键

合并字典

dic1.update(dic2)

创建字典dict函数

dict() # 创建空字典
{}

dict(a=‘a’, b=‘b’, t=‘t’) # 传入关键字
{‘a’: ‘a’, ‘b’: ‘b’, ‘t’: ‘t’}

dict(zip([‘one’, ‘two’, ‘three’], [1, 2, 3])) # 映射函数方式来构造字典
{‘three’: 3, ‘two’: 2, ‘one’: 1}

dict([(‘one’, 1), (‘two’, 2), (‘three’, 3)]) # 可迭代对象方式来构造字典
{‘three’: 3, ‘two’: 2, ‘one’: 1}

SQL操作

• 按升/降序排列

# by 为按哪些列排序，ascending 为升序True /降序 之后记得重制索引
df.sort_values(df_83.sort_values(by = ['id', 'date'], ascending=(True, True)).reset_index()

• groupby
  data = df.groupby('')[''].mean().reset_index()

tqdm

• tqdm 用于显示运行进度，常用于循环语句
• for i in tqdm(range(len(df))):

屏蔽warnings

import warnings
warnings.simplefilter(action='ignore', category=FutureWarning)
warnings.filterwarnings('ignore')

保留小数

round(a,3) 保留三位小数

空值

填充空值，变成空值

df.a = df.a.fillna(0).astype(int)
df.loc['a'== 1,'b'] = np.nan

找非缺失值，缺失值

df.a.notnull()
df.a.isnull()

机器学习操作

根据条件划分数据

test_index = (data[label].isnull()) | (data[label] == -1)    #满足的条件
    train_data = data[~test_index].reset_index(drop=True)     #不满足这些条件的数据
    test_data = data[test_index] #满足这些条件的数据

KFold

model.random_state = random_state

kfold = KFold(n_splits=n_splits, shuffle=True, random_state=random_state)

for train_idx, val_idx in kfold.split(train_data):  #kfold产生的是索引
    model.random_state = model.random_state + 1  #模型随机数在每次循环中要改变

    train_x = train_data.loc[train_idx][feature]
    train_y = train_data.loc[train_idx][label]

    test_x = train_data.loc[val_idx][feature]
    test_y = train_data.loc[val_idx][label]

model

#model
lgb_model = lgb.LGBMRegressor(
    num_leaves=32, reg_alpha=0., reg_lambda=0.01, objective='mae', metric='rmse',
    max_depth=-1, learning_rate=0.05, min_child_samples=10,
    n_estimators=4000, subsample=0.7, colsample_bytree=0.7, subsample_freq=1,
)

#model.fit
model.fit(train_x, train_y, eval_set=[(test_x, test_y)], early_stopping_rounds=400,
                          eval_metric='mae',
                          categorical_feature=cate_feature,
                          verbose=100)
#model.predict
train_data.loc[val_idx, predict_label] = model.predict(test_x)

if len(test_data) != 0:                  #预测集的预测
    test_data[predict_label] = test_data[predict_label] +         model.predict(test_data[feature])   #每次kfold预测值累加

test_data[predict_label] = test_data[predict_label] / n_splits  #kfold累计值求平均

转义字符

15、避免转义给字符串加哪个字母表示原始字符串？

r , 表示需要原始字符串，不转义特殊字符

排序

sorted函数

sorted() 函数对所有可迭代的对象进行排序操作。
sort 与 sorted 区别：
sort 是应用在 list 上的方法，sorted 可以对所有可迭代的对象进行排序操作。
list 的 sort 方法返回的是对已经存在的列表进行操作，无返回值，而内建函数 sorted 方法返回的是一个新的 list，而不是在原来的基础上进行的操作。

sorted(iterable, cmp=None, key=None, reverse=False)

参数说明：
iterable – 可迭代对象。
cmp – 比较的函数，这个具有两个参数，参数的值都是从可迭代对象中取出，此函数必须遵守的规则为，大于则返回1，小于则返回-1，等于则返回0。
key – 主要是用来进行比较的元素，只有一个参数，具体的函数的参数就是取自于可迭代对象中，指定可迭代对象中的一个元素来进行排序。
reverse – 排序规则，reverse = True 降序 ， reverse = False 升序（默认）。

正则表达式

正则表达式 - 元字符
下表包含了元字符的完整列表以及它们在正则表达式上下文中的行为：
字符 描述

\
将下一个字符标记为一个特殊字符、或一个原义字符、或一个 向后引用、或一个八进制转义符。例如，‘n’ 匹配字符 “n”。’\n’ 匹配一个换行符。序列 ‘\’ 匹配 “” 而 “(” 则匹配 “(”。
^
匹配输入字符串的开始位置。如果设置了 RegExp 对象的 Multiline 属性，^ 也匹配 ‘\n’ 或 ‘\r’ 之后的位置。
$
匹配输入字符串的结束位置。如果设置了RegExp 对象的 Multiline 属性，$ 也匹配 ‘\n’ 或 ‘\r’ 之前的位置。
*
匹配前面的子表达式零次或多次。例如，zo* 能匹配 “z” 以及 “zoo”。* 等价于{0,}。
+
匹配前面的子表达式一次或多次。例如，‘zo+’ 能匹配 “zo” 以及 “zoo”，但不能匹配 “z”。+ 等价于 {1,}。
?
匹配前面的子表达式零次或一次。例如，“do(es)?” 可以匹配 “do” 或 “does” 。? 等价于 {0,1}。
{n}
n 是一个非负整数。匹配确定的 n 次。例如，‘o{2}’ 不能匹配 “Bob” 中的 ‘o’，但是能匹配 “food” 中的两个 o。
{n,}
n 是一个非负整数。至少匹配n 次。例如，‘o{2,}’ 不能匹配 “Bob” 中的 ‘o’，但能匹配 “foooood” 中的所有 o。‘o{1,}’ 等价于 ‘o+’。‘o{0,}’ 则等价于 ‘o*’。
{n,m}
m 和 n 均为非负整数，其中n <= m。最少匹配 n 次且最多匹配 m 次。例如，“o{1,3}” 将匹配 “fooooood” 中的前三个 o。‘o{0,1}’ 等价于 ‘o?’。请注意在逗号和两个数之间不能有空格。
?
当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时，匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串，而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如，对于字符串 “oooo”，‘o+?’ 将匹配单个 “o”，而 ‘o+’ 将匹配所有 ‘o’。
.
匹配除换行符（\n、\r）之外的任何单个字符。要匹配包括 ‘\n’ 在内的任何字符，请使用像"(.|\n)“的模式。
(pattern)
匹配 pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到，在VBScript 中使用 SubMatches 集合，在JScript 中则使用 $0…$9 属性。要匹配圆括号字符，请使用 ‘(’ 或 ‘)’。
(?:pattern)
匹配 pattern 但不获取匹配结果，也就是说这是一个非获取匹配，不进行存储供以后使用。这在使用 “或” 字符 (|) 来组合一个模式的各个部分是很有用。例如， 'industr(?:y|ies) 就是一个比 ‘industry|industries’ 更简略的表达式。
(?=pattern)
正向肯定预查（look ahead positive assert），在任何匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如，“Windows(?=95|98|NT|2000)“能匹配"Windows2000"中的"Windows”，但不能匹配"Windows3.1"中的"Windows”。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。
(?!pattern)
正向否定预查(negative assert)，在任何不匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如"Windows(?!95|98|NT|2000)“能匹配"Windows3.1"中的"Windows”，但不能匹配"Windows2000"中的"Windows”。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。
(?<=pattern) 反向(look behind)肯定预查，与正向肯定预查类似，只是方向相反。例如，"(?<=95|98|NT|2000)Windows"能匹配"2000Windows"中的"Windows"，但不能匹配"3.1Windows"中的"Windows"。
(?<!pattern) 反向否定预查，与正向否定预查类似，只是方向相反。例如"(?<!95|98|NT|2000)Windows"能匹配"3.1Windows"中的"Windows"，但不能匹配"2000Windows"中的"Windows"。
x|y
匹配 x 或 y。例如，‘z|food’ 能匹配 “z” 或 “food”。’(z|f)ood’ 则匹配 “zood” 或 “food”。
[xyz]
字符集合。匹配所包含的任意一个字符。例如， ‘[abc]’ 可以匹配 “plain” 中的 ‘a’。
[^xyz]
负值字符集合。匹配未包含的任意字符。例如， ‘[^abc]’ 可以匹配 “plain” 中的’p’、‘l’、‘i’、‘n’。
[a-z]
字符范围。匹配指定范围内的任意字符。例如，’[a-z]’ 可以匹配 ‘a’ 到 ‘z’ 范围内的任意小写字母字符。
[^a-z]
负值字符范围。匹配任何不在指定范围内的任意字符。例如，’[^a-z]’ 可以匹配任何不在 ‘a’ 到 ‘z’ 范围内的任意字符。
\b
匹配一个单词边界，也就是指单词和空格间的位置。例如， ‘er\b’ 可以匹配"never" 中的 ‘er’，但不能匹配 “verb” 中的 ‘er’。
\B
匹配非单词边界。‘er\B’ 能匹配 “verb” 中的 ‘er’，但不能匹配 “never” 中的 ‘er’。
\cx
匹配由 x 指明的控制字符。例如， \cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则，将 c 视为一个原义的 ‘c’ 字符。
\d
匹配一个数字字符。等价于 [0-9]。
\D
匹配一个非数字字符。等价于 [^0-9]。
\f
匹配一个换页符。等价于 \x0c 和 \cL。
\n
匹配一个换行符。等价于 \x0a 和 \cJ。
\r
匹配一个回车符。等价于 \x0d 和 \cM。
\s
匹配任何空白字符，包括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。
\S
匹配任何非空白字符。等价于 [^ \f\n\r\t\v]。
\t
匹配一个制表符。等价于 \x09 和 \cI。
\v
匹配一个垂直制表符。等价于 \x0b 和 \cK。
\w
匹配字母、数字、下划线。等价于’[A-Za-z0-9_]’。
\W
匹配非字母、数字、下划线。等价于 ‘[^A-Za-z0-9_]’。
\xn
匹配 n，其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如，’\x41’ 匹配 “A”。’\x041’ 则等价于 ‘\x04’ & “1”。正则表达式中可以使用 ASCII 编码。
\num
匹配 num，其中 num 是一个正整数。对所获取的匹配的引用。例如，’(.)\1’ 匹配两个连续的相同字符。
\n
标识一个八进制转义值或一个向后引用。如果 \n 之前至少 n 个获取的子表达式，则 n 为向后引用。否则，如果 n 为八进制数字 (0-7)，则 n 为一个八进制转义值。
\nm
标识一个八进制转义值或一个向后引用。如果 \nm 之前至少有 nm 个获得子表达式，则 nm 为向后引用。如果 \nm 之前至少有 n 个获取，则 n 为一个后跟文字 m 的向后引用。如果前面的条件都不满足，若 n 和 m 均为八进制数字 (0-7)，则 \nm 将匹配八进制转义值 nm。
\nml
如果 n 为八进制数字 (0-3)，且 m 和 l 均为八进制数字 (0-7)，则匹配八进制转义值 nml。
\un
匹配 n，其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如， \u00A9 匹配版权符号 (?)。

字符串

Python join() 方法用于将序列中的元素以指定的字符连接生成一个新的字符串。
语法
join()方法语法：
str.join(sequence)
参数
sequence – 要连接的元素序列。
返回值
返回通过指定字符连接序列中元素后生成的新字符串。

str = "-";
seq = ("a", "b", "c"); # 字符串序列
print str.join( seq );
以上实例输出结果如下：
a-b-c

zip函数

zip()函数在运算时，会以一个或多个序列（可迭代对象）做为参数，返回一个元组的列表。同时将这些序列中并排的元素配对。

zip()参数可以接受任何类型的序列，同时也可以有两个以上的参数;当传入参数的长度不同时，zip能自动以最短序列长度为准进行截取，获得元组。

异常

IOError：输入输出异常

AttributeError：试图访问一个对象没有的属性

ImportError：无法引入模块或包，基本是路径问题

IndentationError：语法错误，代码没有正确的对齐

IndexError：下标索引超出序列边界

KeyError:试图访问你字典里不存在的键

SyntaxError:Python代码逻辑语法出错，不能执行

NameError:使用一个还未赋予对象的变量