(1)Python所有方向的学习路线(新版)
这是我花了几天的时间去把Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
最近我才对这些路线做了一下新的更新,知识体系更全面了。
(2)Python学习视频
包含了Python入门、爬虫、数据分析和web开发的学习视频,总共100多个,虽然没有那么全面,但是对于入门来说是没问题的,学完这些之后,你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。
(3)100多个练手项目
我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了,只是里面的项目比较多,水平也是参差不齐,大家可以挑自己能做的项目去练练。
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
#枚举转换
#最好在数据库存取使用枚举的数值而不是使用标签名字字符串
#在代码里面使用枚举类
a=1
print(COLOR(a))# output:COLOR.YELLOW
py2/3转换工具
-
six模块:兼容pyton2和pyton3的模块
-
2to3工具:改变代码语法版本
-
future:使用下一版本的功能
常用的库
- 必须知道的collections
https://segmentfault.com/a/1190000017385799
- python排序操作及heapq模块
https://segmentfault.com/a/1190000017383322
- itertools模块超实用方法
https://segmentfault.com/a/1190000017416590
不常用但很重要的库
-
dis(代码字节码分析)
-
inspect(生成器状态)
-
cProfile(性能分析)
-
bisect(维护有序列表)
-
fnmatch
-
- fnmatch(string,“*.txt”) #win下不区分大小写
-
fnmatch根据系统决定
-
fnmatchcase完全区分大小写
-
timeit(代码执行时间)
def isLen(strString):
#还是应该使用三元表达式,更快
return True if len(strString)>6 else False
def isLen1(strString):
#这里注意false和true的位置
return [False,True][len(strString)>6]
import timeit
print(timeit.timeit(‘isLen1(“5fsdfsdfsaf”)’,setup=“from main import isLen1”))
print(timeit.timeit(‘isLen(“5fsdfsdfsaf”)’,setup=“from main import isLen”))
-
contextlib
-
@contextlib.contextmanager使生成器函数变成一个上下文管理器
-
types(包含了标准解释器定义的所有类型的类型对象,可以将生成器函数修饰为异步模式)
import types
types.coroutine #相当于实现了__await__
- html(实现对html的转义)
import html
html.escape(“
I’m Jim
”) # output:‘<h1>I’m Jim</h1>’html.unescape(‘<h1>I’m Jim</h1>’) #
I’m Jim
-
mock(解决测试依赖)
-
concurrent(创建进程池河线程池)
from concurrent.futures import ThreadPoolExecutor
pool = ThreadPoolExecutor()
task = pool.submit(函数名,(参数)) #此方法不会阻塞,会立即返回
task.done()#查看任务执行是否完成
task.result()#阻塞的方法,查看任务返回值
task.cancel()#取消未执行的任务,返回True或False,取消成功返回True
task.add_done_callback()#回调函数
task.running()#是否正在执行 task就是一个Future对象
for data in pool.map(函数,参数列表):#返回已经完成的任务结果列表,根据参数顺序执行
print(返回任务完成得执行结果data)
from concurrent.futures import as_completed
as_completed(任务列表)#返回已经完成的任务列表,完成一个执行一个
wait(任务列表,return_when=条件)#根据条件进行阻塞主线程,有四个条件
-
selector(封装select,用户多路复用io编程)
-
asyncio
future=asyncio.ensure_future(协程) 等于后面的方式 future=loop.create_task(协程)
future.add_done_callback()添加一个完成后的回调函数
loop.run_until_complete(future)
future.result()查看写成返回结果
asyncio.wait()接受一个可迭代的协程对象
asynicio.gather(*可迭代对象,*可迭代对象) 两者结果相同,但gather可以批量取消,gather对象.cancel()
一个线程中只有一个loop
在loop.stop时一定要loop.run_forever()否则会报错
loop.run_forever()可以执行非协程
最后执行finally模块中 loop.close()
asyncio.Task.all_tasks()拿到所有任务 然后依次迭代并使用任务.cancel()取消
偏函数partial(函数,参数)把函数包装成另一个函数名 其参数必须放在定义函数的前面
loop.call_soon(函数,参数)
call_soon_threadsafe()线程安全
loop.call_later(时间,函数,参数)
在同一代码块中call_soon优先执行,然后多个later根据时间的升序进行执行
如果非要运行有阻塞的代码
使用loop.run_in_executor(executor,函数,参数)包装成一个多线程,然后放入到一个task列表中,通过wait(task列表)来运行
通过asyncio实现http
reader,writer=await asyncio.open_connection(host,port)
writer.writer()发送请求
async for data in reader:
data=data.decode(“utf-8”)
list.append(data)
然后list中存储的就是html
as_completed(tasks)完成一个返回一个,返回的是一个可迭代对象
协程锁
async with Lock():
•进程间通信:
◾Manager(内置了好多数据结构,可以实现多进程间内存共享)
from multiprocessing import Manager,Process
def add_data(p_dict, key, value):
p_dict[key] = value
if name == “main”:
progress_dict = Manager().dict()
from queue import PriorityQueue
first_progress = Process(target=add_data, args=(progress_dict, “bobby1”, 22))
second_progress = Process(target=add_data, args=(progress_dict, “bobby2”, 23))
first_progress.start()
second_progress.start()
first_progress.join()
second_progress.join()
print(progress_dict)
Pipe(适用于两个进程)
from multiprocessing import Pipe,Process
#pipe的性能高于queue
def producer(pipe):
pipe.send(“bobby”)
def consumer(pipe):
print(pipe.recv())
if name == “main”:
recevie_pipe, send_pipe = Pipe()
#pipe只能适用于两个进程
my_producer= Process(target=producer, args=(send_pipe, ))
my_consumer = Process(target=consumer, args=(recevie_pipe,))
my_producer.start()
my_consumer.start()
my_producer.join()
my_consumer.join()
Queue(不能用于进程池,进程池间通信需要使用Manager().Queue())
from multiprocessing import Queue,Process
def producer(queue):
queue.put(“a”)
time.sleep(2)
def consumer(queue):
time.sleep(2)
data = queue.get()
print(data)
if name == “main”:
queue = Queue(10)
my_producer = Process(target=producer, args=(queue,))
my_consumer = Process(target=consumer, args=(queue,))
my_producer.start()
my_consumer.start()
my_producer.join()
my_consumer.join()
进程池
def producer(queue):
queue.put(“a”)
time.sleep(2)
def consumer(queue):
time.sleep(2)
data = queue.get()
print(data)
if name == “main”:
queue = Manager().Queue(10)
pool = Pool(2)
pool.apply_async(producer, args=(queue,))
pool.apply_async(consumer, args=(queue,))
pool.close()
pool.join()
-
- sys模块几个常用方法
-
- argv 命令行参数list,第一个是程序本身的路径
-
path 返回模块的搜索路径
-
modules.keys() 返回已经导入的所有模块的列表
-
exit(0) 退出程序
-
a in s or b in s or c in s简写
-
- 采用any方式:all() 对于任何可迭代对象为空都会返回True
方法一
True in [i in s for i in [a,b,c]]
方法二
any(i in s for i in [a,b,c])
方法三
list(filter(lambda x:x in s,[a,b,c]))
set集合运用
◾{1,2}.issubset({1,2,3})#判断是否是其子集
◾{1,2,3}.issuperset({1,2})
◾{}.isdisjoint({})#判断两个set交集是否为空,是空集则为True
•代码中中文匹配
◾[u4E00-u9FA5]匹配中文文字区间[一到龥]
•查看系统默认编码格式
import sys
sys.getdefaultencoding() # setdefaultencodeing()设置系统编码方式
getattr VS getattribute
class A(dict):
def getattr(self,value):#当访问属性不存在的时候返回
return 2
def getattribute(self,item):#屏蔽所有的元素访问
return item
类变量是不会存入实例__dict__中的,只会存在于类的__dict__中
•globals/locals(可以变相操作代码)
◾globals中保存了当前模块中所有的变量属性与值
◾locals中保存了当前环境中的所有变量属性与值
•python变量名的解析机制(LEGB)
◾本地作用域(Local)
◾当前作用域被嵌入的本地作用域(Enclosing locals)
◾全局/模块作用域(Global)
◾内置作用域(Built-in)
•实现从1-100每三个为一组分组
print([[x for x in range(1,101)][i:i+3] for i in range(0,100,3)])
什么是元类?
◾即创建类的类,创建类的时候只需要将metaclass=元类,元类需要继承type而不是object,因为type就是元类
type.bases #(<class ‘object’>,)
object.bases #()
type(object) #<class ‘type’>
class Yuan(type):
def new(cls,name,base,attr,*args,**kwargs):
return type(name,base,attr,*args,**kwargs)
class MyClass(metaclass=Yuan):
pass
•什么是鸭子类型(即:多态)?
◾Python在使用传入参数的过程中不会默认判断参数类型,只要参数具备执行条件就可以执行
•深拷贝和浅拷贝
◾深拷贝拷贝内容,浅拷贝拷贝地址(增加引用计数)
◾copy模块实现神拷贝
•单元测试
◾一般测试类继承模块unittest下的TestCase
◾pytest模块快捷测试(方法以test_开头/测试文件以test_开头/测试类以Test开头,并且不能带有 init 方法)
◾coverage统计测试覆盖率
class MyTest(unittest.TestCase):
def tearDown(self):# 每个测试用例执行前执行
print(‘本方法开始测试了’)
def setUp(self):# 每个测试用例执行之前做操作
print(‘本方法测试结束’)
@classmethod
def tearDownClass(self):# 必须使用 @ classmethod装饰器, 所有test运行完后运行一次
print(‘开始测试’)
@classmethod
def setUpClass(self):# 必须使用@classmethod 装饰器,所有test运行前运行一次
print(‘结束测试’)
def test_a_run(self):
self.assertEqual(1, 1) # 测试用例
•gil会根据执行的字节码行数以及时间片释放gil,gil在遇到io的操作时候主动释放
•什么是monkey patch?
◾猴子补丁,在运行的时候替换掉会阻塞的语法修改为非阻塞的方法
•什么是自省(Introspection)?
◾运行时判断一个对象的类型的能力,id,type,isinstance
•python是值传递还是引用传递?
◾都不是,python是共享传参,默认参数在执行时只会执行一次
•try-except-else-finally中else和finally的区别
◾else在不发生异常的时候执行,finally无论是否发生异常都会执行
◾except一次可以捕获多个异常,但一般为了对不同异常进行不同处理,我们分次捕获处理
•GIL全局解释器锁
◾同一时间只能有一个线程执行,CPython(IPython)的特点,其他解释器不存在
◾cpu密集型:多进程+进程池
◾io密集型:多线程/协程
•什么是Cython
◾将python解释成C代码工具
•生成器和迭代器
◾可迭代对象只需要实现__iter__方法
◦实现__next__和__iter__方法的对象就是迭代器
◾使用生成器表达式或者yield的生成器函数(生成器是一种特殊的迭代器)
•什么是协程
◾yield
◾async-awiat
◦比线程更轻量的多任务方式
◦实现方式
•dict底层结构
◾为了支持快速查找使用了哈希表作为底层结构
◾哈希表平均查找时间复杂度为o(1)
◾CPython解释器使用二次探查解决哈希冲突问题
•Hash扩容和Hash冲突解决方案
◾链接法
◾二次探查(开放寻址法):python使用
◦循环复制到新空间实现扩容
◦冲突解决:
for gevent import monkey
monkey.patch_all() #将代码中所有的阻塞方法都进行修改,可以指定具体要修改的方法
•判断是否为生成器或者协程
co_flags = func.code.co_flags
检查是否是协程
if co_flags & 0x180:
return func
检查是否是生成器
if co_flags & 0x20:
return func
•斐波那契解决的问题及变形
#一只青蛙一次可以跳上1级台阶,也可以跳上2级。求该青蛙跳上一个n级的台阶总共有多少种跳法。
#请问用n个2_1的小矩形无重叠地覆盖一个2_n的大矩形,总共有多少种方法?
#方式一:
fib = lambda n: n if n <= 2 else fib(n - 1) + fib(n - 2)
#方式二:
def fib(n):
a, b = 0, 1
for _ in range(n):
a, b = b, a + b
return b
#一只青蛙一次可以跳上1级台阶,也可以跳上2级……它也可以跳上n级。求该青蛙跳上一个n级的台阶总共有多少种跳法。
fib = lambda n: n if n < 2 else 2 * fib(n - 1)
•获取电脑设置的环境变量
import os
os.getenv(env_name,None)#获取环境变量如果不存在为None
•垃圾回收机制
◾引用计数
◾标记清除
◾分代回收
#查看分代回收触发
import gc
gc.get_threshold() #output:(700, 10, 10)
•True和False在代码中完全等价于1和0,可以直接和数字进行计算,inf表示无穷大
•C10M/C10K
◾C10M:8核心cpu,64G内存,在10gbps的网络上保持1000万并发连接
◾C10K:1GHz CPU,2G内存,1gbps网络环境下保持1万个客户端提供FTP服务
•yield from与yield的区别:
◾yield from跟的是一个可迭代对象,而yield后面没有限制
◾GeneratorExit生成器停止时触发
•单下划线的几种使用
◾在定义变量时,表示为私有变量
◾在解包时,表示舍弃无用的数据
◾在交互模式中表示上一次代码执行结果
◾可以做数字的拼接(111_222_333)
•使用break就不会执行else
•10进制转2进制
def conver_bin(num):
if num == 0:
return num
re = []
while num:
num, rem = divmod(num,2)
re.append(str(rem))
return “”.join(reversed(re))
conver_bin(10)
•list1 = [‘A’, ‘B’, ‘C’, ‘D’] 如何才能得到以list中元素命名的新列表 A=[],B=[],C=[],D=[]呢
list1 = [‘A’, ‘B’, ‘C’, ‘D’]
方法一
for i in list1:
globals()[i] = [] # 可以用于实现python版反射
方法二
for i in list1:
exec(f’{i} = []') # exec执行字符串语句
•memoryview与bytearray ( 不 常 用 , 只 是 看 到 了 记 载 一 下 ) \color{#000}(不常用,只是看到了记载一下) (不常用,只是看到了记载一下)
bytearray是可变的,bytes是不可变的,memoryview不会产生新切片和对象
a = ‘aaaaaa’
ma = memoryview(a)
ma.readonly # 只读的memoryview
mb = ma[:2] # 不会产生新的字符串
a = bytearray(‘aaaaaa’)
ma = memoryview(a)
ma.readonly # 可写的memoryview
mb = ma[:2] # 不会会产生新的bytearray
mb[:2] = ‘bb’ # 对mb的改动就是对ma的改动
•Ellipsis类型
==========================================================================================
L = [1,2,3]
L.append(L)
print(L) # output:[1,2,3,[…]]
•lazy惰性计算
class lazy(object):
def init(self, func):
self.func = func
def get(self, instance, cls):
val = self.func(instance) #其相当于执行的area©,c为下面的Circle对象
setattr(instance, self.func.name, val)
return val`
class Circle(object):
def init(self, radius):
self.radius = radius
@lazy
def area(self):
print(‘evalute’)
return 3.14 * self.radius ** 2
•遍历文件,传入一个文件夹,将里面所有文件的路径打印出来(递归)
all_files = []
def getAllFiles(directory_path):
import os
for sChild in os.listdir(directory_path):
sChildPath = os.path.join(directory_path,sChild)
if os.path.isdir(sChildPath):
getAllFiles(sChildPath)
else:
all_files.append(sChildPath)
return all_files
•文件存储时,文件名的处理
#secure_filename将字符串转化为安全的文件名
from werkzeug import secure_filename
secure_filename(“My cool movie.mov”) # output:My_cool_movie.mov
secure_filename(“…/…/…/etc/passwd”) # output:etc_passwd
secure_filename(u’i contain cool \xfcml\xe4uts.txt’) # output:i_contain_cool_umlauts.txt
•日期格式化
from datetime import datetime
datetime.now().strftime(“%Y-%m-%d”)
import time
#这里只有localtime可以被格式化,time是不能格式化的
time.strftime(“%Y-%m-%d”,time.localtime())
•tuple使用+=奇怪的问题
会报错,但是tuple的值会改变,因为t[1]id没有发生变化
t=(1,[2,3])
t[1]+=[4,5]
t[1]使用append\extend方法并不会报错,并可以成功执行
•__missing__你应该知道
class Mydict(dict):
def missing(self,key): # 当Mydict使用切片访问属性不存在的时候返回的值
return key
•+与+=
+不能用来连接列表和元祖,而+=可以(通过iadd实现,内部实现方式为extends(),所以可以增加元组),+会创建新对象
#不可变对象没有__iadd__方法,所以直接使用的是__add__方法,因此元祖可以使用+=进行元祖之间的相加
•如何将一个可迭代对象的每个元素变成一个字典的所有键?
dict.fromkeys([‘jim’,‘han’],21) # output:{‘jim’: 21, ‘han’: 21}
•wireshark抓包软件
网络知识
•什么是HTTPS?
◾安全的HTTP协议,https需要cs证书,数据加密,端口为443,安全,同一网站https seo排名会更高
•常见响应状态码
204 No Content //请求成功处理,没有实体的主体返回,一般用来表示删除成功
206 Partial Content //Get范围请求已成功处理
303 See Other //临时重定向,期望使用get定向获取
304 Not Modified //求情缓存资源
307 Temporary Redirect //临时重定向,Post不会变成Get
401 Unauthorized //认证失败
403 Forbidden //资源请求被拒绝
400 //请求参数错误
201 //添加或更改成功
503 //服务器维护或者超负载
•http请求方法的幂等性及安全性
•WSGI
environ:一个包含所有HTTP请求信息的dict对象
start_response:一个发送HTTP响应的函数
def application(environ, start_response):
start_response(‘200 OK’, [(‘Content-Type’, ‘text/html’)])
return ‘
Hello, web!
’•RPC
•CDN
•SSL(Secure Sockets Layer 安全套接层),及其继任者传输层安全(Transport Layer Security,TLS)是为网络通信提供安全及数据完整性的一种安全协议。
•SSH(安全外壳协议) 为 Secure Shell 的缩写,由 IETF 的网络小组(Network Working Group)所制定;SSH 为建立在应用层基础上的安全协议。SSH 是目前较可靠,专为远程登录会话和其他网络服务提供安全性的协议。利用 SSH 协议可以有效防止远程管理过程中的信息泄露问题。SSH最初是UNIX系统上的一个程序,后来又迅速扩展到其他操作平台。SSH在正确使用时可弥补网络中的漏洞。SSH客户端适用于多种平台。几乎所有UNIX平台—包括HP-UX、Linux、AIX、Solaris、Digital UNIX、Irix,以及其他平台,都可运行SSH。
•TCP/IP
◾TCP:面向连接/可靠/基于字节流
◾UDP:无连接/不可靠/面向报文
◾三次握手四次挥手
◦三次握手(SYN/SYN+ACK/ACK)
◦四次挥手(FIN/ACK/FIN/ACK)
◾为什么连接的时候是三次握手,关闭的时候却是四次握手?
◦因为当Server端收到Client端的SYN连接请求报文后,可以直接发送SYN+ACK报文。其中ACK报文是用来应答的,SYN报文是用来同步的。但是关闭连接时,当Server端收到FIN报文时,很可能并不会立即关闭SOCKET,所以只能先回复一个ACK报文,告诉Client端,“你发的FIN报文我收到了”。只有等到我Server端所有的报文都发送完了,我才能发送FIN报文,因此不能一起发送。故需要四步握手。
◾为什么TIME_WAIT状态需要经过2MSL(最大报文段生存时间)才能返回到CLOSE状态?
◦虽然按道理,四个报文都发送完毕,我们可以直接进入CLOSE状态了,但是我们必须假象网络是不可靠的,有可以最后一个ACK丢失。所以TIME_WAIT状态就是用来重发可能丢失的ACK报文。
•XSS/CSRF
◾HttpOnly禁止js脚本访问和操作Cookie,可以有效防止XSS
Mysql
•索引改进过程
◾线性结构->二分查找->hash->二叉查找树->平衡二叉树->多路查找树->多路平衡查找树(B-Tree)
•Mysql面试总结基础篇
https://segmentfault.com/a/1190000018371218
•Mysql面试总结进阶篇
https://segmentfault.com/a/1190000018380324
•深入浅出Mysql
http://ningning.today/2017/02/13/database/深入浅出mysql/
•清空整个表时,InnoDB是一行一行的删除,而MyISAM则会从新删除建表
•text/blob数据类型不能有默认值,查询时不存在大小写转换
•什么时候索引失效
◾以%开头的like模糊查询
◾出现隐士类型转换
◾没有满足最左前缀原则
◦对于多列索引,不是使用的第一部分,则不会使用索引
◾失效场景:
◦应尽量避免在 where 子句中使用 != 或 <> 操作符,否则引擎将放弃使用索引而进行全表扫描
◦尽量避免在 where 子句中使用 or 来连接条件,否则将导致引擎放弃使用索引而进行全表扫描,即使其中有条件带索引也不会使用,这也是为什么尽量少用 or 的原因
◦如果列类型是字符串,那一定要在条件中将数据使用引号引用起来,否则不会使用索引
◦应尽量避免在 where 子句中对字段进行函数操作,这将导致引擎放弃使用索引而进行全表扫描
例如:
select id from t where substring(name,1,3) = ‘abc’ – name;
以abc开头的,应改成:
select id from t where name like ‘abc%’
例如:
select id from t where datediff(day, createdate, ‘2005-11-30’) = 0 – ‘2005-11-30’;
应改为:
◦不要在 where 子句中的 “=” 左边进行函数、算术运算或其他表达式运算,否则系统将可能无法正确使用索引
◦应尽量避免在 where 子句中对字段进行表达式操作,这将导致引擎放弃使用索引而进行全表扫描
如:
select id from t where num/2 = 100
应改为:
select id from t where num = 100*2;
◦不适合键值较少的列(重复数据较多的列)比如:set enum列就不适合(枚举类型(enum)可以添加null,并且默认的值会自动过滤空格集合(set)和枚举类似,但只可以添加64个值)
◦如果MySQL估计使用全表扫描要比使用索引快,则不使用索引
•什么是聚集索引
◾B+Tree叶子节点保存的是数据还是指针
◾MyISAM索引和数据分离,使用非聚集
◾InnoDB数据文件就是索引文件,主键索引就是聚集索引
Redis命令总结
•为什么这么快?
◾基于内存,由C语言编写
◾使用多路I/O复用模型,非阻塞IO
◾使用单线程减少线程间切换
◦因为Redis是基于内存的操作,CPU不是Redis的瓶颈,Redis的瓶颈最有可能是机器内存的大小或者网络带宽。既然单线程容易实现,而且CPU不会成为瓶颈,那就顺理成章地采用单线程的方案了(毕竟采用多线程会有很多麻烦!)。
最后
🍅 硬核资料:关注即可领取PPT模板、简历模板、行业经典书籍PDF。
🍅 技术互助:技术群大佬指点迷津,你的问题可能不是问题,求资源在群里喊一声。
🍅 面试题库:由技术群里的小伙伴们共同投稿,热乎的大厂面试真题,持续更新中。
🍅 知识体系:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)、数据仓库、Python、前端等等。
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!