手把手教你写python项目文档怎么样python多线程爬虫框架(1)，斗鱼直播Python开发二面被刷

code =e.code

if num_retries > 0 and 500<code<600:

#如果错误不是未找到网页,则重新下载num_retries次

return self.download(url,headers,proxy,num_retries-1,data)

else:

code = None

print(html)

return {“html”:html,“code”:code}

class Throttle:

‘’’

按照延时,请求,代理IP等下载网页,处理网页中的link的类

‘’’

def __init__(self, delay):

self.delay = delay

self.domains = {}

def wait(self, url):

‘’’

每下载一个html之间暂停的时间

‘’’

获得域名

domain = urllib.parse.urlparse(url).netloc

获得上次访问此域名的时间

las_accessed = self.domains.get(domain)

if self.delay > 0 and las_accessed is not None:

计算需要强制暂停的时间 = 要求的间隔时间 - (现在的时间 - 上次访问的时间)

sleep_secs = self.delay - (datetime.datetime.now() - las_accessed).seconds

if sleep_secs > 0:

time.sleep(sleep_secs)

存储此次访问域名的时间

self.domains[domain] = datetime.datetime.now()

然后是实现爬虫功能的类

import time

import threading

import re

import urllib.parse

import datetime

from bs4 import BeautifulSoup

from Downloader import Downloader

from MongoCache import MongoCache

SLEEP_TIME = 1

def get_links(html):

‘’’

获得一个页面上的所有链接

‘’’

bs = BeautifulSoup(html, “lxml”)

link_labels = bs.find_all(“a”)

for link in link_labels:

return [link_label.get(‘href’, “default”) for link_label in link_labels]

def same_domain(url1, url2):

‘’’

判断域名书否相同

‘’’

return urllib.parse.urlparse(url1).netloc == urllib.parse.urlparse(url2).netloc

def normalize(seed_url, link):

‘’’

用于将绝对路径转换为相对路径

‘’’

link, no_need = urllib.parse.urldefrag(link)

return urllib.parse.urljoin(seed_url, link)

def threader_crawler(seed_url,resource_regiex=None,link_regiex = “.*”,delay=5,cache=None,download_source_callback=None,user_agent=“wswp”,proxies=None, num_retries=1, max_threads=10, timeout=60,max_url=500):

downloaded = []

crawl_queue = [seed_url]

seen = set([seed_url])

D = Downloader(cache = cache,delay = delay,user_agent=user_agent,proxies=proxies,num_retries=num_retries,timeout=timeout)

print(user_agent)

def process_queue():

while True:

links = []

try:

url = crawl_queue.pop()

except IndexError:

break

else:

html = D(url)

downloaded.append(url)

if download_source_callback:

if resource_regiex and re.match(resource_regiex,url):

download_source_callback(url,html)

links.extend([link for link in get_links(html) if re.match(link_regiex,link)])

for link in links:

link = normalize(seed_url, link)

if link not in seen:

seen.add(link)

if same_domain(seed_url,link):

crawl_queue.append(link)

print(“已经发现的总网页数目为”,len(seen))

print(“已经下载过的网页数目为”,len(downloaded))

print(“还没有遍历过的网页数目为”,len(crawl_queue))

threads=[]

while threads or crawl_queue:

if len(downloaded) == max_url:

return

for thread in threads:

if not thread.is_alive():

threads.remove(thread)

while len(threads) < max_threads and crawl_queue:

print(“线程数量为”, len(threads))

thread = threading.Thread(target=process_queue)

thread.setDaemon(True)

thread.start()

print(“线程数量为”, len(threads))

threads.append(thread)

def main():

starttime = datetime.datetime.now()

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Python开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024c （备注Python）

如果你也是看准了Python，想自学Python，在这里为大家准备了丰厚的免费学习大礼包，带大家一起学习，给大家剖析Python兼职、就业行情前景的这些事儿。

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、全套PDF电子书

书籍的好处就在于权威和体系健全，刚开始学习的时候你可以只看视频或者听某个人讲课，但等你学完之后，你觉得你掌握了，这时候建议还是得去看一下书籍，看权威技术书籍也是每个程序员必经之路。

四、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

四、实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

五、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

成为一个Python程序员专家或许需要花费数年时间，但是打下坚实的基础只要几周就可以，如果你按照我提供的学习路线以及资料有意识地去实践，你就有很大可能成功！
最后祝你好运！！！

一个人可以走的很快，但一群人才能走的更远。如果你从事以下工作或对以下感兴趣，欢迎戳这里加入程序员的圈子，让我们一起学习成长！

AI人工智能、Android移动开发、AIGC大模型、C C#、Go语言、Java、Linux运维、云计算、MySQL、PMP、网络安全、Python爬虫、UE5、UI设计、Unity3D、Web前端开发、产品经理、车载开发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算

是打下坚实的基础只要几周就可以，如果你按照我提供的学习路线以及资料有意识地去实践，你就有很大可能成功！
最后祝你好运！！！

一个人可以走的很快，但一群人才能走的更远。如果你从事以下工作或对以下感兴趣，欢迎戳这里加入程序员的圈子，让我们一起学习成长！

AI人工智能、Android移动开发、AIGC大模型、C C#、Go语言、Java、Linux运维、云计算、MySQL、PMP、网络安全、Python爬虫、UE5、UI设计、Unity3D、Web前端开发、产品经理、车载开发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算