Python数据分析揭秘知乎大V的小秘密，字节跳动资深面试官亲述

最新推荐文章于 2024-05-20 20:26:39 发布

2401_84104679

最新推荐文章于 2024-05-20 20:26:39 发布

阅读量901

点赞数 22

分类专栏： 2024年程序员学习文章标签： python 数据分析开发语言

本文链接：https://blog.csdn.net/2401_84104679/article/details/137361141

版权

2024年程序员学习专栏收录该内容

187 篇文章 0 订阅

订阅专栏

coding:utf8

抓取粉丝数过 1w 用户

import requests

import pymongo

import time

import pickle

def get_ready(ch=‘user_pd’,dbname=‘test’):

‘’‘数据库调用’‘’

global mycol, myclient,myhp

myclient = pymongo.MongoClient(“mongodb://localhost:27017/”)

mydb = myclient[dbname]

mycol = mydb[ch]

get_ready()

ss = mycol.find({})

se = {1,} # 去重集合

se2 = [‘GOUKI9999’,‘zhang-jia-wei’] # 爬取的列表

with open(r’C:\Users\yc\Desktop\used.txt’, ‘rb’) as f: # 读取

used = pickle.load(f)

used={1,}

sed = {}

for s in ss:

if s[‘follower_count’]>=10000: # 粉丝数大于10000

sed[s[‘user_id’]] = sed.get(s[‘user_id’],0) + 1

if sed[s[‘user_id’]] == 1:

se.add(s[‘user_id’])

se2.append(s[‘user_id’])

leng = len(se2)

print(leng)

proxies = {

“http”: “http://spiderbeg:pythonbe@106.52.85.210:8000”,

“https”: “http://spiderbeg:pythonbe@106.52.85.210:8000”,

}

headers = {

‘user-agent’:‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36’,

‘cookie’:‘your_cookie（用户主页面）’

}

for i,url_id in enumerate(se2): # 爬取

if i>=0:

print(i,’ ‘, end=’') # url个数

if url_id not in used: # 是否使用过

used.add(url_id)

nums = 500

off = 0

while True:

url2 = ‘https://www.zhihu.com/api/v4/members/’ + url_id + ‘/followees?include=data%5B*%5D.answer_count%2Carticles_count%2Cgender%2Cfollower_count%2Cis_followed%2Cis_following%2Cbadge%5B%3F(type%3Dbest_answerer)%5D.topics&offset=’ + str(off) + ‘&limit=’ + str(nums)

r2 = requests.get(url2, headers=headers,proxies=proxies)

time.sleep(0.5)

c = 0

if ‘error’ in r2.json():

if r2.json()[‘error’][‘code’] in {310000, 310001}:

break

else:

raise NameError(‘页面错误’)

used.add(url_id) # 判断是否使用

for d in r2.json()[‘data’]:

z = {}

c+=1

z[‘user_id’] = d[‘url_token’]

z[‘name’] = d[‘name’]

z[‘headline’] = d[‘headline’]

z[‘follower_count’] = d[‘follower_count’]

z[‘answer_count’] = d[‘answer_count’]

z[‘articles_count’] = d[‘articles_count’] # if d[‘articles_count’] else 0

z[‘from’] = url_id # 谁的关注列表

if d[‘follower_count’]>=10000 and d[‘url_token’] not in se and d[‘url_token’] not in used: # 粉丝大于 1w,则爬取

se.add(d[‘url_token’])

se2.append(d[‘url_token’])

mycol.insert_one(z) # 插入数据

if r2.json()[“paging”][‘is_end’] == False:

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Python开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024c （备注Python）

一、Python所有方向的学习路线

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照下面的知识点去找对应的学习资源，保证自己学得较为全面。

二、Python必备开发工具

工具都帮大家整理好了，安装就可直接上手！

三、最新Python学习笔记

当我学到一定基础，有自己的理解能力的时候，会去阅读一些前辈整理的书籍或者手写的笔记资料，这些笔记详细记载了他们对一些技术点的理解，这些理解是比较独到，可以学到不一样的思路。

四、Python视频合集

观看全面零基础学习视频，看视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

五、实战案例

纸上得来终觉浅，要学会跟着视频一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

六、面试宝典

在这里插入图片描述

简历模板

一个人可以走的很快，但一群人才能走的更远。如果你从事以下工作或对以下感兴趣，欢迎戳这里加入程序员的圈子，让我们一起学习成长！

AI人工智能、Android移动开发、AIGC大模型、C C#、Go语言、Java、Linux运维、云计算、MySQL、PMP、网络安全、Python爬虫、UE5、UI设计、Unity3D、Web前端开发、产品经理、车载开发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算

389e65ecb71ac0)