python爬虫豆瓣电影我不是药神的评价_Python | 爬取《我不是药神》电影热门短评...

1.目标数据:

数据来源:

目标描述:

建立一个爬虫项目,抓取豆瓣上对电影《我不是药神》的热门短评,采集字段包括:

用户昵称

评论时间

觉得有用的人数

短评内容

2.开始爬虫

采集策略:

本次采集数据拟使用Requests库的requests.get()函数自动爬取html页面,然后使用Beautifulsoup库对下载的“标签树”html文本进行解析和遍历。

实现模拟登陆:

由于豆瓣设有反爬虫机制,若未登录的话则一次只能爬取60条评论,所以本次爬虫获取数据最主要的一个部分是实现模拟登陆:

def Login(headers,loginUrl,formData):

r = s.post(loginUrl, data=formData, headers=headers) # 提交登录信息

print (r.url)

print (formData["redir"])

if r.url == formData["redir"]:

print ("登陆成功") # 若登录后返回的页面是想要爬取的页面则说明登录成功

else:

print ("第一次登陆失败")

page = r.text

soup = BeautifulSoup(page, "html.parser")

captchaAddr = soup.find('img', id='captcha_image')['src'] # 获得登录验证码的URL

print (captchaAddr)

reCaptchaID = r'

captchaID = re.findall(reCaptchaID, page)

captcha = input('输入验证码:')

formData['captcha-solution'] = captcha

formData['captcha-id'] = captchaID

r = s.post(loginUrl, data=formData, headers=headers)# 再次提交登录信息,加上了手动输入的验证码

print (r.status_code)

<
  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值