python爬虫封装函数_爬虫学习:为什么封装函数与否使得返回的结果不一样?

我正在学习爬去天涯论坛的帖子,遇到了一个很奇怪的现象:同样的代码如果直接执行可以获取到页面完整的帖子信息,但如果封装成函数再执行就只能获取到其中的一个帖子。为什么一样的代码会有不一样的效果呢?这里mark一下,如果有缘遇到懂的大神求指教!

# 封装成函数

import requests

from bs4 import BeautifulSoup

headers = {

'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36'

}

def get_content(url):

res = requests.get(url,headers = headers)

res.encoding = 'utf-8'

soup = BeautifulSoup(res.text,'html.parser')

contents = soup.find_all('div','bbs-content')

authors = soup.find_all('a','js-vip-check')

for author,content in zip(authors,contents):

data = {

'author':author.get_text().strip(),

'content': content.get_text().strip()

}

return(data)

url = 'http://bbs.tianya.cn/post-develop-2271894-1.shtml'

print(get_content(url))

结果如图(只有一个帖子的内容):

# 没有封装函数,直接执行

import requests

from bs4 import BeautifulSoup

headers = {

'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36'

}

url = 'http://bbs.tianya.cn/post-develop-2271894-1.shtml'

res = requests.get(url, headers=headers)

res.encoding = 'utf-8'

soup = BeautifulSoup(res.text, 'html.parser')

contents = soup.find_all('div', 'bbs-content')

authors = soup.find_all('a', 'js-vip-check')

for author, content in zip(authors, contents):

data = {

'author': author.get_text().strip(),

'content': content.get_text().strip()

}

print(data)

结果如图(完整帖子的内容):

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值