python爬取电商数据分析_Python探索之爬取电商售卖信息代码示例

网络爬虫(又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者)，是一种按照一定的规则，自动的抓取万维网信息的程序或者脚本。

下面有一个示例代码，分享给大家：

#! /usr/bin/env python

#

encoding = 'utf-8'#

Filename: spider_58center_sth.py

from bs4

import BeautifulSoup

import time

import requests

url_58 = 'http://nj.58.com/?PGTID=0d000000-0000-0c5c-ffba-71f8f3f7039e&ClickID=1'

''

'

用于爬取电商售卖信息: 例为58同城电脑售卖信息 ''

'

def get_url_list(url):

web_data = requests.get(url)

soup = BeautifulSoup(web_data.text, 'lxml')

url = soup.select('td.t > a[class="t"]')

url_list = ''

for link in url:

link_n = link.get('href')

if 'zhuanzhuan' in link_n:

pass