python爬取晋江_爬虫爬取晋江文学网总分榜

一、目的 ：

爬取晋江文学网总分榜

二、python爬取数据

三、爬取

在开始多出现了38号而且顺序内容不准确

代码：

import requests

from bs4 import BeautifulSoup

import bs4

url="http://www.jjwxc.net/topten.php?orderstr=7&t=0"

def getHtml(url):

r=requests.get(url)

r.raise_for_status()

r.encoding=r.apparent_encoding

return r.text[26000:100000]

def fillList(html):

l1,l2 = [],[]

soup = BeautifulSoup(html,"html.parser")

for i in soup.find_all('a',"tooltip"):

l1.append(str(i.string))

for tag in soup.find_all('td',{"align":"center"}):

s=str(tag.string)

s.replace(" "," ")

l2.ap