Python (入门)爬取网页制作成可视化图形

刚开始入门PYtyon,把之前学到的部分东西写了一个简单的爬虫,部分代码如下爬取上海链家二手房的数据.pyimport requestsfrom bs4 import BeautifulSoupimport csvaddress=()#headers可以在网页打开F12后查找,具体按ctrl+o,如果不请求回返回403,拒绝访问headers = {'User-Agent':'...
摘要由CSDN通过智能技术生成

刚开始入门PYtyon,把之前学到的部分东西写了一个简单的爬虫,部分代码如下

爬取上海链家二手房的数据.py
发现有点不好,修改一下

import requests
from  bs4 import  BeautifulSoup
address=()
#headers可以在网页打开F12后查找,具体按ctrl+o,如果不请求回返回403,拒绝访问
headers = {
   
'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 UBrowser/6.2.4098.3 Safari/537.36'
}
#先给csv加上索引
def setcsv():
    with open('C:/Users/Administrator/Desktop/lianjia.csv', 'a', encoding='utf-8-sig') as file:
        file.write('小区名称, 总价格(万), 单价, 地点, 基础信息, 关注数与发布时间\n')
        file.close()
#获取网页源码
def getHTMLtext(url):
    html=requests.get(url,headers=headers).content
    html=html.decode('utf-8')
    return html
#提取数据
def get_data(html):
    soup=BeautifulSoup(html,"html.parser")
    # 在网页找到数据所在的标签,然后提取出来
    infos=soup.find('ul',{
    'class':"sellListContent"}).find_all('li')
    with open('C:/Users/Administrator/Desktop/lianjia.csv','a',encoding='utf-8-sig') as file:
         for i in infos:
            #获取每个房子的价格
            priceinfo=i.find('div',{
   'class':'priceInfo'}).find('div',{
   'class':'totalPrice'}).find('span').get_text()
            price=i.find('div',{
   'class':'priceInfo'}).find('div',{
   'class':'unitPrice'}).find('span').get_text()
            #获取房子的地址
            AD=i.find('div',{
   'class':'positionInfo'})
            address=AD.find_all('a')[1].string
            #小区名称
            housename=AD.find_all('a')[0].string
            #获取房子的信息
            houseInfo=i.find('div',{
   'class':'houseInfo'}).get_text()
            #获取房子的发布日期与关注人数
            followInfo=i.find('div',{
   
  • 5
    点赞
  • 21
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: Python爬虫可以通过网络爬虫技术获取网页数据,然后使用数据可视化工具将数据可视化。数据可视化可以帮助我们更好地理解和分析数据,从而更好地做出决策。Python爬虫和数据可视化是数据科学中非常重要的两个领域,它们可以帮助我们更好地理解和利用数据。 ### 回答2: Python爬虫是一种能够通过编写代码自动从互联网上获取信息的工具。使用Python编写的爬虫程序可以模拟浏览器进行网页数据的抓取,而网页数据的可视化是将抓取到的数据以表、像等形式展示出来,便于用户直观地理解和分析数据。 爬虫首先需要选择合适的库,常用的有BeautifulSoup、Scrapy等。BeautifulSoup是一个用于分析HTML和XML文档的Python库,它可以方便地从网页中提取出你感兴趣的数据。Scrapy是一个功能强大的Web爬虫框架,它可以自定义爬取策略、并发爬取等。 编写爬虫程序时,首先需要通过指定URL来请求网页数据。使用Python的requests库可以方便地发送HTTP请求,并获取到相应的网页内容。通过解析网页内容,可以找到所需的数据,并将其存储到本地文件或数据库中。 数据可视化则需要借助一些数据可视化库,如Matplotlib、Seaborn、Plotly等。这些库提供了丰富的绘函数,可以根据数据的不同特点选择合适的表类型。例如,使用Matplotlib可以绘制折线、散点、柱状等,Seaborn则专注于统计图形的绘制,Plotly可以创建交互式可视化表等。 在爬取到数据并进行可视化后,可以通过表直观地展示出数据的趋势、相对大小等特征。这样的可视化结果可以为决策提供依据,帮助用户更好地理解和分析数据。 综上所述,Python爬虫和数据可视化是两个互相关联的领域。Python编写的爬虫程序可以获取网页数据,而使用数据可视化技术可以将抓取到的数据以图形化形式展示出来,使数据更加易于理解和分析。 ### 回答3: Python爬虫是一种用于自动化从互联网上获取数据的工具。它利用Python编程语言的强大库和模块,如requests、BeautifulSoup和Selenium等,可以方便地爬取网页上的数据。 首先,我们需要使用requests库发送HTTP请求获取网页的HTML代码。通过分析HTML结构和标签,我们可以使用BeautifulSoup库提取感兴趣的数据,如标题、内容、链接等。此外,如果网页是通过JavaScript动态生的,我们可以使用Selenium库模拟浏览器行为来获取完整的数据。 获取到数据后,可以进行进一步的处理和清洗,如去除HTML标签、转换数据类型等。然后,我们可以使用Python中的各种库(如pandas、matplotlib和seaborn)来对数据进行可视化分析。 在数据可视化方面,pandas库可以帮助我们进行数据整理和处理,如对数据进行排序、过滤、聚合等。matplotlib和seaborn库则提供了各种绘函数,如折线、柱状、散点、饼等,可以将数据以直观的图形展示出来。 除了基本的统计表,我们还可以使用地库(如folium、basemap)将数据在地上展示,或者使用词云库(如wordcloud)将文本数据可视化为漂亮的词云。 总结起来,通过Python爬虫和相关的数据处理和可视化库,我们可以方便地获取网页上的数据,并将其以各种丰富的形式进行可视化呈现。这不仅可以帮助我们更好地理解和分析数据,还可以用于数据报告、数据仪表盘和数据故事等各种应用中。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值