Selenium 根据输入的公司名称来爬取公司的详细信息

  • 本博客仅作学习教程,重在介绍如何使用selenium,不建议大家爬取数据量太大的公司名称及其详细信息。

1、下载驱动并设置环境变量

1.1、查看你的浏览器的版本

在网址栏输入:chrome://version
在这里插入图片描述

我的浏览器的版本是85.0.4183。

1.2、下载对应版本的ChromeDriver驱动

网址如下:http://chromedriver.storage.googleapis.com/index.html
在这里插入图片描述
因为我的谷歌版本是85.0.4183,所以我下载的ChromeDriver驱动对应的也是85.0.4183版本的。

1.3、设置环境变量

第一步:把下载好的zip压缩包解压,然后把里面的chromedriver.exe复制到谷歌浏览器的安装目录去。忘记谷歌浏览器的安装目录的人可以在1.1的图片那看可执行文件路径那里。
在这里插入图片描述
第二步:复制成功后,把这个目录复制一遍,添加到系统的环境变量里的path。
在这里插入图片描述

2、使用驱动打开谷歌浏览器

import os
from selenium import webdriver
from selenium.webdriver.common.keys import Keys
#图像处理标准库
from PIL import Image

#鼠标操作
from selenium.webdriver.common.action_chains import ActionChains
#等待时间 产生随机数 
import time,random
#创建浏览器对象
driver = webdriver.Chrome()

3、登录天眼查,输入账号密码

driver.get("https://www.tianyancha.com/")
time.sleep(3)
# 点击登录按钮
driver.find_elements_by_xpath('//a[@class="link-white"]')[0].click()

# 点击密码登录
time.sleep(1)
driver.find_elements_by_xpath('//div[@class="title-tab text-center"]')[0].click()
driver.find_elements_by_xpath('//div[@tyc-event-ch="LoginPage.PasswordLogin"]')[0].click()

time.sleep(2)

# 输入手机号
input1 = driver.find_element_by_name("phone")
input1.send_keys("手机号码")    # 手机号码

time.sleep(2)
# 输入密码
input2 = driver.find_element_by_name("password")
input2.send_keys("密码")    # 密码

# 点击登录按钮
driver.find_elements_by_xpath('//div[@class="btn -xl btn-primary -block"]')[0].click()

然后滑动验证自己划一下,反正只需要登录一次就行

4、将爬取到的信息处理成一个dataframe,方便保存为csv文件

import pandas as pd

def message_to_df(message,company):
    registered_capital = []
    contributed_capital = []
    Date_of_Establishment = []
    ManagementForms = []
    Unified_social_credit_code = []
    companyNo = []
    Taxpayer_Identification_Number =[]
    Organization_Code = []
   
  • 4
    点赞
  • 17
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 8
    评论
Selenium是一种自动化测试工具,也可以用于爬取网页数据。爬取多个企业信息时,我们可以通过Selenium模拟浏览器操作,实现自动登录、搜索企业、点击企业详情等功能,然后获取所需的企业信息。 首先,我们需要安装Selenium库,并通过webdriver来实例化一个浏览器对象。常用的浏览器有Chrome、Firefox等,选择一个适合自己的浏览器。 接下来,我们可以使用浏览器对象打开企的网址,并自动填入账号和密码进行登录。登录成功后,我们可以通过find_element_by_xpath或find_element_by_css_selector等方法找到搜索框,输入要搜索的企业名称,然后点击搜索按钮。 搜索结果页面会显示多个企业的简要信息,我们可以通过find_elements_by_xpath或find_elements_by_css_selector等方法找到这些企业的元素。遍历这些元素,可以获取企业的名称、法人代表、注册资本、成立日期等信息,并保存到想要的数据结构中。 如果需要获取企业的更详细信息,可以点击更多详情按钮或者直接点击企业的名称链接,进入企业详情页面。在详情页面中,我们可以使用相似的方法获取企业的详细信息,如联系方式、注册地址、经营范围等。 爬取多个企业信息时,可以使用循环遍历的方式,每次爬取一个企业的信息,然后保存到合适的数据结构中。可以使用字典、列表、CSV文件等形式来保存企业的信息。 需要注意的是,爬取多个企业信息时,要遵守网站的使用规则和法律法规,尊重企业的合法权益,不要对网站进行恶意攻击或批量爬取大量数据。在进行爬取操作之前,最好阅网站的相关政策和声明,并尽量避免对网站造成过大的负荷。
评论 8
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

会点东西的普通人

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值