浙江省建筑市场监管公共服务系统—数据爬虫采集

  浙江省建筑市场监管公共服务系统(https://jzsc.jst.zj.gov.cn)数据包括企业(省内企业、省外企业、进浙企业备案、 企业代表、工程业绩)、人员(省内人员、省外人员 、未入库注册人员、在建项目人员、人员频繁变更、个人代表、工程业绩)、项目     、诚信 (信用评价  、企业诚信 、个人诚信 )、 招投标(招标信息、中标信息)、 资质抽查结果等。

    其中 浙江省建筑市场监管公共服务系统包括企业59264家、人员2385677人、项目195606个。

    

一、企业采集

    请求网页地址:浙江省建筑市场监管公共服务系统

图片.png

    其中接口返回了基本的企业信息其中包括统一社会信用代码、企业名称、法人、所在城市、所在区县、审核时间,其中可以看到corpcode和scucode其实就是信用代码通过AES加密的(解密方式见四、AES加解密)。

企业访问详情:https://jzsc.jst.zj.gov.cn/PublicWeb/index.html#/company/companyDetail?CORPCODE=lGhx2VzBFzf18LjK10MxFvKESUx6TGI1lRXbeSa3eNo%3D

其中CORPCODE就是信用代码AES解密。

二、人员采集

 请求网页地址:浙江省建筑市场监管公共服务系统

图片.png

      其中接口返回了基本的人员信息姓名、证件号码、人员类型、人员学历、证书编号、所在企业名称、审核通过时间。其中可以看到访客的时间idcard1和idcard,其中idcard就是证件号码,idcard1是处理过,idcard是通过AES加密的(解密方式见四、AES加解密)。

个体访问详情:https://jzsc.jst.zj.gov.cn/PublicWeb/index.html#/personnel/personnelDeail?IDCard=UXcE5AlPQsbs9eLKgkeNNm0FixiJz2UPJathkkgA5qM%3D

其中IDCardE就是证件号码AES解密。

三、项目采集

 请求网页地址:浙江省建筑市场监管公共服务系统

图片.png

    其中接口返回了基本的项目信息项目名称、项目所在地、施工许可编号、项目分类、施工单位名称、建设单位名称、数据等级、项目进度、项目补录。

四、AES加解密

    该平台采用的是AES方式对企业信用代码和人员证件号进行加解密,采用的是AES/CBC/PKCS7Padding

    key=*********

    iv=*********

图片.png

这里不方便公布秘钥key和偏移量iv或者数据,如果需要可以联系作者。

原文地址:浙江省建筑市场监管公共服务系统—数据爬虫采集-甘三数据

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
要批量采集公共监管服务平台上的数据,你可以使用网络爬虫来实现。下面是一个基本的步骤: 1. 确定目标网站:首先,你需要确定要采集数据的公共监管服务平台的网址。 2. 分析网页结构:通过查看网页源代码或使用开发者工具,分析网页的结构,确定目标数据所在的位置和标签。 3. 编写爬虫程序:使用编程语言(如Python)编写爬虫程序来自动化访问目标网站和提取数据。你可以使用第三方库(如BeautifulSoup、Scrapy等)来帮助解析网页和提取数据。 4. 发送HTTP请求:使用爬虫程序发送HTTP请求来获取网页的内容。你可以使用Python中的requests库或Scrapy框架中的内置功能来发送请求。 5. 解析网页内容:使用HTML解析库(如BeautifulSoup)解析网页内容,根据之前的分析找到目标数据所在的标签和属性。 6. 提取数据:根据网页结构和目标数据的位置,使用解析库提供的方法提取所需的数据。 7. 存储数据:将提取的数据存储到文件中(如CSV、JSON等格式)或数据库中,便于后续处理和分析。 需要注意的是,在进行网络爬虫时,应遵守相关法律法规和网站的使用条款,尊重网站的隐私权和使用限制。在爬取数据前,最好先查看网站的robots.txt文件,了解网站是否允许爬取和使用数据。 此外,公共监管服务平台可能会有反爬虫机制,例如限制请求频率或使用验证码。在编写爬虫程序时,要注意处理这些反爬虫机制,避免被封禁或触发警报。 总之,批量采集公共监管服务平台数据需要一定的编程和网络知识,同时要遵守相关规定和道德准则。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值