pycharm显示全部数据_Python爬取数据写入MySQL实战!

作为一个刚接触mysql的编程中白,本不该在这里大放厥词!但是在跃哥以及群里的朋友们的鼓励下还是在这边准备详细的写一下有关——我的安装mysql后启动mysql遇到的一种bug以及Python将爬取到的数据写入到mysql数据库中,以及从mysql数据库中保存的信息选取部分信息绘制饼状图以及柱状图进行可视化分析!

4ddafa56fffcf6249e39ed1224a4a8c3.gif

01、windows下安装MySQL

Mysql是一种关系型数据库,因为比较方便整理数据,所以现在被大多数公司使用,也是面试的时候面试官经常问的一个方向(看大佬们的文章了解到的,小编才大二),所以学好,用好mysql数据库是一件非常重要的事情!

关于windows下Mysql数据库的配置,大家可以【在我的微信公众号后台的软件目录里面找到!】(lures安装的是Mysql8.0版本)

a5f146726b00172eef5c578dd0c125b6.png

大家按照文章中的步骤一步一步的安装,是不会出现问题的!

在这里,强烈建议大家安装mysql时就安装在默认路径!

02、解决启动MySQL时的bug!

这个bug是非常严重的,lures是前天晚上安装的,测试的时候是没有任何问题!该测试的部分测试都No error!但是只是隔了一天,在啥都没动的情况下!MySQL启动后Navicat Premium居然连接不上!

当时lures在必应上搜了快3小时,按照网上的那些教程试了一遍!结果依旧没有解决!反而遇到了更多的bug!

在这边记录一下:

①在【开始】界面搜索到的【MySQL8.0 Command Line Client】,以管理员身份打开后,轻松的按照提示输入了密码,但是界面立马闪退

a125f099e275dd69f4af1f247cb3493c.png

②以管理员身份启动【cmd】窗口,输入mysql -u root -p后,返回下面的信息!

5505d96f95d74b8daf465df069af4fa4.png

③以管理员身份启动【cmd】窗口,输入mysql -uroot -p,返回下面的信息!

a0373e831c5a897678cbb4f18f91fc20.png

④开启【Navicat Premium】,连接mysql数据库,返回下面的信息!

f00e9d18f109707c1227b8433ee56c91.png

基本问题就这么多!返回的基本都是一个报错信息!
ERROR 1045(28000):Access denied for user 'root@localhost;(using password:YES)
在跃哥的帮助下,解决了这个问题!下面就是解决办法!①Mysql的默认安装目录是:C:\Program Files\MySQL\MySQL Server 8.0\bin打开上一级目录是这样的:( 默认少一个my.ini配置信息)

32425f6cc5438786b69b1fac8a74c6c5.png

②那我们从哪里得到这个my.ini的配置信息呢?打开下面的目录:C:\ProgramData\MySQL\MySQL Server 8.0这里面会有my.ini配置文件!

24548bfec083db32b671181f3c993696.png

③将 C:\ProgramData\MySQL\MySQL Server 8.0下的my.ini文件复制到 C:\Program Files\MySQL\MySQL Server 8.0\bin安装目录中

d57416cbda142c8ac680df6784d4f8ce.png

④双击打开复制的my.ini文件,找到【mysqld】,在下面添加skip-grant-tables    保存即可!

699deee0da7c8c54c964ed91bcd690a0.png

      ⑤再以管理官身份启动【MySQL8.0 Command Line Client】,输入密码后就可以出现下面的信息!

0e2e91ce86c8bf00874e10b37f5baeae.png

  以管理员身份启动【cmd】,输入下图中的命令:

58d5613787b8d13d3069b7e17eed7f52.png

        发现都没有问题!再启动【Navicat Premium】也是没有问题的,所以bug得以解决!

03、分析拉勾界面!

拉勾官网在2月份就爬过了,当时遇到的一个问题是cookie验证的问题!每隔一段时间cookie就会失效,所以不能频繁的爬取!好在萌萌学姐解决了这个问题!

拉勾官网:https://www.lagou.com/

因为外包要求是【光电】,所以爬取的就是【光电】之类的数据!

8c3490631953fa29d140d4d53c4893f7.png

    熟练的按下快捷键【F12】,打开下图箭头指向的按钮!

092c6907a2fe295ca9ef21c978282dff.png

    再切换到【Network】下面,先选择【Doc】,再刷新网页!

2d12072d9c9dcbcff736d54157ecdb42.png

    显示出来的信息是:

c957c8659fcb8b27d61ed4a9482d222d.png

    再分别打开看一下:

17100ed3ffea81fefba425a2ef25076c.png

90cdc906679a08a2ae69d2d5b6d9921b.png

    发现一件事情,这个params里面并没有【光电】关键字,于是感觉这个不像是真实的url,于是再点击后面的几页进行查看!

59eb7374b1a53c5e9fcdf7976cd959bd.png

9d60eef61f7d609490ff29dbabc074b9.png

    发现一件神奇的事情,咦……这个网页似乎没增加过!

    哦……很快就明白了这是一个ajax动态加载类型的网站!

    于是,俺就明白了,这个真实的url啊,可能在【xhr】下面!

0252abfb1370fd7caa42fb854592ccee.png

    按照步骤继续,先切换到【xhr】下面,接着刷新网页!

c6f3f791ededfe938a499883126675ab.png

    好家伙,出现不少东西!

    那就一个一个网页看吧!params包含【光电】的就可能是我们真实的请求了!

00812e739915b03ec7b5ffc3c153000c.png

    哈利路亚!lures的运气似乎不错呢,第二次尝试就找到了这个!

    那这个很有

  • 0
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值