自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(5)
  • 资源 (2)
  • 收藏
  • 关注

原创 Python爬虫:免费无限获取可用的代理IP

任务思路描述:先抓取大量的ip(包括不可用和可用的)保存到表1中,再从表1中的所有ip进行筛选,对于可用的ip信息保存到表2中,不可用的ip地址从表1中删除。抓取西刺代理的任意页网站。并将抓取的结果保存到mysql数据库表1中。import requestsimport parselimport pymysqlconn = pymysql.connect(host="127.0...

2020-03-14 17:24:45 1245

原创 监控、定位JavaScript操作cookie

数据无价的时代,爬虫与反爬的对抗已经进入白热化状态,其中Cookie反爬是最常见之一的反爬类型, 网站方通过混淆得亲妈都不认识的JS代码设置Cookie(通常是浏览器指纹、请求时必须带上的Cookie之类的),面对请求时必须要带上但是又不知道在哪里生成的Cookie, 你在几万行混淆的亲妈都不认识的JS屎海中苦苦挣扎希望能找到生成Cookie的地方(要是逆向思路不科学兴许还会呛上几口…),甚至几度想找个借口骗自己放弃,或者要不干脆用Selenium之类的浏览器模拟方式算了?

2023-07-28 09:31:11 1479

原创 报错: GPG Keys are configured as: file:///etc/pki/rpm-gpg/RPM-GPG-KEY-mysql

这将自动安装 MySQL 的 GPG 密钥并安装 MySQL 服务器。确认你有使用 root 权限或者有 sudo 权限。最后通过以下方式解决问题。

2023-03-10 09:41:49 1600

原创 Redis 高级用法

事务. 基础概念场景: 小明账户100元, 小红账户50元需求: 小明转账50给小红数据库语句: <1. 小明账户-50元><2. 小红账户+50元>问题: 如果执行1句时, 数据库进程就死掉了…事务是逻辑上数据库的一组操作, 这组操作要么一次成功, 或者这组操作全部失败, 是不可分割的一个工作单位事务的四大特性:原子性一致性隔离性持久性事务的四大特性(ACID)原子性事务中所有操作是不可分割的原子单位, 事务中所有擦欧洲哦要么全部执行成

2021-09-29 21:47:54 307

原创 Redis 基础教程

redis教程redis 是非关系型的kv型数据库特点:开源的, 使用C编写, 基于内存且支持之就花支持数据类型丰富, 字符串strings, 散列hashes, 列表lists, 集合sets, 有序集合sorted sets等等支持多种编程语言(C C++ python Javs PHP…)单进程单线程rediis 亮点功能一. 字符串命令操作:get key说明: 获取key的值返回值: key的值 或者 ‘nil’set key value nx

2021-09-28 10:01:16 157

mysql_to_ip.py

利用pymsql从表中筛选出可用的ip地址,对于不可用的ip地址进行删除,对于可用的ip地址保存到数据库表2中,已达到爬虫所需的随时更换ip的作用

2020-03-14

get_ip_mysql2.py

获取大量免费ip地址代码,并保存到数据库中。最后再对表进行时刻筛选,选出有用的ip地址保存到表2中,以此达到爬虫实时更换可用的ip的作用。

2020-03-14

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除