- 博客(20)
- 问答 (2)
- 收藏
- 关注
原创 影刀HTTP请求——操作超时问题(有关”x-secsdk-csrf-token“参数校验和CSRF攻击)
影刀RPA中HTTP请求,接口报”操作超时“,而不是”The request was canceled due to the configured HttpClient.Timeout of 30 seconds elapsing“。有关”x-secsdk-csrf-token“参数校验和CSRF攻击
2024-09-23 10:44:36 369
原创 Postman神器解决影刀RPA中HTTP请求问题,状态码504错误
1. 代理服务器超时:当客户端向代理服务器发送请求时,代理服务器需要向上游服务器(如应用服务器)获取数据,如果代理服务器在规定的时间内无法从上游服务器获取响应,就会导致504网关超时错误。2. 上游服务器处理时间过长:如果上游服务器处理请求的时间超过了代理服务器的超时设置,代理服务器会认为上游服务器无法及时响应,从而返回504错误。(2)由于服务器响应时间较长导致的,可以尝试优化请求处理逻辑,例如减少请求的数据量等,以加快服务器的响应时间,或者延长请求超时时间。加到了60s,还是报这个错误。
2024-09-23 10:44:28 195
原创 记录——影刀RPA高级操作题(二)——使用影刀RPA内置包和”Xpath“获取数据,获取数据写入目标MySQL
【代码】记录——影刀RPA高级操作题(二),使用影刀RPA内置包和”Xpath“获取数据,获取数据写入目标MySQL
2024-09-09 13:14:14 492
原创 记录——影刀RPA高级操作题(一)——使用HTTP获取数据,连接本地MySQL,写入数据至MySQL,查询结果,结果写入目标MySQL
【代码】记录——影刀RPA高级操作题(一),使用HTTP获取数据,连接本地MySQL,写入数据至MySQL,查询结果,结果写入目标MySQL
2024-09-09 13:12:33 522 1
转载 记录大佬项目——自动批改小孩作业的代码(有空玩玩)
作对了,能打对号;做错了,能打叉号;没做的,能补上答案。醒来后,我环顾四周,赶紧再躺下,希望梦还能接上。
2024-08-27 16:03:18 30
原创 Python&影刀RPA——网页监听数据解密(响应体AES解密BASE64分析)
通过堆栈查找,发现是AES加密,模式是CBC,填充方式是Pkcs7,除了这些信息之外,我们还要找到密钥才能进行解密,而且又是CBC模式,所以要找到初始化向量,拿到这些关键信息后,就可以进行解密了的。这个就比较简单了,因为可以看出这个没有进行混淆和加一些乱八七糟,不四不三的东西,是一个非常官方的ASE_256(密钥长度可以看的出来,16字节是AES_128,24字节是AES_192,32字节是AES_256)加密,那就不用扣JS代码了,python直接就有包给我们调用,不愧是python,真是包罗万象。
2024-08-27 15:11:28 582
原创 影刀RPA——关闭”【“影刀RPA“已开始调试此浏览器】“,解决截图不全
由于在使用影刀RPA时大部分都是使用监听或者是HTTP,对web和win元素操作比较少,所以对以下的这个东西无动于衷。最近有个功能是需要win操作鼠标键盘进行截图,每次运行的时候“影刀RPA”已开始调试此浏览器这栏就会出来,导致截图不全,相对的位置就发生了变化。2.在属性界面的目标里添加命令行参数 "--silent-debugger-extension-api"注意:要在"--"前面加个空格。1.桌面右键浏览器点击属性。
2024-08-26 17:24:50 411
原创 影刀爬取淘宝商品数据存入MySQL数据库
现在就使用那个参数来抓取淘宝商品数据存入MySQL数据库,给相关人员做分析。这里我们直接抓取小米手机商品的id,标题,店铺名,地址,付款人数,商品详情链接(可以根据自己的需求做调整)
2023-12-11 13:16:59 1220
原创 python结合影刀开发数据可视化指令——(折线图,散点图... ...)
我们用影刀把数据抓取下来,有时候会需要对这些数据进行可视化,那我们就又得去其他编辑器里面写可视化代码,这样会比较麻烦,那就可以直接在影刀里面把可视化封装成一条条指令,直接把我们抓取的的数据传进去这条指令进行可视化,这样就方便多了。首先需要在影刀里面install matplotlib,import matplotlib。
2023-12-11 13:16:41 1577
原创 python-----数据聚合与分组运算
第一个阶段,pandas对象(无论 是Series、DataFrame还是其他的)中的数据会根据你所提供的一个或多个键被拆 分(split)为多组。拆分操作是在对象的特定轴上执行的。但是,像 SQL这样的查询语言所能执行的分组运算的种类很有限,由 于Python和pandas强大的表达能力,我们可以执行复杂得多的分组运算(利用任何 可以接受pandas对象或NumPy数组的函数)。在这里,数据(Series)根据分组 键进行了聚合,产生了一个新的Series,其索引为key1列中的唯一值。
2023-11-29 10:21:17 118
原创 python结合js逆向与影刀RPA——开发影刀指令(生成淘宝sign加密参数)
在一些平台,我们在拿数据的时候,都会遇需要逆向才能拿到数据,就比如淘宝的卖家、买家平台,大部分是请求参数sign参数加密,那就以这个为例,我们用影刀RPA工具,结合python,js逆向,来开发一个通用的影刀RPA指令——生成淘宝sign加密参数指令。这样我们不管是在淘宝的卖家或者买家平台拿数据,遇到sign参数加密,直接调用这个指令生成加密参数。
2023-11-17 18:05:34 3002 1
原创 python结合影刀RPA,爬取的数据写入execl
我们在做爬虫时,不仅仅是把我们需要的数据抓取下来就行了,我们还需要把数据保存下来,比如execl,数据库等。而我们把爬取的数据写入execl时,会想到使用python的第三方包openpyxl。这样,不管是请求,处理数据,写入数据都需要我们手撸存代码了。但是,如果使用影刀,节省了我们一半繁琐的操作,对于编程新手来说也更加友好。这时,我们只要在影刀里写个python函数处理一下数据,在用影刀把数据写入execl就行了。python:接口URL,设置请求头,获取响应内容。
2023-09-26 16:05:41 2795
原创 影刀RPA与python,js(逆向)结合使用
爬虫,大家一定很熟悉吧,而写爬虫大家一定想到的是用python,因为python有强大的第三方包,而且语法简单,对于初学者来说是很容易上手的。但是呢,不是所有数据都能让我们轻轻松松的爬到,例如对数据进行加密,登录验证码,滑块验证等反爬。这时,想到了,诶,可以使用seleiunm啊,通过对网页元素操纵,把数据获取下来。但是呢,这对初学者并不友好,尤其是非科班的。但是,有一款app,把以上的内容涵括,而且它学习成本低,上手快,实现效果强,他就是-——影刀RPA。
2023-08-30 16:23:28 3655
原创 数字识别实例两种实现方式(tensorflow2.x):1.调用高级API 2.手写简单神经网络 3.手写深度神经网络(DNN)
数字识别实例两种实现方式(tensorflow2.x):1.调用高级API 2.手写简单神经网络 3.手写深度神经网络(DNN)
2023-03-09 16:21:37 212
原创 Python可视化基础----从0学会matplotlib折线图,条形图,散点图
figure是图形图标的意思,在这里指的是我们画的图,通过实例化一个figure并且传递参数, 能够在后台自动使用该figure实例,在图像模糊时传入dip参数(每英寸像素点多少个),让图片更加清晰 figsizes传入的是宽和高,代码如下:效果图可以自己复制代码运行,和图一进行对比。) 方法二:这个方法需要查看自己电脑系统字体的路径,我的是win系统,系统字体路径是在C:\Windows\Fonts下,这个方法优点:一次设置,多次使用,更方便;3) 设置线条颜色,风格,粗细,透明度。
2022-11-13 15:24:02 537
转载 机器学习sklearn: 特征工程(八)特征选择(三)卡方选择(二)卡方检验
它是卡方检验中的一个主要测试指标,卡方检验是一种用途很广的计数资料的假设检验方法,它属于非参数检验的范畴,主要是比较两个及两个以上样本率( 构成比)以及两个分类变量的关联性分析,其根本思想就是在于比较理论频数和实际频数的吻合程度或拟合优度问题。卡方值是非参数检验中的一个统计量,主要用于非参数统计分析中。它的作用是检验数据的相关性。如果卡方值的显著性(即SIG.)小于0.05,说明两个变量是显著相关的。具体说,它可以检验单变量多项分类上的实计数和理论次数分布之间的差异显著性。
2022-11-11 17:15:04 749
原创 Python数据清洗-——(1)选择子集,列名重命名;(2)缺失值处理;(3)数据转换(重复值等);(4)异常值的处理
(1)3-sigma原则异常值检测:3-Sigma原则又称为拉依达准则,该准则定义如下:假设一组检测数据只含有随机误差,对原始数据进行计算处理得到标准差,然后按一定的概率确定一个区间,认为误差超过这个区间的就属于异常值。(2)分箱法(四分点检测法):箱形图可以用来观察数据整体的分布情况,利用中位数,25/%分位数,75/%分位数,上边界,下边界等统计量来来描述数据的整体分布情况。(1)重复值: 以下代码表示检测重复值,重复值的处理和之前的缺失值处理差不多,也是采用删除的方法。3、数据转换(重复值处理)
2022-11-09 14:07:24 2514
原创 Centos7下安装Mysql8.0----超简单
(在解压命令那里:1.因为我们的压缩包后缀是.tar,所以用命令“tar -xvf”,“/home/sh/”是我存放MySQL压缩包的目录,后面跟的是压缩包的名字,“-C /usr/local/mysql”是把压缩包解压到之前我们创建的mysql文件夹下)1.下载 MySQL 所需要的安装包 网址:https://dev.mysql.com/downloads/mysql/(2)、查看数据库的密码命令:cat /var/log/mysqld.log | grep password。
2022-11-02 13:20:57 2003 2
虚拟机上启动hadoop时这样是什么问题,怎么解决
2021-12-13
虚拟机上配置java环境时JRE_HOME找不到命令是怎么回事
2021-11-16
TA创建的收藏夹 TA关注的收藏夹
TA关注的人