最近老板给了个需求是要做一个在安卓模拟器上自动扫码支付的程序,本来以为用Appium就可以直接直接搞定的,但是最后发现Appium只能操作App,在模拟器的实际运行中App要进入扫码功能,还要点击安卓模拟器的的功能菜单才可以。一开始就想着获取安卓模拟器的窗口句柄来操作点击的,结果发现这个句柄不好获取,最后就无奈采取找图定位功能菜单加模拟点击来实现。
模拟点击是很容易实现的了,Java本身就封装了一个叫Robot的类来实现这些功能,所以难点在于点击的定位,我们的目的是在屏幕中找到我们要点击位置在哪里。以前用过“按键精灵”,记得它的做法通过找图来确定要点击的位置。于是,我们的目标就转变成了,在一个大图中找一个小图,得到它在大图中的位置。
一、新建项目
新建一个Maven项目,导入依赖,我们这里使用JavaCV来实现找图这个功能,要用到图像模板匹配这个算法。
<dependency>
<groupId>org.bytedeco</groupId>
<artifactId>javacv-platform</artifactId>
<version>1.5.5</version>
</dependency>
二、编写代码
代码逻辑非常简单,可以直接复制粘贴使用。
import org.bytedeco.javacpp.DoublePointer;
import org.bytedeco.javacv.Java2DFrameConverter;
import org.bytedeco.javacv.OpenCVFrameConverter;
import org.bytedeco.opencv.opencv_core.*;
import org.bytedeco.opencv.opencv_core.Point;
import javax.imageio.ImageIO;
import java.awt.*;
import java.awt.event.InputEvent;
import java.awt.image.BufferedImage;
import java.io.ByteArrayInputStream;
import java.io.ByteArrayOutputStream;
import java.io.File;
import java.io.IOException;
import static org.bytedeco.opencv.global.opencv_core.CV_32FC1;
import static org.bytedeco.opencv.global.opencv_core.CV_8UC1;
import static org.bytedeco.opencv.global.opencv_core.minMaxLoc;
import static org.bytedeco.opencv.global.opencv_imgcodecs.IMREAD_GRAYSCALE;
import static org.bytedeco.opencv.global.opencv_imgcodecs.imread;
import static org.bytedeco.opencv.global.opencv_imgproc.COLOR_BGR2GRAY;
import static org.bytedeco.opencv.global.opencv_imgproc.COLOR_BGRA2RGBA;
import static org.bytedeco.opencv.global.opencv_imgproc.TM_CCORR_N