通过我的上一篇文章,可以了解到mediapipe关于手部检测的使用方法。这时我们就可以进行一些更加炫酷的操作。这篇文章我就来讲解一下如何用手势来控制电脑鼠标。
在开始之前我们要介绍一个能够操作电脑鼠标的库pyautogui,这里我简单介绍一下该库的一些函数,方便大家观看最后的源码
函数名 | 作用 |
---|---|
pyautogui.size() | 获取屏幕的分辨率,返回值为width,height |
pyautogui.click(x,y,button = ‘left/right’) | 在屏幕的(x,y)处进行左键或右键的点击操作 |
pyautogui.doubleClick(x,y) | 在屏幕的(x,y)处双击左键 |
pyautogui.moveTo(x, y, duration=0) | 将鼠标移动到指定的(x,y)处;duration 的作用是设置移动时间,是可选参数 |
pyautogui.FAILSAFE =True | 默认这项功能为True, 这项功能意味着:当鼠标在屏幕的最左上角,程序会报错;目的是防止程序一直控制鼠标导致程序无法结束 |
由于mediapipe的使用方法在上一篇文章中已经介绍过了,这里就不再重复介绍了。如果小伙伴不知道mediapipe是什么的话,点击这里,看我的上一篇文章
思路
首先使用opencv调用摄像头,从摄像头读取图像,将图像反转(摄像头读取的图像与现实中是相反的),并将图像转换为RGB模式。接着使用mediapipe进行手部检测,并用列表存储手部的21个关键点的坐标。利用该列表进行检测:
当手指食指小于160度的时候认定鼠标点击左键
当手指中食小于160度的时候认定鼠标点击右键
当手指食指和中值之间的距离小于40的时候认定鼠标点双击左键
(如果不知道如何检测手指角度数,请看我的上一篇文章)
然后我用手部关键点的0和9的坐标的中值来代替鼠标,大概就在下图我标注的绿色点的位置
实现过程的难点
这里有两个难点:第一,一开始的时候我获取到屏幕的分辨率(