使用Kinect V2实现指尖隔空控制鼠标

此程序为利用Kinect for Windows V2实现用手指隔空控制鼠标,是另一个项目的一部分,这个程序只实现了鼠标的移动,并没有实现点击功能

相比Leapmotion,利用Kinect来控制鼠标可以大幅增加操控范围,用户可以随意走动,而不是被固定在桌面前。

似乎很多人都需要这个,可惜网上为数不多的代码都是Kinect V1的,所以放出代码来供大家讨论。

运行环境

  • Kinect for Windows V2
  • Kinect SDK 2.0
  • OpenCV 3.0

使用方法

首先需要让Kinect识别出人体,建议距离0.5m以上4m以内并且正对摄像头,如果位置合适的话瞬间就能识别出,如果几秒钟都没有识别出来就请调节位置。然后将手放入操作窗口就可以控制鼠标了,绿色的点代表指尖。

原理介绍

指尖识别基础

程序的核心在于指尖识别,我发现网上关于指尖识别的资料不多,所以自己想了个很简单的办法,不过效果还不错。首先应该知道三点:

1.  Kinect可以分辨出画面中哪一部分是人体
2.  Kinect带有深度摄像头,可以获取物体到摄像头的距离
3.  Kinect可以获取到人体的最多25个关节点的位置

减小搜索空间

为了寻找指尖,没有必要在整副画面中去搜索,那样会导致效率非常低。指尖肯定是在手部关节点(Hand)附近的,因此只需要获取到手部关节点的位置然后再拓展出一片区域,在这片区域里进行搜索就行了。之所以取Hand而不是取HandTip,是因为后者的稳定性非常差,即使在一个合适的距离正对Kinect也不一定能识别出来。

指尖识别

这时候就可以根据指尖的特征来进行指尖识别了。实际上识别出的并不是指尖,而是指尖上方的一个点。此点的特征如下:

  1. 不属于人体
  2. 或者属于人体,但是和手部关节点在同一个平面上(允许有误差)
  3. 到手部关节点的位置在某个合适的范围内
  4. 下面连续N(这里我取N为5)个像素都属于人体

首先,对于第一点很好理解,因为上面说了识别的不是指尖,而是指尖上方的一点。

第二点是用来处理手移动到身边正前方的时候的情况,比如手在胸前,这时候指尖上方的点都是属于人体的(胸部),不满足第一点。这里的误差指的是手指和手腕成约30度时的深度差,一般15cm左右。

第三点是为了消除两根手指根部之间的那个位置形成的误判,同时也进一步减小了搜索空间,正常情况下手指到手腕的距离都在10~25cm范围内,这里把拇指筛掉了,一般也不会用拇指去操作。如果要恢复拇指的话可以调整参数。

第四个条件筛选出了离手指尖最近的那个点。

确定操作窗口

为了便于操作和观察,这里设置了一个操作窗口,位于肩部的左上方和右上方,根据操作手的左右而调整。这个窗口就代表着电脑的屏幕,手指在窗口里的位置就是鼠标在电脑屏幕上的位置。这里窗口的大小是根据关节点HeadNeck的距离作为单位长度算出来的,也就是说能根据人体到Kinect的距离来调整操作窗口的大小。同时这个窗口是实时更新的,会根据人体的位置而进行调整。

这里要说一下,如果操作的位置相对固定,那么建议识别出窗口后就不要再更新,将操作窗口固定可以大幅度提高鼠标的稳定性,代码库里包含了静态窗口的代码,不过只实现了单手控制。

抖动消除

如果只是单纯的实现指尖追踪,会发现识别出的指尖位置非常不稳定,会在一起区间内高频抖动。所以需要对这些抖动进行消除。

这是个不太好处理的问题,因为如果力度太强就会容易影响到正常操作。这里设置了一个阈值,如果和上一个位置相比,识别出的指尖的位置改变很微小,那么就保持上次的位置不变。还可以再加入一个判断位置突变的阈值,如果当前位置和上一次位置相距太远,就可以判断为非法而筛去。

指尖位置转换成鼠标位置

黑色框为程序里确定的操作窗口,大写的X和Y代表的是屏幕的宽和高,红色框为电脑屏幕,假设人的手指在 $$(x_{1},y_{1})$$

这时候如果想将鼠标也映射到同样的位置,那么就有

$${x_{1} \over X_{B}} = {x_{2} \over X_{S}}, {y_{1} \over Y_{B}} = {y_{2} \over Y_{S}}$$

对于电脑屏幕的宽和高,实际上是不需要考虑分辨率的,因为在鼠标的坐标系下,电脑的宽和高都被分成了65535个单位,所以宽和高可以视为65535

根据这些,就可以算出鼠标在电脑屏幕上的位置。

源码

https://github.com/hyrepo/kinect-cursor-control

印度之旅-TWU游记

评论

Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×