“VR手套控制机械臂”亮相市中区科技活动周

2018年济南市市中区科技活动周上,超感智能展示了“VR手套控制机械臂”项目,吸引广泛关注。市中区科技局张华国局长对该项目的前沿交互技术和潜在社会效益给予高度评价,并承诺提供政策支持。超感智能专注于惯性动捕和VR交互技术,其Miiglove和Miisuit产品已取得初步成果,未来将持续研发提升VR交互体验。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

(市中区科技局张华国局长现场了解展示项目)

5月23日上午,2018年济南市市中区科技活动周在济南大学校园广场顺利举行。济南超感智能作为参展嘉宾应邀到场参加,同时“VR手套控制机械臂”作为入驻项目代表亮相本次科

VR第一视角远程牵引控制机械项目概述: 项目方案:VR++机械。 项目完成情况: 把CC3220开发板的TCP Server弄出来了,可以远程控制机械了,最终还是没有时间搭建HTTP Server,摄像头共享就只能作罢了。 不采用传统的输入设备(如:键盘、鼠标、手柄等)来做控制,也不是简单的让机械和操作者的手同步。具体实现步骤如下。 1. 制作一个机械 某宝上直接买了一个几十块现成的,虽然很糙,但是足够用了。 2. 安装机械的第一视角 配合两个舵机实现上下左右的转。 这里本来应该是用JPEG摄像头连到CC3220开发板来做远程的, 开发板上搭建HTTP Server最终还是没搞定。 测试的时候用了一台手机代替开发板(手机上倒是做了完整的测试界面,包括控制、摄像头画面、信息窗口)。 3. 机械的远程控制及第一视角的远程共享 这里先说说之前的测试方案: 机械控制第一视角的舵机都用Arduino驱,把Arduino和手机用OTG线连接。手机上搭建一个HTTP服务器,负责接收远程指令和手机摄像头画面(作为机械的第一视角)的远程共享。机械控制指令通过手机USB发送给Arduino。 结合CC3220的方案: 摄像头画面共享没实现,没有搞定开发板上的HTTP Server。在官方Demo里的“network_terminal”的基础上修改的TCP Server,从Socket里面获得控制指令,转换成PWM信号控制机械的舵机。这次只控制机械的舵机,没有远程摄像头舵机的控制。 4. 在3D开发环境下的开发 首先重构一个虚拟的机械,只要保证重要的机械结构一致就可以了,其它的细节不需要(参考下图)。 然后为用户构建一个虚拟的半透明屏幕,绑定在视角前方,用来显示机械第一视角的画面。(U nity下面获取远程画面不是很方变,这里没有做视频流,而是通过刷新的方式一帧一帧获取摄像头画面,用base64Binary格式压缩到HTTP服务器的响应中) 导入一个单手的模型,并握有配套的手柄模型。 因为要用到VR,这里选择了Unity3D。远程通信要实现: 让操作者用头部转控制机械第一视角的转 分析虚拟机械的运从而计算出相应的控制指令来实现现实的机械和虚拟机械的同步。 结合CC3220的方案: 上面展示的是测试时候的方案,手机VR的SDK用的是Cardboard。结合CC3220开发板的时候,更换了Google Daydream的SDK,手柄也直接替换成了Daydream的手柄。没有搞定远程视频共享,所以删掉了虚拟的半透明屏幕,重新制作了虚拟工作环境:包括多视角观察窗口(左测和上方两个视角)、传感器监控(数据、模型)、舵机转角计算结果的监控、虚拟键盘(用于设置TCP Server的IP地址和端口)。Daydream下面不能像Cardboard一样设计屏幕输入界面,所以才设计了一个虚拟键盘。 5. 引入设备 用三颗MPU6050实现手,这样在虚拟环境下就有了完全同步的虚拟手了。测试的时候用了一个自制的手柄不带任何运传感器。 结合CC3220开发板做测试的时候,采用Daydream,可以用Daydream的遥控器代替自己做的手柄。虽然Daydream的遥控器是九轴的,但校准方面还是纯主观性的,说白了跟六轴的效果是一样。在Daydream下面蓝牙插件做的有点问题,不够顺畅。如果不压缩数据,会出现明显的延时和卡顿,目前还是依靠牺牲传感器计算结果的精度来解决。感兴趣可以看看后面的一个演示视频,遥控器可以不用死死捏在手上,可以变换握姿。操作上也更加丰富了。另外,Daydream的遥控器有触摸板,配合触摸板下的按键,可以实现多种操作的组合。 6. 控制流程 测试方案: (设备) (运分析得到控制指令) 操作者的手 ------> 同步的虚拟手 ------> 牵引虚拟的机械 ------> 远程让机械同步 (头部转分析得到控制指令) 操作者的头部 ---------------------------------> 远程让机械同步 (远程图传) 虚拟环境下的虚拟屏幕<-------------机械第一视角 CC3220方案: (敲击输入) 虚拟键盘 -----------------> 设置TCP Server的IP和端口 (设备) (运分析得到控制指令) 操作者的手 ------> 同步的虚拟手 ------> 牵引虚拟的机械 ------> 远程让机械同步 项目开发环境: 硬件清单: 测试方案: 机械 x 1(四个舵机) 舵机 x 2(用于转手机) Arduino x 1 安卓手机 x 2 设备 x 1(IMU:MPU6050 x 3, MCU:MSP4
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值