![2ad25899102a754464dba0ba0e117312.png](https://i-blog.csdnimg.cn/blog_migrate/b0d95e5cd316474bb5b8fda2282dfd31.jpeg)
第五讲 机器人感知
1.机器视觉(图像校准、图像识别等)
ROS中的图像数据(二维图像)
显示图像类型
roslaunch usb_cam usb_cam-test.launch
rostopic info /usb_cam/image_raw
查看图像消息
rosmsg show sensor_msgs/Image
![2c9bed08799dc29f75fcd78b84018d28.png](https://i-blog.csdnimg.cn/blog_migrate/ed390c28d3a0262d8111c53a2d0948ee.jpeg)
- Header:消息头,包含消息序号,时间戳和绑定坐标系
- height:图像的纵向分辨率
- width:图像的横向分辨率
- encoding:图像的编码格式,包含RGB、YUV等常用格式,不涉及图像压缩编码
- is_bigendian:图像数据的大小端存储模式
- step:一行图像数据的字节数量,作为数据的步长参数
- data:存储图像数据的数组,大小为step*height个字节
![bca4cd076781278824810f6443873c31.png](https://i-blog.csdnimg.cn/blog_migrate/0cbaf6ecff7b8e2c49c41f0a24390a3b.jpeg)
1080*720分辨率的摄像头产生一帧图像的数据大小是 3*1080*720=2764800字节,即2.7648MB
压缩图像消息
rosmsg show sensor_msgs/CompressedImage
![a2422a5709a52ebd5e7319cee3e8678d.png](https://i-blog.csdnimg.cn/blog_migrate/0aad4b5220a7df4f9c30a3375c984c4d.jpeg)
- format:图像的压缩编码格式(jpeg,png,bmp)
- data:存储图像数据数组
显示点云类型
roslaunch freenet_launch freenect.launch
rostopic info /camera/depth_registered/points
查看点云消息
rosmsg show sensor_msgs/PointCloud2
![0a6a7a7687ff502362330752507ad2e6.png](https://i-blog.csdnimg.cn/blog_migrate/7e80e375f426a20120a01790e8d212f0.jpeg)
- height:点云图像的纵向分辨率
- width:点云图像的横向分辨率
- fields:每个点的数据类型
- is_bigendian:数据的大小端存储模式
- point_step:单点的数据字节步长
- row_step:一列数据的字节步长
- data:点云数据的存储数组,总字节大小为row_step*height
- is_dense:是否有无效点
点云单帧数据量也很大,如果使用分布式网络传输,需要考虑能否满足数据的传输要求,或者针对数据进行压缩
摄像头标定
摄像头为什么要标定
摄像头这种精密仪器对光学器件的要求较高,由于摄像头内部与外部的一些原因,生成的物体图像往往会发生畸变,为避免数据源造成的误差,需要针对摄像头的参数进行标定
安装标定功能包
sudo apt-get install ros-kinetic-camera-calibration
![8a7b0338317c938962da183b88df52a5.png](https://i-blog.csdnimg.cn/blog_migrate/8087c77075610b2e5b33e4999a70d385.jpeg)
摄像头标定流程
1.启动摄像头
roslaunch robot_vision usb_cam.launch
2.启动标定包
rosrun camera_calibration cameracalibrator.py --size 8x6 --square 0.024 image:=/usb_cam/image_raw camera:=/usb_cam
- 1.size:标定棋盘格的内部角点个数,这里使用的棋盘一共有六行,每行有8个内部角点
- 2.square:这个参数对应每个棋盘格的边长,单位是米
- 3.image和camera:设置摄像头发布的图像话题
![7a31e93edf0f7454fd7f26bf1f292d59.png](https://i-blog.csdnimg.cn/blog_migrate/36b62a31209b695657f266bab1b8928b.jpeg)
- X:标定靶在摄像头视野中的左右移动
- Y:标定靶在摄像头视野中的上下移动
- Size:标定靶在摄像头视野中的前后移动
- Skew:标定靶在摄像头视野中的倾斜转动
终端中的标定结果
![a9b92bc1525df5a161811e56383044c9.png](https://i-blog.csdnimg.cn/blog_migrate/31f70413589c99638000f34787005d45.jpeg)
![31a9c4f9029298b8791920f51e96b729.png](https://i-blog.csdnimg.cn/blog_migrate/597a709358d39a5e11212affb476b607.jpeg)
标定结果保存路径 /tmp/calibrationdata.tar.gz
Kinect标定流程
1).启动Kinect
roslaunch robot_vision freenect.launch
2).启动彩色摄像头
rosrun
3).标定红外摄像头
rosrun camera_calibration cameracalibrator.py image:=/camera/ir/image_raw camera:=/camera/ir --size 8x6 --square 0.024
摄像头如何使用标定文件
![864f1d8c4fbd1b6691fdd554f565182c.png](https://i-blog.csdnimg.cn/blog_migrate/7c71b35a2d73bf15f9190bbcf408b8d2.jpeg)
Kinect如何使用标定文件
![cef03080dd281efe966329e25100fefa.png](https://i-blog.csdnimg.cn/blog_migrate/7daa1ead851766b9ae913eba3689308d.jpeg)
使用标定文件时可能产生的错误
![8ba636145f6ff9d8b0eaad1348563d7b.png](https://i-blog.csdnimg.cn/blog_migrate/57d74c46ae3d570f5b52aaff1efb1cc2.jpeg)
原因:标定文件中camera_name参数与实际传感器名称不匹配
解决方法:按照警告提示的信息进行修改即可。
ROS+OpenCV应用实例(人脸识别、物体跟踪)
OpenCV:Open Source Computer Vision Library
实现了图像处理和计算机视觉方面的很多通用算法,而且对非商业应用和商业应用都是免费的
安装OpenCV
sudo apt-get install ros-kinetic-vision-opencv libopencv-dev python-opencv
![26addf0686a7df03bcbe73fc481c4026.png](https://i-blog.csdnimg.cn/blog_migrate/31659313962027307186f6a46ff52708.jpeg)
测试例程
roslaunch robot_vision usb_cam.launch
rosrun robot_vision cv_bridge_test.py
rqt_image_view
imgmsg_to_cv2();将ROS图像消息转换成OpenCV图像数据
cv2_to_imgmsg():将OpenCV格式的图像数据转换成ROS图像消息
输入参数:1).图像消息流 2).转换的图像数据格式
人脸识别流程
图像输入 输出结果
![0814709f97153ec902645d4c4df2349c.png](https://i-blog.csdnimg.cn/blog_migrate/251113aedb1b3a611a405850a10e5d79.jpeg)
启动人脸识别实例
roslaunch
初始化部分:完成ROS节点、图像、识别参数的设置。
ROS图像回调函数:将图像转化成OpenCV的数据格式,然后预处理之后开始调用人脸识别的功能函数,最后把识别的结果发布。
人脸识别:调用OpenCV提供的人脸识别接口,与数据库中的人脸特征进行匹配。
![503d865c54bfdeecbcea6566aadad1bd.png](https://i-blog.csdnimg.cn/blog_migrate/d94961a1eb1156b6a9d72b095d8bd6b8.jpeg)
启动物体跟踪实例
roslaunch robot_vision usb_cam.launch
roslaunch robot_vision motion_detector.launch
rqt_image_view
初始化部分:完成ROS节点、图像、识别参数的设置
图像处理:将图像转换成OpenCV格式;完成图像预处理之后开始针对两帧图像进行比较,基于图像差异识别到运动的物体,最后标识识别结果并发布
二维码识别
安装二维码识别功能包
sudo apt-get install ros-kinect-ar-track-alvar
创建二维码
rosrun ar_track_alvar createMarker
rosrun ar_track_alvar createMarker 0
roscd robot_vision/config
rosrun ar_track_alvar createMarker -s 5 0
rosrun ar_track_alvar createMarker -s 5 1
rosrun ar_track_alvar createMarker -s 5 2
二维码识别(摄像头)
![d4f561e9a0dbe590569b153b42d21b64.png](https://i-blog.csdnimg.cn/blog_migrate/0e417bcde5fd6dbe447fa033fd468066.jpeg)
启动摄像头二维码识别示例
roslaunch robot_vision usb_cam_with_calibration.launch
roslaunch robot_vision ar_track_camera.launch
启动摄像头时,需要加载标定文件,否则可能无法识别二维码
查看识别到的二维码位姿
rostopic echo /ar_pose_marker
![02d06ba52a51954c925e67ca70ae4f4b.png](https://i-blog.csdnimg.cn/blog_migrate/4ff483add73d3f496482ac1024d6bed5.jpeg)
二维码识别(Kinect)
![9a2f895f15d4f32bd80832a9a0614186.png](https://i-blog.csdnimg.cn/blog_migrate/9655739989978d9fe60b906340aca528.jpeg)
启动Kinect二维码识别示例
roslaunch robot_vision freenect.launch
roslaunch robot_vision ar_track_kinect.launch
![2ba29a0a404c7ded25cd86b1b540d9ea.png](https://i-blog.csdnimg.cn/blog_migrate/0baa636724cbb6e3b4a116c1eddad471.jpeg)
扩展内容:物体识别与机器学习
Object Recognition Kitchen(ORK)
2.机器语音
![61cb9aded4b5438a7c406eebf3bb219f.png](https://i-blog.csdnimg.cn/blog_migrate/d8f6cc389efab6bb16466890ea535096.jpeg)
常用语音功能包
- pocketsphinx:集成CMU Sphinx和Festival开源项目中的代码,实现语音识别的功能
- audio-common:提供了文本转语音的功能实现完成"机器人说话"的想法
- AIML:人工智能标记语音,Artificial Intelligence Markup Language是一种创建自然语音软件代理的XML语言