第五讲 机器人感知
1.机器视觉(图像校准、图像识别等)
ROS中的图像数据(二维图像)
显示图像类型
roslaunch usb_cam usb_cam-test.launch
rostopic info /usb_cam/image_raw
查看图像消息
rosmsg show sensor_msgs/Image
- Header:消息头，包含消息序号，时间戳和绑定坐标系
- height:图像的纵向分辨率
- width:图像的横向分辨率
- encoding:图像的编码格式，包含RGB、YUV等常用格式，不涉及图像压缩编码
- is_bigendian:图像数据的大小端存储模式
- step:一行图像数据的字节数量，作为数据的步长参数
- data:存储图像数据的数组，大小为step*height个字节
1080*720分辨率的摄像头产生一帧图像的数据大小是 3*1080*720=2764800字节，即2.7648MB
压缩图像消息
rosmsg show sensor_msgs/CompressedImage
- format:图像的压缩编码格式(jpeg,png,bmp)
- data:存储图像数据数组
显示点云类型
roslaunch freenet_launch freenect.launch
rostopic info /camera/depth_registered/points
查看点云消息
rosmsg show sensor_msgs/PointCloud2
- height:点云图像的纵向分辨率
- width:点云图像的横向分辨率
- fields:每个点的数据类型
- is_bigendian:数据的大小端存储模式
- point_step:单点的数据字节步长
- row_step:一列数据的字节步长
- data:点云数据的存储数组，总字节大小为row_step*height
- is_dense:是否有无效点
点云单帧数据量也很大，如果使用分布式网络传输，需要考虑能否满足数据的传输要求，或者针对数据进行压缩
摄像头标定
摄像头为什么要标定
摄像头这种精密仪器对光学器件的要求较高，由于摄像头内部与外部的一些原因，生成的物体图像往往会发生畸变，为避免数据源造成的误差，需要针对摄像头的参数进行标定
安装标定功能包
sudo apt-get install ros-kinetic-camera-calibration
摄像头标定流程
1.启动摄像头
roslaunch robot_vision usb_cam.launch
2.启动标定包
rosrun camera_calibration cameracalibrator.py --size 8x6 --square 0.024 image:=/usb_cam/image_raw camera:=/usb_cam
- 1.size:标定棋盘格的内部角点个数，这里使用的棋盘一共有六行，每行有8个内部角点
- 2.square:这个参数对应每个棋盘格的边长，单位是米
- 3.image和camera:设置摄像头发布的图像话题
- X:标定靶在摄像头视野中的左右移动
- Y:标定靶在摄像头视野中的上下移动
- Size:标定靶在摄像头视野中的前后移动
- Skew:标定靶在摄像头视野中的倾斜转动
终端中的标定结果
标定结果保存路径 /tmp/calibrationdata.tar.gz
Kinect标定流程
1).启动Kinect
roslaunch robot_vision freenect.launch
2).启动彩色摄像头
rosrun camera_calibration cameracalibrator.py image:=/camera/rgb/image_raw camera:=/camera/rgb --size 8x6 --square 0.024
3).标定红外摄像头
rosrun camera_calibration cameracalibrator.py image:=/camera/ir/image_raw camera:=/camera/ir --size 8x6 --square 0.024
摄像头如何使用标定文件
Kinect如何使用标定文件
使用标定文件时可能产生的错误
原因：标定文件中camera_name参数与实际传感器名称不匹配
解决方法：按照警告提示的信息进行修改即可。
ROS+OpenCV应用实例(人脸识别、物体跟踪)
OpenCV:Open Source Computer Vision Library
实现了图像处理和计算机视觉方面的很多通用算法，而且对非商业应用和商业应用都是免费的
安装OpenCV
sudo apt-get install ros-kinetic-vision-opencv libopencv-dev python-opencv
测试例程
roslaunch robot_vision usb_cam.launch
rosrun robot_vision cv_bridge_test.py
rqt_image_view
imgmsg_to_cv2()；将ROS图像消息转换成OpenCV图像数据
cv2_to_imgmsg()：将OpenCV格式的图像数据转换成ROS图像消息
输入参数：1).图像消息流 2).转换的图像数据格式
人脸识别流程
图像输入 输出结果
启动人脸识别实例
roslaunch robot_vision usb_cam.launch roslaunch robot_vision face_detector.launch rqt_image_view
初始化部分：完成ROS节点、图像、识别参数的设置。
ROS图像回调函数：将图像转化成OpenCV的数据格式，然后预处理之后开始调用人脸识别的功能函数，最后把识别的结果发布。
人脸识别：调用OpenCV提供的人脸识别接口，与数据库中的人脸特征进行匹配。
启动物体跟踪实例
roslaunch robot_vision usb_cam.launch
roslaunch robot_vision motion_detector.launch
rqt_image_view
初始化部分：完成ROS节点、图像、识别参数的设置
图像处理：将图像转换成OpenCV格式；完成图像预处理之后开始针对两帧图像进行比较，基于图像差异识别到运动的物体，最后标识识别结果并发布
二维码识别
安装二维码识别功能包
sudo apt-get install ros-kinect-ar-track-alvar
创建二维码
rosrun ar_track_alvar createMarker
rosrun ar_track_alvar createMarker 0
roscd robot_vision/config
rosrun ar_track_alvar createMarker -s 5 0
rosrun ar_track_alvar createMarker -s 5 1
rosrun ar_track_alvar createMarker -s 5 2
二维码识别(摄像头)
启动摄像头二维码识别示例
roslaunch robot_vision usb_cam_with_calibration.launch
roslaunch robot_vision ar_track_camera.launch
启动摄像头时，需要加载标定文件，否则可能无法识别二维码
查看识别到的二维码位姿
rostopic echo /ar_pose_marker
二维码识别(Kinect)
启动Kinect二维码识别示例
roslaunch robot_vision freenect.launch
roslaunch robot_vision ar_track_kinect.launch
扩展内容：物体识别与机器学习
Object Recognition Kitchen(ORK)
2.机器语音
常用语音功能包
- pocketsphinx:集成CMU Sphinx和Festival开源项目中的代码，实现语音识别的功能
- audio-common:提供了文本转语音的功能实现完成"机器人说话"的想法
- AIML:人工智能标记语音，Artificial Intelligence Markup Language是一种创建自然语音软件代理的XML语言