智能交通是关键在于两方面：智能道路与智能车辆。前者主要目的在于规范 交通秩序，提升道路的通行能力；后者的使命是通过发展通过驾驶辅助系统，最 终实现车辆的无人驾驶。 针对智能道路，团队研发了电子警察。通过装配在城市交通路口的智能一体 相机，电子警察自动抓拍车辆闯红灯和变道等违章行为，通过治理违章规范驾驶 行为。其核心技术在于基于计算机视觉的嵌入式车辆运动分析系统。团队与智能 相机厂商合作，开发了基于达芬奇（DaVinci）平台的嵌入式电子警察产品，并 已成功上市销售数百套。 针对智能车辆，团队研发了交通标识自动识别系统。通过车载视觉智能分析 系统，提前主动定位并识别交通标识，规避违章驾驶。团队与国内领先的无人车 研发机构合作，已参加数届中国智能车未来挑战赛（IVFC）,获得了交通标识识 别第一名及总成绩第三名的成绩，并得到了中央电视台等机构的好评。

一、项目简介 随着科技进步和社会需求的发展，机器人手/臂除了工业生产，也越来越多用于服务人类的其它各个领域，这必然会使机器人承担比工业中更加多样的操作任务，面临更加多变的工作环境。因此，国内外对非结构自然环境下、具备自主操作能力的机器人的研究十分重视。当前，具备视觉感知能力的机器人已被公认为机器人发展的主流趋势，将视觉与机器人操作相融合，是对人类行为的模拟，由此产生的视觉伺服控制方法为机器人自主操作能力的实现带来了新的思路，代表了机器人的先进控制技术，也是促进机器人智能化发展的一个重要驱动。可以预见，未来的视觉系统将会成为机器人名副其实的眼睛，视觉伺服技术在机器人自主操作中将具有不可替代的作用。 视觉伺服利用视觉传感器提供的环境信息对机器人运动进行实时反馈控制，涉及机器人机械几何设计、运动学和动力学、自动控制理论、计算机视觉图像处理和摄像机标定等,是智能机器人领域中具有重要理论意义的研究课题之一。迄今为止，机器人手/臂的视觉伺服方法在太空遥操作、机器人手术、水果采摘、工业装配、焊接、抓取以及微操作等方面得到越来越多的应用。然而，现阶段可实际应用的方案主要面向特定的标定环境、模型参数已知，机器人操作是编码定式的，不具备模型未知条件下的自主操作能力，特别是当面向未来的刚-柔-软体共融机器人时，其柔型结构造成的运动模型及参数的变化与不确定性，必然使现有确定模型的研究方法失效。因此，无模型（目标几何模型，手眼标定模型，机器人运动模型）、非结构环境下的自适应操作对机器人提出了新挑战，是机器人手臂(尤其柔型手臂)视觉伺服控制研究的难点与前沿问题，不断深入对非结构环境下、无模型的机器人手/臂视觉伺服控制的研究具有重要的理论和现实意义。 在非结构自然环境下使机器人像人一样协调自适应操作是当今机器人研究领域的一项尚未实现但又令人感兴趣的研究工作。从理论上看，非结构自然环境下实现机器人柔性操作，就当前研究依靠单一的控制器设计是困难的。因此，本项目借鉴人的手眼协调操作是自适应学习过程，涉及智能进化和行为优化，将随机动态规划理论，结合约束规则与最优化控制，探索一种变参手眼关系，实现机器人在非结构自然环境下的自适应操作。 二、前期研究基础 研究团队一直致力于机器人视觉反馈控制的研究。在基础理论研究上，针对无标定视觉伺服控制方案与设计，均提出了一些新型方法，有扎实的理论基础和知识积累，并不断跟踪和深入在无模型视觉伺服控制的方面研究和前沿问题。目前，已经着手在无模型视觉伺服的可靠性、稳定性控制方面做了充分的探索工作：针对机器人无标定全局稳定操作问题，研究了一种鲁棒卡尔曼滤波(RKF)合作Elman神经网络(ENN)的全局稳定视觉伺服控制方法；提出了一种基于网络辅助尔曼滤波状态估计的无标定视觉伺服方法，提高伺服系统的鲁棒性。同时，立足机器人发展前沿，建立了多模特征深度学习抓取系统，在无结构环境下实现了机器人智能抓取与定位。 已发表的与项目相关的主要论文有： [1] 仲训杲,徐敏,仲训昱,彭侠夫.基于多模特征深度学习的机器人抓取判别方法.自动化学报,2016,7(42), pp:1022-1029. (EI) [2] Xungao Zhong, Xunyu Zhong and Xiafu Peng. Robots Visual Servo Control with Features Constraint Employing Kalman-Neural-Network Filtering Scheme. Neurocomputing, 2015, 151(3), pp:268-277 (SCI)  [3] Xungao Zhong, Xunyu Zhong and Xiafu Peng. Robust Kalman FilteringCooperated Elman Neural Network Learning forVision-Sensing-Based RoboticManipulation with Global Stability. Sensors, 2013, 10(13), pp:13464-13486. (SCI) [4] Xungao Zhong, Xiafu Peng, Xunyu Zhongand Lixiong Lin. Dynamic Jacobian Identification Based on State-Space for Robot Manipulation. Applied Mechanics andMaterials, vols. 475-476 (2014)pp: 675-679.(EI) [5] Xungao Zhong, Xiafu Peng, Xunyu Zhong and Xueren Dong. Multi-Channel with RBF Neural Network Aggregation Based on Disparity Space for Color Image Stereo Matching. IEEE 5th International Conference on Advanced Computational Intelligence (ICACI), 10(2012) PP:620-625. (EI) [6]XUNGAO ZHONG, XIAFU PENG, XUNYU ZHONG. NEURAL-BAYESIAN FILTERING BASED ON MONTE CARLO RESAMPLING FOR VISUAL ROBUST TRACKING. Journal of Theoretical and Applied Information Technology, 2013, 2(50), pp: 490-496. [7] Xungao Zhong, Xiafu Peng and Xunyu Zhong. Severe-Dynamic Tracking Problems Based on Lower Particles Resampling. TELKOMNIKA Indonesian Journal of Electrical Engineering. 2014, 12(6), pp:4731-4739. [8] Xunyu Zhong, Xungao Zhong and Xiafu Peng. Velocity-Change-Space-based Dynamic Motion Planning for Mobile Robots Navigation. Neurocomputing. 2014, 143(11), pp:153-163. (SCI) [9] Xunyu Zhong, Xungao Zhong, Xiafu Peng. VCS-based motion planning for distributed mobile robots: collision avoidance and formation. Soft Computing,2016,5(20), pp: 1897-1908. (SCI) [10] 仲训杲,徐敏, 仲训昱, 彭侠夫. 基于雅可比预测的机器人无模型视觉伺服定位控制, 控制与决策, 已在线发表, 2018. [11] 仲训杲,徐敏, 仲训昱, 彭侠夫. 基于图像的机器人非标定视觉反馈控制全局定位方法, 厦门大学学报(自然科学版), 已录用, 2018. 三、应用技术成果 （一）基于多模特征深度学习的机器人抓取判别 研究了多模特征深度学习及其在机器人智能抓取判别中的应用，该方法针对智能机器人抓取判别问题, 研究多模特征深度学习与融合方法. 该方法将测试特征分布偏离训练特征视为一类噪化, 引入带稀疏约束的降噪自动编码 (Denoising auto-encoding, DAE), 实现网络权值学习; 并以叠层融合策略, 获取初始多模特征的深层抽象表达, 两种手段相结合旨在提高深度网络的鲁棒性和抓取判别精确性. 实验采用深度摄像机与 6 自由度工业机器人组建测试平台, 对不同类别目标进行在线对比实验. 结果表明, 设计的多模特征深度学习依据人的抓取习惯, 实现最优抓取判别, 并且机器人成功实施抓取定位, 研究方法对新目标具备良好的抓取判别能力. （二）无标定视觉伺服解决方案及其机器人操作应用 研究了无标定视觉伺服方法及其在机械臂任务操作中的应用。首先提出视觉伺服目标：假设机器人或者摄像节的模型参数未知或者部分未知，视觉伺服的目标是使用摄像节作为传感器，引导机械臂运动，使当前图像特征收敛到期望图像特征，从而完成定位或者跟踪的任务。 手眼协调关系描述。关节图像雅克比矩阵定量描述了机械臂关节变化引起图像特征变化，它是关节-图像映射的局部线性化矩阵。 建立图像雅克比的在线估计器。将关节图像雅克比矩阵的每一个元素作为辅助系统的状态，建立辅助系统的状态方程；摄像机提取到的图像特征作为测量值，建立辅助系统的观测方程。根据Kalman滤波器理论，我们设计了对关节图像雅克比的在线实时估计算法。 构建基于图像矩的目标函数。为了避免传统的基于点特征的缺陷，例如点特征的标记、提取与匹配过程复杂且通用性较差问题。构建基于图像矩的图像特征向量完成视觉伺服任务，来提高视觉伺服系统的稳定性和可靠性。 四、合作企业 厦门万久科技股份有限公司是一家集销售、软件研发、技术服务、加工技术整合为一体的高新技术企业。目前公司的经营范围涉及CNC软件开发及数控系统销售、CNC控制零件销售及专业维修；工艺优化、机台升级与技术改造、工程配电与软件优化、专用机控制系统开发、多轴机的设计与开发、机台精度检测与校正优化服务等。公司是国际知名生产制造企业——富士康的产品供应商和技术服务商。    

研发阶段/n基于机器视觉技术的干香菇等级自动分选系统与设备 技术简介：　　香菇生长过程中，在适宜的温度、湿度、光照、风速和温差条件下，表皮细胞与肉质细胞分裂不同步，生长速度过快的肉质细胞胀破表皮细胞，使菌盖龟裂形成褐白相间、菊花状的花纹，因而形成花菇。香菇可分为天白花菇、白花菇、茶花菇及光面菇。其中以天白花菇价值最高，与普通光面菇相比，价格可相差5-8倍。　　我国是香菇生产大国，香菇分级加工属于劳动密集型环节，长期以来依靠人工肉眼进行香菇颜色、形状、厚薄分级及破损、畸形、霉变香菇分级。

现代高速计算机的计算能力已达到惊人的程度，但计算机视觉系统却无法指导诸如过马路之类对  人来说非常简单的视觉任务。本成果模拟人眼选择性关注视觉场景中显著变化区域的模式，提出一种  图像中不同区域视觉显著程度的检测方法，从而达到提高计算机图像分析效率的目的。

本发明公开了面向大规模图像视觉特征的多维倒排索引与快速检索算法，包括：利用图像的视觉特征训练增强型残差量化所需的多层码书，并利用所训练的码书构建多维倒排索引；根据已训练完成的码书，对图像视觉特征进行量化和编码，同时根据计算得到的编码将其插入到倒排索引中对应的倒排列表；利用查询图像视觉特征对所构建的多维倒排索引进行查询，获得查询候选集；利用自适应超球体过滤对查询候选集进行优化，对过滤后的查询结果排序，从而完成图像视觉特征的检索。本发明的方法通过对图像特征进行量化和编码，提高图像特征的量化效率；利用所生

本发明公开了一种基于机器视觉的浮法玻璃缺陷在线检测装置。光源为红色发光二极管，光源柜位于被测玻璃下方，光源柜顶部狭缝与玻璃的行进方向垂直。摄像机组位于被测玻璃上方，控制柜内设置有客户机组、工业交换机和信号滤波器。客户机组设置有 n 台带图像采集卡的客户机，客户机分别与摄像机组中的摄像机连接，信号滤波器分别与光电编码器和各客户机相连，光电编码器安装在被测玻璃上。打标机位于被测玻璃的上方，打标机与服务器相连，服务器控制打标机工作，并将缺陷信息录入产品缺陷数据库，并输出统计报表。本发明装置能够对浮法玻璃生

研究内容及用途 ：焊接机器人是焊接自动化发展的主要方向，在汽车 制造、工程机械等产业已有广泛的应用。本项目用半导体激光器作为主动 光源，柱面透镜组产生结构光片， ICCD 摄取光纹图样送计算机、经高速 数据采集、数值滤波等运算，给出焊缝位置信息，送运行机构实现智能控 制．《弧焊机器人结构光三维视觉传感器》外型尺寸 40x 70xll0mm ，距焊 件 80mm 处产生线长 30-40mm，线宽 1mm

本发明公开了一种基于视觉感知特征的光谱降维方法及系统，包括构造综合人眼视觉色度特性和光 谱特性的权函数 w(λ)，利用构造的权函数 w(λ)计算任意光谱样本集 S 的权函数 Siw(λ)，对样本集的权函 数 Siw(λ)进行均值化处理，得到样本集均值权函数矩阵 Wfv，构造用于均值权函数 Wfv 平滑优化模型及 约束目标函数，利用优化目标函数 ObjFunc 对平滑优化模型进行约束，确定权函数矩阵 Wfv 最佳平滑优 化函数参数 n 值，利用确

浮选技术是目前矿业中矿物分选主要采用的工艺方法。传统的浮选控制过程是通过各种测量仪器，分析测量矿物的品位、浮选回路中的pH值、药物浓度等参数，根据分析得出的数学模型来调整加药量，以使浮选过程处在最优状态下。但实际上，由于浮选过程十分复杂，影响浮选过程的因素非常多，所获得的数学模型并不能和实际很好吻合，因而控制过程一般并不能处在最优状态下。这是浮选控制过程的