自然场景视觉感知与理解是人工智能的前沿热点，其主要任务是对场景中的视觉要素进行认知，进而推断出其中包含的场景语义。IMAGINE实验室近年来相继从场景构成分析、场景内容推理、场景结构建模等角度对这一问题展开了系统研究，着重探索了融合先验建模与深度学习的自然场景视觉理解这一问题。大数据具有规模大、种类多、产生速度快、有价值数据密度低等特点。对大数据信息分析具有重要意义，也是目前研究的热点，其主要任务是利用数据分析的方法从大数据中获取有价值信息。IMAGINE实验室近年来结合深度学习前沿技术和传统数据分析方法进行数据分析和预测，并在海关大数据分析项目和国网电力冰风灾害预测项目中进行应用

01. 成果简介 本成果涉及一种多模态触觉感知装置，属于机器人传感器技术领域。与人类相似，机器人感知外界环境最真实、稳定、便捷的方式便是通过机器人手触摸，机器人手的感知能力决定了机器人是否能够正确认知外界环境以及机器人的操作精度、成功率等。在新一代机器人手中，传感装置已逐渐趋于阵列化、多功能化和集成化。目前常见的触觉传感器有压阻式、电容式、光电式等，它们都存在密度难以提高、电路处理复杂等问题。为了克服以上不足，近年出现了基于视觉的触觉传感装置，具有结构简单、信息丰富等优势。目前基于视觉的触感装置仍存在性能提升空间。 本项目将感温变色油墨材料应用于触感装置，感知机器人操作过程中的温度[1]。同时提出一种基于微视觉的触觉三维力检测方法，通过采集触觉接触区域内弹性体的形变图像的变化，采用一系列图像处理方法，并且使用神经网络拟合的技巧，定性并且定量的刻画物理世界中的触觉、滑觉等，从而提供了一种多模态触觉感知装置，可以得到三维接触力、接触物体表面的温度及纹理等多种模态信息[2]。本装置打破了传统触觉感知装置单模态信息采集的现状，可在同一感知装置中集成受力、纹理、温度等信息的测量，检测触觉、滑觉、压觉三维接触力，获得高精度的接触纹理信息，实现了多模态信息的测量，并将这些信息综合到对一个物体的识别、抓取操作中，使机器人更加智能化、人性化。本装置具有实时性好，检测稳定，检测误差小，检测精度高的优点。 图1. 基于微视觉的多模态触觉感知装置结构图图2. 结合多模态触感装置的机械手02. 应用前景 本成果技术可应用于工业机器人、智能机器人、人机协作、医疗康复等领域，应用前景广泛。03. 知识产权 本成果核心技术已申请发明专利3项。04. 团队介绍 项目团队致力于研究具备自主决策和学习能力的机器人操作技能学习系统。团队包括孙富春、方斌、刘华平、宋亦旭四位教师，专注智能机器人灵巧精准操作研究，研制了拟人触觉的传感装置、多模态穿戴交互装置、残疾人假肢灵巧手、仿人感知灵巧手和变刚度软体手，在本领域发表论文40余篇，申请专利20余项，获得IROS2016机器人灵巧操作比赛冠军、IROS2017服务机器人操作比赛亚军、WRC2016最佳科技创新奖等。同时团队和河北清华发展研究院合作成立了人工智能及机器人研究中心，共同推动智能机器人的产业化发展。05. 合作方式 技术许可。06. 联系方式 邮箱：liuyi2017@tsinghua.edu.cn， fangbin@tsinghua.edu.cn

研究意义1. 视觉感知是高铁、自动驾驶车辆、无人航行器等自动化设备实现环境感知的重要手段。2. 对运动状态下产生的图像模糊进行复原是计算机视觉领域的重要研究内容。3. 运动模糊对于基于视觉的目标检测算法的检测能力具有显著影响。 研究目标 本研究相机在直线运动状态下前进速度与目标检测算法在产 生的模糊图像上检测能力的关系。通过实验进行具体关系的 研究与分析。对模糊图像应用合适的去模糊算法，观察并分 析去模糊后目标检测能力的变化。

Anter是以安全协作、自主运动、智能感知、行为决策为核心功能的多模态感知复合机器人。她开创了机器人协作、运动、感知决策的柔性工作模式，摆脱传统机器人位置固定、任务固定的结构化环境工作方式，适用于科研教育、工业移动作业、物流分拣、仓储管理、安防巡检、医疗服务、智慧零售等领域。

基于图像处理和机器学习进行人眼特征提取与分析，建 立基于特征模型与外观模型融合的智能视觉感知机制，并通过 海量大数据分析和建模计算，提出了智能视觉感知驱动的眼动 注视点计算方法，解决了跨设备坐标系空间无缝转换和多用户 标定模型共享等关键“卡脖子”技术问题。此外，提出基于深 度学习的运动想象脑电分类方法，面向人-机器人交互开发了 智能脑机接口与应用系统。 ：

"自然场景视觉感知与理解是人工智能的前沿热点，其主要任务是对场景中的视觉要素进行认知，进而推断出其中包含的场景语义。 IMAGINE实验室近年来相继从场景构成分析、场景内容推理、场景结构建模等角度对这一问题展开了系统研究，着重探索了融合先验建模与深度学习的自然场景视觉理解这一问题。"

微创机器人外科及触觉感知国家自然科学基金课题 微创外科(MIS)与开放外科手术相比，具有切口小、疼痛轻、出血少和恢复快等优点，广泛应用于胸腹、脊柱、心血管和泌尿外科等领域 微创机器人外科(MIRS)由机器人替代医生操控手术器械，克服医生人为因素带来的风险，提高手术的安全性和灵巧性，改善手术精度和质量 触觉力信息缺失导致过大的操作力和器官组织创伤，是当前微创机器人外科面临的共同问题。项目利用光纤技术，研究微型触觉力传感器及其在器官组织类型和边界鉴定、机器人反馈控制应用中涉及到的一系列挑战性问题。获得的相关理论与技术，有望消除触觉缺失引起的手术风险，提高微创机器人外科手术的精度、稳定性和质量。

本技术采用大数据智能分析算法，处理高速列车运行过程中产生的大量数据，智能辨识高速列车运行状态。以高速列车外部受流装备为对象，从受电弓状态实时感知与能耗分项统计两个角度，展示非侵入式智能感知技术在高速列车的最新应用。 1.受电弓状态实时感知 获取受电弓的原始信号并进行预处理，获取多个原始数据向量；对原始数据向量进行多尺度分解，从每个子频带提取特征量并构建时序特征向量；将特征向量和受电弓故障的分类标记作为特征映射数据，训练故障识别预判机制；以原始数据向量和故障类型分别作为输入输出数据，训练故障识别模型。对受电弓的实时电流信号进行处理，得到原始数据向量和特征向量，故障识别预判模型根据特征向量对受电弓进行故障预判，若有故障，故障识别模型根据原始数据向量对受电弓的故障类型进行识别。实现列车运行状态下，对受电弓进行实时在线监测与故障类型识别，且无需在列车外部及路网沿线另外加装硬件设备。 2.列车能耗分项统计 通过大数据智能分析方法，结合位于电路关键位置部分传感器提供的实时数据，可对动力系统、空调系统、照明系统、厨卫系统、用户交互系统等不同功能模块，提供非侵入式能耗分项统计。统计结果能为铁路管理部门提供参考，优化列车运行管理模式，改进各系统的运行机制，降低高速列车运行能耗。 图1 高速列车受电装置 图2 受流装置故障特征映射及辨识方法 图3 不同功能模块设备的提取特征 图4 不同设备的分项能耗统计

围绕无人驾驶、智能制造领域，本项目针对传统机器视觉难以同时兼顾大视场、高分辨、实时性的技术瓶颈，从源头打破常规成像规则，鉴于昆虫复眼具有大视场高灵敏的优势，以及人眼视觉具有变分辨率和冗余数据压缩的优势，将两者相结合，提出一种复合仿生三维成像感知方法，通过突破变分辨扫描发射、多通道并行接收、图像重构与成像感知算法等关键技术，形成了具有体系化的前沿技术成果，研发出了诸如收发探测模块，多通道仿生曲面相机系统、在线光电检测系统等实物成果。核心技术受到国家、省部级项目资助5项。

本发明公开了一种机电式裂缝感知器，包括控制模块、编码器 和裂缝放大感知模块，以及显示模块和/或外部接口。控制模块分别连 接所述编码器、显示模块与外界接口(可接 RFID)；裂缝放大感知模块 包括光电传感器和机械式裂缝放大器。机械式裂缝放大器可以将微小 裂缝宽度放大，放大后的裂缝宽度经由光电传感器感知，再经编码器传送到控制模块；控制模块用于接收编码器传输的数据，并处理后传 输至外部接口，同时传输至显示模块显示。将本发明置于待测结构部 位，借助裂缝放大和实时感知，并将数据传输给外部接口，本发明能 方便现