本项目建立了一个拟人化的人机交互系统，实现基于虚拟现实技术的手语合成、基于视觉感知的静态手势识别、基于图像和视频序列分析的表情识别以及基于正侧面相片拼接的表情合成等功能。获得8项国家计算机软件著作权，撰写了1部人机交互专著，获得2008年深圳市科技创新奖（第一），《手语翻译系统》和《手语教学系统》分别被评为2007年和2008年国家重点新产品，构建了《中国标准手语库》（共5587词）。 项目成果应用于智能人机接口、数字娱乐等领域。中央电视台一套《科技博览》作了题为“手语手机”的专题报

复杂信息系统人机交互数字界面已成为操作者获取信息、知识推理、判断决策的重要手段和操作依据。复杂信息系统人机交互界面在军事、信息安全、地理交通等诸多重要领域发挥着不可替代和非常重要的作用。该项技术首次综合信息编码、生态界面、认知摩擦、认知负荷和态势感知等关键理论和技术，构建了复杂系统信息流的功能结构模型，分析了复杂系统要素之间的层次结构和内联属性的复杂特征，提出了复杂系统“界面信息-视觉认知”映射模型的知识表征与规则推理，揭示了复杂系统数字界面从视觉信息认知到行为决策之间的映射关系，建立了复杂系统数字界面信息区块布局的空间与结构约束机制。本项技术首次融合脑电、眼动等多维度生理测评技术，提出了复杂信息系统数字界面的可用性评估体系。通过高时空分辨率的脑成像技术与眼球追踪技术相结合，共同揭示了人类在复杂系统数字界面认知各阶段的认知特性，分析了认知失误、认知困难等问题的生理学根源。该技术基于脑电ERP、眼球追踪等多维度融合的生理测评方法，对设计优化方案进行可用性评估，由此提出复杂信息系统数字界面设计的量化评估体系，提出了可实施的复杂系统数字界面设计优化方案。项目成果已成功运用到海、陆、空、航天等信息化装备上，全面提升了信息化装备的人机交互水平，保障了信息化装备整体性能和水平的充分发挥，提高了信息化装备操作绩效。取得突出成绩。应用前景广阔。

突破了人机交互遥操作机器人的力感知、力反馈、力控制三大关键技术，研制成功人机交互遥操作的关键支撑设备，填补了国内空白。

本系统基于北京航空航天大学模式识别与人工智能实验室的多模情感识别与情感表达融合技术，开发了基于3D仿生代理的多模情感人机交互系统。该系统具有情感感知与表达能力，能够通过采集用户的视音频信号，实时感知用户表情和语音中包含的六种基本情感信息（高兴、悲伤、惊讶、害怕、生气、嫌恶），识别准确率达到85%，并通过3D仿生代理生动的语音和肢体动作与用户进行自然和谐的对话交流。系统消耗资源少，适合移动平台；融合表情和语音进行决策级情感识别，识别率高；采用3D仿生代理，交互界面生动自然。该系统及相应情感感知技术可应用于新一代情感人机交互界面。本成果已获得授权发明专利2项，受理发明专利15项，申请国际发明专利2项。授权发明专利如下：一种鲁棒的人脸表情识别方法，ZL200810223211.6；汉语语音情感信息的提取及建模方法，ZL200810104541.3。

一种基于单片机人机交互模块的飞锯机控制系统，它包括第一编码器、 第二编码器、可编程控制器PLC 和调速控制器，还包括人机交互模块HMI 和双极性模拟量输出模块，所述的第一编码器采集速度信号，第 一编码器 的输出端与PLC的信号输入端相连，PLC的信号端与HMI的控制信号端 相连，PLC的脉宽调制信号 输出端与双极性模拟量输出模块的信号输入端 相连，双极性模拟量输出模块的输出端与调速控制器的输入 端相连，调速 控制器的输出端控制飞锯机的电机速度，飞锯机的电机与第二编码器的相 连，第二编码器的反馈信号输出与PLC的反馈信号输入端相连。本实用新 型具有可靠性高、成本低的优点。

本发明公开了一种基于射频识别的人机交互系统及方法，人机 交互系统包括交互屏、协调器、读写器、卡套以及主机，交互屏由依 次连接的触摸屏、显示屏和射频天线层构成；协调器与天线层连接， 读写器与协调器连接；卡套包括指套以及位于指套中且携带有信息的 卡片，主机与读写器和交互屏连接，用于控制交互屏准确定位触点位 置、控制触点位置附近的天线开启、控制读写器检测卡套中卡片的信 息以及将触点和卡片信息绑定。本发明通过触摸屏感知用户触

感官控制的人机交互(human-machine interface, HMI)可以在人和外界 设备之间建立新的自然交流途径，有利于提高人们的生活品质，例如，有意识 地眨一下眼睛，即可开/关电灯。传统的采用眼为微弱的体表生物电信号，却 忽略了眨眼引起的太阳穴附近皮肤的微小运动。本项目采用摩擦纳米发电技术 (triboelectric nanogenerator, TENG ),设计一种微运动 / 位移传感器 (mechnosensationalENG, msTENG),对于该微小运动的探测有极高的灵敏度 (数百倍于同步眼电信号)，并且相对于传统的眼电探测电极具有更好的耐久 性和稳定性。通过与眼部巧妙的附着方式，获取高灵敏度和持久稳定的眨眼 信号采集，并将此眼部微动传感器用于人机交互，构建了眼动控制家用电器 和眼动虚拟打字界面等人机交互系统。这一研究的开展，给感官控制人机交 互领域注入了新的设计理念，使得通过眨眼来控制外部设备有希望从实验室走 向我们的日常生活。 关键技术： (1)  基于摩擦纳米发电技术的眼部微动传感器设计(包括工作模式的选择, 摩擦材料、电极材料的选择及加工等)以及器件制作工艺水平，都将直接影响 传感器的灵敏度、稳定性、美观舒适性，这在整个系统中是最为关键的技术。 (2)  眼部微动传感器在眼部周围附着方式的设计，需要保证器件的灵敏度、 信号的稳定性和操作的方便性，并考虑使用上的舒适美观。这是这项技术能否进 入人们实际生产生活的重要因素之一。 (3)  基于眼部微动传感器的人机交互界面的开发，要求功能适用、界面友 好、操作简易、性能稳定，便于正常人群和闭锁综合征LLock-in，)患者等特 殊人群的使用，这是这项技术具有重要应用前景的关键技术之一。创新点： (1)     首次将基于摩擦电和静电感应耦合的自驱动高灵敏传感器作为替 代传统生物电传感器应用于感官控制的人机交互系统，为人工智能领域注入了 新的传感器设计理念。 (2)     将基于摩擦电和静电感应耦合的自驱动眼部微动传感器巧妙地固 定在眼镜架上，并做到位置可微调，对比传统的眼电传感器将多电极贴在眼部 附近，不仅美观舒适、成本低廉和操作简单，而且采集的信号灵敏度高，信号 输出稳定可靠。 (3)     摩擦电和静电感应耦合的传感技术，采用的单电极信号采集，直 接采集微运动引起的电信号，从信号采集源头上突破了传统的生物电信号采集 弊端(采集多电极间势差变化信号)，可提高传感器的灵敏度数百倍。因此，避 免了传统眼电系统中精准识别算法的开发和严格操作技术的培训等。市场及经济效益分析： 基于摩擦纳米发电技术的微动传感器制作成本低廉，因其高灵敏度和 可靠性带来的后端设备简化，以及其操作的简易性和侃戴的美观舒适性，都 将促成该项研究成果走出实验室服务于广大群众，特别是渴望与外界因此具有非常大的市场价值。恢复交流的特殊疾病患者们，而这一群体在中国高达20 万人并有逐年上升的趋势。

本发明公开了一种面向人机交互的“1”手势识别方法，可应用于手机、电脑、电视等电子产品的操控。该方法步骤如下：人脸检测，拳头检测，肤色标记，亮度计算。本发明在手势识别过程中，将摄像头采集到的 YUV 视频帧图像中的亮度信息 Y 与颜色信息 UV 独立开来，先利用 UV 通道信息进行肤色的点的采集以及标记，再利用 Y 通道亮度信息进行进一步的判断；其中 UV 通道信息将肤色点与非肤色点区分开，Y 通道信息将与肤色点相近的

目前第一代完整的呼吸音采集设备已研发完毕，完全实现呼吸活动的柔性无感持续智能监测评价和适应多场景下交互设计需求，提高医疗救护能力和应急救援能力，减轻医疗及养老行业人力与经济运营成本，创新引领社会与经济发展。 图1 技术路线 【技术优势】 (1) 基于驻极体薄膜的高灵敏度接触式压力传感器 目前用于呼吸音及心音监测的传感器大多采用较硬的基底，难以适应人体胸部曲线，不适合长期可穿戴使用。因此，本成果基于驻极体的自驱动压力传感器的自供能、响应速度快和灵敏度高等优势，设计了一种用于可穿戴式声音监测的高灵敏度柔性驻极体压力传感器，以实现对人体呼吸音与心音地长期、实时监测。 图2 部分成果展示 (2) 智能呼吸音监测分析预警平台 通过深入临床大规模收集心音和呼吸音样本、对病理性样本进行学习训练，对信号的模式识别进行研究匹配，采用人工神经网络、支持向量机两种识别模式，对病理性声音特征进行分析得出智能化参考病症分析。由于呼吸音信号的复杂性，同一种类型的呼吸音有不同人或是同一人在不同时间发出时，样本数据不完全相同，传统方法容错率与识别率极低。本成果将呼吸衰竭患者的呼吸音数据进行分类识别和特征标定，采用人工智能算法进行测试和集训，实现为大数据分析提供数据参考。 (3) 呼吸音智能监测预警系统的人机交互设计 通过分析多个智能呼吸音监测预警操作系统的使用场景、认知特点、输入和输出方式，归纳出它们在交互设计上的一般性的设计原则和设计缺陷。通过多学科的交叉，如人因功效学、设计语义学、设计美学、设计心理学等学科，进行了全面整体的交互设计研究。 图3 智能呼吸音诊断软件界面 图4 临床人员操作软件试用 【性能指标】

作为计算机视觉和模式识别领域中最为成功的应用之一，生物特征识别技术一直受到学术界和业界非常高的重视，生物特征识别技术应用领域非常广泛，比如法律执行部门、军事、政府部门、金融服务、游戏产业、医疗产业、高科技与电信产业、工业制造、零售业、旅游和运输业等。