研究背景：  大数据应用的多样化  需要的计算模型、数据模型多样化；  目前每类模型需要单独的开源系统来支持（如HDFS、HBase、Neo4j、MongoDB，Flink，Spark，Tensorflow等）。  多系统导致大数据分析平台非常复杂、效率低下。 研究目标： 研究和开发面向新型多计算模型融合架构的、高时效、可扩展的新 一代大数据分析支撑系统与工具平台FAST（Fusion-Architecture, Scalable, Time-efficient big data analysis platform）。 针对目前大数据分析平台复杂、效率低下的痛点，该系统具有三个  方面的优势：首先，这套系统采用融合架构，一方面实现关系、图、键  值、文档等多种数据模型的高效融合，另一方面实现批处理计算、流计  算的深度融合，并可以通过SQL扩展语言来进行多模型的统一查询，实现高效的跨模型查询。其次，对于复杂系统来说，时效性非常重要，这  套系统采用融合架构提高效率是实现高时效的基础，更重要的是，我们  对大数据分析从数据到用户进行了端到端的全栈时效优化。最后，对于  大数据应用来说，系统扩展性非常重要，本系统在资源层、存储层和计  算层进行了全面的扩展性优化。下面在融合架构、高时效和可扩展这三  个方面，分别详细介绍FAST系统的三个主要亮点。 融合架构 FAST系统的第一个亮点是融合架构，我们在技术方面的创新主要包  括多数据模型融合和多计算模型融合两方面。 多数据模型融合： 设计和研发了多模型数据管理与查询引擎，支持关系、图、键值、  文档等多种数据模型，实现了查询解析、查询优化、元数据管理、数据  分布等功能，将多种数据模型进行统一管理和深度融合。同时扩展了SQL语言，通过统一的查询接口支持对关系、键值、图、文档等数据进行独立访问或者跨模型查询。 经过试验，多模型数据融合查询，比Spark 2.3.4的查询时间能平均减少70.7%。目前spark等现有系统还需要手工编程方式来实现跨模型查 询，所以FAST系统在易用性上也表现良好，降低使用门槛，提高开发效率。 多计算模型融合： 在计算层实现了最常见的批处理计算和流计算深度融合，批流融合的核心方法是在系统内部实现批和流的统一表达，批是对有限数据集  的运算，流是对无限数据流的计算，我们设计了UCollection结构对批和  流数据进行统一表达，通过识别的bounded标志，来确定是批、流、或批流融合。有了统一表达，可以开展一系列融合优化来提升系统性能。 并且对上通过Unified API统一用户的批、流接口，实现二者在编程范式上的统一表达。对于批流混合的计算，融合架构系统的查询延迟比Flink 1.4.2能减少57%，吞吐量平均可以提升到6.72倍。 高时效 FAST系统的第二个亮点是高时效，即缩短大数据分析的时间消耗，  提高效率。由于大数据分析平台是一个非常复杂的系统，为了做到高时效，系统不能存在性能短板，因此需要对大数据分析的整个过程进行端到端的全栈时效优化。如图中所示，自下而上，需要在多模态存储、批流融合、机器学习、人工操作各层都进行优化。 对于多模态存储，面向应用负载和异构硬件特征进行自适应优化； 对于批流融合计算，在统一表达基础上，进行系列融合优化技术， 包括DAG优化、迭代优化、部署优化、操作符优化等； 在机器学习层面，进行模型优化、消息优化、梯度优化、概率优化 等来提高时效； 而且我们也考虑到大数据分析过程中用户人工操作的时效性问题，  通过智能地进行大数据分析方法和模型的推荐，来缩减人工操作的  时间。 可扩展 FAST系统的第三个亮点是可扩展，由于大数据应用规模很大，数据增速快，对系统可扩展性的要求非常高，为此我们在系统的资源层、  存储层和计算层进行了全面的扩展性优化。 在资源层，系统都部署在云计算的虚拟化资源之上，利用了云计算资源的弹性机制进行系统扩展。并在系统中实现了可伸缩调整模块，  能实时监控软硬件系统的状态，按照应用需求来自适应地进行弹性伸缩。 在存储层，分布式存储系统扩展性的关键在于分布式共识和一致性 协议（Raft），因此提出了KV-Raft、vRaft等进行Raft的扩展优化。 在计算层，我们扩展了机器学习模型的参数规模，使系统可以支持  到百亿级别的超大规模机器学习模型训练，并且性能方面有明显提  升。 亮点成果： 融合架构大数据分析平台目前已经在阿里巴巴双十一进行示范应用。  从2020年11月10日至11月16日一周的时间，在阿里的生产环境中，研发 的系统一直连续稳定运行，基于淘宝和天猫的实际用户信息进行大数据 分析，综合运用了本系统的存储、计算、机器学习等多个模块的能力， 累计进行了184亿件商品推荐。 同时在双十一期间，基于智能交互向导技术，也面向电子商务应用  的卖家提供了“生意参谋”应用，基于大数据分析，帮助卖家分析产品  销量变化的原因，以及促销的有效手段等。

2020年1月23日，国防科技大学系统工程学院与四川大学、电子科技大学共同组建新型冠状病毒大数据交叉学科研究平台，为新型流行病研究和防控贡献科学力量。 参与该平台组建的是国防科技大学系统工程学院吕欣教授牵头的大数据与复杂网络研究团队，该团队主要研究方向为大数据挖掘，应急管理与人类行为动力学分析，长期围绕地震、洪水、流行病等问题应用大数据技术开展应急救援工作，在海地地震与霍乱、孟加拉台风Mahasen、西非国家埃博拉、中国登革热等事件中得到广泛应用。 该团队基于新型冠状病毒大数据交叉学科研究平台，利用海量多源异构大数据，结合疫情发生发展规律，对人群流动及传播风险进行了综合建模和分析，为政府决策提供了参考依据。

近年随着测序技术的不断完善，生物领域积累了大量基因组、转录组、表观组学数据。怎样有效利用这些数据挖掘生物学新知识，是研究工作者在大数据时代面临的挑战。该研究以DNA甲基化测序数据入手，探索了大数据挖掘揭示生物学新知识的研究之路。翟继先课题组重新分析了公共数据库中来自不同实验室的约500余组Col-0型拟南芥DNA甲基化数据：通过比较单个突变体和多个野生型，鉴定了每个突变体中高置信度的DNA甲基化差异区域，进而分析了不同突变体间DNA甲基化差异区域的重合度，揭示控制DNA甲基化相关基因之间的联系。

采用层次化、模块化设计，整个系统由数据采集控制模块、数据传输系统、自动反馈系统和显示系统组成。服务器整合数据存入数据库，采用大数据分析技术建立专家系统， 并以此作为自动调控的标准。在自动反馈系统里采用三级自动控制技术，分别是单片机控制的模块级、嵌入式网关级和服务器级，三者相互独立，互为保险，并且均可以根据实时环境状况做出调节，并自动下达控制指令。显示系统由三部分组成，一是位于农业现场的显示屏，二是 PC 终端，三是基于安卓系统的移动终端，从而实现环境参数值的实时观测和控制，并实时指导农业生产。系统可

针对柴油机气态排气污染物遥感检测难题，提出了基于柴油机燃烧过程过量空气系数修正的遥感测试数据反演计算方法，从而实现对柴油车NO等气态排放物浓度实时检测，满足了国家遥感标准中对柴油车NO排放浓度检测要求。 一、项目分类 关键核心技术突破 二、技术分析 针对柴油机气态排气污染物遥感检测难题，提出了基于柴油机燃烧过程过量空气系数修正的遥感测试数据反演计算方法，从而实现对柴油车NO等气态排放物浓度实时检测，满足了国家遥感标准中对柴油车NO排放浓度检测要求。并针对国内遥感大数据提出了遥感大数据处理方法，分工况区域动态确定排放阈值，从而达到动态高精度筛查高排放柴油车的目的。在汽车排放遥感监测领域具有良好市场前景。

物联网可视化连接，大数据分析

本发明公开了一种用于大数据处理系统的内存数据集置换系统， 包括分析模块、信息监测模块、决策模块。分析模块用于对上层用户 程序进行逻辑分析，得出各运算阶段中生成内存数据集时的运算步骤 集合；信息监测模块用于对运行中的用户程序进行监测，并收集生成 内存数据集时的信息提交给决策模块；决策模块用于对收集到的信息 进行分析和排序，判断当前阶段是否需要对系统中的内存数据集进行 置换，在系统需要进行置换时确定需要移除的内存数据集并

项目建设了面向机电设备的寿命预测和维修大数据决策系统，可为城市轨道交通建设运维过程机电设备维护检修提供了一种新的解决方案。 基于自主技术构建了基于云+管+端的机电设备大数据采集传输存储分析平台。“端”是自主研发的支持边缘计算的安全可信终端；“管”是基于MQTT的扩展增强安全传输通道；“云”是基于HADOOP技术的工业大数据云平台。平台对机电设备生产经营相关业务数据、设备过程数据和设备外部数据的采集、清洗、集成、建模及应用过程提供全方位支撑，利用机器学习技术对设备剩余寿命可靠度模型和全生命周期成本模型进行了训练和优化，并形成指导性维修方案。 项目采用了自主知识产权的嵌入式安全数据终端和融合安全的传输协议，为保护用户隐私，增强系统可信提供了技术保障。 项目采用了智能边缘计算终端技术，可以根据用户的不同机电设备下载不同的检修预测模型进行预测分析，能够支持灵活的组网方式，适应于各种应用场景，节省用户投资。

研究背景及挑战:高精度无缝位置服务是智慧生活的关键技术之一, 也是实现以人为中心的智能情境感知技术基础。然而, 复杂城市峡谷(高楼、天桥、隧道)地区连续导航、室内外高精度无缝定位由于卫星信号频繁受到阻隔、室内布局动态变化等因素,实现连续高精度全空间定位存在诸多挑战。本科研团队研究内容:基于团队在 Wi-Fi, ZigBee, INS、图像、超声波、声音、RFID 等多种定位技术科研成果,研发高精度、低功耗、低成本、易部署的多源融合定位云平台,提供全时空位置服务及用户行为挖掘服务平台。融合定位云平台体系框架全时空定位服务平台上下文突破弹性导航软硬件架构及理论体系基于因子图多源融合定位算法科研基础:国家重点研发计划项目“自适应导航软硬件技术”、高精度高鲁棒性室内定位关键技术及装置研究(863)、无线传感网络定位技术研究(NSFC)、基于众包和群智计算的室内无线定位理论和方法 (NSFC)、自适应室内无线信号变化的低代价高精度定位技术研究(NSFC)等项目的支持下,已完成全时空融合定位云平台,以及用户行为挖掘大数据平台建设。 科研成果:1中国卫星导航定位科技进步一等奖2 获UbiComp交通模式识别比赛冠军3获阿里巴巴天池世界比赛冠军4 制定国家实时定位标准6项5 发表中科院一区顶级SCI期刊论文 10 篇6 获得国家发明专利授权 20项,申请国家发明专利 32项7 国际 IPIN2016 室内定位比赛第3名 成果应用案例:华为、三星、中国电信集成、华大电子、22所等

研究背景及挑战: 高精度无缝位置服务是智慧生活的关键技术之一, 也是实现以人为中心的智能情境感知技术基础。然而, 复杂城市峡谷(高楼、天桥、隧道)地区连续导航、室内外高精度无缝定位由于卫星信号频繁受到阻隔、室内布局动态变化等因素,实现连续高精度全空间定位存在诸多挑战。 本科研团队研究内容: 基于团队在 Wi-Fi, ZigBee, INS、图像、超声波、声音、RFID 等多种定位技术科研成果,研发高精度、低功耗、低成本、易部署的多源融合定位云平台,提供全时空位置服务及用户行为挖掘服务平台。 融合定位云平台体系框架 全时空定位服务平台上下文 突破弹性导航软硬件架构及理论体系 基于因子图多源融合定位算法 科研基础: 国家重点研发计划项目“自适应导航软硬件技术”、高精度高鲁棒性室内定位关键技术及装置研究(863)、无线传感网络定位技术研究(NSFC)、基于众包和群智计算的室内无线定位理论和方法 (NSFC)、自适应室内无线信号变化的低代价高精度定位技术研究(NSFC)等项目的支持下,已完成全时空融合定位云平台,以及用户行为挖掘大数据平台建设。   科研成果: 1中国卫星导航定位科技进步一等奖 2 获UbiComp交通模式识别比赛冠军 3获阿里巴巴天池世界比赛冠军 4 制定国家实时定位标准6项 5 发表中科院一区顶级SCI期刊论文 10 篇 6 获得国家发明专利授权 20项,申请国家发明专利 32项 7 国际 IPIN2016 室内定位比赛第3名   成果应用案例: 华为、三星、中国电信集成、华大电子、22所等