可以量产/n该项目是提供一个大数据处理框架和处理平台，具备较强的大数据 处理能力。 该项目需求广泛，将产生较大的经济效益。

项目简介 本成果基于高性能计算技术和大数据存储与处理技术，避开传统依赖单个计算机或 集群计算的缺点，应用先进的分布式文件系统和并行计算架构，使用普通的 PC 级机器构 建高性能的大数据处理平台。属国内领先项目。该成果处于中试研究阶段，并申请了专 利，专利号：ZL201010510071.8。 性能指标 （1）能利用 PC 级机器实现高速的大数据处理。 （2）能高效存储和管理海量的数据。 （

1.痛点问题 多年来，工业大数据领域大数据分析算法和模型都是基于大量代码实现，效率低，难以实现快速开发。同时，工业大数据处理分析模型处理过程多由多个算法通过一定的计算流程构成，计算流程复杂多变，迫切需要一款支持灵活定制和快速开发的处理分析技术来支持工业大数据处理分析。 2.解决方案 清华数为交互式大数据处理与分析技术针对工业大数据处理与分析任务的交互式探索、建模、调试和应用而设计。根据CRISP-DM设计原则，一般大数据处理与分析分为业务理解、数据理解、数据准备、建模、评估和部署等阶段，各阶段相辅相成，形成一个大数据处理分析生命周期。 图1.交互式大数据处理与分析技术设计思想 本成果技术基于上述CRISP-DM的设计思想而设计，完全支持大数据处理与分析生命周期。该技术的特点包括： （1）内置数百种通用和专用的大数据分析算法和模型，并提供了按需扩展机制，用户可以按照自己的需要随时添加和扩充，以支持客户特定的大数据应用需求； （2）支持拖拽方式构建处理与分析流程，完全图形化设计大数据处理分析计算流程，并能在设计过程中进行单步/多步运行调试，查看中间结果，实时调整运行结果，以获得用户期望的处理分析结果； （3）支持机器学习模型训练及使用，内置了机器学习模型训练框架，一般机器学习模型在该技术的支持下，可以实现快速训练，训练结果可支持进一步的大数据处理与分析； （4）支持数据处理与分析流程参数化，在其提供的内部数据处理与分析算法模板中，用户通过算法模板可以开发面向Java、Python的算法，并集成和扩展到该技术的算法集合，实现按需定制处理分析； （5）支持数据画像和学习模型可视化，以图形化的方式定制数据画像的方法模型，并以二维和三维图表的形式展示给用户； （6）支持批处理、流处理和流转批处理三种处理方式； （7）按需定制运行计划与资源有效利用，用户可设置任务执行计划，任务执行计划定期运行，以实现周期性处理分析，方便获得持续的运行结果。 清华数为交互式大数据处理与分析技术面向多种用户角色，包括数据工程师、数据分析师、数据科学家、算法工程师、运维工程师、代码工程师等。采用分层设计，分为客户层、服务层、计算层。 客户层包括流程建模调试工具，用户可用工具图形化拖拽式设计处理与分析计算模型，并可进行调试和查看中间结果；管理工具，针对服务层所调用和访问的计算框架或者外部系统进行管理，包括对于数据源、计算环境、存储环境等的管理工具。 服务层主要包括流程调度服务，即负责按照用户所设定的工作计划来定时调度执行计算模型；执行服务，是负责执行处理分析计算的模型和算法的服务；计算资源管理服务负责管理执行服务中所能集成的所有的服务，如计算框架和存储设施等。 计算层是执行服务在执行处理分析算法和模型中所访问的外部服务，包括计算组件或框架，以及持久化存储组件或者系统等。 图2.交互式大数据处理与分析技术架构 本成果的交互式处理与分析技术较好地解决了工业大数据处理分析工作中所遇到的问题和痛点，并且能够广泛应用于多个行业和领域中，如能源、矿山、医疗器械、装备制造业、消费品制造业、工程机械行业等。 合作需求 期待与工业、医疗等领域企业紧密合作，获得各领域的实际需求，促使该技术不断完善和升级迭代，走向成熟。 未来将在工程机械行业、医疗机械行业、矿山行业、装备制造行业、互联网电商行业等寻求更多的成果转化、深度合作机会，在合作基础上，推动上述行业领域实现数字化转型和智能化升级，为国家实现“双碳”目标做出清华贡献。

成果简介：当前已经完成成果：已完成星上实时云剔除、关键区域/目标的快速提取算法研究；实现了光学遥感星上处理SoC芯片功能样片研制和测试，单片可实现155Mbps输入速率的实时处理，功耗小于600mw。 2015年完成成果：完成高性能、抗辐照星上光学遥感数据SoC处理器研发，并基于自主芯片构建星上并行实时处理原型样机，实现星上90%以上实时云剔除、关键区域/目标的快速提取等智能实时处理。 项目来源：民口863项目 技术领域：地球观测与导航技术

小试阶段/n该平台继承了目前主流计算框架和编程模式，尤其是内存计算框架， 通用性强、时效性高。该平台从根本上解决了目前大数据处理中耗时过 长的问题，通过优化大数据处理系统的任务管理和内存管理，对用户提 供主流的简洁编程接口，与目前国际上主流系统对比，该平台可以大量 减少内存占用，最高性能提升可达 41 倍，。该平台同时从根本上解决了 大数据系统自动管理内存的开销，减少 90%以上的开销。该技术平台是一 种通用数据处理平台，不影响上层生态应用，可以适用于各类大数据生 态系统，包括机器学习与深度学习领域

本技术支撑了我国遥感卫星从地表监测到人类活动监测的跨越，总体上达到了国内领先水平，在夜光遥感载荷设计定标处理、星基导航信号增强方面处于国际领先水平。1）研制了高灵敏度、高动态范围、高几何辐射质量的夜光遥感微小卫星。提出了星载耦合杂光规避、联合增益处理等模型方法，构建了夜光遥感器在轨几何辐射定标技术，设计的夜光相机在灵敏度、动态范围、几何辐射质量等方面优于DMSP/OLS、NPP/VIIRS等国际同类传感器。2）首创低轨卫星对GNSS的信号增强。提出了低轨卫星对GNSS进行

本发明公开了一种面向数据处理的能耗优化数据集分配方法， 包括：把待分配数据集按照 IOPS 属性值从大到小依次排序形成待分配 数据集队列，数据中心服务器也按照 IOPS 能力从大到小依次排序构成 待分配服务器队列；同时创建已分配服务器队列和各个数据中心服务 器的已分配数据集队列，从上述待分配数据集队列头部取出第一个待 分配数据集，同时判断已分配服务器队列是否为空，若已分配服务器 队列为空，则从待分配服务器队列头部选取

本发明公开了一种分布式 GNSS 实时数据处理方法及系统，包括步骤:在接收机端，首先，对原始 观测数据进行周跳探测，获得周跳时间信息;然后，将周跳时间信息和原始观测数据编码后发送至服务 器端。在服务器端，首先，对编码数据进行解码获得观测数据和周跳时间信息;然后，根据周跳时间信 息进行周跳判断;最后，根据周跳判断结果进行精密差分产品解算，并保存当前历元解算获得的滤波器 状态参数信息，当解算中断，服务器端重启后，采用存储的滤波器状态参数恢复中断历元下的滤波器， 继续解算中断前的解算状态。本发明方法避免了服务器端中断重新时的初始化，可为用户提供连续、一 致的精密差分产品，可保证高精度定位服务。

本发明公开了一种基于图数据处理系统的数据并行访问方法， 所述方法包括以下步骤：S1、载入图数据至内存，将图数据各节点平 均分配至各处理器上并行处理；S2、各处理器调用图算法并行处理分 配至自身的图数据节点，处理过程中对图数据节点进行原子性读写； S3、将经图算法处理后的所有图数据节点写回至硬盘形成完整图数据， 判断所有图数据节点是否均收敛，如果收敛，则流程结束；如果不收 敛，则返回步骤 S1 进行下一次循环直到写回至