可以量产/n该项目是提供一个大数据处理框架和处理平台，具备较强的大数据 处理能力。 该项目需求广泛，将产生较大的经济效益。

项目简介 本成果基于高性能计算技术和大数据存储与处理技术，避开传统依赖单个计算机或 集群计算的缺点，应用先进的分布式文件系统和并行计算架构，使用普通的 PC 级机器构 建高性能的大数据处理平台。属国内领先项目。该成果处于中试研究阶段，并申请了专 利，专利号：ZL201010510071.8。 性能指标 （1）能利用 PC 级机器实现高速的大数据处理。 （2）能高效存储和管理海量的数据。 （

1.痛点问题 多年来，工业大数据领域大数据分析算法和模型都是基于大量代码实现，效率低，难以实现快速开发。同时，工业大数据处理分析模型处理过程多由多个算法通过一定的计算流程构成，计算流程复杂多变，迫切需要一款支持灵活定制和快速开发的处理分析技术来支持工业大数据处理分析。 2.解决方案 清华数为交互式大数据处理与分析技术针对工业大数据处理与分析任务的交互式探索、建模、调试和应用而设计。根据CRISP-DM设计原则，一般大数据处理与分析分为业务理解、数据理解、数据准备、建模、评估和部署等阶段，各阶段相辅相成，形成一个大数据处理分析生命周期。 图1.交互式大数据处理与分析技术设计思想 本成果技术基于上述CRISP-DM的设计思想而设计，完全支持大数据处理与分析生命周期。该技术的特点包括： （1）内置数百种通用和专用的大数据分析算法和模型，并提供了按需扩展机制，用户可以按照自己的需要随时添加和扩充，以支持客户特定的大数据应用需求； （2）支持拖拽方式构建处理与分析流程，完全图形化设计大数据处理分析计算流程，并能在设计过程中进行单步/多步运行调试，查看中间结果，实时调整运行结果，以获得用户期望的处理分析结果； （3）支持机器学习模型训练及使用，内置了机器学习模型训练框架，一般机器学习模型在该技术的支持下，可以实现快速训练，训练结果可支持进一步的大数据处理与分析； （4）支持数据处理与分析流程参数化，在其提供的内部数据处理与分析算法模板中，用户通过算法模板可以开发面向Java、Python的算法，并集成和扩展到该技术的算法集合，实现按需定制处理分析； （5）支持数据画像和学习模型可视化，以图形化的方式定制数据画像的方法模型，并以二维和三维图表的形式展示给用户； （6）支持批处理、流处理和流转批处理三种处理方式； （7）按需定制运行计划与资源有效利用，用户可设置任务执行计划，任务执行计划定期运行，以实现周期性处理分析，方便获得持续的运行结果。 清华数为交互式大数据处理与分析技术面向多种用户角色，包括数据工程师、数据分析师、数据科学家、算法工程师、运维工程师、代码工程师等。采用分层设计，分为客户层、服务层、计算层。 客户层包括流程建模调试工具，用户可用工具图形化拖拽式设计处理与分析计算模型，并可进行调试和查看中间结果；管理工具，针对服务层所调用和访问的计算框架或者外部系统进行管理，包括对于数据源、计算环境、存储环境等的管理工具。 服务层主要包括流程调度服务，即负责按照用户所设定的工作计划来定时调度执行计算模型；执行服务，是负责执行处理分析计算的模型和算法的服务；计算资源管理服务负责管理执行服务中所能集成的所有的服务，如计算框架和存储设施等。 计算层是执行服务在执行处理分析算法和模型中所访问的外部服务，包括计算组件或框架，以及持久化存储组件或者系统等。 图2.交互式大数据处理与分析技术架构 本成果的交互式处理与分析技术较好地解决了工业大数据处理分析工作中所遇到的问题和痛点，并且能够广泛应用于多个行业和领域中，如能源、矿山、医疗器械、装备制造业、消费品制造业、工程机械行业等。 合作需求 期待与工业、医疗等领域企业紧密合作，获得各领域的实际需求，促使该技术不断完善和升级迭代，走向成熟。 未来将在工程机械行业、医疗机械行业、矿山行业、装备制造行业、互联网电商行业等寻求更多的成果转化、深度合作机会，在合作基础上，推动上述行业领域实现数字化转型和智能化升级，为国家实现“双碳”目标做出清华贡献。

小试阶段/n该平台继承了目前主流计算框架和编程模式，尤其是内存计算框架， 通用性强、时效性高。该平台从根本上解决了目前大数据处理中耗时过 长的问题，通过优化大数据处理系统的任务管理和内存管理，对用户提 供主流的简洁编程接口，与目前国际上主流系统对比，该平台可以大量 减少内存占用，最高性能提升可达 41 倍，。该平台同时从根本上解决了 大数据系统自动管理内存的开销，减少 90%以上的开销。该技术平台是一 种通用数据处理平台，不影响上层生态应用，可以适用于各类大数据生 态系统，包括机器学习与深度学习领域

本发明公开了一种用于大数据处理系统的内存数据集置换系统， 包括分析模块、信息监测模块、决策模块。分析模块用于对上层用户 程序进行逻辑分析，得出各运算阶段中生成内存数据集时的运算步骤 集合；信息监测模块用于对运行中的用户程序进行监测，并收集生成 内存数据集时的信息提交给决策模块；决策模块用于对收集到的信息 进行分析和排序，判断当前阶段是否需要对系统中的内存数据集进行 置换，在系统需要进行置换时确定需要移除的内存数据集并

我校理学院大数据研究团队在人工智能与大数据处理技术研究方面取得系列进展，研究成果分别发表在IEEE Transactions on Neural Networks and Learning Systems、IEEE Transactions on Cybernetics和Information Sciences三大人工智能顶级期刊。神经网络是人工智能领域中目前最为火热的研究方向——深度学习的架构基础。虽然深度学习在近几年发展迅速，但是关于如何设计最优神经网络架构的问题仍处于探索阶段。该团队分别针对人工智能中神经网络结构复杂、高维大规模数据存在无效和冗余特征、难以获取长时序信息等问题与缺陷，设计出了一系列网络结构优化、大数据特征选择和时序循环神经网络模型，有效改善了上述不足，提高了人工智能模型的学习性能。 题目为《带Group Lasso惩罚与控制冗余的神经网络特征选择》（Feature Selection using a Neural Network With Group Lasso Regularization and Controlled Redundancy）的研究论文发表在人工智能领域权威国际期刊IEEE Transactions on Neural Networks and Learning Systems。王健副教授和博士生张华清为该论文共同第一作者， 我校荣誉教授Nikhil R. Pal院士（印度统计研究所）参与指导，中国石油大学（华东）为第一署名单位。该项工作得到国家自然科学基金、国家科技重大专项、山东自然科学基金、中央高校基本科研业务费、中国石油天然气集团公司重大科技项目以及山东省高校青年创新科技支撑计划的资助。 特征选择技术也称属性选择，是指从原始特征或属性中选择出最有效的特征或属性以降低数据维度的过程，它是人工智能数据预处理环节的重要步骤，也是大数据处理技术的重要环节。该项工作在神经网络中嵌入Group Lasso惩罚项并实现特征冗余控制，在选出对解决问题最有帮助、蕴含信息量最大的特征或属性的同时，控制所选特征子集的冗余程度，以达到降维的最优效果，从而使模型的泛化能力更强，降低神经网络模型产生过拟合的风险。 题目为《基于L1正则化的神经网络结构优化模型设计与分析》（Learning Optimized Structure of Neural Networks by Hidden Node Pruning With L1Regularization）的研究论文发表在国际人工智能领域权威期刊IEEE Transactions on Cybernetics。硕士生谢雪涛和博士生张华清为论文共同第一作者，王健副教授为通讯作者，我校荣誉教授Nikhil R. Pal院士（印度统计研究所）参与指导，中国石油大学（华东）为第一署名单位。该项研究成果得到了国家自然科学基金、山东省自然科学基金和中央高校基本科研业务费的资助。 该项工作借助L1正则子具有的稀疏表达能力，提出两种神经网络结构优化学习模型；本项工作另外一个突出贡献就是提出了一种简单且具有通用性的收敛性证明方法，同时保证了模型设计的合理性。实验结果表明所提出模型具有强大的鲁棒性、广泛的适用性、理想的剪枝能力和良好的泛化能力，适用处理高维大数据。该研究成果在人工智能与深度学习构造最简网络结构方面具有很强的指导作用和应用推广价值。

成果简介：当前已经完成成果：已完成星上实时云剔除、关键区域/目标的快速提取算法研究；实现了光学遥感星上处理SoC芯片功能样片研制和测试，单片可实现155Mbps输入速率的实时处理，功耗小于600mw。 2015年完成成果：完成高性能、抗辐照星上光学遥感数据SoC处理器研发，并基于自主芯片构建星上并行实时处理原型样机，实现星上90%以上实时云剔除、关键区域/目标的快速提取等智能实时处理。 项目来源：民口863项目 技术领域：地球观测与导航技术

本发明公开了一种面向数据处理的能耗优化数据集分配方法， 包括：把待分配数据集按照 IOPS 属性值从大到小依次排序形成待分配 数据集队列，数据中心服务器也按照 IOPS 能力从大到小依次排序构成 待分配服务器队列；同时创建已分配服务器队列和各个数据中心服务 器的已分配数据集队列，从上述待分配数据集队列头部取出第一个待 分配数据集，同时判断已分配服务器队列是否为空，若已分配服务器 队列为空，则从待分配服务器队列头部选取

本发明公开了一种分布式 GNSS 实时数据处理方法及系统，包括步骤:在接收机端，首先，对原始 观测数据进行周跳探测，获得周跳时间信息;然后，将周跳时间信息和原始观测数据编码后发送至服务 器端。在服务器端，首先，对编码数据进行解码获得观测数据和周跳时间信息;然后，根据周跳时间信 息进行周跳判断;最后，根据周跳判断结果进行精密差分产品解算，并保存当前历元解算获得的滤波器 状态参数信息，当解算中断，服务器端重启后，采用存储的滤波器状态参数恢复中断历元下的滤波器， 继续解算中断前的解算状态。本发明方法避免了服务器端中断重新时的初始化，可为用户提供连续、一 致的精密差分产品，可保证高精度定位服务。