高等教育领域数字化综合服务平台
云上高博会服务平台 高校科技成果转化对接服务平台 大学生创新创业服务平台 登录 | 注册
|
搜索
搜 索
  • 综合
  • 项目
  • 产品
日期筛选: 一周内 一月内 一年内 不限
海量混合时态数据融合处理关键技术及应用
流立方在技术流派里属于流式大数据实时处理领域,但兼顾了批式数据处理技术的优势,一定程度的做到了混合时态的实时处理。流立方通过在数据流水过程中嵌入流处理引擎将所有流过的数据进行实时处理, 并生成多维度的可计算数据魔方。1)超高并发性:“流立方”产品拥有每秒处理百万笔交易流水复杂分析的能力。而达到这样的性能仅需要 8 台普通的 pc 服务器搭建的集群。2)超低时效性:流立方对每笔流水处理的延时严格控制在毫秒级,实际生产中平均延时稳定在 10 毫秒左右。形象一点来说,也就是在海水涌进海洋的几乎同一时刻,数据就被分析完成了,远远低于人类学上 0.1 秒即有所感知的时间节点,处理速度比一眨眼快了很多倍。最近一年,流立方的高级版本更是提升到了微秒级的处理延时,将被用在春运票务、军工、反恐等要求更加极致的场景。3)高可靠性、高扩展性、高兼容性:流立方自带的可计算分布式缓存高性能、高可靠、高可扩展。在内存不足时, 能够平滑扩展到多节点。流立方平台内支持算法数量达到几十个。计算模型、脚本独立管理,在线编写、即时部署即时生效, 大大节约上线时间。
浙江大学 2021-04-11
融合架构的高时效可扩展大数据分析平台
研究背景:  大数据应用的多样化  需要的计算模型、数据模型多样化;  目前每类模型需要单独的开源系统来支持(如HDFS、HBase、Neo4j、MongoDB,Flink,Spark,Tensorflow等)。  多系统导致大数据分析平台非常复杂、效率低下。 研究目标: 研究和开发面向新型多计算模型融合架构的、高时效、可扩展的新 一代大数据分析支撑系统与工具平台FAST(Fusion-Architecture, Scalable, Time-efficient big data analysis platform)。 针对目前大数据分析平台复杂、效率低下的痛点,该系统具有三个  方面的优势:首先,这套系统采用融合架构,一方面实现关系、图、键  值、文档等多种数据模型的高效融合,另一方面实现批处理计算、流计  算的深度融合,并可以通过SQL扩展语言来进行多模型的统一查询,实现高效的跨模型查询。其次,对于复杂系统来说,时效性非常重要,这  套系统采用融合架构提高效率是实现高时效的基础,更重要的是,我们  对大数据分析从数据到用户进行了端到端的全栈时效优化。最后,对于  大数据应用来说,系统扩展性非常重要,本系统在资源层、存储层和计  算层进行了全面的扩展性优化。下面在融合架构、高时效和可扩展这三  个方面,分别详细介绍FAST系统的三个主要亮点。 融合架构 FAST系统的第一个亮点是融合架构,我们在技术方面的创新主要包  括多数据模型融合和多计算模型融合两方面。 多数据模型融合: 设计和研发了多模型数据管理与查询引擎,支持关系、图、键值、  文档等多种数据模型,实现了查询解析、查询优化、元数据管理、数据  分布等功能,将多种数据模型进行统一管理和深度融合。同时扩展了SQL语言,通过统一的查询接口支持对关系、键值、图、文档等数据进行独立访问或者跨模型查询。 经过试验,多模型数据融合查询,比Spark 2.3.4的查询时间能平均减少70.7%。目前spark等现有系统还需要手工编程方式来实现跨模型查 询,所以FAST系统在易用性上也表现良好,降低使用门槛,提高开发效率。 多计算模型融合: 在计算层实现了最常见的批处理计算和流计算深度融合,批流融合的核心方法是在系统内部实现批和流的统一表达,批是对有限数据集  的运算,流是对无限数据流的计算,我们设计了UCollection结构对批和  流数据进行统一表达,通过识别的bounded标志,来确定是批、流、或批流融合。有了统一表达,可以开展一系列融合优化来提升系统性能。 并且对上通过Unified API统一用户的批、流接口,实现二者在编程范式上的统一表达。对于批流混合的计算,融合架构系统的查询延迟比Flink 1.4.2能减少57%,吞吐量平均可以提升到6.72倍。 高时效 FAST系统的第二个亮点是高时效,即缩短大数据分析的时间消耗,  提高效率。由于大数据分析平台是一个非常复杂的系统,为了做到高时效,系统不能存在性能短板,因此需要对大数据分析的整个过程进行端到端的全栈时效优化。如图中所示,自下而上,需要在多模态存储、批流融合、机器学习、人工操作各层都进行优化。 对于多模态存储,面向应用负载和异构硬件特征进行自适应优化; 对于批流融合计算,在统一表达基础上,进行系列融合优化技术, 包括DAG优化、迭代优化、部署优化、操作符优化等; 在机器学习层面,进行模型优化、消息优化、梯度优化、概率优化 等来提高时效; 而且我们也考虑到大数据分析过程中用户人工操作的时效性问题,  通过智能地进行大数据分析方法和模型的推荐,来缩减人工操作的  时间。 可扩展 FAST系统的第三个亮点是可扩展,由于大数据应用规模很大,数据增速快,对系统可扩展性的要求非常高,为此我们在系统的资源层、  存储层和计算层进行了全面的扩展性优化。 在资源层,系统都部署在云计算的虚拟化资源之上,利用了云计算资源的弹性机制进行系统扩展。并在系统中实现了可伸缩调整模块,  能实时监控软硬件系统的状态,按照应用需求来自适应地进行弹性伸缩。 在存储层,分布式存储系统扩展性的关键在于分布式共识和一致性 协议(Raft),因此提出了KV-Raft、vRaft等进行Raft的扩展优化。 在计算层,我们扩展了机器学习模型的参数规模,使系统可以支持  到百亿级别的超大规模机器学习模型训练,并且性能方面有明显提  升。 亮点成果: 融合架构大数据分析平台目前已经在阿里巴巴双十一进行示范应用。  从2020年11月10日至11月16日一周的时间,在阿里的生产环境中,研发 的系统一直连续稳定运行,基于淘宝和天猫的实际用户信息进行大数据 分析,综合运用了本系统的存储、计算、机器学习等多个模块的能力, 累计进行了184亿件商品推荐。 同时在双十一期间,基于智能交互向导技术,也面向电子商务应用  的卖家提供了“生意参谋”应用,基于大数据分析,帮助卖家分析产品  销量变化的原因,以及促销的有效手段等。
中国人民大学 2021-05-09
高质量的多中心MRI公开数据集
浙大生仪学院磁共振平台的CBIST团队近期公开了一批包含三位旅行志愿者在十家不同中心采集的磁共振扩散成像数据集。数据的具体描述和简要质量报告已经在Scientific Data发表。
浙江大学 2021-04-14
一种多板卡数据同步采样系统
本发明公开了一种多板卡数据同步采样系统,包括数据采集卡、 总线、采样信号线以及两个以上的测量板卡,数据采集卡包括由时钟 发生器、控制信号发生器、总线控制器和与门组成的采样时钟信号控 制模块,控制信号输出高电平时,与时钟信号与门后的采样信号控制 每个测量板卡同步采集数据以及控制数据采集卡停止总线数据采集,控制信号输出低电平时,与时钟信号与门后的采样信号控制每个测量 板卡同步停止采集数据以及控制数据采集卡进行总线数据采集。本发 明提供的多板卡数据同步采样系统,能够实现各板卡数据采集的纳秒 钟级同步,并且
华中科技大学 2021-04-14
基于多尺度空洞融合迭代优化的增强图像隐写
本发明公开了一种基于多尺度空洞融合迭代优化的增强图像隐写,适用于图像隐写领域,包括以下步骤:使用封面图像C获取其对应的增强图像E后,分别对其进行特征提取,后引入多尺度空洞融合的注意力机制;再将两个图像的特征融合得到图像X;之后与秘密连接形成载密张量M;编码器接收三个输入:图像M的特征、当前的扰动,以及这个扰动的损失函数的梯度进行拼接形成GRU单元的输入;通过反复应用编码器,最终生成的隐写图像;解码器接收编码器生成的隐写图像,经过一系列卷积,从隐写图像中恢复原始的隐藏信息;批评者网络来评估生成的隐写图像的自然性,并提供反馈;重复步骤2到5。最终生成的图像即为包含隐藏信息的隐写图像。本方法将学习和迭代优化方法结合起来,在双通道输入图像增强下结合多尺度融合注意力机制,从而找到图像中更适合隐藏信息的部分,使生成的隐写图像更加隐蔽。
南京工业大学 2021-01-12
【融合】高等职业教育产教融合发展论坛
第62届中国高等教育博览会——高等职业教育产教融合发展论坛
中国高等教育博览会 2024-11-11
全时空融合定位及用户行为分析挖掘大数据平台
研究背景及挑战:高精度无缝位置服务是智慧生活的关键技术之一, 也是实现以人为中心的智能情境感知技术基础。然而, 复杂城市峡谷(高楼、天桥、隧道)地区连续导航、室内外高精度无缝定位由于卫星信号频繁受到阻隔、室内布局动态变化等因素,实现连续高精度全空间定位存在诸多挑战。本科研团队研究内容:基于团队在 Wi-Fi, ZigBee, INS、图像、超声波、声音、RFID 等多种定位技术科研成果,研发高精度、低功耗、低成本、易部署的多源融合定位云平台,提供全时空位置服务及用户行为挖掘服务平台。融合定位云平台体系框架全时空定位服务平台上下文突破弹性导航软硬件架构及理论体系基于因子图多源融合定位算法科研基础:国家重点研发计划项目“自适应导航软硬件技术”、高精度高鲁棒性室内定位关键技术及装置研究(863)、无线传感网络定位技术研究(NSFC)、基于众包和群智计算的室内无线定位理论和方法 (NSFC)、自适应室内无线信号变化的低代价高精度定位技术研究(NSFC)等项目的支持下,已完成全时空融合定位云平台,以及用户行为挖掘大数据平台建设。 科研成果:1中国卫星导航定位科技进步一等奖2 获UbiComp交通模式识别比赛冠军3获阿里巴巴天池世界比赛冠军4 制定国家实时定位标准6项5 发表中科院一区顶级SCI期刊论文 10 篇6 获得国家发明专利授权 20项,申请国家发明专利 32项7 国际 IPIN2016 室内定位比赛第3名 成果应用案例:华为、三星、中国电信集成、华大电子、22所等
北京邮电大学 2021-04-10
全时空融合定位及用户行为分析挖掘大数据平台
研究背景及挑战: 高精度无缝位置服务是智慧生活的关键技术之一, 也是实现以人为中心的智能情境感知技术基础。然而, 复杂城市峡谷(高楼、天桥、隧道)地区连续导航、室内外高精度无缝定位由于卫星信号频繁受到阻隔、室内布局动态变化等因素,实现连续高精度全空间定位存在诸多挑战。 本科研团队研究内容: 基于团队在 Wi-Fi, ZigBee, INS、图像、超声波、声音、RFID 等多种定位技术科研成果,研发高精度、低功耗、低成本、易部署的多源融合定位云平台,提供全时空位置服务及用户行为挖掘服务平台。 融合定位云平台体系框架 全时空定位服务平台上下文 突破弹性导航软硬件架构及理论体系 基于因子图多源融合定位算法 科研基础: 国家重点研发计划项目“自适应导航软硬件技术”、高精度高鲁棒性室内定位关键技术及装置研究(863)、无线传感网络定位技术研究(NSFC)、基于众包和群智计算的室内无线定位理论和方法 (NSFC)、自适应室内无线信号变化的低代价高精度定位技术研究(NSFC)等项目的支持下,已完成全时空融合定位云平台,以及用户行为挖掘大数据平台建设。   科研成果: 1中国卫星导航定位科技进步一等奖 2 获UbiComp交通模式识别比赛冠军 3获阿里巴巴天池世界比赛冠军 4 制定国家实时定位标准6项 5 发表中科院一区顶级SCI期刊论文 10 篇 6 获得国家发明专利授权 20项,申请国家发明专利 32项 7 国际 IPIN2016 室内定位比赛第3名   成果应用案例: 华为、三星、中国电信集成、华大电子、22所等
北京邮电大学 2021-05-09
基于多传感器信息融合的小型巴士空座检测系统
成果描述:本实用新型公开了一种基于多传感器信息融合的小型巴士空座检测系统。其包括微处理器及分别与所述微处理器连接的检测模块、定位模块和通讯模块;所述检测模块用于检测巴士车座占用情况数据,所述定位模块用于采集巴士车辆的坐标位置数据;所述微处理器用于根据所述检测模块检测的巴士车座占用情况数据计算巴士空座数据,并与巴士车辆坐标位置数据封装成数据包;所述通信模块将上述数据包发送到服务器。本实用新型具有设备安装维护简单,每台小型巴士只需安装一套设备的优点,通过与外部网络的通讯,可以方便乘客约车、候车与乘车,方便驾驶员规划行驶路线,方便调度员根据客流灵活调度,从而有效提高公交出行效率和营运成本。市场前景分析:本实用新型具有设备安装维护简单,每台小型巴士只需安装一套设备的优点,通过与外部网络的通讯,可以方便乘客约车、候车与乘车,方便驾驶员规划行驶路线,方便调度员根据客流灵活调度,从而有效提高公交出行效率和营运成本。与同类成果相比的优势分析:国内领先
成都大学 2021-04-10
多机器人三维几何地图的融合方法
本发明公开了一种多机器人三维几何地图的融合方法,包括:把待融合的三维几何地图投影成二维的栅格地图;采用图像配准算法对栅格地图进行融合,得到栅格地图之间的旋转参数;对三维地图施行旋转变换,采用三维点集配准算法进行三维几何地图的融合。本发明多机器人三维几何地图的融合方法,通过考虑三维地图中的几何特征信息,结合二维地图融合和三维点集配准算法,完成多机器人三维几何地图的融合,明显了改进三维几何地图融合的准确性。本发明多机器人三维几何地图的融合方法主要用于在多机器人同时定位与地图重建应用中,对单个机器人所创建的局部地图进行融合以形成全局地图。
浙江大学 2021-04-11
首页 上一页 1 2 3 4 5 6
  • ...
  • 161 162 下一页 尾页
    热搜推荐:
    1
    云上高博会企业会员招募
    2
    64届高博会于2026年5月在南昌举办
    3
    征集科技创新成果
    中国高等教育学会版权所有
    北京市海淀区学院路35号世宁大厦二层 京ICP备20026207号-1