高等教育领域数字化综合服务平台
云上高博会服务平台 高校科技成果转化对接服务平台 大学生创新创业服务平台 登录 | 注册
|
搜索
搜 索
  • 综合
  • 项目
  • 产品
日期筛选: 一周内 一月内 一年内 不限
RealSafe人工智能安全平台
业界首个针对AI在极端和对抗环境下的算法安全性检测与加固的工具平台“对抗样本”成新型病毒,算法安全问题亟待解决随着人工智能技术的高速发展,人工智能在诸多场景正逐渐替代或协作着人类的各种劳动,它们可以成为人类的眼睛、耳朵、手臂甚至大脑。其中,机器视觉作为AI时代的基础技术,其背后的AI算法一直是各科技巨头和创业公司共同追逐的热点。然而在机器视觉诸多主流应用场景的背后,往往也藏着由技术性缺陷导致的算法安全风险。例如,在一些训练数据无法覆盖到的极端场景中,自动驾驶汽车的识别系统可能出现匪夷所思的决策,危害乘车人的人身安全。从2016年至今,Tesla、Uber等企业的辅助驾驶和自动驾驶系统就都曾出现过类似致人死亡的严重事故。并且这类极端情形也可能被恶意制造并利用,发动“对抗样本攻击”,去年7月,百度等研究机构就曾经通过3D技术打印出能让自动驾驶“无视”的障碍物,让车辆面临撞击风险。而以上攻击之所以能成功,主要是机器视觉和人类视觉有着很大的差异。因此可以通过在图像、物体等输入信息上添加微小的扰动改变(即上述故意干扰的“对抗样本”),就能导致很大的算法误差。此外,随着AI的进一步发展,AI算法模型将运用金融决策、医疗诊断等关键核心场景,这类AI“漏洞”的威胁将愈发凸显出来。近年来,包括清华大学人工智能研究院院长张钹院士、前微软全球执行副总裁沈向洋等均提倡要发展安全、可靠、可信的人工智能以及负责任的人工智能,其中AI的安全应用均是重点方向。而且,AI安全作为新兴领域,在开源社区、工具包的加持下,对抗样本等攻击手段日益变得复杂,相关防御手段的普及和推广却难以跟上。并且对抗样本等算法漏洞检测存在较高的技术壁垒,目前市面上缺乏自动化检测工具,而大部分企业与组织不具备该领域的专业技能来妥善应对日益增长的恶意攻击。从安全测评到防御加固,RealSafe让AI更加安全可控就如网络安全时代,网络攻击的大规模渗透诞生出杀毒软件,RealAI团队希望通过RealSafe平台打造出人工智能时代的“杀毒软件”,帮助企业高效应对人工智能时代下算法漏洞孕育出的“新型病毒”。目前,RealSafe平台主要支持两大功能模块:模型安全测评、防御解决方案。其中,模型安全评测主要为用户提供AI模型安全性评测服务。用户只需接入所需测评模型的SDK或API接口,选择平台内置或者自行上传的数据集,平台将基于多种算法生成对抗样本模拟攻击,并综合在不同算法、迭代次数、扰动量大小的攻击下模型效果的变化,给出模型安全评分及详细的测评报告(如下图)。目前已支持黑盒查询攻击方法与黑盒迁移攻击方法。防御解决方案则是为用户提供模型安全性升级服务,目前RealSafe平台支持五种去除对抗噪声的通用防御方法,可实现对输入数据的自动去噪处理,破坏攻击者恶意添加的对抗噪声。根据上述的模型安全评测结果,用户可自行选择合适的防御方案,一键提升模型安全性。另外防御效果上,根据实测来看,部分第三方的人脸比对API通过使用RealSafe平台的防御方案加固后,安全性可提高40%以上随着模型攻击手段在不断复杂扩张的情况下,RealSafe平台还持续提供广泛且深入的AI防御手段,帮助用户获得实时且自动化的漏洞检测和修复能力。准确度99.99%也难逃被“恶意干扰”,RealSafe高效应对算法威胁 考虑到公众对于对抗样本这一概念可能比较模糊,RealSafe平台特意选取了公众最为熟知的人脸比对场景(人脸比对被广泛用于金融远程开户、刷脸支付、酒店入住登记等场景的身份认证环节)提供在线体验。并且,为了深入研究“对抗样本”对人脸比对系统识别效果的影响,RealAI 团队基于此功能在国内外主流 AI 平台的演示服务中进行了测试。实测证明,“对抗样本”可以极大的干扰人脸比对系统的识别结果,而测试的这几家互联网公司平台开放的人脸比对API或SDK,几乎覆盖了目前市面上很多中小型企业在落地人脸识别应用时的选择,如果他们的人脸比对技术存在明显的安全漏洞,意味着更广泛的应用场景将存在安全隐患。因此,为了帮助更大范围内的企业高效应对算法威胁,RealSafe平台具备以下两大优势:·  组件化、零编码的在线测评:相较于ART、Foolbox等开源工具需要自行部署、编写代码,RealSafe平台采用组件化、零编码的功能设置,免去了重复造轮子的精力与时间消耗,用户只需提供相应的数据即可在线完成评估,学习成本低,无需拥有专业算法能力也可以上手操作。·可视化、可量化的评测结果:为了帮助用户提高对模型安全性的概念,RealSafe平台采用可量化的形式对安全评测结果进行展示,根据模型在对抗样本攻击下的表现进行评分,评分越高则模型安全性越高。此外,RealSafe平台提供安全性变化展示,经过防御处理后的安全评分变化以及模型效果变化一目了然。从数字世界到物理世界 RealAI落地更多安全周边产品随着机器学习模型不断的升级演化,“对抗样本”已经演变成一种新型攻击手段,并且逐渐从数字世界蔓延到物理世界:在路面上粘贴对抗样本贴纸模仿合并条带误导自动驾驶汽车拐进逆行车道、胸前张贴一张对抗样本贴纸在监控设备下实现隐身……因此,除了针对数字世界的算法模型推出安全评测平台,RealAI团队也联合清华大学AI研究院围绕多年来积累的领先世界的研究成果落地了一系列AI攻防安全产品,为更多场景保驾护航。比如通过佩戴带有对抗样本图案的“眼镜”,黑客可以轻易破解商用手机的面部解锁,通过在胸前张贴特制花纹实现在AI监控下的“隐身”,以及通过在车辆上涂装特殊花纹躲避AI对车辆的检测。发现类似新型漏洞的同时,RealAI也推出相应的防御技术,支持对主流AI算法中的安全漏洞进行检测,并提供AI安全防火墙对攻击AI模型的行为进行有效拦截。人工智能的大潮滚滚而来,随之而来的安全风险也将越来越多样化,尤其近年来因AI技术不成熟导致的侵害风险也频频发生,可以说,算法漏洞已逐渐成为继网络安全、数据安全后又一大安全难题。所幸的是,以RealAI为代表的这些顶尖AI团队早已开始了AI安全领域的征程,并开始以标准化的产品助力行业降低应对安全风险的门槛与成本。此次上线RealSafe人工智能安全平台是RealAI的一小步尝试,但对于整个行业而言,这将是人工智能产业迈向健康可控发展之路的一大步。
清华大学 2021-04-10
绿色建筑与节能示范平台
1)绿色建筑研究着力提高绿色建筑设计与技术研究水平,通过绿色建筑、零能耗建筑等的设计与运营,为厦门市绿色建筑与建筑节能技术应用提供示范与推广,带动厦门地区绿色建筑的发展。2)城市节能基于UCMap及CFD等研究方法,改善城市通风、缓解城市热岛,探讨适应闽东南沿海地区气候特点的城市设计、住区规划等解决方案。3)绿色建筑工程实践在工程实践方面,通过绿色建筑的设计和建造运营,将绿色建筑技术应用在建筑工程实践中。
厦门大学 2021-04-11
数字农业大数据平台
一、平台概况 数字农业大数据平台(以下简称“平台”),是面向各地农业农村局及其相关科室的数字农业大数据产品。 平台以农业信息化数据大集中为原则,通过整合全区农业数据资源及农业信息化设施,统一管理、统一部署、统一规划,搭建起包含“底层数据+业务系统+终端应用+分析系统+可视化系统”的区域数字农业产品体系,为实现区域农业信息汇集、区域农业现状掌握、农业发展指导及监管提供了有力的信息化支撑。 二、产品简介 平台涵盖GIS、产业结构、农业社会化服务、农机信息、乡村振兴、美丽乡村、科技农业、质量安全、综合预警、农村经济、品牌农业、一卡通12个模块,针对区域农业中重点关注的内容,从多个维度对相关数据进行可视化分析,结合当地农业特色,全面展示当地的农业发展面貌。 三、详细介绍
浙江大学 2021-05-10
绿色建筑与节能示范平台
建筑节能是我国长期坚持的一项基本战略,绿色建筑是其中的重点发展方向。厦门市已从2016年起全面执行绿色建筑标准,作为厦门市全面落实绿色发展理念的重要举措之一,绿色建筑有着广阔的发展空间和潜力。随着计算机技术、数控建造技术、3D打印技术、智能控制技术的发展以及在建筑中的逐步应用,建筑行业迎来了一次新的技术变革,将建筑形式创新与性能优化相结合的设计方法成为建筑设计发展的重要方向,参数化、智能化、适应气候为建筑表皮设计提供了新的思路,将具有广阔的发展空间。
厦门大学 2021-04-10
电子纪检监察综合平台
本平台为各地纪委监察部门 进行综合电子监察的建设提供完 善的体系框架和应用环境,为构 建在其上的各监察系统提供通用的技术、业务和功能支撑,实现行政业务之间的关联监察
中山大学 2021-04-10
大口径光学加工平台
已有样品/n该项目采用自主设计装置和编写的软件,实现嵌入式控制,能够对超短脉冲的脉冲宽度和相位做出精确的测量:波长范围:400nm-2000nm,脉冲宽度15fs-20000fs,重复频率:同步测量-100MHz。目前国内相应的相应设备均需尽快美国和德国产品,单机价格在15万元左右,且计算程序运行电脑需要另配。该仪器与其他产品在性能相比接近的同时,实现直接的控制与显示。
华中科技大学 2021-01-12
社区疫情防控云平台
防控云是北京邮电大学专门为社区疫情防控研制的技术支撑平台,主要由云平台、小区防控APP、街道统计报表和决策大屏、区级统计报表和决策大屏、市级统计报表和决策大屏等五个部分构成。该平台实现了对社区居民信息的收集与管理、社区居民出入的管控与记录、社区访客出入的管控与记录,并提供面向社区、街道领导的查询和统计功能,极大支撑和解决了目前小区的疫情管控工作。 云平台已经在郑州市二七区、郑州航空港实验区、许昌市城乡一体化示范区、深圳市南山区开展了试点示范工作。
北京邮电大学 2021-04-11
大数据监控管理平台
小试阶段/n大数据监控管理平台的目标为:建立基于大数据处理技术的数据中 心,整合各种数据源的数据;实现多源数据的高效管理和可靠存储;为 应用开发人员提供统一的数据访问层,方便平台的二次应用开发;提供 图形化的文件管理;实现界面化的数据管理;提供图形化的集群的部署 和监控;实现方便高效的数据迁移。同时,提供有效的安全访问控制和 界面化的快捷操作。 当前各行各业均有大数据应用的需求,需要投入巨大的人力、物力 来简历和维护大数据平台,技术升级和平台迁移的成本非常高,大数据 监控管理平台的应用,将在大数据应
华中科技大学 2021-01-12
通用软件测试平台QETEST
通用软件测试平台QETEST旨在帮助软件开发组织建立软件质量保证和软件测试体系,实现对软件测试过程的规范和量化的管理,并为面向软件源代码的分析、理解、审查和测试提供有力支持,从而显著地提升软件开发组织的软件产品质量控制能力,提高产品开发效率,增强其市场竞争力。本成果具有如下特点: 1.支持面向软件开发全过程的、支持团队协同工作和量化追踪与监控的软件测试过程管理; 2.支持面向测试过程、测试产品和测试项目的软件测试质量管理; 3.支持软件开发组织按照自身要求定制文档模板,并依据所定义模板自动生成测试文档; 4.支持C++和Java等面向对象软件的分析和测试,并实现对C++和Java软件复杂文法的识别、信息获取,以及统一的可视化模型图的逆向生成和显示。 其包括如下拥有自主知识产权、实用的工具: 1.软件测试管理平台QESuite系列; 2.面向对象软件分析和测试工具QESat/Java & C++。
北京航空航天大学 2021-04-13
微粒均相免疫快速检测平台
已有样品/n微粒均相免疫检测平台是新一代免疫检测技术,基于生物合成的纳米载体和新的标记技术,结合图像识别和微通道分析技术,能实现对微量样本(5-10μL 样本/次),在 1-10 分钟内对抗原或抗体的检测,灵敏度比传统的免疫凝集检测高 100-1000 倍。特别适合快速鉴定病原菌及对血清样本中特定抗体的筛查等。目前已成功应用于大肠杆菌 O157:H7 的鉴定及中东呼吸道综合征冠状病毒(MERS-CoV)的抗体检测。 市场前景:可广泛应用于各类病原快速检测,前景广阔。
中国科学院大学 2021-01-12
首页 上一页 1 2
  • ...
  • 16 17 18
  • ...
  • 90 91 下一页 尾页
    热搜推荐:
    1
    云上高博会企业会员招募
    2
    63届高博会于5月23日在长春举办
    3
    征集科技创新成果
    中国高等教育学会版权所有
    北京市海淀区学院路35号世宁大厦二层 京ICP备20026207号-1