高等教育领域数字化综合服务平台
云上高博会服务平台
高校科技成果转化对接服务平台
大学生创新创业服务平台
登录
|
注册
|
搜索
搜 索
综合
项目
产品
日期筛选:
一周内
一月内
一年内
不限
RealSafe
人工
智能安全平台
业界首个针对AI在极端和对抗环境下的算法安全性检测与加固的工具平台“对抗样本”成新型病毒,算法安全问题亟待解决随着人工智能技术的高速发展,人工智能在诸多场景正逐渐替代或协作着人类的各种劳动,它们可以成为人类的眼睛、耳朵、手臂甚至大脑。其中,机器视觉作为AI时代的基础技术,其背后的AI算法一直是各科技巨头和创业公司共同追逐的热点。然而在机器视觉诸多主流应用场景的背后,往往也藏着由技术性缺陷导致的算法安全风险。例如,在一些训练数据无法覆盖到的极端场景中,自动驾驶汽车的识别系统可能出现匪夷所思的决策,危害乘车人的人身安全。从2016年至今,Tesla、Uber等企业的辅助驾驶和自动驾驶系统就都曾出现过类似致人死亡的严重事故。并且这类极端情形也可能被恶意制造并利用,发动“对抗样本攻击”,去年7月,百度等研究机构就曾经通过3D技术打印出能让自动驾驶“无视”的障碍物,让车辆面临撞击风险。而以上攻击之所以能成功,主要是机器视觉和人类视觉有着很大的差异。因此可以通过在图像、物体等输入信息上添加微小的扰动改变(即上述故意干扰的“对抗样本”),就能导致很大的算法误差。此外,随着AI的进一步发展,AI算法模型将运用金融决策、医疗诊断等关键核心场景,这类AI“漏洞”的威胁将愈发凸显出来。近年来,包括清华大学人工智能研究院院长张钹院士、前微软全球执行副总裁沈向洋等均提倡要发展安全、可靠、可信的人工智能以及负责任的人工智能,其中AI的安全应用均是重点方向。而且,AI安全作为新兴领域,在开源社区、工具包的加持下,对抗样本等攻击手段日益变得复杂,相关防御手段的普及和推广却难以跟上。并且对抗样本等算法漏洞检测存在较高的技术壁垒,目前市面上缺乏自动化检测工具,而大部分企业与组织不具备该领域的专业技能来妥善应对日益增长的恶意攻击。从安全测评到防御加固,RealSafe让AI更加安全可控就如网络安全时代,网络攻击的大规模渗透诞生出杀毒软件,RealAI团队希望通过RealSafe平台打造出人工智能时代的“杀毒软件”,帮助企业高效应对人工智能时代下算法漏洞孕育出的“新型病毒”。目前,RealSafe平台主要支持两大功能模块:模型安全测评、防御解决方案。其中,模型安全评测主要为用户提供AI模型安全性评测服务。用户只需接入所需测评模型的SDK或API接口,选择平台内置或者自行上传的数据集,平台将基于多种算法生成对抗样本模拟攻击,并综合在不同算法、迭代次数、扰动量大小的攻击下模型效果的变化,给出模型安全评分及详细的测评报告(如下图)。目前已支持黑盒查询攻击方法与黑盒迁移攻击方法。防御解决方案则是为用户提供模型安全性升级服务,目前RealSafe平台支持五种去除对抗噪声的通用防御方法,可实现对输入数据的自动去噪处理,破坏攻击者恶意添加的对抗噪声。根据上述的模型安全评测结果,用户可自行选择合适的防御方案,一键提升模型安全性。另外防御效果上,根据实测来看,部分第三方的人脸比对API通过使用RealSafe平台的防御方案加固后,安全性可提高40%以上随着模型攻击手段在不断复杂扩张的情况下,RealSafe平台还持续提供广泛且深入的AI防御手段,帮助用户获得实时且自动化的漏洞检测和修复能力。准确度99.99%也难逃被“恶意干扰”,RealSafe高效应对算法威胁 考虑到公众对于对抗样本这一概念可能比较模糊,RealSafe平台特意选取了公众最为熟知的人脸比对场景(人脸比对被广泛用于金融远程开户、刷脸支付、酒店入住登记等场景的身份认证环节)提供在线体验。并且,为了深入研究“对抗样本”对人脸比对系统识别效果的影响,RealAI 团队基于此功能在国内外主流 AI 平台的演示服务中进行了测试。实测证明,“对抗样本”可以极大的干扰人脸比对系统的识别结果,而测试的这几家互联网公司平台开放的人脸比对API或SDK,几乎覆盖了目前市面上很多中小型企业在落地人脸识别应用时的选择,如果他们的人脸比对技术存在明显的安全漏洞,意味着更广泛的应用场景将存在安全隐患。因此,为了帮助更大范围内的企业高效应对算法威胁,RealSafe平台具备以下两大优势:· 组件化、零编码的在线测评:相较于ART、Foolbox等开源工具需要自行部署、编写代码,RealSafe平台采用组件化、零编码的功能设置,免去了重复造轮子的精力与时间消耗,用户只需提供相应的数据即可在线完成评估,学习成本低,无需拥有专业算法能力也可以上手操作。·可视化、可量化的评测结果:为了帮助用户提高对模型安全性的概念,RealSafe平台采用可量化的形式对安全评测结果进行展示,根据模型在对抗样本攻击下的表现进行评分,评分越高则模型安全性越高。此外,RealSafe平台提供安全性变化展示,经过防御处理后的安全评分变化以及模型效果变化一目了然。从数字世界到物理世界 RealAI落地更多安全周边产品随着机器学习模型不断的升级演化,“对抗样本”已经演变成一种新型攻击手段,并且逐渐从数字世界蔓延到物理世界:在路面上粘贴对抗样本贴纸模仿合并条带误导自动驾驶汽车拐进逆行车道、胸前张贴一张对抗样本贴纸在监控设备下实现隐身……因此,除了针对数字世界的算法模型推出安全评测平台,RealAI团队也联合清华大学AI研究院围绕多年来积累的领先世界的研究成果落地了一系列AI攻防安全产品,为更多场景保驾护航。比如通过佩戴带有对抗样本图案的“眼镜”,黑客可以轻易破解商用手机的面部解锁,通过在胸前张贴特制花纹实现在AI监控下的“隐身”,以及通过在车辆上涂装特殊花纹躲避AI对车辆的检测。发现类似新型漏洞的同时,RealAI也推出相应的防御技术,支持对主流AI算法中的安全漏洞进行检测,并提供AI安全防火墙对攻击AI模型的行为进行有效拦截。人工智能的大潮滚滚而来,随之而来的安全风险也将越来越多样化,尤其近年来因AI技术不成熟导致的侵害风险也频频发生,可以说,算法漏洞已逐渐成为继网络安全、数据安全后又一大安全难题。所幸的是,以RealAI为代表的这些顶尖AI团队早已开始了AI安全领域的征程,并开始以标准化的产品助力行业降低应对安全风险的门槛与成本。此次上线RealSafe人工智能安全平台是RealAI的一小步尝试,但对于整个行业而言,这将是人工智能产业迈向健康可控发展之路的一大步。
清华大学
2021-04-10
人工
智能诊断腹膜转移
肠癌合并同时性腹膜转移(PC)的发病率约为5-10%,复发时合并腹膜转移发病率为25-44%。“腹膜转移如果能够早期诊断,可以增加彻底减瘤手术的机会,未来能够明显延长肠癌患者的生存期。”王辉教授说。2018年团队和深圳腾讯AI lab建立了合作关系,研发一个基于卷积神经网络(CNN)的ResNet3D系统。经查,这是世界上第一个诊断肠癌腹膜转移的AI平台,能够自动识别原发肿瘤特征,同时提取肿瘤临近腹膜的影像学特征,构建基于人工智能的SVM分类器。训练组一共纳入了19814张CT图像,验证组包括了7837张CT图像。 研究发现,ResNet3D的AI系统仅需花费34秒就自动识别并诊断了所有验证图像。“ResNet3D+SVM分类器”的肠癌腹膜转移诊断的准确性高达94%,AUC为0.922,敏感性和特异性均高达94%,明显优于常规增强CT的诊断能力。
中山大学
2021-04-13
新型言语功能康复
人工
喉
利用人工喉代偿人体声带是这些患者恢复发声功能的一种有效途径。北航研究团队以基于语音相关的多参数自由调控为目标,在深入的理论研究基础上,已经成功研发了三代电子人工喉。第一代频率固定手执式电子人工喉;第二代频率二值可调分离式电子人工喉;第三代基于生理参数调控型电子人工喉。 已完成工程样机。
北京航空航天大学
2021-04-13
人工
智能专业培养方案
本在线专业培养项目,旨在坚持立德树人的基础上,培养在“人工智能+X”方向上掌握坚实的基础理论与系统的专门知识,具有从事科学研究、独立担负专门技术工作能力和掌握产业应用基本技能的专门人才。 课程体系设置上体现“融”与“新”,突出“人工智能+X”的学科融合,力争将科研成果、产业应用现状及时转化为教学内容。课程设置强调人工智能专业知识与各行业领域的交叉与融合,注重知识累积的循序渐进,既强调基础理论课程的系统性,又突出学科最新交叉应用成果和发展动向,课程力求内容新颖,能够激发广大青年学习者进一步学习的兴趣。
高等教育出版社有限公司
2021-02-09
高级
人工
流产模拟子宫
XM-N4高级人工流产模拟子宫 一、功能特点: ■ XM-N4高级人工流产模拟子宫采用高分子材料制成,柔软有弹性,外形真实。 ■ 为学习人工流产刮宫技术而设计,包括三个模块:孕6-7周水平位子宫、孕6-7周前倾,孕6-7周后倾子宫。 ■ 三个怀孕子宫都可以打开,放入模拟妊娠囊。 ■ 宫颈口可插入扩宫器、刮匙,可以模拟刮宫操作,模拟妊娠囊可被刮下。 ■ 带有底托,可使子宫固定在正确位置。 ■ 可反复进行练习。 二、标准配置: ■ 高级人工流产模拟子宫:1套 ■ 模拟妊娠囊:1袋 ■ 说明书:1册 ■ 保修卡合格证:1张
上海欣曼科教设备有限公司
2021-08-23
人工
智能创新教育
产品详细介绍 应用价值 •对教师:提升科学素养,成为AI教学专家 •对社会:凸显教育本质,构建人才培养摇 实验室建设以“营造科技氛围,满足教学需求”为核心,根据场地特点打造含AI文化展示区、AI应用体验区、AI教学实践区在内的个性化方案。 课程体系构建从通识教育、体验教育、实践教育三个层次进行开展,将深奥的人工智能技术原理与生活实际问题相结合,采用案例式讲授、体验式教学、项目式学习的方式由浅入深进行授课,并着重培养学生协作、实践、创新、分享的能力。 3. 根据一线教师教学需求,教师队伍建设以校内教师培养和企业专家服务相结合的方式,培养AI教学专家。
科大讯飞股份有限公司
2021-08-23
人工
智能机器人
人工智能机器人实训平台采用先进的实感技术,搭载高精度激光雷达、高清摄像头和红外传感器,可以实现人脸扫描,微秒识别;环境认知,物体识别;动作捕捉,即时反馈;手势认知,人性互动等功能,同时可完成自主建图,自主导航避障、自主充电等续航问题。拥有25套基础表情动作和486类情感语言表达,能实现语音、动作、手势、表情、触控、感应等多模态交互,以及多语种和国内多方言互动。通过对人工智能机器人进行仿生模块化的拆解装配,可以实现声控识别、自然语言理解、人脸识别、情绪识别等多模块人工智能技术实训,培养智能机器人开发及应用能力。
苏州需要智能技术有限公司
2021-12-08
人工
智能实验室
优化人工智能学科布局,加快人工智能领域一级学科建设。 密切关注人工智能领域前沿技术,将技术及资源引入到人才培养。 部署完整的人工智能实验环境、实验资源、课程体系和教学全流程平台。 搭建完整的专业框架,全面支撑高校人工智能方向的教学与科研。 培养具备深度学习算法设计开发的人工智能应用型人才。
青软创新科技集团股份有限公司
2022-07-06
人工
智能教学实验平台
面向人工智能专业方向理论和实验的云教学平台,融合了Jupyter Notebook实验平台和教学资源中心两大模块。提供开箱即用人工智能编码实验环境,使教学过程高效、便捷。
新大陆教育
2022-06-23
水保所在全球土壤
呼吸
研究中取得新进展
近日,水土保持研究所焦菊英研究员团队联合美国太平洋西北国家实验室(Pacific Northwest National Laboratory)、斯坦福大学等单位,在国际著名综合性期刊Nature Communications上发表题为“Historically inconsistent productivity and respiration fluxes in the global terrestrial carbon cycle”的研究论文。水保所简金世教授为论文第一作者和通讯作者,黄土高原土壤侵蚀与旱地农业国家重点实验室为第一单位。
西北农林科技大学
2022-07-11
首页
上一页
1
2
...
6
7
8
...
341
342
下一页
尾页
热搜推荐:
1
高校实验室分级分类管理平台
2
云上展厅已成功吸引1万余家企业入驻!
3
第62届高博会圆满落幕,明年春天相约春城!