LK分享用算法模拟光束可攻击自动驾驶车辆
攻击AI有多简单?一束光就够了。
3月11日,阿里安全专家发布了一项新研究,只要用简单的激光笔,就可以让AI模型不再有效。在这个研究中,他们设计了一种算法,可模拟光束对AI模型进行"攻击",这种测试方法在现实世界中得到了验证,且"攻击"极易操作,对现有基于AI的视觉系统更具威胁。
一束激光可能让自动驾驶汽车对交通标识识别错误
"攻击AI远非需要人为去制造对抗样本,一支简单的激光笔就可以。我们想通过这个研究揭示AI模型一些之前没有被探索过的‘错误’,从而‘强壮’AI,让它未来能抵挡这种‘攻击’,也让相关从业者重视提高AI模型的安全性。"阿里安全图灵实验室负责人薛晖说。
除了以"一束光"测试AI视觉的安全性,最近图灵实验室发布了多项文字识别与检测、利用自监督建立视频表征学习方法与提升半监督行为检测的算法框架、AI样本对抗、伪造人脸检测、AI对人脸与人声匹配的双重模态识别、视频描述AI生成技术等囊括AI"视觉""听觉""大脑""免疫性"等多项涉及AI安全的研究成果,涉及AI安全的10项新一代安全架构研究成果均被国际顶会CVPR2021收录。
"在AI安全前沿技术上进行探索,一是为了让AI更安全,二是为了让AI助力安全,三是为解决具体社会问题寻找提效的新途径。"薛晖说。
针对互联网视频中所可能存在的内容风险,阿里安全高级算法工程师陈达与阿里安全实习算法工程师邓超睿共同开展了密集型视频描述生成研究,通过算法对给定视频自动生成对视频内容进行描述的一段文字,提前过滤不良内容,守护互联网清朗健康环境。
书乐是阿里安全图灵实验室的一名女性算法专家,她认为算法应该是有"温度"、"柔软"的,希望能在保护大众隐私的基础上,更加高效地解决机场、火车站、车库、游乐场等环境下走失儿童、老人的寻找问题。高级算法专家越丰关注AI对抗样本的问题,高质量的DeepFake人脸伪造视频更容易被制作并引发不良影响,而真实场景的伪造视频数据分布和视频质量参差不齐,他们正在通过寻找一个更好的方法提升检测AI检测算法的实用性。
"安全部署要前置,无论是AI本身的安全,还是AI可以助力解决的安全问题与社会问题,这就是从源头构筑安全的核心理念。"薛晖表示,希望在广阔的AI安全研究的新领域中,能有更多新生力量加入,迸发出有创造性和想象力的研究,最终应用到人们的生活中,真正服务大众,解决难题。本文来源:中国青年网
818买三千价位手机?这几款都值得入手,总有适合你的在开学季来临前,我们迎来了优惠不少的818,让不少人准备在这个时间段入手新机。今年的818中,手机的优惠都相当不错,其中不少机型的价格比618更低,的确是一个买手机的好时机,相信大
阿里的瓜刺痛了谁随着互联网的兴起,互联网经济的发展有目共睹。阿里巴巴作为互联经济的先驱,本就人红是非多,从余额宝到蚂蚁金融可以说都给这个还没有完善制度的行业打了一剂猛药,打破了平衡,引起了轩然大波
警方通报阿里女员工被侵害案,事实证明没有反转8月14日,警方发布通报表示,两男子涉嫌强制猥亵,无证据证明强奸。新京报我们视频截图8月14日,济南市公安局槐荫区分局通报阿里女员工被侵害案相关情况。根据中华人民共和国刑法第237
警方最新通报阿里女员工说谎了?大家怎么看警方最新通报这份14号的通报,看起来做了尽可能的客观描述,没有任何推测,仔细看看,真是要气死人了。因为通报比较长,可能有些友友们没耐心看完,我直接贴几个通报里的重要结论给大家先。1
比特币最便宜的时候多少钱?如果回到过去,靠买比特币能发财吗?2010年5月18日,一位名叫LaszloHanyecz的程序员在比特币论坛上表示希望用一万枚比特币换取两份PapaJohns的大披萨(当时价值40美元),随后逐渐有人注意到了这个
骁龙888和骁龙888Plus差多少?现在买安卓旗舰选哪款更划算?相信近日有密切关注数码圈的小伙伴,都能注意到市场上的动态可谓是相当的活跃,尤其是小米MIX4以及荣耀Magic3系列两款新机的发布更是点燃了各种热议话题。当然,除了屏下摄像头技术以
苹果手机真的好用吗?苹果手机真的很好用吗?为什么一堆人买苹果手机,苹果手机中国市场占有率据说已占道全球70,也就是,全球所有国家销量才占30,光中国就占70。说明苹果手机在其它国家苹果手机都卖不动,难
就算热搜凉了,我也要骂他恶臭酒局文化早日凉凉,再单薄的水滴,终将成为巨浪,不要让日本之耻,在中国蔓延。最近一周,关于阿里P7涉嫌性侵女下属的事件,想必大家都知道得七七八八了。女方无奈,只能在公司食堂发传单
好音质与低延迟兼备,还有长续航,南卡N2s蓝牙耳机体验自从3。5mm耳机接口在手机上消失后,现如今真无线蓝牙耳机的普及度已经非常高了,几乎大多数人在为手机选择耳机配塞时都将真无线蓝牙耳机作为首要选择。确实,与有线耳机相比,真无线蓝牙耳
流畅度媲美iOS!小米MIX4K40系列连夜推送MIUI12。5增强版在前几天的小米MIX4发布会上,小米官方正式宣布了MIUI12。5增强版,并表示,虽然版本号依然为12。5,但是却不亚于大版本升级,官方称其主打流畅度提升和更低的功耗。而在今日凌晨
天猫超市账号激活不了怎么办?一天猫超市账号激活不了怎么办?二天猫超市绿色入驻通道三天猫超市入驻所需条件一天猫超市账号激活不了怎么办?天猫超市是天猫新设立的自营平台,是完全脱离于天猫的独立平台,主要是对标京东的