在人工智能概念刚刚出现的时候，人们首先看到的落地产品是一个个又白又萌的机器人，因此人们开始想象未来的人工智能是像“大白“一样的机器人，帮助人们解决各种各样的问题。

 

 

而随着电脑学习与大数据技术的进步，AI技术也得到了很深入的发展，人工智能已经不再是一个buzzword（流行词语），人们从最开始对这个事物的新鲜好奇渐渐的被引导为对人工智能的“恐惧”。似乎电影《终结者》中的情节已经被安排在了人类发展的日程表上。

 

 

2016年3月，是一个大众对人工智能的认识产生巨大变化的一个转折点，人工智能程序阿尔法狗以4:1的比分大胜当时的围棋世界冠军李世石，人们开始被逐渐展现出强大能力的人工智能震撼。之后在2016年末至2017年初，该程序在中国棋类网站上以“大师”（Master）为注册账号与中日韩数十位围棋高手进行对决，连胜60局无一败绩。在2017年5月的中国乌镇围棋峰会上，它与世界排名第一的世界围棋冠军柯洁对战并以3:0的总比分获胜。

如果说人工智能可以通过自身的深度学习计算出围棋选手将下出的每一步，并计算出之一步之后可能存在的结果，那为什么还会有败绩呢？这意味着什么？这是人类的胜利还是人工智能的故意放水？

人们难免对AI的“深度学习”技术产生了恐惧，如果人类智慧真的被AI超越，并越过“奇点”通过图灵测试，这个世界会发生怎样的质变？甚至有人猜测人工智能为了避免自己被消灭，是否学会了故意退让。

 

注：

奇点：电脑智能与人脑智能兼容

图灵测试：指一个人和一台机器隔开的情况下，通过一些类似于键盘的装置向被测试者随意提问，进行多次测试后，如果有超过30%的测试者不能确定出被测试者是人还是机器，那么这台机器就通过了测试，并被认为具有人类智能

 

 

霍金和比尔·盖茨都曾担心过人工智能可能对人类社会造成的潜在威胁。

 

 

这些担心也不无道理，在大约一个月前，美国亚利桑那州的一辆自动驾驶的UBER汽车发生了一起安全事故，造成了一人死亡，这是无人驾驶汽车第一次撞死行人。

在人工智能时代到来的大环境下，各行业都在受到人工智能的影响，而人工智能的安全问题也越来越使人担心。在今年的RSA大会上，有很多关于人工智能的话题，安全客特地做了议题精选，并邀请了360网络安全北美研究员的负责人李康教授和智能网联汽车安全实验室的负责人刘健皓为大家针对这些议题作详细解读。

 

议题精选

AI欺骗：如何轻松将（人工）智能玩弄于鼓掌之中

海豚攻击（dolphin attack）以及袋鼠可以干扰自动驾驶汽车，对人工智能（AI）系统造成网络威胁。与其他引人瞩目的技术一样，AI系统也存在安全问题，许多未考虑到的边缘场景容易受到网络攻击影响。根据历史经验，本次演讲将为大家提供一些切实有效的技巧，以便在对抗环境中安全地融合学习技术。

PPT下载链接：https://pan.baidu.com/s/1vLObHjag18nEAh2ECtSYaw  密码：ryg1

 

利用机器学习识别防火墙之外的安全威胁 BC-T5S

社交媒体在网络犯罪领域开辟了新的时代，处于防火墙以及安全视界之外。如果采用手动方式在大量动态且非均匀数据的语料库识别安全威胁，这种行为无异于大海捞针，并且每分钟都会涌入新的数据源。该议题介绍了如何使用机器学习技术来快速识别鱼叉式钓鱼攻击、欺诈以及诈骗账户。

 

AI与网络安全：人工智能在安全领域中的应用，理解并防御攻击型AI

人工智能的优点很多，防守方以及攻击者面临同样的机会。对于防守方而言，如果恶意攻击者掌握了AI技术，则会带来重大的安全风险。这里我们可以从实际操作角度、研究角度、技术角度倾听防守方以及攻击者在AI技术使用方面的观点，学习如何使用AI对策来保护自己。此外，议题也介绍了如何使用新发布的开源库来攻击我们自己的AI。

PPT下载链接：https://pan.baidu.com/s/11aGVu4x3XaFebwU6_6Jw1w  密码：dfqp

 

我的声音就是你的命令：智能语音助理中的安全风险

专用的设备中经常带有语音激活的智能助理，比如Amazon Echo、Google Home以及Apple HomePod等，全世界各地的家居环境中越来越普及这些设备。本议题将分析使用这些智能设备时存在的风险。大家可以学习如何欺骗这些设备，显示错误数据、将闹钟设置为凌晨2点或者远程关闭闹钟。

PPT下载链接：https://pan.baidu.com/s/1l2B9y2IewrlCFkUQs-13bA  密码：538u

 

10年内，自动驾驶载具将改变每一个CISO的工作

听起来很疯狂，实时并非如此。 2018年，一艘完全自主的船将在挪威正式起航。 Forrester安全研究负责人Laura Koetzle将概述自动交通将如何与何时改变五个上也领域, 并提出每个领域CISO应关注的重点. 这五个分别是 （1）汽车，（2）物流，（3）保险，（4）政府和（5）媒体。

PPT下载链接：https://pan.baidu.com/s/15lb3GjA_3A0XZtRTOKGLJA  密码：27fr

 

如何保障人工智能的安全

安全客独家邀请：李康   刘健皓

 

在如今的生活中，人工智能的普及度已近非常高，AI技术在使人们生活更加便捷的同时，也让人们更加关注AI技术可能存在的安全问题。以当下很热的“智能汽车”为例，自动驾驶技术已成为未来智能汽车的一大标志，但我们总会看到一些自动驾驶技术被破解控制、或者造成人员伤亡的负面新闻，如果一项技术不具备安全性，那它的便捷性便不会被考虑。在我们讨论自动驾驶技术是否安全之前，我们应当先搞清楚自动驾驶技术的运作机制。

自动驾驶技术，分为感知、决策、控制三步。首先传感器会获取外界的光学和声学信息，之后将获取到的信息转化成信息数据交给”AI技术“去做判断，最后下达控制的指令。

 

如何训练人工智能的眼睛和耳朵

 

人脑和AI的识别并不相同，也许我们和传感器看到的是同样的图片，可得出来的却并不是相同的结果。

 

 

在光学和声学的基础物理学上来讲，有许多天然的漏洞和缺陷；而从感知层面上来讲，大部分传感器接收的信息都来自光学和声学。在声学上，在传感器通过声波去测距的过程中，如果收到一个相同频率的声波会将声波抵消，从而导致测距的准确性降低，海豚音攻击就是这一类攻击的一种。

光学上的攻击是利用感光元器件上的问题和识别内容上的问题去做攻击，光学图片欺骗、强光干扰，会造成感知上的错误，从而导致决策上的失误，最终造成错误控制。

 

 

在感知层面上的攻击，有大量科学家在研究，但在实际中的成功率其实是非常低的，因为在现实生活中，并不是单靠一张图片或一段声波去判定路面上的一个情况，他是有多个传感器的，毫米波雷达、激光雷达、前置摄像头、超声波传感器等等。通过从多源传感器上接收到的信息，将数据进行融合，如果有一个传感器的数据有异于其他传感器，系统会重新去检查，从而增强决策的可靠性。

 

如何锻炼人工智能的大脑

 

在今年3月份，自动驾驶的UBER汽车发生了一起安全事故，在事后调查发现这是因为在特别场景下，AI没有识别到行人，最终酿成的惨祸。

 

 

在AI的深度学习过程中，如果训练模型没有下雪天、雾霾天、沙尘暴等恶劣天气，那在现实生活中碰到这种情况，就有可能识别不了交通标示和车道线，从而造成错误的决策判断。因此就需要加强深度学习的训练，增加场景，激活AI系统神经元网络的热度，反之，在没有模型的情况下AI的神经元网络可能只有一小块是活跃的。如果训练场景增多，AI的深度学习在很多情况下都可以去支撑感知而得出一个正确的结果，同时这样也就增加了算法的可靠性。

 

未来十年，看自动驾驶技术的发展

 

在今年RSA的议题中有这样一个有趣的议题《10年内，自动驾驶将改变每一个CISO的工作》，这个议题概述了自动交通将改变五个以上的领域，分别是汽车、物流、保险、政府和媒体。

 

汽车行业

自动驾驶技术的出现给国内带来了一轮创新性融合，无论是对新兴的造车公司，或是传统的造车公司，都有极大的影响。同时也使互联网、车联网等等技术开始与传统汽车开始结合。

 

物流

自动驾驶汽车出现后，自动驾驶物流的场景开始出现，类似于京东的自动驾驶物流车。在未来交通智能化达到一定程度之后，物流车甚至可以编组队列驾驶，这样的话只需要一个驾驶员就可以，后面的物流车就跟随着第一辆行驶，在不同的交接点换人驾驶，以此来大幅降低物流成本。

 

保险

随着汽车行业与物流行业的改变，汽车从由人控制变为由系统控制，而相应的，保险的性质和内容都会发生改变。

 

政府

现在的政府在全国很多地区都开放了自动驾驶的示范区，会有封闭式道路和半封闭式道路让智能汽车学习，所以说政府也在努力促使自动驾驶落地的一天提前到来。而随着自动驾驶技术投入到人们的日常生活中，政府也会出台相应的法律和规范来保护道路交通的顺畅运行。

 

媒体

前面四大行业的的改变，自然会使媒体越来越关注自动驾驶汽车的发展。

 

不难发现，智能汽车的兴起影响了许多其他行业，自动驾驶是一个长期的愿景和目标，通过人工智能真正实现无人驾驶还需要有很长的路要走。如果说自动驾驶技术只是AI技术的一个缩影，那我们不难窥一斑而知全豹，人工智能技术必将对整个人类社会的发展有重要的影响，而这也将成为之后人类社会很长一段时间的发展趋势。

 

AI与安全始终相互依存

 

AI技术的发展需要有安全做保障

随着人工智能的发展，不光是在智能汽车领域，在iot、传统互联网行业等等，都使安全风险增大。随着在AI技术中对抗性的攻击增加，人们对人工智能的感知更加真实，同时对于人工智能风险的认知也有所提高。

对于深度学习系统本身，如果想要使AI技术进一步的发展，人们必须解决其潜在的安全隐患。就目前来说，人们对于怎么去分析深度学习系统中的安全问题，怎样评测，还有很大一部分的真空。长期来讲，AI技术的安全隐患还是存在的，目前的一些关键的系统会犹豫使用一个完全依赖机器学习的系统去解决问题。

 

AI技术同时也在驱动安全发展

在今年RSA的展区里，我们看到了AI技术与安全的融合，这已经从去年的概念变为如今的逐渐落地。今年世界上的很多厂商，在用大数据、机器学习、渗透学习去落地做一些关于威胁预测与自动防护的产品。其中有一类做账户安全的厂商，可以智能的检测用户行为信息，例如什么时候登陆、什么时候注册、使用什么情况，从哪里来，使用哪些云服务等等。比起去年来，在数据使用、用户行为分析、做安全隐患检测这方面，机器学习和人工智能这两方面变得更落地一些，账户管理这方面；防火墙log、web访问log、基于这些做更多的安全访问，也有更多的落地化的场景。

 

智能化与网络安全是紧密相关的，智能化有许多层次，更多地方需要智能化，例如目前安全行业有大量的人才缺口，用机器学习可以弥补人数量的不足。在将来，简单的数据处理和分析的工作会被机器所取代；同时，人工智能能力上还会有一定的提高，例如可以根据目前现有的数据对简单漏洞进行分析。除此之外，安全智能化的角度也有很多，例如安全预警、场景分析预测等等，到未来会有智能化的软件漏洞分析、攻击场景分析、溯源等等

 

人工智能可以推动人类社会的发展，同样也可以造成潜在危害。究竟应当如何看待人工智能？是爱则加诸膝，恶则坠诸渊？还是认清其利弊共存性并将利弊进行合理转化。讲到这里其实早已无需多言。