2017 年 8 月 16 日下午，第三届中国互联网安全领袖峰会（Cyber Security Summit2017,简称CSS2017）人工智能与安全伦理分会场在京成功召开，主办方邀请了人工智能领域的多位专家及大咖围绕「人工智能如何有效地提升网络和信息安全」这一主题展开讨论，同时，也分享了人工智能与安全领域的前瞻议题。

极客公园 COO 吴江发在开场致辞中表示，自从去年 AlphaGo 战胜人类后，人们逐渐感受到人工智能为我们生活带来的巨大影响，但与此同时，人工智能对互联网安全和未来互联网发展来说，是利还是弊依然是个未知数。因此，作为互联网从业者，我们在面对这样一个问题时，应该持有一个理性而客观的态度，并且还要有坚定的探索精神，也是我们邀请专家学者来到CSS2017人工智能分会场进行分享与讨论的原因。

　　从黑客角度如何攻破 AI

Geekpwn Lab 总监王海兵从黑客的角度谈及了人工智能的安全问题。他表示，自2014 年他们第一次举办了 GeekPwn 大赛，到现在已经举办了 5 次，向各厂商汇报了几百个严重的安全漏洞，并协助修复，破攻破的设备种类繁多，摄像头、路由器、无人机和 POS 机等都有被攻破。

现在，他们也进军了 AI 领域。王海兵表示，「我们注意到一个 AI 应用系统，应用到人们的生活当中去帮助大家的时候，也会运行在一个特定的信息系统环境当中。作为一个整体，作为人工智能这一块即使非常安全，其他环节出了问题，一样会有问题。」

因此他们在尝试攻破 AI 领域应用较为成熟的人脸识别门禁系统的时候，并没有找到人脸识别本身算法的问题，而是发现了应用系统的问题，最终达到了一样的效果——任意人脸都可以通过门禁。

王海兵将对 AI 的黑客攻击分为 3 个层次，最核心的是算法的层面，即对抗样本算法。比如聊天机器人之前出现过一些「不良」表现，就是学习的样本出现了问题，从而使 AI 代理被污染。此外还有基础设施层面的攻击，AI 应用层面的攻击。

对 AI 来说，做出一个错误的决策和判断，与整个系统被控制，在黑客看来是没有区别的，任何地方有弱点有漏洞都会被攻击。王海兵表示他发现安全界和 AI 界交流不畅，而 GeekPwn 愿意站出来作为一个桥梁来沟通两边，让 AI 更加安全健康地发展。

　　从AI 角度如何抵御黑客攻击

与王海兵探讨如何攻击 AI 相反，微软的首席安全官邵江宁分享了微软如何运用AI检测恶意网络攻击。微软目前是安全领域整体技术能力最强的 IT 公司之一，同时也是人工智能领域技术能力最强的公司之一。

传统网络安全防护手段如：反病毒、入侵检测和防火墙，由于网络威胁特性的演化，在今天的网络空间安全对抗过程中面临着新的挑战，需要重构和进化，打造新的网络安全生态体系。微软在新的时代，建立了新的体系化的整体安全策略，包括：平台，合作，和安全情报。

邵江宁分享了微软内部AI 在安全领域运用的成功经验和「可度量的要素」：包括AI模型可自适应，它能够适应恶意代码新的变种；其次，必须可解释，人工智能检测的结果需要与安全专业知识能够相互融合，能由安全专家理解和解释得通，能够运用在实际；最后，要可执行。「人工智能输出的结果，需要帮助安全响应链条的安全专家、响应团队降低工作量，提高响应速度。」

「人工智能成功使用于网络安全防御，要达到三个效果：速度、质量、响应。微软在 Azure 云安全中心上使用先进的人工智能和安全响应专家专业技能的组合，使用原子/特征检测，基于传统的特征检测，用户端遭遇的未知恶意代码在会使用智能云端超过160种机器学习算法模型进行检测和分析；基于网络威胁情报的检测，发现用户 IP 和僵尸网络的控制服务器的通讯；基于行为分析，对新型恶意变种软件但是可疑行为已知，把新威胁识别出来。」

　　哲学、交互、应用多层面立体化分析AI与未来安全

除了AI领域的攻防之外，来自中山大学人工智能实验室主任翟振明教授从哲学层面分享了他对于 AI 和人机交互的看法。 随后翟振明教授提出了人机交互的三个原则：1. 从客体到主体的方向，信息越畅通越好； 2. 从主体到客体方向，控制信号越畅通越好，信息密封度越高越好；3. 以上两条的松动调节，最严苛的程序保证以各个主体为主导。

来自滴滴 Labs 安全研究的负责人蔺毅翀先生也从一个产品经理和创业者的角度，分享了机器学习在人工智能和信息安全的应用。BroadLink 的高级副总裁康海洋则在会上来分享了在智能家居领域如何保证安全。康海洋表示，开发智能家居产品时，他们主要受到了三种主要威胁：系统、智能和数据层面。因此，他们需要不断更新安全算法，提高整体安全防护能力；在整个智能家居平台系统中减少攻击面，尽量不开放端口；针对数据量过大的问题，通过使用算法，分析数据的来源和动态，来保障智能家居领域的安全。

与此同时，科大讯飞的吴江照先生也来到了分论坛现场发表演讲，他重点说到了人工智能与我们的生活之间的联系。关于泛安防和智能互联领域的 AI 应用，旷视科技的安防技术专家张鑫也分享了公司在公共安全领域的一些应用。

此次，人工智能与安全伦理分会场的主办方——中国互联网安全领袖峰会（Cyber Security Summit，简称“CSS”）是由腾讯公司、中国电子技术标准化研究院等企事业单位共同创办。峰会自2015年创办至今，得到了安全行业及各个产业的认可，更得到了国家网信办、工信部、公安部等国家部门的大力支持。目前，由腾讯主办的CSS正在演变成一个由全球企业、机构共同构建的无边界网络安全平台。

同时，本届中国互联网安全领袖峰会还聚集了“世界头号传奇黑客”Kevin D Mitnick、”计算机安全教母”Dawn Song、Visa副董事长兼首席风险官 Ellen Richey 等来自全球的五千多名安全技术专家，共同围绕“安全新秩序 连接新机遇”这一主题，聚焦金融安全、大数据与云安全、安全法治治理、智能硬件安全、人工智能等多个安全热点领域进行了深入探讨与分享。旨在新的安全秩序下通过连接打通个产业，以安全护航各产业发展，并保持不断创新，对各产业网络安全进行深度剖析与信息资源整合，实现共享、开放、互赢互利。

未来，作为CSS领袖峰会的发起方，腾讯将持续推进和建立开放、协作的安全生态新体系。目前，腾讯安全开放平台成员已超百家，并将腾讯安全联合实验室等核心安全能力、数据全面向合作伙伴开放，安全防范和保障范围覆盖了连接、系统、应用、信息、设备、云六大互联网关键领域，惠及数亿网民，涉及个人生活的方方面面，在推动建立全产业链协作的安全体系上做出了切实的努力。