产业新闻

您的位置:主页 > 产业新闻 >

比如 AlphaGo 说明了人和机器可以进行博弈

时间:2018-11-02编辑: admin 点击率:

  原标题:【网安智库】人工智能为工控安全护驾

  我想从比较具体角度分析人工智能双刃剑的作用。从宏观上,工业控制安全通常和信息安全是不一样的,这其中有一个话题,人工智能对工业安全是正面作用还是反面作用?从历史上分析,到底公共安全中间的人工智能扮演什么角色?

  第一,人工智能发展实际上还是在初步阶段。它在感知方面做的比较好,图像识别、语音识别等已经比较成熟。不仅在算法上有突破,在很多小的硬件上也有突破。但是在知识表达、模拟人的心智方面很难有物理证据来说明其是到位的。

  在算法方面,是理解。深度学习算法很有用,但是有一个隐患,深度学习算法与通常的软件算法存在差别,软件不讲测试。大家在讲人工智能中不可测的因素,是跟它软件的不可测试、不可描写有关。

  在预测方面,从认知计算、机器学习、深度学习到深度强化学习,无非是我们希望人工智能走上几个台阶,从弱人工智能,到通用人工智能,再到强人工智能。我们最多停留在通用人工智能上,离强人工智能还有很长的路要走,人工智能的路还是很宽的。

  第 二, 从人工智能的应用边界来说。 比如 AlphaGo 说明了人和机器可以进行博弈,AlphaGo 战胜了围棋专家,说明它有很高度的状态复杂度跟博弈的复杂度,而且在深度学习上面有突破。

  但是,很难判别它跟人很相近,与人很相近表现在优化能力、思维能力。机器现在好像没有到达这个水平。大数据是人工智能的生产材料,没有对大数据加工,未来的产品将毫无意义。几十年来计算能力空前提高,超级计算能力是加工过程中间的基本能力,从而以很低的价格生产高级的产品。

  第三是算法方面。机器学习是算法中间一种内容,不应该完全靠深度神经网络的深度学习技术解决所有的问题。目前我们对机器训练太少,不够科学。其次,我们在学习的过程中间产生的数学模型,很难判别模型之间孰优孰劣。数学意义上的优化是指某个指标上提高了,如果我们对产生的模型比较好坏的话,改善就失去了方向。

  辅助工具是我们最看重的。人工智能会代替传统产业,创造一个新的产业。不过,人工智能现在还没有把所有的工人都解放,未来 5-10年也不会发展到工人大批失业的地步。

  最后一个是安全防范,这也是最重要的。在安全方面,人工智能会发挥什么作用?安全实际上是有四大类:第一,攻防对抗,我们要依据产生对抗的样本来训练我们的战士。对攻击行为进行分类,进行协同训练。第二,内容分析。多媒体内容识别不是那么容易的,利用人工智能能够帮助减轻负担,理解自然语言的建模方式,并对威胁情报分析进行挖掘。第三,代码混淆。二进制文件特征混淆,需要构建高交互式蜜罐,并进行程序代码反调试。第四,异常检测。包括网络异常流量检测、恶意应用程序检测、软件代码的白盒测试和 0Day 漏洞挖掘。

  人工智能对安全而言是一把双刃剑。从正面分析,可以应用于恶意应用测试、预防和缓解,其次是分布式拒绝服务攻击防御。从反面分析,人工智能可以在开发工具的时候产生新的漏洞,如谷歌的 TensorFlow 里面文档就有一些漏洞,而且人工智能算法具有不确定性,它不可测试。

  人工智能助力工业控制安全。工控安全加上 AI 以后,工控安全的圈子就大了,可以防、防危、防御。工业控制安全包含两大元素。一个是功能安全,现在我们很多办法可以保证功能安全,比如说提高功能安全软硬件协同设计,增强和验证的技术,还有对功能安全还可以建模,在数学模型上进行仿真和测试,对这个仿真系统可以进行功能防护的检查,查看系统的缺陷,对故障进行诊断预测,加强我们系统的容错。这都是属于功能安全方面。

  第二个是信息安全。这个信息安全跟功能安全不一样,在公共系统里面,我们要加强系统探测识别,威胁情报感知共享,安全脆弱性分析,安全攻防对抗,安全事件检测预警,安全数据勘验取证。基于可信软件的工控功能安全现在已经有了一些手段,在系统的测试跟验证方面有很好的方法,能够产生一些自动测试的案例,也加速我们对软件测试过程的反应。软件全生命周期50%以上的时候需要耗费很大的劳动力,加上人工成本的提高,因此减少时间的消耗是很重要的。另外可以运用人工智能做自动建模,对需求进行形式化的验证,仿真验证,动态跟踪,这是智能化的体现。也可以对模型进行解析,产生相应的代码,对模型进行自动测试,验证风险评估。这些说明功能安全、自动化起到很重要的、正面的作用。

  但是面对复杂环境的工控信息安全。第一需要保证我们的应用和数据安全,第二要保证设备和计算安全,第三,保证网络和通信安全,最后是物理和环境安全。在信息安全有交互的场景中,首先是工业数据运行运维和微服务的应用,使用所谓的好的技术保护目前看来还是有困难的。其次是工业边缘节点计算能力优化,在很多大的应用产品中,单单靠我们所谓的云计算是远远不够的,比如手机,当大家晚上休息的时候,手机的计算能力被搁置,有专家讨论是不是可以利用手机完成调度问题、优化问题。再者是工业软硬件及协议安全加固。工业软硬件是我们国家发展的方向,尤其是操作系统,应用软件等等都是有明确的目标。工信部提出了指标,到 2020 年生产 30 万个工业应用软件。最后是工业感知控制设备的可靠部署,现在还不是太多,我们对过程控制做的比较好。

  我们希望建设一个主动防御体系,这个分两部分:安全识别跟踪和安全评估。做预测需要安全策略,要对攻击者进行建模,以后对这样的模型我们要知道该模型是否有效,这都是我们主动防御体系的智能化要求。

  如果把工控功能安全和信息安全融合在一起,需要做到两个方面。一方面是功能安全,希望设计、使用、认证上使用人工智能技术。另一方面是信息安全,共三个要素,攻击前,威胁态势可感知。攻击中间,攻击行为可以防范。最后,在攻击以后,安全事件可以控制。

  何积丰, 中国科学院院士,主要从事计算机软件理论及应用研究,针对软件的复杂性、正确性和可靠性等问题开展系统性的研究。

  (本文选自《信息安全与通信保密》2018年第十期)

  本微信公众号刊载的原创文章,欢迎个人转发。未经授权,其他媒体、微信公众号和网站不得转载。

  ···························································

  声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。

  公务员法拟新增违反家庭美德等禁止性规定

  工信部:明年3月底前,运营商要对骚扰来电标注提醒

  收评:北上资金涌入抢筹 沪指放量大涨2.7%

  盘点因好赌落马的贪官:有人在澳门赌场输掉上亿公款

  朝韩商定共同申办2032年夏季奥运会

  警方将价值185万余元赃物发还民众

  西方疏远沙特之时,俄罗斯送上拥抱

  数千人移民袭来!美士兵赴美墨边境严防

联系我们

CONTACT US

网址:http://www.kaixinwan8.com

电话:0310-706339416

联系人:凯发娱乐总经理

地址:www.k8.com

Copyright © 2017 凯发娱乐_www.k8.com_凯发娱乐全球公开_222k8.com All Rights Reserved 网站地图