人工智能为工控安全护驾
我想从比较具体角度分析人工智能双刃剑的作用。从宏观上，工业控制安全通常和信息安全是不一样的，这其中有一个话题，人工智能对工业安全是正面作用还是反面作用？从历史上分析，到底公共安全中间的人工智能扮演什么角色？
第一，人工智能发展实际上还是在初步阶段。它在感知方面做的比较好，图像识别、语音识别等已经比较成熟。不仅在算法上有突破，在很多小的硬件上也有突破。但是在知识表达、模拟人的心智方面很难有物理证据来说明其是到位的。
在算法方面，是理解。深度学习算法很有用，但是有一个隐患，深度学习算法与通常的软件算法存在差别，软件不讲测试。大家在讲人工智能中不可测的因素，是跟它软件的不可测试、不可描写有关。
在预测方面，从认知计算、机器学习、深度学习到深度强化学习，无非是我们希望人工智能走上几个台阶，从弱人工智能，到通用人工智能，再到强人工智能。我们最多停留在通用人工智能上，离强人工智能还有很长的路要走，人工智能的路还是很宽的。
第 二， 从人工智能的应用边界来说。 比如 AlphaGo 说明了人和机器可以进行博弈，AlphaGo 战胜了围棋专家，说明它有很高度的状态复杂度跟博弈的复杂度，而且在深度学习上面有突破。
但是，很难判别它跟人很相近，与人很相近表现在优化能力、思维能力。机器现在好像没有到达这个水平。大数据是人工智能的生产材料，没有对大数据加工，未来的产品将毫无意义。几十年来计算能力空前提高，超级计算能力是加工过程中间的基本能力，从而以很低的价格生产高级的产品。
第三是算法方面。机器学习是算法中间一种内容，不应该完全靠深度神经网络的深度学习技术解决所有的问题。目前我们对机器训练太少，不够科学。其次，我们在学习的过程中间产生的数学模型，很难判别模型之间孰优孰劣。数学意义上的优化是指某个指标上提高了，如果我们对产生的模型比较好坏的话，改善就失去了方向。
辅助工具是我们最看重的。人工智能会代替传统产业，创造一个新的产业。不过，人工智能现在还没有把所有的工人都解放，未来 5-10年也不会发展到工人大批失业的地步。
最后一个是安全防范，这也是最重要的。在安全方面，人工智能会发挥什么作用？安全实际上是有四大类：第一，攻防对抗，我们要依据产生对抗的样本来训练我们的战士。对攻击行为进行分类，进行协同训练。第二，内容分析。多媒体内容识别不是那么容易的，利用人工智能能够帮助减轻负担，理解自然语言的建模方式，并对威胁情报分析进行挖掘。第三，代码混淆。二进制文件特征混淆，需要构建高交互式蜜罐，并进行程序代码反调试。第四，异常检测。包括网络异常流量检测、恶意应用程序检测、软件代码的白盒测试和 0Day 漏洞挖掘。
人工智能对安全而言是一把双刃剑。从正面分析，可以应用于恶意应用测试、预防和缓解，其次是分布式拒绝服务攻击防御。从反面分析，人工智能可以在开发工具的时候产生新的漏洞，如谷歌的 TensorFlow 里面文档就有一些漏洞，而且人工智能算法具有不确定性，它不可测试。
人工智能助力工业控制安全。工控安全加上 AI 以后，工控安全的圈子就大了，可以防、防危、防御。工业控制安全包含两大元素。一个是功能安全，现在我们很多办法可以保证功能安全，比如说提高功能安全软硬件协同设计，增强和验证的技术，还有对功能安全还可以建模，在数学模型上进行仿真和测试，对这个仿真系统可以进行功能防护的检查，查看系统的缺陷，对故障进行诊断预测，加强我们系统的容错。这都是属于功能安全方面。
第二个是信息安全。这个信息安全跟功能安全不一样，在公共系统里面，我们要加强系统探测识别，威胁情报感知共享，安全脆弱性分析，安全攻防对抗，安全事件检测预警，安全数据勘验取证。基于可信软件的工控功能安全现在已经有了一些手段，在系统的测试跟验证方面有很好的方法，能够产生一些自动测试的案例，也加速我们对软件测试过程的反应。软件全生命周期50%以上的时候需要耗费很大的劳动力，加上人工成本的提高，因此减少时间的消耗是很重要的。另外可以运用人工智能做自动建模，对需求进行形式化的验证，仿真验证，动态跟踪，这是智能化的体现。也可以对模型进行解析，产生相应的代码，对模型进行自动测试，验证风险评估。这些说明功能安全、自动化起到很重要的、正面的作用。
但是面对复杂环境的工控信息安全。第一需要保证我们的应用和数据安全，第二要保证设备和计算安全，第三，保证网络和通信安全，最后是物理和环境安全。在信息安全有交互的场景中，首先是工业数据运行运维和微服务的应用，使用所谓的好的技术保护目前看来还是有困难的。其次是工业边缘节点计算能力优化，在很多大的应用产品中，单单靠我们所谓的云计算是远远不够的，比如手机，当大家晚上休息的时候，手机的计算能力被搁置，有专家讨论是不是可以利用手机完成调度问题、优化问题。再者是工业软硬件及协议安全加固。工业软硬件是我们国家发展的方向，尤其是操作系统，应用软件等等都是有明确的目标。工信部提出了指标，到 2020 年生产 30 万个工业应用软件。最后是工业感知控制设备的可靠部署，现在还不是太多，我们对过程控制做的比较好。
我们希望建设一个主动防御体系，这个分两部分：安全识别跟踪和安全评估。做预测需要安全策略，要对攻击者进行建模，以后对这样的模型我们要知道该模型是否有效，这都是我们主动防御体系的智能化要求。
如果把工控功能安全和信息安全融合在一起，需要做到两个方面。一方面是功能安全，希望设计、使用、认证上使用人工智能技术。另一方面是信息安全，共三个要素，攻击前，威胁态势可感知。攻击中间，攻击行为可以防范。最后，在攻击以后，安全事件可以控制。