乐众娱乐场网站·全国政协委员、360集团董事长兼CEO周鸿祎:人工智能有“软肋” 安全问题不可回避

2020-01-10 16:15:57

简介 : 当这些词汇在今年的政府工作报告中出现,第二年履职的全国政协委员、360集团董事长兼ceo周鸿祎感到非常振奋,他告诉《中国经济周刊》记者:“政府工作报告对支持新兴产业特别重视,对我们这些相关从业者而言,无疑是强心剂,让我们更有信心,有底气。”周鸿祎说,人工智能的安全问题主要来自于四个方面。为此,周鸿祎建议:加快国家级网络安全人工智能开放创新平台建设。安全应该成为人工智能发展的基础与前提。

乐众娱乐场网站·全国政协委员、360集团董事长兼CEO周鸿祎:人工智能有“软肋” 安全问题不可回避

乐众娱乐场网站,中国经济周刊微信号:chinaeconomicweekly

中国经济周刊官方网站:经济网 www.ceweekly.cn

《中国经济周刊》记者 孙冰 | 全国两会现场报道

人工智能、大数据、智能+、平台经济……当这些词汇在今年的政府工作报告中出现,第二年履职的全国政协委员、360集团董事长兼ceo周鸿祎感到非常振奋,他告诉《中国经济周刊》记者:“政府工作报告对支持新兴产业特别重视,对我们这些相关从业者而言,无疑是强心剂,让我们更有信心,有底气。”

作为一名网络安全领域的企业家,周鸿祎表示,从安全角度来说,随着5g通信,物联网、人工智能这些新兴技术的应用,未来万物均要互联,网络安全形势也更为严峻。

“万物互联的到来,意味着物理世界和网络世界的边界将逐渐消失,网络安全威胁已经从网络空间扩展到国家安全、国防安全、关键基础设施安全、城市安全以及社会民生安全。我们必须利用好大数据、物联网、人工智能、云计算等新技术,解决未来的安全问题,为未来产业的发展保驾护航。”周鸿祎说。

周鸿祎(受访者供图)

今年,周鸿祎提交了三份提案,分别关注了国家级网络安全大脑建设、智能汽车网络安全和人工智能安全风险等安全热点话题。

从事网络安全行业十多年来,周鸿祎感觉,现在我们的网络安全防御有一个很大的问题:各个单位基本上各自为战,各守自己的“一亩三分地”、“自扫门前雪”,大家都只掌握自己的局部信息,无法及时发现高级攻击。

而未来的物联网设备数以百亿计,每一个都可能成为攻击的切入点,防不胜防;更可怕的是,漏洞可能无处不在,没有攻不破的网络。

因此,周鸿祎提出了一个“大安全”的概念,现在也成为了一个行业共识。因为面对这些威胁和挑战,当务之急是能够及时发现网络攻击,唯一的方法要靠安全大数据的融合。

虽然现在建立了很多网络安全防御系统,然而数据没有打通、各自为战等现象普遍存在。因此,周鸿祎建议,要构建一个数据统一、国家级的网络空间国土防御系统——国家级网络安全大脑。

人工智能虽然已经是当下最为热门的话题,甚至不用加上之一。但是,对于安全问题,各界却没有给予足够的重视。人工智能时代的网络安全与过去有何不同?有哪些不同于过去的新挑战和新要求?如果做不好,会有怎样的危害和后果?

“谈论人工智能,首先不能回避的是人工智能自身就存在安全问题。人工智能有很多根安全‘软肋’。”周鸿祎说,人工智能的安全问题主要来自于四个方面。

首先,前端传感器可以被干扰。现在我们都谈无人驾驶,无人驾驶汽车识别路况信息主要依靠红外感应、激光雷达等各类车载传感器,但这些传感器目前并不安全,很容易被干扰,造成人工智能识别和决策失误。比如我们用激光笔干扰一下车载雷达,就有可能造成无人车急停,引起追尾事故。

其次,训练数据可以被污染。人工智能是大数据训练出来的,训练的数据可以被污染,甚至被黑客进行"数据投毒"。此前微软做了个聊天机器人tay,因未对tay与网友的对话做任何设定,结果tay上线16个小时内就被“教坏”,成为一名“不良少年”,其ai驱动的“人格”满口暴力,甚至不乏偏激的种族主义言论,最后不得不匆匆下线。

第三,内部算法不完善。作为一种概率判断系统,目前的人工智能也许可以保证99.99%的准确性,但是对于安全来讲,它只要出现一次错误,就会造成严重后果。2018年美国uber公司的自动驾驶测试车发生了撞人事故,当时那辆汽车处于光线很暗的环境中,被撞的女士穿了件黑色衣服,在这种情况下,人工智能系统没有做出任何判断,甚至没有减速,最终酿成了悲剧。

最后,实现平台有漏洞。许多ai系统都依赖开源的深度学习软件,但是软件只要是人写的,就一定有漏洞,有漏洞就会被人利用。另外,随着开源算法越来越通用,潜在的风险也会增多。

周鸿祎还特别举例:“今天大家的电脑、手机谁也不敢裸奔,都会安装安全杀毒软件,但是,智能汽车越来越多的今天,好多智能汽车却在‘裸奔’,智能汽车其实也应加装网络安全防护系统,并且应该像‘安全带’一样列为智能汽车标配。”

在周鸿祎看来,人工智能的核心是数据,数据积累较好的行业更容易落地,比如医疗与金融。“医疗领域就是一个非常好的落地场景,比如医疗影像有很多现成的大数据,可以用来训练人工智能,也比较容易建立自己的护城河。”

此外,人工智能的应用领域其实非常广阔,传统制造业、交通业、快递业、零售业、医疗、金融、互联网、大数据、网安产业等,在各个领域人工智能都有极大潜力释放生产力,提高生产效率。另外,人工智能还能代替人类在恶劣环境从事工作,而且不知疲倦,24小时工作。

“对于传统企业而言,在拥抱新技术,紧跟科技前沿的同时,最重要的是要利用人工智能做自己本来擅长的事儿,形成自己的技术优势。”周鸿祎说。

人工智能正在加速与经济、社会、国防等深度融合,发挥越来越显著的“头雁”效应。但与此同时,人工智能自身所面临的网络安全风险也越来越突出。

为此,周鸿祎建议:加快国家级网络安全人工智能开放创新平台建设。安全应该成为人工智能发展的基础与前提。但是,人工智能网络安全问题非常复杂,迫切需要建立一个开放创新平台,整合各种资源,协同推进和解决。

国家对新一代人工智能开放创新平台的建设高度重视。已分别在自动驾驶、城市大脑、医疗影像、智能语音、智能视觉5大领域批准建设人工智能开放创新平台,但在人工智能网络安全领域还是空白。

周鸿祎建议,国家支持尽快建设国家级网络安全人工智能开放创新平台,确保人工智能健康有序发展。

新媒体编辑:王新景

关注《中国经济周刊》头条号

请回到文章顶部,点击右上方“关注”

正规线上平台

跟考官口语道别,你需要具备更地道的“再见”