中国工程院院士方滨兴:内生安全问题可能成为人工智能“死穴”
原标题:中国工程院院士方滨兴:内生安全问题可能成为人工智能“死穴”
从自动驾驶到智能家居,近两年,人工智能技术和应用发展迅速,科幻电影中曾经描绘的“人机共存”时代,似乎离人类越来越近。然而,人工智能足够安全吗?4月20日,在2019西湖论剑·网络安全大会上,中国工程院院士倪光南、邬江兴、方滨兴和杨小牛,表达了他们对人工智能潜在风险的思考和隐忧。
中国工程院院士共话网络安全。
25年前的今年,中国全功能接入国际互联网,就此拉开中国互联网的发展序幕,全社会的经济、文化、生活方式迎来深刻变革。
中国工程院院士邬江兴仍然记得当年的场景。他说,大家感到“欢新鼓舞”,各行各业都在倡导“互联网+”。但在发展伊始,网络安全问题没有得到足够重视,导致了现在的很多遗留问题。
2014年,中共中央总书记习近平在中央网络安全和信息化领导小组第一次会议上强调,网络安全和信息化是一体之两翼、驱动之双轮,必须统一谋划、统一部署、统一推进、统一实施。做好网络安全和信息化工作,要处理好安全和发展的关系,做到协调一致、齐头并进,以安全保发展、以发展促安全,努力建久安之势、成长治之业。
邬江兴深以为然。但他也坦言,同步安全和发展,对于全人类而言都是挑战。如今,人工智能应用正像互联网一样进入日常生活,各行各业须及早考虑人工智能的安全问题,否则就会重走当年的老路。“不管是什么问题都会有副作用,必须在发展的初期来解决。”他说。
中国工程院院士杨小牛,也有类似担忧:“人工智能会不会又像互联网一样,刚开始不考虑它自身的安全,最后发现存在各种各样的问题,面临相当大的风险?”他认为,将来,如何让算法更加安全、可靠,是一个突出问题。
中国工程院院士方滨兴提出,人工智能的内生安全问题,可能成为其“死穴”。例如,一个被贴上几张小广告的停车标志牌,人看到标志牌会觉得毫无差别,但算法识别就会出现错误。
方滨兴介绍,这样的错误,与人工智能的内生原理有关。人工智能靠大量的数据和神经网络学习,人能够看到人工智能的处理结果,但神经网络中还有很多人看不到的隐含层。因此,几个小广告,甚至是像素点的改变,都会导致人工智能处理错误。
“现在要关注网络安全的新挑战”,中国工程院院士倪光南说,新技术带来了许多传统安全领域没有的新问题、新现象,必须予以重视。以自动驾驶汽车为例,如果黑客通过网络攻击获得了控制权,自动驾驶汽车就会变得非常危险。
采写:南都记者冯群星 蒋琳
作者:冯群星 蒋琳
(责任编辑:乔任梁)
-
赵丽颖似乎很享受演“妖女”,她承认骨子里有潜在的因子。在她看来,碧瑶敢爱敢恨,个性独立。她欣赏这样的性格,感情上一旦爱上,也会主动付出。...[详细]
-
丽江市古城区卫生健康系统着力强化扫黑除恶专项斗争宣传发动工作
腾讯娱乐讯 由《神偷奶爸》和《小黄人大眼萌》原班人马倾力打造的全新动画电影《爱宠大机密》正在火热上映中。影片不仅票房一路飘红,更是收获超强口碑,引得一班明星大号自发推荐,使这部展示人与宠物之间美好情...[详细] -
奥巴马和女儿中新网8月8日电 据外媒报道,白宫方面近日表示,美国总统奥巴马与妻子米歇尔及两个女儿当地时间本月7日抵达马萨诸塞州马莎葡萄园岛,展开为期两周的暑假。奥巴马夫妇的爱女玛丽亚和莎夏如今亭亭玉立...[详细]
-
为什么人们会痴迷于养猫?不光是无法抗拒的可爱,更多的还是陪伴
华语乐坛男歌手谢震东,2015年曾因一首《爱到风烛残年》火遍大江南北! 经过半年筹备,谢震东2016年8月8日将发行全新单曲《醉》,一起与大家七夕《醉》情歌!谢震东全新中文单曲《醉》由著名音乐人:李盟...[详细] -
8月5日晚,一组“日照一男子开车虐狗”的图片在朋友圈和微博上流传开来,当事人甚至被人肉出车辆信息,爱狗人士上门讨说法。6日上午,记者采访到车主,他告诉记者,自己并未虐狗,5日中午,母亲将狗拴在车后...[详细]
-
有时候, 你的iPhone即使拿在手里,也和丢失一样,北京市民原先生就刚刚经历了这么一件怪事。记者调查发现,通过利用“查找我的iPhone”功能,一小撮“黑客”频繁攻击苹果用户的手机,再提供解锁后...[详细]
-
农村濒临灭绝的“老东西”,不见得多值钱,但农民看到就回忆满满
视觉中国讯 上海,日前,“大表姐”刘雯与工作人员一起出现在上海虹桥机场,见到有粉丝等自己,刘雯便走到粉丝中间为大家签名,其中有一位粉丝激动的哭了起来。 这时候,刘雯马上上前抱着对方,十分暖心...[详细] -
郭台铭陈赫疑似曝光iPhone11真机!网友吐槽:真的很丑!
腾讯娱乐讯 近日,王子文为某杂志拍摄了一组复古风格的时装大片,从活泼俏皮到优雅妩媚,向大家展现了一个风姿百变、与众不同的“曲妖精”。每一种风格的她都让人眼前一亮,不由自主被她的个性所吸引。 ...[详细] -
河南省郑州市,位于郑东新区郑汴物流通道博学路至前程路两边的多处公共厕所遭遇“霸占”,建成将近4年未用。 据了解,郑汴物流快速通道于2012年10月27日正式通车,道路全程采用一级公路标准建设,兼具城市...[详细]
-
腾讯娱乐讯 今天里约奥运会开幕,各路明星纷纷为奥运加油。下午,赵丽颖在微博发了一组cos“兔子”跳跃的照片,称自己会在大草原蹦着高儿等着中国队凯旋。 照片中,赵丽颖身穿一套运动装在草原飞起。...[详细]