史蒂芬·霍金最近发出警告:“一旦人工智能发展到完整的程度,人类的终结也就到了。”伊隆·马斯克则担心人工智能的研发有可能是人类存亡的最大威胁。连比尔·盖茨也敦促大家要小心。
人一手创造的怪物,会不会反过来奴役人?这种畏惧很早就有了。但就在微软、谷歌竞相投入巨资研发人工智能之时,名气响当当的宇宙学家、硅谷创业家和微软创始人却分别说出这样的忧虑,这份忧虑就有不同的份量–要注意,他们三位可不是反对或排斥工业化、新技术的人。今天,一个人的口袋里装着的可能就是一部超级计算机,战场上杀出来的可能是机器人,如果把那份忧虑简单地当是异想天开,也是有些自欺欺人。问题在于,如何避免过犹不及?
首先,我们要搞清楚,计算机现在已经具备了哪些能力,而在将来又会增加哪些能力。凭借处理能力的增强以及数据资料的增多,人工智能正处于快速发展的阶段。今天,深度学习 (deep learning) 系统能模仿人脑的神经元层,处理海量的数据,自己教自己如何去执行一些任务,譬如识别和翻译,做得几乎跟人一样好。结果,一些一直需要人脑参与的事情,大到解读图象,小到玩街机经典《青蛙过河》,现在也属于电脑程序能做的范围里了。Facebook 在 2014 年发布了名为 DeepFace 的算法。这个算法可以识别相片里的人脸,准确率达到 97%。
但必须注意的是,这些都是应用于某一具体领域狭隘的能力。目前的人工智能是通过“残暴”的数据处理能力,来达到与人脑智力的“形似”,但至于如何模仿人的自主性、喜恶和欲求,成果则很少。电脑还做不到随心所欲地思辨、判断、选择,而这些都是人类智力的特征。
但与此同时,人工智能已经可以给人类生活带来巨大的改变。人工智能现在已经能辅助人类,为人做的事带来助益。国际象棋便是一例。现在电脑可以下赢任何一个人。不过,当今世界上最强的棋手并不是电脑,而是人与算法一起合力的团队。这样的团队组合将延伸至人类其它的活动:医生有了人工智能的支持,从医疗图象中查出癌症的能力将大大增强;有了智能手机上装的语音识别软件,发展中国家读写能力欠佳的人便能更好地使用互联网;做学术研究时,数字助理可以建议你哪条假设更有机会成立;有了图象分类算法,可佩戴设备(如谷歌眼镜)可以对着肉眼看到的真实世界“加上”有用的标注。
但也不是每个方面的效益都是正面的。譬如,无论是对民主国家还是专制国家而言,人工智能都是监管人民的利器。有了人工智能,政府便可以监听数以亿计的对话,在人山人海中根据声音或样貌特征轻而易举地找出它要找的人。这就对自由造成了严峻的威胁。
尽管整个社会可以获得很多益处,但很多人会因为人工智能而处于劣势。在计算机诞生以前,给老板计算数字的苦活常是由妇女来做,后来这些职位就让晶体管占据了。同样,人工智能将来很有可能会让整个白领阶层捡包袱走人。虽说教育和培训有助打工者适应这个变化,且人工智能带来的新财富会进入新的行业从而产生新的工种,但打工者依然难免经历颠簸。
但霍金、马斯克、盖茨他们担心的并不是监控和颠簸的问题。他们担心的是近期好莱坞电影里的场景:自动化机器拥有了比人类更灵敏的认知能力,拥有了与肉身的人冲突的利益观。
这样的人工智能产品离我们还遥远得很,甚至可能永远也造不出来。无论是心理学家、神经学家、社会学家还是哲学家,在对着人脑东敲敲西敲敲地研究了一个世纪后,依然没搞清楚人的思维是怎么回事,更不要说仿造出一颗人脑。假如机器拥有自己的利益观和自主能力,即使这机器的智能不完整,只能用于某个用途,也绝非代表我们就可以放心使用:无人车跑起来比人开还好,这听起来挺赞的,但要是车有自己想去的地方,听起来可就不太妙。
虽然我们离霍金所说的“完整的”人工智能还很远,但现在就开始思考如何应对到时的情况,也是谨慎之举。“超人”又“自治”的东西,人类不早就创造过了吗?官僚体制、市尝军队,这些都是,这些都帮助人类做到没有辅助、组织时做不到的事情;这些都能自主运作,而且如果不加法规管理,都会造成巨大的祸害。
这些相似的事物或许可以令人工智能的持疑派放心一些。这些事物也喻示了人类社会如何可以安全地研发人工智能。军队需要文官管理,市场需要监管,官僚需要问责、透明;同理,人工智能系统也必须接受监督。由于系统的设计者无法预见所有的情形,还必须要有危急时刻拉闸中断的设置。加入这些限制并不会妨碍进步。大到核弹,小到交通规则,这些都证明人类曾成功运用技术和法律手段去管理威力强大的创新。
过度畏惧“自动化非人智能”的诞生,会令相关的讨论走偏。诚然,人工智能会带来危机,但注意到危机的同时,我们也要看到其庞大的效益。