吴军/文
我非常有幸为《人工智能时代与人类未来》撰写这篇导读文章。我不妨以作者的口吻来解读一下书中最重要的内容及其对我们的影响。这本书对于我们站在社会的高度理解人工智能很有益处。
在人类数千年的历史上，天才们创造出无数了不起的思想。他们奠定了人类哲学的基础，贡献了科学的进步。每一个时代，从古代文明时期到启蒙运动时期，都铭刻着他们的成就。今天，就连孩子们都对那些伟大思想者的名字耳熟能详，比如孔子、佛陀、耶稣、亚里士多德、花剌子模、莎士比亚、牛顿、贝多芬和爱因斯坦。
然而今天，有了新的一批发明创造的主体，它们不是人类！在很多方面，人工智能已经超越了人类，而且超出了人们最大胆的想象力，比如在各种博弈中。人类几千年对围棋的理解，被AlphaG。告知是错误的，而后者对围棋的理解深度则是过去人类凭借智力完全达不到的。当然，更有现实意义的是通过深度神经网络产生具有质感的图像、书写流畅而优美的文章，以及设计药物的分子结构。同样的算法可以用于自动驾驶，不仅能够取代商用车辆的驾驶员，而且能够操作战斗机。总而言之，人类过去从来没有感到如此的兴奋，同时又感觉受到如此巨大的威胁，不仅因为它们威胁我们的工作机会，而且让我们担心人类从此将被完全不为人知的力量所操控。
需要指出的是，这些令人印象深刻的结果还只是简单人工智能所产生的，未来真正的机器智能可能会更强大。今天，人工智能算法一方面具有前所未有的学习能力，它们通过深度神经网络可以消化海量的数据，训练数十亿个参数，这超出了任何人类的能力。计算机还可以在一天内阅读并分析上百万本书，远远超过人类可以达到的最大阅读量。另一方面，目前的各种算法还处在“知其然但不知其所以然”的阶段，它们非常难以捉摸，表现也会时好时坏，无法控制。例如，我们今天很容易通过加入噪声骗过图像识别程序，甚至可以操控它们，让它们把狗识别成猫，但是没有人，哪怕是孩子会犯这样简单的错误。
此外，当前的人工智能算法会把训练中的误差不断放大，因为各种算法的训练都要通过千百万次的迭代。比如在医学领域，虽然人工智能技术已经被用于研究不同人的遗传基因对同一治疗（或者药物）所产生的不同结果，但是这种基于人工智能的个性化医疗的研究导致治疗方案的过度匹配现象，对一些人非常有效，但是对其他人完全无效。这是由于人工智能的训练数据来自
部分人，而它又不知道该对其他人如何调整结果。
然而，就是这样一些“半吊子”的人工智能已经开始改变世界了一它们把我们变成了和以前不同的人。例如，谷歌的搜索引擎或脸书的社交网络，每天消耗数十亿美元，在利用人工智能审查各种内容，过滤结果，提供给我们它们希望我们看到的社会，而不是完整的社会。这件事是好是坏，依然很难说。但是，不管怎样，我们在受到它们的影响之后，已经和以前不一样了。
今天，人们对于人工智能的态度，和近一个世纪前对核技术的态度很相似，是又爱又恨。一方面，核技术让人在很多领域看到了希望，它不仅可以解决人类的能源问题，而且能够被用于医疗和其他领域。另一方面，又会有人利用核技术进行破坏和核讹诈，直接威胁到人类的生存。今天的人工智能技术也是如此，我们无法区分它的好与坏，正如我们过去无法衡量核技术自身的善恶一样。我们可以说，善恶要看技术的设计者和使用者，但是对于他们的善恶，我们其实也很难用一个标准进行衡量。我们唯一知道的是，科学进步不会因为我们不喜欢就停止步伐，试图放慢人工智能技术发现的想法是徒劳的。我们所能做的，是作为社会的主体，作为领导人，必须搞清楚人工智能技术可以用于什么领域，又应该在什么地方受到限制。
今天，这种“半吊子”的人工智能已经非常强大了，未来它会变得几乎无所不能，而我们该做的就是把它使用好。比如利用这项技术进行药物研究和发现新药，但要严格限制它被用于网络攻击和战争。我们必须确保人工智能的发展与人类的理想和福祉是一致的。为此，从现在开始，我们就必须对人工智能技术进行有效的管理。然而，与核技术相比，掌握人工智能技术的门槛并不高，人工智能已经被扩散到世界各地了。我们已经无法制定一个类似于《不扩散核武器条约》之类的规范来防止有人用人工智能来作恶，但是现在在世界范围内设置一个合理使用人工智能的标准，依然非常重要。
同时，我们必须教育好下一代，要利用这项技术为公共利益服务，促进人类的福祉。或许会有人嘲笑我们这种看似天真的想法，但是我们非常有必要这样做，我们有义务迈出第一步。
今天，人类站在技术革命的浪潮之巅。智能时代即将到来，这是我们这代人的幸运，也让我们必须承担起引导智能技术健康发展的义务。
（作者为计算机科学家、硅谷投资人，本文为《人工智能时代与人类未来》一书导读，该书作者为亨利基辛格、埃里克施密特、丹尼尔胡滕洛赫尔）
责任编辑：方凤娇 主编：程凯
相关文章
