人类制造的最后一台机器？

□ 尹传鸿

史蒂芬·霍金，一位著名物理学家，半个月前去世，他在他的专业领域之外有两个惊人的理论：一个是他主张不主动接触或接触外星人，另一个是警告人工智能可能最终毁灭人类。对于第一个话题，大多数人认为这位科学明星太“科幻”了，不是特别严肃。第二个话题似乎是正确的，因为比尔·盖茨和埃隆·马斯克等大人物的呼应和支持。

事实上，叫卖AI不止一次地吓唬人。2014年5月，他和包括诺贝尔奖获得者弗兰克·威尔切克（Frank wilchek）在内的几位著名科学家在《英国独立报》（British independent）上联合发表了一篇文章，警告人工智能的快速发展，创造一台真正有思维的机器“将是人类历史上最大的事件”。一台超出人类智能水平的计算机可能“超越人类研究人员的发明和人类领导者的控制能力”。将所有这些视为科幻小说“可能是我们历史上最严重的错误”。

拥有机器人学博士学位的美国作家丹尼尔·威尔逊（Daniel Wilson）出版了一本科幻小说《机器人启示录》，生动地描述了几年前机器人对人类发动的战争。在小说中，一个看起来很简单，看起来像婴儿的机器人ACOS教给制造他的人：“你们人类只是一台生物机器，设计用来制造更智能的工具。你们已经到达了你们物种金字塔的顶端，……你们的最后期限到了。你们已经完成了所有你们被设计用来完成的任务。”

自从20世纪40年代计算机发明以来，人们对机器寄予厚望。大多数人工智能的先驱并不认为他们的职业生涯会有危险。然而，“计算机科学之父”英国著名数学家艾伦·图灵，早在1951就表达了一种担忧：“一旦思维开始，就不需要太长的时间来超越我们脆弱的人类……他们可以通过交流来增强他们的思维。因此，在一定的阶段，我们将不得不考虑机器控制世界的问题。”

美国应用数学家、信息论创始人诺伯特·维纳是第一个预见到信息技术双重可能性的人。在二十世纪中旬的计算机时代开始时，威纳描述了我们未来的一个可怕场景：…如果我们转向制造机器，这些机器可以学习，它们的行为可以通过经验得到纠正，那么我们必须面对这样一个事实：我们给予机器的任何程度的独立性都可能导致对我们自己意愿的抵制。从瓶子里跑出来的酒精不会自愿回到瓶子里。同样，我们没有理由期望他们对我们好。

英国数学家欧文·约翰·古德可能是第一个清楚解释人工智能未来的人。1965年，他指出，我们将超智能机器定义为具有超越所有智能人类的智能活动的机器。一旦机器设计成为一种智能活动，超级智能机器就可以设计出更好的机器。毫无疑问，将出现“情报爆炸”的局面，人类的情报将远远落后。因此，第一台超级智能机器将是人类制造的最后一台机器，如果机器不够顺从并告诉我们如何控制它的话。

在关于第一台超级智能机器的推测中，古道尔还谈到了科幻小说：“这本书的内容对一些读者来说可能是荒谬的，但对作者来说，它是真实而紧迫的。它不仅仅是科幻小说的内容，应该受到重视。”

许多行业专家非常重视超智能机器。美国发明家和未来学家雷·库兹韦尔（ray Kurzweil）于2005年出版了《奇点逼近：当计算机智能在2045年超越人类时》一书。他在书中解释的“奇点”吸引了很多关注和广泛影响。这是一个英语单词，表示独特的事件和各种奇怪的效果。数学家用这个词来表示一个超过任何极限的值，比如除以一个接近零的数字，结果会急剧上升。

据说奇点最早是由计算机的重要创始人之一冯·诺依曼提出的，并将其表达为一种撕裂人类历史结构的能力。美国计算机专家和科幻小说作家维诺·芬奇（Verno Vinci）用这个词来描述科学技术的无情和快速发展最终将达到的一种关键的聚合状态。

关于创新技术的神奇想法听起来像科幻小说，但它们总是如此。在我们创新科技的浪漫故事中，风险和收益总是并存，并且总是在好与坏之间保持平衡。似乎不可避免的是，我们不久将与前所未有的事物共享地球。这真是一件不可思议的事，有着超凡的智慧。〔1002〕〔1000〕我们下一步该做什么？