来源 | 灼见

01

人工智能的世界

早在1950年发表的作品《我，机器人》中，阿西莫夫就已经深入探讨了“机器人学三定律”：

第一法则：机器人不得伤害人类，或袖手旁观坐视人类受到伤害；

第二法则：除非违背第一法则，机器人必须服从人类的命令；

第三法则：在不违背第一及第二法则下，机器人必须保护自己。

这项定律被称为“现代机器人学的基石”，它的意义何在呢？

就在同一年，计算机科学之父艾伦·图灵（Alan Mathison Turing，1912-1954），发表了一篇论文，阐述了人工智能的基础概念，包括著名的图灵测试。相比之下，较鲜为人知的是他1951年电台上的一场演讲。演讲中他提到：

一旦机器掌握了思考方式，它们就会超越人类，人类的力量将显得微不足道，这只是时间上的事……从某个阶段开始，我们必须预想机器掌握了局面的控制权的情形。

图灵并没有给出解决方案，仿佛无奈地接受了这个无解的结局。

为什么早在机器诞生之初，图灵就有这样的忧虑？从今天的技术来看，这是杞人忧天，还是有迹可循?

今天，人工智能的场景正在迅速拓展。前些年，过去一直被视为人类智慧顶点的围棋被攻克了，接下来，自动驾驶汽车也就快现实化了。沿着这样的趋势发展下去，无疑，AI将持续覆盖更多的领域，做出比人类更好的现实决策。进行良好决策的智慧，是过去我们掌握世界的权柄。而打造AI，本质上，是建立比我们自己更强大的智慧系统。由此，显而易见的一个问题是：我们要如何对一个比自己强大的对象永远保有支配权？

霍金也曾经在一个社论中说过类似的话：

创造出人工智能，将是人类史上最重大的事件，但这不幸，也将是最后一个——除非我们懂得避开当中的陷阱。

但相比图灵，霍金提到了一线生机：避开陷阱。

人工智能的陷阱是什么？根源在哪里？

过去我们了解人工智能的方式，可以称之为AI标准模型——实际上，这不但是人工智能的标准模型，也是控制理论、运筹学、经济学等的标准模型，更是20世纪绝大部分创新所依赖的模型。在这个模型里，我们创建一个机制或制造一台机器，然后指明我们所要达成的目标，从外部植入机器，让它找出优化的解决方案。比如自驾汽车。我们先对系统指定好目标：“送我去机场”，然后它靠自己找到最优方案，并执行。值得注意的是，这个目标不是人工智能自己设定的，而是我们植入的。但问题是，当我们从简单的实验室场景走入复杂的现实世界，我们往往无法完整而正确地指定好这些目标。

再看一个重要的现代实例——社交媒体灾难。

如今社交媒体的筛选算法，很大程度上决定着用户查阅的内容（如新闻、视频、文章等），占据了亿万人每一天的精力和时间。而这个算法是以最大化点击率、转化率之类的标准为目标的。表面上看，这没什么问题。为了达到这个目标，AI会主动学习人们要什么，以便推送我们喜好的内容。但实际上，这不是他们所做的。如果我们了解强化学习的算法，它不单是学习人们要什么，而是通过强化反馈去改变世界（即你的大脑），把你导向更易预测的行为模式。一旦我们变得更可测，它就更容易对我们推送内容，让我们点击，从而达到它的目标。换句话说，我们想让它调整自己去满足人类，但它却调动了人类来配合自己。在这个过程中，即便它不带价值倾向，但对人类的重复强化反馈，无形中也把人引向恐怖主义、暴力意识、新法西斯主义等极端的行为模式。

这个教训告诉我们：在AI的标准模型以及有误的指定目标下，更强的人工智能反而会带来更坏的结果。更可怕的是，在执行目标的过程中，它不单会介入世界的秩序，还会阻止你反干预。

从某个角度上来讲，这像是我们以世界的命运作为了赌注，安排了一场和机器的对弈。

从这个意义上说，阿西莫夫的机器人三原则，就显得相当重要了，它能帮助我们在正确的原则下操作可以避开上述的陷阱，创造真正对人类有益的人工智能。

以上部分文字根据Stuart Russell于2020年9月24~25日在“GMIC 在线 Pro”的演讲内容节选整理而成，转自

02

互联网的世界

将来，一个图书馆可以连接到我的电脑，我的书桌，我的家，我坐着就可以。

——阿西莫夫预言

1980年，阿西莫夫写过一篇《全球化电脑图书馆》。

主题就是15年后出现的“互联网”，并且详细描述了互联网时代的数字图书馆，和我们现在所应用的状况相差无几。

03

计算机生活的世界

计算机已经成为必需品：它现在开始寻求在普通家庭中的地位了。计算机化重要的副产品——移动的智能设备和机器人已经在工业中大量普及，并将在下一代的过程中渗透到家庭中。

——阿西莫夫预言

1983年，阿西莫夫应《The Star》之邀对35年后的世界做出预言。

他详细描述了计算机在未来社会中的重要地位，认为计算机将导致教育性质的巨大转变，“新一代人成长中将接受新世界的教育”，来跟上高科技世界的发展。

同时，人们的工作习惯也会因此发生迅速又痛苦的转变，但“计算机化并不意味着整体就业机会减少，因为技术进步总会创造出更多的就业岗位，远比它摧毁的多。”

而诚如阿西莫夫预言的那样，此后的二十年间，计算机和机器人的设计、开发、制造、安装、维护、修理，以及更多由智能机器带来的全新行业，都在颠覆着人们对于职业的认知。

04

探索太空世界

目前看来，我们不太可能放弃太空。如果军国主义消退，我们将利用太空做更多事，而不是将其作为战争的另一个舞台。我们也不会简单地用它来航行。

我们将进入太空，并且留下来。

以穿梭火箭为载具，我们将建造一座空间站，为太空移民奠定基础。人类会打响地球轨道结构体的第一炮，建造太阳能发电设备； 人类会再次登上月球，在月球上开始建立挖矿设备。

——阿西莫夫预言

我们的确如阿西莫夫所说，“进入太空并留下来”：人类在国际空间站已经持续居住了20年左右。

阿西莫夫对人类探索太空的预判和指导，至今影响着有太空梦的科技精英们。

2018年，马斯克发射火箭“重型猎鹰”，并在火箭所搭载的特斯拉跑车中，放了一套微缩版的阿西莫夫的《银河帝国》。

这意味着，如果有一天，当外星生命开启这辆车时，或许会发现特斯拉和《银河帝国》这两件人类文明存在的证明。

05

基因工程的探索

人类有基因，植物有基因，细菌有基因……我们已经学会了怎么调整基因、改变基因……这是个庞大的‘基因工程’，但一旦我们知道基因之间的不同以及各个基因的功能，我们可能能消灭那些先天性疾病，我们可能能改变人类的发展方向……

——阿西莫夫预言

早在在1954年，阿西莫夫就在书中预言了基因工程，书中的角色正是利用基因改造，控制自己的外表以及延长生命。

不仅如此，1987年他还在作品中预言了纳米机器人进入人体血管内部和大脑中航行，做手术，治病。

阿西莫夫的预言和思想极致，在最著名的《银河帝国》中得到最好体现。

在全世界的科幻迷心中，这是一套被封神的科幻小说。它被美国科幻与奇幻协会誉为“人类历史上最好看的系列小说“，征服了阿瑟·克拉克、马斯克、比尔·盖茨、卡梅隆、梁文道、刘慈欣、马伯庸等众多名人大咖！