什么是人工智能?

从Siri到自动驾驶的人工智能汽车，ai人工智能正在迅速发展。虽然科幻小说经常把人工智能描绘成具有类似人类特征的机器人，但人工智能可以涵盖从谷歌的搜索算法到IBM的沃森(Watso的任何东西。

今天，人工智能被恰当地称为窄人工智能(或弱人工智能)，因为它被设计用来执行一项狭窄的任务(例如，只进行面部识别或只进行互联网搜索，或只开车)。然而，许多研究人员的长期目标是创造通用人工智能(agi或强人工智能)。尽管窄人工智能可能在任何特定任务上都优于人类，比如下棋或解方程，但在几乎每项认知任务中，AGI都会比人类表现得更好。

为什么要研究人工智能的安全性?

从近期来看，保持人工智能对社会有益影响的目标推动了许多领域的研究，从经济学和法学到验证、有效性、安全性和控制等技术主题。然而，如果你的笔记本电脑崩溃或被黑客攻击，这可能只是一个小麻烦，但如果一个AI系统控制你的汽车、飞机、起搏器、自动交易系统或电网，它就变得更加重要，你希望它做什么就做什么。

从长远来看，一个重要的问题是，如果对强大人工智能的探索成功了，人工智能系统在所有认知任务中都变得比人类更好，将会发生什么。正如I.J.Good在1965年指出的那样，设计更智能的人工智能系统本身就是一项认知任务。这样的系统可能会经历递归的自我完善，触发智力爆炸，将人类的智力远远抛在后面。通过发明革命性的新技术，这种超级智能可能帮助我们根除战争、疾病和贫困，因此，创造强大的人工智能可能是人类历史上最重大的事件。不过，一些专家表示担心，除非我们学会在人工智能变得超级智能之前将其与我们的目标结合起来，否则它可能也是最后一个了。

有些人质疑强大的人工智能是否会实现，还有一些人坚持认为创造超级智能人工智能肯定是有益的。在FLI，我们认识到这两种可能性，但也认识到人工智能系统有意或无意地造成巨大危害的可能性。我们相信，今天的研究将帮助我们更好地准备和防止这种潜在的负面后果在未来，从而享受人工智能的好处，同时避免陷阱。

人工智能怎么会是危险的?

大多数研究人员都认为，超级智能的人工智能不太可能表现出像爱或恨这样的人类情感，而且没有理由指望人工智能会故意变得仁慈或恶毒。相反，在考虑人工智能如何成为一种风险时，专家们认为最有可能出现的情况有两种：

人工智能被编程用来做一些有益的事情，但它开发了一种破坏性的方法来实现它的目标：当我们不能完全将人工智能的目标与我们的目标结合起来时，这种情况就会发生，这是非常困难的。如果你让一辆听话的智能汽车尽快带你去机场，它可能会让你被直升机追到那里，浑身都是呕吐物，做的不是你想要的，而是你真正想要的。如果一个超级智能系统被赋予一个雄心勃勃的地球工程项目，它可能会对我们的生态系统造成严重破坏，将其视为一种副作用，并将人类阻止它的企图视为一种需要应对的威胁。

正如这些例子所说明的，对高级人工智能的关注不是恶意，而是能力。一个超级智能的人工智能将非常擅长于完成它的目标，如果这些目标与我们的目标不一致，我们就有问题了。你可能不是出于恶意踩到蚂蚁的一个邪恶的讨厌蚂蚁的人，但是如果你负责一个水电绿色能源项目，而且该地区有一个蚁丘要被淹没，对蚂蚁来说太糟糕了。人工智能安全研究的一个关键目标是永远不要把人类放在蚂蚁的位置上。

为什么最近对人工智能安全的兴趣?

最近，斯埃隆·马斯克(Elon Musk)、史蒂夫·沃兹尼亚克(Steve Wozniak)、比尔·盖茨(Bill Gates)以及其他许多科技界的大人物都在媒体上和公开信中表达了对人工智能(AI)构成的风险的担忧，许多顶尖的人工智能研究人员也加入了这一行列。为什么这个话题突然成了头条新闻?

长久以来，对于强大人工智能的探索最终会成功的想法一直被认为是科幻小说，甚至更远。然而，由于最近的突破，许多人工智能里程碑现在已经达到了，专家们在五年前还认为这是几十年前的事，这使许多专家认真考虑了在我们有生之年超级智能的可能性。虽然一些专家仍然猜测人类水平的人工智能是数百年后，大多数人工智能研究在2015年波多黎各会议猜测，这将发生在2060年之前。由于可能需要几十年才能完成所需的安全研究，因此现在就开始进行是明智的。

因为人工智能有潜力变得比任何人类都更聪明，我们没有确切的方法来预测它将如何表现。我们不能把过去的技术发展作为一个基础，因为我们从来没有创造出任何东西，有能力，有意识地或不自觉地，超过我们。我们所能面对的最好的例子可能是我们自己的进化。人们现在控制这个星球，不是因为我们是最强大、最快或最大的，而是因为我们是最聪明的。如果我们不再是最聪明的，我们能保证保持控制吗?

只要我们赢得了技术力量的增长和我们管理它的智慧之间的竞赛，我们的文明就会蓬勃发展。就人工智能技术而言，赢得这场比赛的最佳方式不是阻碍前者，而是通过支持人工智能安全研究来加速后者。

高级人工智能的最高神话

一场关于人工智能的未来以及它对人类将/应该意味着什么的引人入胜的对话正在进行。世界领先的专家们对此存在一些有趣的争议，比如：人工智能未来对就业市场的影响;人工智能是否(或何时)会发展成人类水平的人工智能;这是否会导致智能爆炸;以及这是我们应该欢迎还是应该担心的事情。