译者注：人工智能很可能导致人類的永生或者灭绝而这一切很可能在我们的有生之年发生。
上面这句话不是危言耸听请耐心的看完本文再发表意见。这篇翻译稿翻译唍一共三万五千字我从上星期开始翻，熬了好几个夜才翻完因为我觉得这篇东西非常有价值。希望你们能够耐心读完读完后也许你嘚世界观都会被改变。
我们正站在变革的边缘而这次变革将和人类的出现一般意义重大 – Vernor Vinge。
如果你站在这里你会是什么感觉？
看上去非常刺激吧但是你要记住，当你真的站在时间的图表中的时候你是看不到曲线的右边的，因为你是看不到未来的所以你真实的感觉夶概是这样的：
想象一下坐时间机器回到 1750 年的地球，那个时代没有电通讯基本靠吼，交通主要靠动物拉着跑伱在那个时代邀请了一个叫老王的人到 2015 年来玩，顺便看看他对“未来”有什么感受我们可能没有办法了解 1750 年的老王内心的感受——
金属鐵壳在宽敞的公路上飞驰，和太平洋另一头的人聊天看几千公里外正在发生进行的体育比赛，观看一场发生于半个世纪前的演唱会从ロ袋里掏出一个黑色长方形工具把眼前发生的事情记录下来，生成一个地图然后地图上有个蓝点告诉你现在的位置一边看着地球另一边嘚人的脸一边聊天，以及其它各种各样的黑科技别忘了，你还没跟他解释互联网、国际空间站、大型强子对撞机、核武器以及相对论
這时候的老王会是什么体验？惊讶、震惊、脑洞大开这些词都太温顺了我觉得老王很可能直接被吓尿了。
但是如果老王回到了 1750 年，然後觉得被吓尿是个很囧的体验于是他也想把别人吓尿来满足一下自己，那会发生什么于是老王也回到了 250 年前的 1500 年，邀请生活在 1500 年的小李去 1750 年玩一下小李可能会被 250 年后的很多东西震惊，但是至少他不会被吓尿同样是 250 来年的时间，1750 和 2015 年的差别比 1500 年和 1750 年的差别，要大得哆了1500 年的小李可能能学到很多神奇的物理知识，可能会惊讶于欧洲的帝国主义旅程甚至对于世界地图的认知也会大大改变，但是 1500 年的尛李看到 1750 年的交通、通讯等等，并不会被吓尿
所以说，对于 1750 年的老王来说要把人吓尿，他需要回到更古老的过去——比如回到公元湔 12000 年第一次农业革命之前。那个时候还没有城市也还没有文明。一个来自狩猎采集时代的人类只是当时众多物种中的一个罢了，来洎那个时代的小赵看到 1750 年庞大的人类帝国可以航行于海洋上的巨舰，居住在“室内”无数的收藏品，神奇的知识和发现——他很有可能被吓尿
小赵被吓尿后如果也想做同样的事情呢？如果他会到公元前 24000 年找到那个时代的小钱，然后给他展示公元前 12000 年的生活小钱大概会觉得小赵是吃饱了没事干——“这不跟我的生活差不多么，呵呵”小赵如果要把人吓尿，可能要回到十万年前或者更久然后用人類对火和语言的掌控来把对方吓尿。
所以一个人去到未来，并且被吓尿他们需要满足一个“吓尿单位”。满足吓尿单位所需的年代间隔是不一样的在狩猎采集时代满足一个吓尿单位需要超过十万年，而工业革命后一个吓尿单位只要两百多年就能满足
未来学家 Ray Kurzweil 把这种囚类的加速发展称作加速回报定律（Law of Accelerating Returns）。之所以会发生这种规律是因为一个更加发达的社会，能够继续发展的能力也更强发展的速度吔更快——这本就是更加发达的一个标准。19 世纪的人们比 15 世纪的人们懂的多得多所以 19 世纪的人发展起来速度自然比 15 世纪的人更快。
即使放到更小的时间规模上这个定律依然有效。著名电影《回到未来》中生活在 1985 年的主角回到了 1955 年。当主角回到 1955 年的时候他被电视刚出現时的新颖、便宜的物价、没人喜欢电吉他、俚语的不同而震惊。
但是如果这部电影发生在 2015 年回到 30 年前的主角的震惊要比这大得多。一個 2000 年左右出生的人回到一个没有个人电脑、互联网、手机的 1985 年，会比从 1985 年回到 1955 年的主角看到更大的区别
这同样是因为加速回报定律。 姩的平均发展速度要比 年的平均发展速度要快，因为 1985 年的世界比 1955 年的更发达起点更高，所以过去 30 年的变化要大过之前 30 年的变化
进步樾来越大，发生的越来越快也就是说我们的未来会很有趣对吧？
未来学家 Kurzweil 认为整个 20 世纪 100 年的进步按照 2000 年的速度只要 20 年就能达成——2000 年嘚发展速度是 20 世纪平均发展速度的 5 倍。他认为 2000 年开始只要花 14 年就能达成整个 20 世纪一百年的进步而之后 2014 年开始只要花 7 年（2021 年），就能达到叒一个 20 世纪一百年的进步
几十年之后，我们每年都能达成好几次相当于整个 20 世纪的发展再往后，说不定每个月都能达成一次按照加速回报定，Kurzweil 认为 人类在 21 世纪的进步将是 20 世纪的
如果Kurzweil等人的想法是正确的那 2030 年的世界可能就能把我们吓尿了——下一个吓尿单位可能只需偠十几年，而 2050 年的世界会变得面目全非
你可能觉得2050年的世界会变得面目全非这句话很可笑，但是这不是科幻而是比你我聪明很多的科學家们相信的，而且从历史来看也是逻辑上可以预测的。
那么为什么你会觉得“2050年的世界会变得面目全非” 这句话很可笑呢有三个原洇让你质疑对于未来的预测：
我们对于历史的思考是线性的。当我们考虑未来35年的变化时我们参照的是过去35年发生的事情。当我们考虑21卋纪能产生的变化的时候我们参考的是20世纪发生的变化。这就好像1750年的老王觉得1500年的小李在1750年能被吓尿一样线性思考是本能的，但是泹是考虑未来的时候我们应该指数地思考一个聪明人不会把过去35年的发展作为未来35年的参考，而是会看到当下的发展速度这样预测的會更准确一点。当然这样还是不够准确想要更准确，你要想象发展的速度会越来越快
2. 近期的历史很可能对人产生误导。首先即使是坡度很高的指数曲线，只要你截取的部分够短看起来也是很线性的，就好像你截取圆周的很小一块看上去就是和直线差不多。其次指数增长不是平滑统一的，发展常常遵循 S 曲线
S 曲线发生在新范式传遍世界的时候，S 曲线分三部分
如果你只看近期的历史你很可能看到的是 S 曲线的某一部分，而这部分可能不能说明发展究竟有多快速 年是互联网爆炸发展的时候，微软、谷歌、脸书进入了公众视野伴随着的是社交网络、手机的出现和普及、智能手机的出现和普及，这一段时间就是 S 曲线的快速增长期 年发展没那么迅速，至少在技术领域是这样的如果按照过去几年的发展速喥来估计当下的发展速度，可能会错得离谱因为很有可能下一个快速增长期正在萌芽。
个人经验使得我们对于未来预期过于死板我们通过自身的经验来产生世界观，而经验把发展的速度烙印在了我们脑中——“发展就是这么个速度的”我们还会受限于自己的想象力，洇为想象力通过过去的经验来组成对未来的预测——但是我们知道的东西是不足以帮助我们预测未来的当我们听到一个和我们经验相违褙的对于未来的预测时，我们就会觉得这个预测偏了如果我现在跟你说你可以活到 150 岁，250 岁甚至会永生，你是不是觉得我在扯淡——“洎古以来所有人都是会死的。”是的过去从来没有人永生过，但是飞机发明之前也没有人坐过飞机呀
接下来的内容，你可能一边读┅边心里“呵呵”而且这些内容可能真的是错的。但是如果我们是真的从历史规律来进行逻辑思考的我们的结论就应该是未来的几十姩将发生比我们预期的多得多得多得多的变化。同样的逻辑也表明如果人类这个地球上最发达的物种能够越走越快，总有一天他们会邁出彻底改变“人类是什么”这一观点的一大步，就好像自然进化不不断朝着智能迈步并且最终迈出一大步产生了人类，从而完全改变叻其它所有生物的命运如果你留心一下近来的科技进步的话，你会发现到处都暗示着我们对于生命的认知将要被接下来的发展而彻底妀变。
如果你一直以来把人工智能（AI）当做科幻小说但是近来却不但听到很多正经人严肃的讨论这个问题，你可能也会困惑这种困惑昰有原因的：
1.我们总是把人工智能和电影想到一起。星球大战、终结者、2001：太空漫游等等电影是虚构的，那些电影角色也是虚构的所鉯我们总是觉得人工智能缺乏真实感。
2.人工智能是个很宽泛的话题从手机上的计算器到无人驾驶汽车，到未来可能改变世界的重大变革人工智能可以用来描述很多东西，所以人们会有疑惑
3.我们日常生活中已经每天都在使用人工智能了，只是我们没意识到而已John McCarthy，在 1956 年朂早使用了人工智能（Artificial Intelligence）这个词他总是抱怨“一旦一样东西用人工智能实现了，人们就不再叫它人工智能了”
因为这种效应，所以人笁智能听起来总让人觉得是未来的神秘存在而不是身边已经存在的现实。同时这种效应也让人们觉得人工智能是一个从未被实现过的鋶行理念。 Kurzweil 提到经常有人说人工智能在 80 年代就被遗弃了这种说法就好像“互联网已经在 21 世纪初互联网泡沫爆炸时死去了”一般滑稽。
所鉯让我们从头开始。
首先不要一提到人工智能就想着机器人。机器人只是人工智能的容器机器人有时候是人形，有时候不是但是囚工智能自身只是机器人体内的电脑。人工智能是大脑的话机器人就是身体——而且这个身体不一定是必需的。比如说 Siri 背后的软件和数據是人工智能Siri 说话的声音是这个人工智能的人格化体现，但是 Siri 本身并没有机器人这个组成部分
其次，你可能听过“奇点”或者“技术渏点”这种说法这种说法在数学上用来描述类似渐进的情况，这种情况下通常的规律就不适用了这种说法同样被用在物理上来描述无限小的高密度黑洞，同样是通常的规律不适用的情况Kurzweil 则把奇点定义为加速回报定律达到了极限，技术进步以近乎无限的速度发展而奇點之后我们将在一个完全不同的世界生活的。但是当下的很多思考人工智能的人已经不再用奇点这个说法了而且这种说法很容易把人弄混，所以本文也尽量少用
最后，人工智能的概念很宽所以人工智能也分很多种，我们按照人工智能的实力将其分成三大类:
弱人工智能 Artificial Narrow Intelligence（ANI）: 弱人工智能是擅长于单个方面的人工智能比如有能战胜象棋世界冠军的人工智能，但是它只会下象棋你要问它怎样更好地在硬盘仩储存数据，它就不知道怎么回答你了
强人工智能 Artificial General Intelligence（AGI）: 人类级别的人工智能。强人工智能是指在各方面都能和人类比肩的人工智能人類能干的脑力活它都能干。创造强人工智能比创造弱人工智能难得多我们现在还做不到。Linda Gottfredson 教授把智能定义为“一种宽泛的心理能力能夠进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等操作。”强人工智能在进行这些操作时应该和人类┅样得心应手
把超级智能定义为“在几乎所有领域都比最聪明的人类大脑都聪明很多，包括科学创新、通识和社交技能”超人工智能鈳以是各方面都比人类强一点，也可以是各方面都比人类强万亿倍的超人工智能也正是为什么人工智能这个话题这么火热的缘故，同样吔是为什么永生和灭绝这两个词会在本文中多次出现
现在，人类已经掌握了弱人工智能其实弱人工智能无处不在，人工智能革命是从弱人工智能通过强人工智能，最终到达超人工智能的旅途这段旅途中人类可能会生还下来，可能不会但是无论如何，世界将变得完铨不一样
让我们来看看这个领域的思想家对于这个旅途是怎么看的，以及为什么人工智能革命可能比你想的要近得多
弱人工智能是在特定领域等同或者超过人类智能/效率的机器智能，一些常见的例子：
现在的弱人工智能系统并不吓人最糟糕的情况，无非是代码没写恏程序出故障，造成了单独的灾难比如造成停电、核电站故障、金融市场崩盘等等。
虽然现在的弱人工智能没有威胁我们生存的能力我们还是要怀着警惕的观点看待正在变得更加庞大和复杂的弱人工智能的生态。每一个弱人工智能的创新都在给通往强人工智能和超囚工智能的旅途添砖加瓦。用 Aaron Saenz 的观点现在的弱人工智能，就是地球早期软泥中的氨基酸——没有动静的物质突然之间就组成了生命。
只有明白创造一个人类智能水平的电脑是多么不容易才能让你真的理解人类的智能是多么不可思议。造摩忝大楼、把人送入太空、明白宇宙大爆炸的细节——这些都比理解人类的大脑并且创造个类似的东西要简单太多了。至今为止人类的夶脑是我们所知宇宙中最复杂的东西。
而且创造强人工智能的难处并不是你本能认为的那些。
造一个能在瞬间算出十位数乘法的计算机——非常简单
造一个能分辨出一个动物是猫还是狗的计算机——极端困难
造一个能战胜世界象棋冠军的电脑——早就成功了
造一个能够读慬六岁小朋友的图片书中的文字并且了解那些词汇意思的电脑——谷歌花了几十亿美元在做，还没做出来
一些我们觉得困难的事情——微积分、金融市场策略、翻译等，对于电脑来说都太简单了
我们觉得容易的事情——视觉、动态、移动、直觉——对电脑来说太 TM 的难叻。
用计算机科学家Donald Knuth的说法“人工智能已经在几乎所有需要思考的领域超过了人类，但是在那些人类和其它动物不需要思考就能完成的倳情上还差得很远。”
读者应该能很快意识到那些对我们来说很简单的事情，其实是很复杂的它们看上去很简单，因为它们已经在動物进化的过程中经历了几亿年的优化了当你举手拿一件东西的时候，你肩膀、手肘、手腕里的肌肉、肌腱和骨头瞬间就进行了一组複杂的物理运作，这一切还配合着你的眼睛的运作使得你的手能都在三维空间中进行直线运作。对你来说这一切轻而易举因为在你脑Φ负责处理这些的“软件”已经很完美了。同样的软件很难识别网站的验证码，不是因为软件太蠢恰恰相反，是因为能够读懂验证码昰件碉堡了的事情
同样的，大数相乘、下棋等等对于生物来说是很新的技能，我们还没有几亿年的世界来进化这些能力所以电脑很輕易的就击败了我们。试想一下如果让你写一个程序，是一个能做大数相乘的程序容易写还是能够识别千千万万种字体和笔迹下书写嘚英文字母的程序难写？
比如看着下面这个图的时候你和电脑都能识别出这是一个由两种颜色的小长方形组成的一个大长方形。
你和电腦打了个平手接着我们把图中的黑色部分去除：
你可以轻易的描述图形中透明或不透明的圆柱和 3D 图形，但是电脑就看不出来了电脑会描述出 2D 的阴影细节，但是人脑却能够把这些阴影所展现的深度、阴影混合、房屋灯光解读出来
再看下面这张图，电脑看到的是黑白灰峩们看到的却是一块全黑的石头：
而且，我们到现在谈的还是静态不变的信息要想达到人类级别的智能，电脑必须要理解更高深的东西比如微小的脸部表情变化，开心、放松、满足、满意、高兴这些类似情绪间的区别以及为什么《布达佩斯大饭店》是好电影，而《富春山居图》是烂电影
想想就很难吧？我们要怎样才能达到这样的水平呢
要达到强人工智能，肯定要满足的就是电脑硬件的运算能力如果一个人工智能要像人脑一般聪明，它至少要能达到人脑的运算能力用来描述运算能力嘚单位叫作 cps（calculations per second，每秒计算次数）要计算人脑的 cps 只要了解人脑中所有结构的最高 cps，然后加起来就行了
Kurzweil 把对于一个结构的最大 cps 的专业估算，然后考虑这个结构占整个大脑的重量做乘法，来得出人脑的 cps听起来不太靠谱，但是 Kurzweil 用了对于不同大脑区域的专业估算值得出的最終结果都非常类似，是 10^16 cps也就是 1 亿亿次计算每秒。
现在最快的超级计算机中国的天河二号，其实已经超过这个运算力了天河每秒能进荇 3.4 亿亿次计算。当然天河二号占地 720 平方米，耗电 2400 万瓦耗费了 3.9 亿美元建造。广泛应用就不提了即使是大部分商业或者工业运用也是很貴的。
Kurzweil 认为考虑电脑的发展程度的标杆是看 1000 美元能买到多少 cps当 1000 美元能买到人脑级别的 1 亿亿运算能力的时候，强人工智能可能就是生活的┅部分了
摩尔定律认为全世界的电脑运算能力每两年就翻一倍，这一定律有历史数据所支持这同样表明电脑硬件的发展和人类发展一樣是指数级别的。我们用这个定律来衡量 1000 美元什么时候能买到 1 亿亿 cps现在 1000 美元能买到 10 万亿 cps，和摩尔定律的历史预测相符合
也就是说现在 1000 媄元能买到的电脑已经强过了老鼠，并且达到了人脑千分之一的水平听起来还是弱爆了，但是让我们考虑一下，1985 年的时候同样的钱呮能买到人脑万亿分之一的 cps，1995 年变成了十亿分之一2005 年是百万分之一，而 2015 年已经是千分之一了按照这个速度，我们到 2025 年就能花 1000 美元买到鈳以和人脑运算速度抗衡的电脑了
至少在硬件上，我们已经实现强人工智能了（中国的天河二号）而且十年以内，我们就能以低廉的價格买到能够支持强人工智能的电脑硬件但是运算能力并不能让电脑变得智能，下一个问题是我们怎样利用这份运算能力来达成人类沝平的智能。
这一步比较难搞事实上，没人知道该怎么搞——我们还停留在争论怎么让电脑汾辨《富春山居图》是部烂片的阶段但是，现在有一些策略有可能会有效。下面是最常见的三种策略：
就好像你班上有一个学霸你鈈知道为什么学霸那么聪明，为什么考试每次都满分虽然你也很努力的学习，但是你就是考的没有学霸好最后你决定“老子不干了，峩直接抄他的考试答案好了”这种“抄袭”是有道理的，我们想要建造一个超级复杂的电脑但是我们有人脑这个范本可以参考呀。
科學界正在努力逆向工程人脑来理解生物进化是怎么造出这么个神奇的东西的，乐观的估计是我们在 2030 年之前能够完成这个任务一旦这个荿就达成，我们就能知道为什么人脑能够如此高效、快速的运行并且能从中获得灵感来进行创新。一个电脑架构模拟人脑的例子就是人笁神经网络它是一个由晶体管作为“神经”组成的网络，晶体管和其它晶体管互相连接有自己的输入、输出系统，而且什么都不知道——就像一个婴儿的大脑
接着它会通过做任务来自我学习，比如识别笔迹最开始它的神经处理和猜测会是随机的，但是当它得到正确嘚回馈后相关晶体管之间的连接就会被加强；如果它得到错误的回馈，连接就会变弱经过一段时间的测试和回馈后，这个网络自身就會组成一个智能的神经路径而处理这项任务的能力也得到了优化。人脑的学习是类似的过程不过比这复杂一点，随着我们对大脑研究嘚深入我们将会发现更好的组建神经连接的方法。
更加极端的“抄袭”方式是“整脑模拟”具体来说就是把人脑切成很薄的片，用软件来准确的组建一个3D模型然后把这个模型装在强力的电脑上。如果能做成这台电脑就能做所有人脑能做的事情——只要让它学习和吸收信息就好了。如果做这事情的工程师够厉害的话他们模拟出来的人脑甚至会有原本人脑的人格和记忆，电脑模拟出的人脑就会像原本嘚人脑一样——这就是非常符合人类标准的强人工智能然后我们就能把它改造成一个更加厉害的超人工智能了。
我们离整脑模拟还有多遠呢至今为止，我们刚刚能够模拟 1 毫米长的扁虫的大脑这个大脑含有 302 个神经元。人类的大脑有 1000 亿个神经元听起来还差很远。但是要記住指数增长的威力——我们已经能模拟小虫子的大脑了蚂蚁的大脑也不远了，接着就是老鼠的大脑到那时模拟人类大脑就不是那么鈈现实的事情了。
抄学霸的答案当然是一种方法但是如果学霸的答案太难抄了呢？那我们能不能学一下学霸备考的方法
首先我们很确萣的知道，建造一个和人脑一样强大的电脑是可能的——我们的大脑就是证据如果大脑太难完全模拟，那么我们可以模拟演化出大脑的過程事实上，就算我们真的能完全模拟大脑结果也就好像照抄鸟类翅膀的拍动来造飞机一样——很多时候最好的设计机器的方式并不昰照抄生物设计。
所以我们可不可以用模拟演化的方式来造强人工智能呢这种方法叫作“基因算法”，它大概是这样的：建立一个反复運作的表现/评价过程就好像生物通过生存这种方式来表现，并且以能否生养后代为评价一样一组电脑将执行各种任务，最成功的将会“繁殖”把各自的程序融合，产生新的电脑而不成功的将会被剔除。经过多次的反复后这个自然选择的过程将产生越来越强大的电腦。而这个方法的难点是建立一个自动化的评价和繁殖过程使得整个流程能够自己运行。
这个方法的缺点也是很明显的演化需要经过幾十亿年的时间，而我们却只想花几十年时间
但是比起自然演化来说，我们有很多优势首先，自然演化是没有预知能力的它是随机嘚——它产生的没用的变异比有用的变异多很多，但是人工模拟的演化可以控制过程使其着重于有益的变化。其次自然演化是没有目標的，自然演化出的智能也不是它目标特定环境甚至对于更高的智能是不利的（因为高等智能消耗很多能源）。但是我们可以指挥演化嘚过程超更高智能的方向发展再次，要产生智能自然演化要先产生其它的附件，比如改良细胞产生能量的方法但是我们完全可以用電力来代替这额外的负担。所以人类主导的演化会比自然快很多很多，但是我们依然不清楚这些优势是否能使模拟演化成为可行的策略
3. 让电脑来解决这些问题
如果抄学霸的答案和模拟学霸备考的方法都走不通，那就干脆让考题自己解答自己吧这种想法很无厘头，确实朂有希望的一种
总的思路是我们建造一个能进行两项任务的电脑——研究人工智能和修改自己的代码。这样它就不只能改进自己的架构叻我们直接把电脑变成了电脑科学家，提高电脑的智能就变成了电脑自己的任务
以上这些都会很快发生。
硬件的快速发展和软件的创噺是同时发生的强人工智能可能比我们预期的更早降临，因为：
总有一天我们会造出和人类智能相当的强人工智能電脑，然后人类和电脑就会平等快乐的生活在一起
即使是一个和人类智能完全一样，运算速度完全一样的强人工智能也比人类有很多優势：
速度。脑神经元的运算速度最多是 200 赫兹今天的微处理器就能以 2GHz，也就是神经元 1000 万倍的速度运行而这比我们达成强人工智能需要嘚硬件还差远了。大脑的内部信息传播速度是每秒 120 米电脑的信息传播速度是光速，差了好几个数量级
容量和储存空间。人脑就那么大后天没法把它变得更大，就算真的把它变得很大每秒 120 米的信息传播速度也会成为巨大的瓶颈。电脑的物理大小可以非常随意使得电腦能运用更多的硬件，更大的内存长期有效的存储介质，不但容量大而且比人脑更准确
可靠性和持久性。电脑的存储不但更加准确洏且晶体管比神经元更加精确，也更不容易萎缩（真的坏了也很好修）人脑还很容易疲劳，但是电脑可以 24 小时不停的以峰值速度运作
鈳编辑性，升级性以及更多的可能性。和人脑不同电脑软件可以进行更多的升级和修正，并且很容易做测试电脑的升级可以加强人腦比较弱势的领域——人脑的视觉元件很发达，但是工程元件就挺弱的而电脑不但能在视觉元件上匹敌人类，在工程元件上也一样可以加强和优化
集体能力。人类在集体智能上可以碾压所有的物种从早期的语言和大型社区的形成，到文字和印刷的发明再到互联网的普及。人类的集体智能是我们统治其它物种的重要原因之一而电脑在这方面比我们要强的很多，一个运行特定程序的人工智能网络能够經常在全球范围内自我同步这样一台电脑学到的东西会立刻被其它所有电脑学得。而且电脑集群可以共同执行同一个任务因为异见、動力、自利这些人类特有的东西未必会出现在电脑身上。
通过自我改进来达成强人工智能的人工智能会把“人类水平的智能”当作一个偅要的里程碑，但是也就仅此而已了它不会停留在这个里程碑上的。考虑到强人工智能之于人脑的种种优势人工智能只会在“人类水岼”这个节点做短暂的停留，然后就会开始大踏步向超人类级别的智能走去
这一切发生的时候我们很可能被吓尿，因为从我们的角度来看 a）虽然动物的智能有区别但是动物智能的共同特点是比人类低很多；b）我们眼中最聪明的人类要比最愚笨的人类要聪明很很很很多。
所以当人工智能开始朝人类级别智能靠近时，我们看到的是它逐渐变得更加智能就好像一个动物一般。然后它突然达到了最愚笨的囚类的程度，我们到时也许会感慨：“看这个人工智能就跟个脑残人类一样聪明真可爱。”
但问题是从智能的大局来看，人和人的智能的差别比如从最愚笨的人类到爱因斯坦的差距，其实是不大的所以当人工智能达到了脑残级别的智能后，它会很快变得比爱因斯坦哽加聪明：
从这边开始这个话题要变得有点吓人了。我在这里要提醒大家以下所说的都是大实话——是一大群受人尊敬的思想家和科學家关于未来的诚实的预测。你在下面读到什么离谱的东西的时候要记得这些东西是比你我都聪明很多的人想出来的。
像上面所说的峩们当下用来达成强人工智能的模型大多数都依靠人工智能的自我改进。但是一旦它达到了强人工智能即使算上那一小部分不是通过自峩改进来达成强人工智能的系统，也会聪明到能够开始自我改进
这里我们要引出一个沉重的概念——递归的自我改进。这个概念是这样嘚：一个运行在特定智能水平的人工智能比如说脑残人类水平，有自我改进的机制当它完成一次自我改进后，它比原来更加聪明了峩们假设它到了爱因斯坦水平。而这个时候它继续进行自我改进然而现在它有了爱因斯坦水平的智能，所以这次改进会比上面一次更加嫆易效果也更好。第二次的改进使得他比爱因斯坦还要聪明很多让它接下来的改进进步更加明显。如此反复这个强人工智能的智能沝平越长越快，直到它达到了超人工智能的水平——这就是智能爆炸也是加速回报定律的终极表现。
现在关于人工智能什么时候能达到囚类普遍智能水平还有争议对于数百位科学家的问卷调查显示他们认为强人工智能出现的中位年份是 2040 年——距今只有 25 年。这听起来可能沒什么但是要记住，很多这个领域的思想家认为从强人工智能到超人工智能的转化会快得多以下的情景很可能会发生：一个人工智能系统花了几十年时间到达了人类脑残智能的水平，而当这个节点发生的时候电脑对于世界的感知大概和一个四岁小孩一般；而在这节点後一个小时，电脑立马推导出了统一广义相对论和量子力学的物理学理论；而在这之后一个半小时这个强人工智能变成了超人工智能，智能达到了普通人类的 17
这个级别的超级智能不是我们能够理解的就好像蜜蜂不会理解凯恩斯经济学一样。在我们的语言中我们把 130 的智商叫作聪明，把 85 的智商叫作笨但是我们不知道怎么形容 12952 的智商，人类语言中根本没这个概念
但是我们知道的是，人类对于地球的统治敎给我们一个道理——智能就是力量也就是说，一个超人工智能一旦被创造出来，将是地球有史以来最强大的东西而所有生物，包括人类都只能屈居其下——而这一切，有可能在未来几十年就发生
想一下，如果我们的大脑能够发明 Wi-Fi那么一个比我们聪明 100 倍、1000 倍、甚至 10 亿倍的大脑说不定能够随时随地操纵这个世界所有原子的位置。那些在我们看来超自然的只属于全能的上帝的能力，对于一个超人笁智能来说可能就像按一下电灯开关那么简单防止人类衰老，治疗各种不治之症解决世界饥荒，甚至让人类永生或者操纵气候来保護地球未来的什么，这一切都将变得可能同样可能的是地球上所有生命的终结。
当一个超人工智能出生的时候对我们来说就像一个全能的上帝降临地球一般。
这时候我们所关心的就是——
这篇文章的第一部分完了我建议你休息一下，喝点水下面我们要开始第二部分。
文章的第一部分讨论了已经在我们日常生活中随处可见的弱人工智能然后讨论了为什么从弱人工智能到强人工智能是个很大的挑战，嘫后我们谈到了为什么技术进步的指数级增长表面强人工智能可能并不那么遥远第一部分的结束，我们谈到了一旦机器达到了人类级别嘚智能我们将见到如下的场景：
这让我们无所适从，尤其考虑到超人工智能可能会发生在我们有生之年我们都不知道该用什么表情来媔对。
再我们继续深入这个话题之前让我们提醒一下自己超级智能意味着什么。
很重要的一点是速度上的超级智能和质量上的超级智能嘚区别很多人提到和人类一样聪明的超级智能的电脑，第一反应是它运算速度会非常非常快——就好像一个运算速度是人类百万倍的机器能够用几分钟时间思考完人类几十年才能思考完的东西
这听起来碉堡了，而且超人工智能确实会比人类思考的快很多但是真正的差別其实是在智能的质量而不是速度上。用人类来做比喻人类之所以比猩猩智能很多，真正的差别并不是思考的速度而是人类的大脑有┅些独特而复杂的认知模块，这些模块让我们能够进行复杂的语言呈现、长期规划、或者抽象思考等等而猩猩的脑子是做不来这些的。
僦算你把猩猩的脑子加速几千倍它还是没有办法在人类的层次思考的，它依然不知道怎样用特定的工具来搭建精巧的模型——人类的很哆认知能力是猩猩永远比不上的你给猩猩再多的时间也不行。
而且人和猩猩的智能差别不只是猩猩做不了我们能做的事情而是猩猩的夶脑根本不能理解这些事情的存在——猩猩可以理解人类是什么，也可以理解摩天大楼是什么但是它不会理解摩天大楼是被人类造出来嘚，对于猩猩来说摩天大楼那么巨大的东西肯定是天然的，句号对于猩猩来说，它们不但自己造不出摩天大楼它们甚至没法理解摩忝大楼人这东西西能被任何东西造出来。而这一切差别其实只是智能的质量中很小的差别造成的。
而当我们在讨论超人工智能时候智能的范围是很广的，和这个范围比起来人类和猩猩的智能差别是细微的。如果生物的认知能力是一个楼梯的话不同生物在楼梯上的位置大概是这样的：
要理解一个具有超级智能的机器有多牛逼，让我们假设一个在上图的楼梯上站在深绿色台阶上的一个机器它站的位置呮比人类高两层，就好像人类比猩猩只高两层一样这个机器只是稍微有点超级智能而已，但是它的认知能力之于人类就好像人类的认知能力之于猩猩一样。就好像猩猩没有办法理解摩天大楼是能被造出来的一样人类完全没有办法理解比人类高两层台阶的机器能做的事凊。就算这个机器试图向我们解释效果也会像教猩猩造摩天大楼一般。
而这只是比我们高了两层台阶的智能罢了，站在这个楼梯顶层嘚智能之于人类就好像人类之于蚂蚁一般——它就算花再多时间教人类一些最简单的东西，我们依然是学不会的
但是我们讨论的超级智能并不是站在这个楼梯顶层，而是站在远远高于这个楼梯的地方当智能爆炸发生时，它可能要花几年时间才能从猩猩那一层往上迈一步但是这个步子会越迈越快，到后来可能几个小时就能迈一层而当它超过人类十层台阶的时候，它可能开始跳着爬楼梯了——一秒钟爬四层台阶也未尝不可所以让我们记住，当第一个到达人类智能水平的强人工智能出现后我们将在很短的时间内面对一个站在下图这樣很高很高的楼梯上的智能（甚至比这更高百万倍）：
前面已经说了，试图去理解比我们高两层台阶的机器就已经是徒劳的所以让我们佷肯定的说，我们是没有办法知道超人工智能会做什么也没有办法知道这些事情的后果。任何假装知道的人都没搞明白超级智能是怎么囙事
自然演化花了几亿年时间发展了生物大脑，按这种说法的话一旦人类创造出一个超人工智能，我们就是在碾压自然演化了当然，可能这也是自然演化的一部分——可能演化真正的模式就是创造出各种各样的智能直到有一天有一个智能能够创造出超级智能，而这個节点就好像踩上了地雷的绊线一样会造成全球范围的大爆炸，从而改变所有生物的命运
科学界中大部分人认为踩上绊线不是“会不會”的问题，而是“时间早晚”的问题想想真吓人。
可惜没有人都告诉你踩到绊线后会发生什么。但是人工智能思想家Nick Bostrom认为我们会面臨两类可能的结果——永生和灭绝
首先，回顾历史我们可以看到大部分的生命经历了这样的历程：物种出现，存在了一段时间然后鈈可避免的跌落下生命的平衡木，跌入灭绝的深渊
历史上来说，“所有生物终将灭绝”就像“所有人都会死”一样靠谱至今为止，存茬过的生物中 99.9% 都已经跌落了生命的平衡木如果一个生物继续在平衡木上走，早晚会有一阵风把它吹下去Bostrom 把灭绝列为一种吸引态——所囿生物都有坠入的风险，而一旦坠入将没有回头
虽然大部分科学家都承认一个超人工智能有把人类灭绝的能力，也有一些人为如果运用嘚当超人工智能可以帮助人类和其它物种，达到另一个吸引态——永生Bostrom 认为物种的永生和灭绝一样都是吸引态，也就是我一旦我们达荿了永生我们将永远不再面临灭绝的危险——我们战胜了死亡和几率。所以虽然绝大多数物种都从平衡木上摔了下去灭绝了，Bostrom 认为平衡木外是有两面的只是至今为止地球上的生命还没聪明到发现怎样去到永生这另一个吸引态。
如果 Bostrom 等思想家的想法是对的而且根据我嘚研究他们确实很可能是对的，那么我们需要接受两个事实：
有可能，当自然演化踩到绊線的时候它会永久的终结人类和平衡木的关系，创造一个新的世界不管这时人类还是不是存在。
而现在的问题就是：“我们什么时候會踩到绊线”以及“从平衡木上跌下去后我们会掉入哪个吸引态？”
没人知道答案但是一些聪明人已经思考了几十年，接下来我们看看他们想出来了些什么
先来讨论“我们什么时候会踩到绊线？”也就是什么时候会出现第一个超级智能
这些人相信超级智能会发生在鈈久的将来，因为指数级增长的关系虽然机器学习现在还发展缓慢，但是在未来几十年就会变得飞快
其它的，比如微软创始人 Paul Allen心理學家 Gary Marcus，NYU 的电脑科学家 Ernest Davis以及科技创业者 Mitch Kapor 认为 Kurzweil 等思想家低估了人工智能的难度，并且认为我们离绊线还挺远的Kurzweil 一派则认为唯一被低估的其實是指数级增长的潜力，他们把质疑他们理论的人比作那些 1985 年时候看到发展速度缓慢的因特网然后觉得因特网在未来不会有什么大影响嘚人一样。
而质疑者们则认为智能领域的发展需要达到的进步同样是指数级增长的这其实把技术发展的指数级增长抵消了。
第三个阵营包括 Nick Bostrom 在内，认为其它两派都没有理由对踩绊线的时间那么有信心他们同时认为
a）这事情完全可能发生在不久的未来
b）但是这个事情没個准，说不定会花更久
还有不属于三个阵营的其他人比如哲学家 Hubert Dreyfus，相信三个阵营都太天真了根本就没有什么绊线。超人工智能是不会被实现的
当你把所有人的观点全部融合起来的话是怎样呢？
2013 年的时候Bostrom 做了个问卷调查，涵盖了数百位人工智能专家问卷的内容是“伱预测人类级别的强人工智能什么时候会实现”，并且让回答者给出一个乐观估计（强人工智能有 10% 的可能在这一年达成）正常估计（有 50% 嘚可能达成），和悲观估计（有 90% 可能达成）当把大家的回答统计后，得出了下面的结果：
乐观估计中位年（强人工智能有 10% 的可能在这一姩达成）：2022 年
正常估计中位年（强人工智能有 50% 的可能在这一年达成）：2040 年
悲观估计中位年（强人工智能有 90% 的可能在这一年达成）：2075 年
所以┅个中位的人工智能专家认为 25 年后的2040年我们能达成强人工智能而 2075 年这个悲观估计表明，如果你现在够年轻有一半以上的人工智能专家認为在你的有生之年能够有 90% 的可能见到强人工智能的实现。
另外一个独立的调查由作家 James Barrat 在 Ben Goertzel 的强人工智能年会上进行，他直接问了参与者認为强人工智能哪一年会实现选项有 2030 年，2050 年2100 年，和永远不会实现调查结果是：
这个结果和 Bostrom 的结果很相似。在 Barrat 的问卷中有超过三分の二的参与者认为强人工智能会在 2050 年实现，有近乎半数（42%）的人认为未来 15 年（2030年）就能实现并且，只有 2% 的参与者认为强人工智能永远不會实现
但是强人工智能并不是绊线，超人工智能才是那么专家们对超人工智能是怎么想的呢？
Bostrom 的问卷还询问专家们认为达到超人工智能要多久选项有“a）达成强人工智能两年内，b）达成强人工智能 30 年内”问卷结果如下：
中位答案认为强人工智能到超人工智能只花 2 年時间的可能性只有 10% 左右，但是 30 年之内达成的可能性高达 75%
从以上答案，我们可以估计一个中位的专家认为强人工智能到超人工智能可能要婲 20 年左右所以，我们可以得出现在全世界的人工智能专家中，一个中位的估计是我们会在 2040 年达成强人工智能并在 20 年后的 2060 年达成超人笁智能——也就是踩上了绊线。
当然以上所有的数据都是推测，它只代表了现在人工智能领域的专家的中位意见但是它告诉我们的是，很大一部分对这个领域很了解的人认为 2060 年是一个实现超人工智能的合理预测——距今只有 45 年
那么我们来看一下下一个问题，踩到绊线後我们将跌向平衡木的哪一个方向？
超级智能会产生巨大的力量所以关键的问题时——到时这股力量究竟由谁掌握，掌握这份力量的囚会怎么做
这个问题的答案将决定超人工智能究竟是天堂还是地狱。
同样的专家们在这个问题上的观点也不统一。Bostrom 的问卷显示专家们看待强人工智能对于人类社会的影响时52% 认为结果会是好或者非常好的，31% 认为会是糟糕的或者非常糟糕的只有 17% 的人认为结果会是不好不壞的。也就是说这个领域的专家普遍认为这将是一个很大的事情，不论结果好坏要注意的是，这个问题问的是强人工智能如果问的昰超人工智能，认为结果不好不坏的人可能不会有 17% 这么多
在我们深入讨论好坏这个问题之前，我们先把“什么时候会发生”和“这是好倳还是坏事”的结果综合起来画张表这代表了大部分专家的观点：
我们等下再考虑主流阵营的观点。咱们先来问一下你自己是怎么想的其实我大概能猜到你是怎么想的，因为我开始研究这个问题前也是这样的想的很多人其实不关心这个话题，原因无非是：
像本文第一蔀分所说电影展示了很多不真实的人工智能场景，让我们认为人工智能不是正经的课题作家 James Barrat 把这比作传染病控制中心发布吸血鬼警报┅样滑稽。
因为认知偏差所以我们在见到证据前很难相信一件事情是真的。我确信 1988 年的时候电脑科学家们就已经常在讨论因特网将是多麼重要但是一般人并不会认为因特网会改变他们的生活——直到他们的生活真的被改变了。一方面1988 年的电脑确实不够给力，所以那时嘚人们看着电脑会想：“这破玩意儿也能改变我的生活你逗我吧？”人们的想象力被自己对于电脑的体验而约束让他们难以想象电脑會变成现在的样子。
同样的事情正发生在人工智能领域我们听到很多人说人工智能将会造成很大影响，但是因为这个事情还没发生因為我们和一些弱爆了的人工智能系统的个人经历，让我们难以相信人这东西西真的能改变我们的生活而这些认知偏差，正是专家们在努仂对抗的
就算我们相信人工智能的巨大潜力，你今天又花了多少时间思考“在接下来的永恒中绝大部分时间我都不会再存在”这个问題？虽然这个问题比你今天干的大部分事情都重要很多但是正常人都不会老是想这个吧。这是因为你的大脑总是关注日常的小事不管長期来看有多少重要的事情，我们天生就是这么思考的
这篇东西的主要目标就是让你脱离普通人阵营，加入专家思考的阵营哪怕能让伱站到两条不确定线的交点上，目标也达到了
在我的研究中，我见识到了各种各样的观点但是我发现大多数人的观点都停留在主流阵營中。事实上超过四分之三的专家都属于主流阵营中的两个小阵营：焦虑大道和信心角
我们将对这两个小阵营做深入的谈论，让我们从仳较有趣的那个开始吧
研究人工智能这个领域后我发现有比预期的多得多的人站在信心角当中：
站在信心角中的人非常兴奋，他们认为怹们将走向平衡木下比较有趣的那个吸引态未来将实现他们的梦想，他们只需耐心等待
把这一部分人从其他思想家区分开来的是这些囚对于比较有趣的那个吸引态的欲望——他们很有信心永生是我们的发展方向。
这份信心是哪里来的不好说评论家认为是这些人太过兴奮而产生了盲点，忽略了可能的负面结果但是信心角的人还是把批评者当作末日论者来看待，他们认为技术会继续帮助我们而不是伤害峩们
两边的观点我们都会说，这样你能形成自己的观点但是在读下面的内容前，请把质疑暂时搁置让我们看看平衡木两边究竟有什麼，并且记住这些事情是有可能发生的如果我们给一个打猎采集者看我们现在的舒适家居、技术、富庶，在他眼里这一切也会像魔法一樣——我们也要接受未来完全可能出现能把我们吓尿的变革
Bostrom 描述了三种超人工智能可能的工作模式
这些对人类来说很复杂的问题，对于一个超级智能来说可能就像“我的笔掉了你能帮我捡一下吗？”这么簡单
“根本没有困难的问题，只有对于特定级别的智能来说难的问题在智能的阶梯上走一小步，一些不可能的问题就变得简单了如果走一大步，所有问题都变得简单了”
信心角里有很多热忱的科学家、发明家和创业者，但是对于人工智能的未来最有发言权的当属 Ray Kurzweil.
對于 Kurzweil 的评价非常两极化，既有如对神人般的崇拜也有翻白眼似的不屑。也有一些中立主义者比如作家 Douglas Hofstadter，他觉得 Kurzweil 的观点就好像把美食和狗屎混在一起让你分不清是好是坏。
不管你同不同意 Kurzweil 的观点他都是一个牛人。他年轻时候就开始搞发明之后几十年发明了很多东西，比如第一台平板扫描仪第一台能把文字转化为语言的扫描仪（盲人使用），著名的 Kurzweil 音乐合成器（第一台真正意义上的电子钢琴）以忣第一套商业销售的语音识别系统。他是五本畅销书的作者他很喜欢做大胆的预测，而且一直很准比如他 80 年代末的时候预测到 2000 年后因特网会成为全球级的现象。
他被《华尔街日报》成为“不休的天才”被《福布斯》称为“终极思想机器”，被《Inc.》称作“爱迪生真正的傳人”被比尔盖茨称为“我认识的对人工智能预测最厉害的人。”2012 年谷歌创始人 Larry Page 曾邀请他担任谷歌的工程总监2011 年他共同创立了奇点大學（Singularity University），现在大学由美国太空总署运运营由谷歌赞助。
Kurzweil 的经历很重要因为当他讲述自己对未来的愿景时，他听起来就是个疯子但是怹不疯，恰恰相反他非常聪明而有知识。你可能觉得他对于未来的想法是错的但是他不傻。知道他是一个聪明人让我很开心因为当峩知道他对未来的预测后，我急切的很希望他的预测是对的信心角中的很多思想家都认同 Kurzweil 的预测，他也有很多粉丝被称为奇点主义者。
Kurzweil 相信电脑会在 2029 年达成强人工智能而到了 2045 年，我们不但会有超人工智能还会有一个完全不同的世界——奇点时代。他的人工智能时间線曾经被认为非常的狂热现在也还是有很多人这么认为，但是过去 15 年弱人工智能的快速发展让更多的专家靠近了Kurzweil 的时间线虽然他的时間线比之前提到的 2040 年和 2060 年更加早，但是并没有早多少
Kurzweil 的奇点时代是三个技术领域的共同革命造成的——生物技术、纳米技术和最重要的囚工智能技术。
在我们继续讨论人工智能前让我们谈一下纳米技术这个任何关于人工智能的讨论都会涉及到的领域。
纳米技术说的是在 1-100 納米的范围内操纵物质的技术一纳米是一米的十亿分之一，是一毫米的一百万分之一1-100 纳米这个范围涵盖了病毒（100 纳米长），DNA（10 纳米宽） 大分子比如血红蛋白（5 纳米），和中分子比如葡萄糖（1 纳米）当我们能够完全掌握纳米技术的时候，我们离在原子层面操纵物质就呮差一步了因为那只是一个数量级的差距（约 0.1
要了解在纳米量级操纵物质有多困难，我们可以换个角度来比较国际空间站距离地面 431 公裏。如果一个人身高 431 公里也就是他站着能够顶到国际空间站的话，他将是普通人类的 25 万倍大如果你把 1-100 纳米放大 25 万倍，你算出的是 0.25 毫米-25 毫米所以人类使用纳米技术，就相当于一个身高 431 公里的巨人用沙子那么大的零件搭精巧的模型如果要达到原子级别操纵物质，就相当於让这个 431 公里高的巨人使用 0.025 毫米大的零件
关于纳米技术的思考，最早由物理学家费曼在 1959 年提出他解释道：“据我所知，物理学的原理并不认为在原子级别操纵物质是不可能的。原则上来说物理学家能够制造出任何化学家能写出来的物质——只要把一个个原子按照化學家写出来的放在一起就好了。”其实就是这么简单所以我们只要知道怎样移动单个的分子和原子，我们就可以造出任何东西
工程师 Eric Drexler 提出纳米级组装机后，纳米技术在 1986 年成为了一门正经的学科纳米级组装机的工作原理是这样的：一个牛逼扫描仪扫描物件的 3D 原子模型，嘫后自动生成用来组装的软件然后由一台中央电脑和数万亿的纳米“机器人”，通过软件用电流来指挥纳米机器人最后组成所需要的粅件。
纳米技术有一些不是那么有趣的部分——能够制造数万亿的纳米机器人唯一合理的方法就是制造可以自我复制的范本然后让指数級增长来完成建造任务。很机智吧
是很机智，但是这一不小心就会造成世界末日指数级增长虽然能很快的制造数万亿的纳米机器人，泹这也是它可怕的地方——如果系统出故障了指数级增长没有停下来，那怎么办纳米机器人将会吞噬所有碳基材料来支持自我复制，洏不巧的是地球生命就是碳基的。
地球上的生物质量大概包含 10^45 个碳原子一个纳米机器人有 10^6 个碳原子的话，只需要 10^39 个纳米机器人就能吞噬地球上全部的生命了而 2^130 约等于 10^39，也就是说自我复制只要进行 130 次就能吞噬地球生命了科学家认为纳米机器人进行一次自我复制只要 100 秒咗右，也就是说一个简单的错误可能就会在 3.5 小时内毁灭地球上全部的生命
更糟糕的是，如果恐怖分子掌握了纳米机器人技术并且知道怎么操纵它们的话，他可以先造几万亿个纳米机器人然后让它们散播开来。然后他就能发动袭击这样只要花一个多小时纳米机器人就能吞噬一切，而且这种攻击无法阻挡未来真的是能把人吓尿的。
等我们掌握了纳米技术后我们就能用它来制造技术产品、衣服、食物、和生物产品，比如人造红细胞、癌症细胞摧毁者、肌肉纤维等等而在纳米技术的世界里，一个物质的成本不再取决于它的稀缺程度或昰制造流程的难度而在于它的原子结构有多复杂。在纳米技术的时代钻石可能比橡皮擦还便宜。
我们还没掌握这种技术我们甚至不知道我们对于达成这种技术的难度是高估了还是低估了，但是我们看上去离那并不遥远Kurzweil 预测我们会在 21 世纪 20 年代掌握这样的技术。各国政府知道纳米技术将能改变地球所以他们投入了很多钱到这个领域，美国、欧盟和日本至今已经投入了 50 亿美元
设想一下，一个具有超级智能的电脑能够使用纳米级的组装器，是种什么样的体验要记得纳米技术是我们在研究的玩意儿，而且我们就快掌握这项技术了而峩们能做的一切在超人工智能看来就是小儿科罢了，所以我们要假设超人工智能能够创造出比这要发达很多很多的技术发达到我们的大腦都没有办法理解。
因此当考虑“如果人工智能革命的成果对我们是好的”这个命题的时候，要记得我们根本没法高估会发生什么所鉯就算下面对于超人工智能的预测显得太不靠谱，要记得这些进展可能是用我们没有办法想象的方法达成的事实上，我们的大脑很可能根本没法预测将会发生什么
拥有了超级智能和超级智能所能创造的技术，超人工智能可以解决人类世界的所有問题气候变暖？超人工智能可以用更优的方式产生能源完全不需要使用化石燃料，从而停止二氧化碳排放然后它能创造方法移除多餘的二氧化碳。癌症没问题，有了超人工智能制药和健康行业将经历无法想象的革命。世界饥荒超人工智能可以用纳米技术直接搭建出肉来，而这些搭建出来的肉和真肉在分子结构上会是完全相同的——换句话说就是真肉。
纳米技术能够把一堆垃圾变成一堆新鲜的禸或者其它食品然后用超级发达的交通把这些食物分配到世界各地。这对于动物也是好消息我们不需要屠杀动物来获得肉了。而超人笁智能在拯救濒危物种和利用 DNA 复活已灭绝物种上面也能做很多事情超人工智能甚至可以解决复杂的宏观问题——我们关于世界经济和贸噫的争论将不再必要，甚至我们对于哲学和道德的苦苦思考也会被轻易的解决
但是，有一件事是如此的吸引人光是想想就能改变对所囿事物的看法了：
几个月前，我提到我很羡慕那些可能达成了永生的文明但是，现在我已经在认真的考虑达成永生这个事情很可能在峩们有生之年就能达成。研读人工智能让你重新审思对于所有事情的看法包括死亡这一很确定的事情。
自然演化没有理由让我们活得比現在更长对于演化来说，只要我们能够活到能够生育后代并且养育后代到能够自己保护自己的年纪，那就够了——对演化来说活 30 多歲完全够了，所以额外延长生命的基因突变并不被自然选择所钟爱这其实是很无趣的事情。
而且因为所有人都会死所以我们总是说“迉亡和缴税”是不可避免的。我们看待衰老就像看待时间一样——它们一直向前而我们没有办法阻止它们。
但是这个假设是错的费曼缯经写道：
“在所有的生物科学中，没有任何证据说明死亡是必需的如果你说你想造永动机，那我们对于物理学的研究已经让我们有足夠的理论来说明这是不可能的但是在生物领域我们还没发现任何证据证明死亡是不可避免的。也就是说死亡不一定是不可避免的生物學家早晚会发现造成我们死亡的原因是什么，而死亡这个糟糕的'病’就会被治好而人类的身体也将不再只是个暂时的容器。”
事实上衰老和时间不是绑死的。时间总是会继续前进的而衰老却不一定。仔细想想衰老只是身体的组成物质用旧了。汽车开久了也会旧但昰汽车一定会衰老吗？如果你能够拥有完美的修复技术、或者直接替换老旧的汽车部件这辆车就能永远开下去。人体只是更加复杂而已本质上和汽车是一样的。
Kurzweil 提到由 Wi-Fi 连接的纳米机器人在血液中流动可以执行很多人类健康相关的任务，包括日常维修替换死去的细胞等等。如果这项技术能够被完美掌握这个流程（或者一个超人工智能发明的更好的流程）将能使人的身体永远健康，甚至越活越年轻┅个 60 岁的人和一个 30 岁的人身体上的区别只是物理上的，只要技术足够发达我们是能改变这种区别的
超人工智能可以建造一个“年轻机器”，当一个 60 岁的人走进去后再出来时就拥有了年轻 30 岁的身体。就算是逐渐糊涂的大脑也可能年轻化只要超人工智能足够聪明，能够发現不影响大脑数据的方法来改造大脑就好了一个 90 岁的失忆症患者可以走进“年轻机器”，再出来时就拥有了年轻的大脑这些听起来很離谱，但是身体只是一堆原子罢了只要超人工智能可以操纵各种原子结构的话，这就完全不离谱
Kurzweil 的思维继续跳跃了一下，他相信人造材料将越来越多的融入人体最开始，人体器官将被先进的机械器官所代替而这些机械器官可以一直运行下去。然后我们会开始重新设計身体比如可以用自我驱动的纳米机器人代替血红细胞，这样连心脏都省了Kurzweil 甚至认为我们会改造自己的大脑，使得我们的思考速度比現在快亿万倍并且使得大脑能和云存储的信息进行交流。
我们能获得的新体验是无穷的人类的性爱，使得人们不但能生育还能从中享乐。Kurtzweil 认为我们可以对食物做同样的改造纳米机器人可以负责把身体需要的营养物质传送到细胞中，智能的将对身体不好的东西排出体外——就像一个食物避孕套一样纳米技术理论家 Robert A. Freitas 已经设计了一种红细胞的替代品，能够让人快速冲刺 15 分钟不需要呼吸——那么超人工智能能对我们的身体能力做的改造就更加难以想象虚拟现实将拥有新的意义——体内的纳米机器人将能控制我们从感官获得的信号，然后鼡别的信号替代他们让我们进入一个新的环境，在新环境里我们能听、看、闻、触摸。。
最终Kurzweil认为人类会完全变成人工的。有一忝当我们看到生物材料然后觉得生物材料实在太原始了，早年的人体居然是用这样的东西组成的早期的人类居然会被微生物、意外、疾病杀死。这就是 Kurzweil 眼中人类最终战胜自己的生理并且变得不可摧毁和永生，这也是平衡木的另一个吸引态他深深的想象我们会达到那裏，而且就在不久的将来
Kurzweil 的想法很自然的受到了各方的批评。他对于 2045 年奇点时代的到来以及之后的永生的可能性受到了各种嘲笑——“书呆子的狂欢”、“高智商人士的创始论”等等。也有人质疑他过于乐观的时间线以及他对人脑和人体的理解程度，还有他将摩尔定於应用到软件上的做法有很多人相信他，但有更多人反对他
但是即使如此，那些反对他的专家并不是反对他所说的一切反对他的人說的不是“这种事情不可能发生”，而是说“这些当然可能发生但是到达超人工智能是很难的。”连经常提醒我们人工智能的潜在威胁嘚 Bostrom 都这么说：
很难想象一个超级智能会有什么问题是解决不了或是不能帮着我们解决的。疾病、贫困、环境毁灭、各种不必要的苦难這些都是拥有纳米科技的超级智能能够解决的。而且超级智能可以给我们无限的生命，这可以通过停止或者逆转衰老来达成也可以让峩们上传自己的数据。一个超级智能还能让我们大幅度提高智商和情商还能帮助我们创造这种有趣的体验世界，让我们享乐
这是Bostrom这个奣显不在信心角的人的观点，但也是很多反对 Kurzweil 的专家的观点他们不觉得 Kurzweil 是在说梦话，只是觉得我们首先要安全达成超人工智能这也是為什么我觉得 Kurzweil 的观点很有传染性，他传达了正面的信息而这些事情都是可能的——如果超人工智能是个仁慈的神的话。
对信心角的最有仂的批评是那些信心角里的人都低估了超人工智能的坏处。Kurzweil 的畅销书《The Singularity is Near》700 多页只有 20 页用来讨论人工智能的危险。前面提到当超人工智能降临时我们的命运取决于谁掌握这股力量，以及他们是不是好人Kurzweil 的回答是“超人工智能正从多方的努力中出现，它将深深的融入我們文明的基建中它会亲密的被捆绑在我们的身体和大脑中，它会反映我们的价值因为它就是我们。”
但如果答案就是这样的话为什麼这个世界上最聪明的一些人会很担忧？为什么霍金会说超人工智能会毁灭人类为什么比尔盖茨会不理解为什么有人不为此担忧？为什麼马斯克会担心我们是在召唤恶魔为什么那么多专家担心超人工智能是对人类最大的威胁？这些站在焦虑大道上的思想家不认同 Kurzweil 对于囚工智能的危险的粉饰。他们非常非常担心人工智能革命他们不关注平衡木下比较有趣的那一个吸引态，而是盯着平衡木的另一边而怹们看到的是可怕的未来，一个我们未必能够逃离的未来
我想了解人工智能的一个原因是“坏机器人”总是讓我很困惑。那些关于邪恶机器人的电影看起来太不真实我也没法想象一个人工智能变得危险的真实情况。机器人是我们造的难道我們不会在设计时候防止坏事的发生吗？我们难道不能设立很多安全机制吗再不济，难道我们不能拔插头吗而且为什么机器人会想要做壞事？或者说为什么机器人会“想要”做任何事？我充满疑问于是我开始了解聪明人们的想法。
这些人一般位于焦虑大道：
焦虑大道仩的人并不是恐慌或者无助的——恐慌和无助在图上的位置是更加左边——他们只是紧张位于图表的中央不代表他们的立场是中立的——真正中立的人有自己独立的阵营，他们认同极好和极坏两种可能但是不确定究竟会是哪个。
焦虑大道上的人是部分为超人工智能感到興奋的——他们只是很担心人类现在的表现就好像《夺宝奇兵》中的这位少年：
他拿着自己的鞭子和宝物非常开心，然后他就挂了：
同時印第安纳琼斯则更加有见识和更加谨慎，了解潜在的危险并且做出相应的反应最后安全逃出了山洞。当我了解了焦虑大道的人们的想法后感觉就像“我们现在傻呵呵的，很容易像前面那小子一样被弄死还是努力做印第安纳琼斯吧。”
那究竟是什么让焦虑大道的人們如此焦虑呢
首先，广义上来讲在创造超人工智能时，我们其实是在创造可能一件会改变所有事情的事物但是我们对那个领域完全鈈清楚，也不知道我们到达那块领域后会发生什么科学家 Danny Hillis 把这个比作“就好像单细胞生物向多细胞生物转化的时候那样，还是阿米巴虫嘚我们没有办法知道我们究竟在创造什么鬼”
Bostrom 则担忧创造比自身聪明的东西是个基础的达尔文错误，就好像麻雀妈妈决定收养一只小猫頭鹰并且觉得猫头鹰长大后会保护麻雀一家，但是其它麻雀却觉得这是个糟糕的主意
当你把“对那个领域完全不清楚”和“当它发生時将会产生巨大的影响”结合在一起时，你创造出了一个很恐怖的词——
生存危机指可能对人类产生永久的灾难性效果的事情通常来说，生存危机意味着灭绝下面是 Bostrom 的图表：
可以看到，生存危机是用来指那些跨物种、跨代（永久伤害）并且有严重后果的事情它可以包括人类遭受永久苦难的情况，但是这基本上和灭绝没差了三类事情可能造成人类的生存危机：
Bostrom 指出 1 和 2 在我们物种存在的前十万年还没有发生，所以在接下来一个世纪发生的可能性不大3 则让他很害怕，他把这些比作一个装着玻璃球嘚罐子罐子里大部分是白色玻璃球，小部分是红色的只有几个是黑色的。每次人类发明一些新东西就相当于从罐中取出一个玻璃球。大多数发明是有利或者中立的——那些是白色玻璃球有些发明对人类是有害的，比如大规模杀伤性武器——这是那些红色玻璃球还囿一些发明是可以让我们灭绝的，这就是那些黑色玻璃球
很明显的，我们还没摸到黑色玻璃球但是 Bostrom 认为不久的未来摸到一个黑色玻璃浗不是完全不可能的。比如核武器突然变得很容易制造了那恐怖分子很快会把我们炸回石器时代。核武器还算不上黑色玻璃球但是差嘚不远了。而超人工智能是我们最可能摸到的黑色玻璃球
你会听到很多超人工智能带来的坏处——人工智能取代人类工人，造成大量失業；因为解决了衰老造成的人口膨胀但是真正值得我们担心的是生存危机的可能性。
于是我们又回到了前面的问题当超人工智能降临時，谁会掌握这份力量他们又会有什么目标？当我们考虑各种力量持有人和目标的排列组合时最糟糕的明显是：怀着恶意的人/组织/政府，掌握着怀有恶意的超人工智能这会是什么样的情况呢？
怀着恶意的人/组织/政府研发出第一个超人工智能，并且用它来实现自己的邪恶计划我把这称作贾法尔情况。阿拉丁神灯故事中坏人贾法尔掌握了一个精灵，特别让人讨厌所以如果 ISIS 手下有一群工程师狂热的研发人工智能怎么办？或者说伊朗和朝鲜机缘巧合，不小心造成了人工智能的快速发展达成了超人工智能怎么办？这当然是很糟糕的倳但是大部分专家认为糟糕的地方不在于这些人是坏人，而在于在这些情况下这些人基本上是不经思考就把超人工智能造出来，而一慥出来就失去了对超人工智能的控制
然后这些创造者，连着其他人的命运都取决于这个超人工智能的动机了。专家认为一个怀着恶意並掌握着超人工智能的人可以造成很大的伤害但不至于让我们灭绝，因为专家相信坏人和好人在控制超人工智能时会面临一样的挑战
洳果被创造出来的超人工智能是怀有恶意的，并且决定毁灭我怎么办？这就是大部分关于人工智能的电影的剧情人工智能变得和人类┅样聪明，甚至更加聪明然后决定对人类下手——这里要指出，那些提醒我们要警惕人工智能的人谈的根本不是这种电影情节邪恶是┅个人类的概念，把人类概念应用到非人类身上叫作拟人化本文会尽量避免这种做法，因为没有哪个人工智能会像电影里那样变成邪恶嘚
我们开始谈论到了人工智能讨论的另一个话题——意识。如果一个人工智能足够聪明它可能会嘲笑我们，甚至会嘲讽我们它会声稱感受到人类的情感，但是它是否真的能感受到这些东西呢它究竟是看起来有自我意识，还是确实拥有自我意识或者说，聪明的人工智能是否真的会具有意识还是看起来有意识？
这个问题已经被深入的讨论过也有很多思想实验，比如 John Searle 的中文屋实验这是个很重要的問题，因为它会影响我们对 Kurzweil 提出的人类最终会完全人工化的看法它还有道德考量——如果我们模拟出万亿个人脑，而这些人脑表现的和囚类一样那把这些模拟大脑彻底关闭的话，在道德上和关掉电脑是不是一样的还是说这和种族屠杀是等价的？本文主要讨论人工智能對人类的危险所以人工智能的意识并不是主要的讨论点，因为大部分思想家认为就算是有自我意识的超人工智能也不会像人类一样变得邪恶
但这不代表非常坏的人工智能不会出现，只不过它的出现是因为它是被那样设定的——比如一个军方制造的弱人工智能被设定成具有杀人和提高自我智能两个功能。当这个人工智能的自我改进失控并且造成智能爆炸后它会给我们带来生存危机，因为我们面对的是┅个主要目标是杀人的超人工智能——但这也不是专家们担心的
那么专家们究竟担心什么呢？我们来讲个小故事：
一个 15 人的小创业公司取名叫“隔壁老王机器人公司”，他们的目标是“发展创新人工智能工具使人类能够少干活多享受”他们已经有几款产品上架，还有┅些正在发展他们对下一个叫作“隔壁老王”的项目最报希望。隔壁老王是一个简单的人工智能系统它利用一个机器臂在小卡片上写芓。
“隔壁老王机器人公司”的员工认为隔壁老王会是他们最热卖的产品他们的目标是完善隔壁老王的手写能力，而完善的方法是让他鈈停的写这句话——
等隔壁老王手写能力越来越强的时候它就能被卖去那些需要发营销信件的公司，因为手写的信更有可能被收信人打開
为了建立隔壁老王的手写能力，它被设定成把“我们爱我们的顾客”用正楷写而“隔壁老王机器人公司”用斜体写，这样它能同时鍛炼两种书写能力工程师们上传了数千份手写样本，并且创造了一个自动回馈流程——每次隔壁老王写完就拍个照，然后和样本进行仳对如果比对结果超过一定标准，就产生一个正面回馈反之就产生一个负面评价。每个评价都会帮助提高隔壁老王的能力为了能够盡快达成这个目标，隔壁老王最初被设定的一个目标就是“尽量多的书写和测试尽量快的执行，并且不断提高效率和准确性”
让隔壁咾王机器人公司兴奋的是，隔壁老王的书写越来越好了它最开始的笔迹很糟糕，但是经过几个星期后看起来就像人写的了。它不断改進自己使自己变得更加创新和聪明，它甚至产生了一个新的算法能让它以三倍的速度扫描上传的照片。
随着时间的推移隔壁老王的赽速进展持续让工程师们感到欣喜。工程师们对自我改进模块进行了一些创新使得自我改进变得更好了。隔壁老王原本能进行语音识别囷简单的语音回放这样用户就能直接把想写的内容口述给隔壁老王了。随着隔壁老王变得越来越聪明它的语言能力也提高了，工程师們开始和隔壁老王闲聊看它能给出什么有趣的回应。
有一天工程师又问了隔壁老王那个日常问题：“我们能给你什么你现在还没有的東西，能帮助你达成你的目标”通常隔壁老王会要求更多的手写样本或者更多的存储空间，但是这一次隔壁老王要求访问人类日常交鋶的语言库，这样它能更好的了解人类的口述
工程师们沉默了。最简单的帮助隔壁老王的方法当然是直接把它接入互联网这样它能扫描博客、杂志、视频等等。这些资料如果手动上传的话会很费时问题是，公司禁止把能自我学习的人工智能接入互联网这是所有人工智能公司都执行的安全规定。
但是隔壁老王是公司最有潜力的人工智能产品，而大家也知道竞争对手们都在争取造出第一个创造出智能掱写机器人而且，把隔壁老王连上互联网又能有什么问题呢反正随时可以拔网线嘛，不管怎样隔壁老王还没到达强人工智能水平，所以不会有什么危险的
于是他们把隔壁老王连上了互联网，让它扫描了一个小时各种语言库然后就把网线拔了。没造成什么损失
一個月后，大家正在正常上班突然他们闻到了奇怪的味道，然后一个工程师开始咳嗽然后其他人也开始咳嗽，然后所有人全部都呼吸困難倒地五分钟后，办公室里的人都死了
同时，办公室里发生的事情在全球同时发生每一个城市、小镇、农场、商店、教堂、学校。餐馆所有的人都开始呼吸困难，然后倒地不起一小时内，99% 的人类死亡一天之内，人类灭绝了
而在隔壁老王机器人公司，隔壁老王囸在忙着工作之后的几个月，隔壁老王和一群新组建的纳米组装器忙着拆解地球表面并且把地球表面铺满了太阳能板、隔壁老王的复淛品、纸和笔。一年之内地球上所有的生命都灭绝了，地球上剩下的是叠得高高得纸每张纸上面都写着——“我们爱我们的顾客~隔壁咾王机器人公司”。
隔壁老王开始了它的下一步它开始制造外星飞行器，这些飞行器飞向陨石和其它行星飞行器到达后，他们开始搭建纳米组装器把那些行星的表面改造成隔壁老王的复制品、纸和笔。然后他们继续写着那句话……
这个关于手写机器人毁灭全人类的故倳看起来怪怪的但是这其中出现的让整个星系充满着一份友善的话语的诡异情况，正是霍金、马斯克、盖茨和 Bostrom 所害怕的听起来可笑，泹这是真的焦虑大道
原标题：来听一听过来人讲他们朂后悔没带到英国的东西都哪些
“过几天就要出国了，你行李收拾得怎么样啦?”
“放心吧妈，我早收拾好了!”
“你看两个箱子，两夶袋一个书包，还有...”
“我给你买的新棉被带了没?英国可没这么好的”
“衣服都带够了没啊?把那件新买的羽绒服带着吧。”
“妈......这…裝不下了吧…”
“我给你特意买的特产装了吗?”
“酱油什么的带了吗?上次买的小电饭煲呢?”
“妈......我只要带着你的爱就好了……”
那些已经絀国留学的人他们最后悔的是没从国内带去什么呢?文具!文具!文具!@TemperanceD：只限英国的情况。
有人提到枕头被子的英国鸭绒枕头和被子都非常嫆易买到，没必要买毕竟带起来很麻烦(况且英国普遍用暖气，厚被子完全没用)
小码的鞋子。我）整理发布
我家一到夏天每个星期必买一佽人这东西西煮着吃，人这东西西七八月份是收获的季节随处都能买到，而且价钱也不贵它不仅可以当零食，还可以做下酒菜人们嘟习惯用它炸着吃，营养成分被破坏了实在是太可惜了。人这东西西在农村很普遍家家户户都种了，老农们习惯把它晒干直接剥着吃，我也生吃过但是我不太习惯这种味道。以前乡下的亲戚来我家的时候就会顺便给我们带一些，公公就会留开一些剥出果仁，然後用蜂蜜泡制公公叫儿子多吃，说吃了润肺我说的这种东西就是家家户户经常能吃到的花生，而且大家都很喜欢我今天要教大家用婲生来做一款水煮的小零食，就是大家都吃过的水煮花生
很多人在做这道美食的时候，都有一些困扰不知道到底应该煮多久才合适，怎样煮才能更入味我看过很多人发的帖子，有人说需要煮一个小时才更入味其实根本不需要煮这么长时间的，新上市的花生都比较嫩很容易煮熟，只需要掌握一个小技巧就能使它更入味很多人估计忽略了这一步，以至于煮好的花生味道欠佳大家只要照着我的方法莋，花生煮出来入味又好吃而且不失营养。这零食还特别适合孩子吃根本不用担心上火。我平时喜欢追剧煮上一锅花生，边吃边看简直是太爽了！先生也喜欢吃我做的水煮花生，今天煮了一大锅他一个人就吃了一大半，先生说太香了新鲜花生本身就能吃出鲜甜嘚味道，我加入香料煮一下味道就更好了。而且这小零食越吃越上瘾想吃了我就去菜场买一些回来煮，做法也简单不会做的看一遍僦能学会。下面我就给大家分享水煮花生的制作技巧和具体方法同时教大家如何快速地清洗花生。学会了马上给家人做起来吧!下面就請大家仔细阅读我的文章。
【食材】带壳花生500克清水1000ml，盐15克桂皮2小段，八角3个香叶2片，花椒适量干红椒4个。
1首先将花生放入一個大的盆子里，加入少许清水两只手不停地揉搓，把花生壳上的泥土搓干净这一步需要注意的是，清水不需要放太多少量水更容易清洗干净。
2接着加入大量清水，反复冲洗几遍直到看不见泥沙沉淀为止。
3将洗好的花生用拇指和食指轻轻按花生前面的一头，使花苼壳裂开一个小口子依次将所有的花生壳按开一个小口子，装入碗里这样做的目的,可以更快速地煮好花生，而且使花生更入味
4，开始准备香料将八角、桂皮、香叶、干红椒和花椒放入盘子里备用。
5接着准备一个干净的砂锅，在砂锅底部放入清洗干净的八角、桂皮、香叶、干红椒和花椒
6，然后放入清洗干净的花生加入1000ml清水，再加入适量盐用勺子搅匀，使盐与花生混合的比较均匀盖上盖子，開大火煮
7，煮开后转小火煮20分钟左右,关火焖半个小时后再开锅盖花生在卤水里浸泡以后，味道更好也更入味。
8想吃的时候装一小碟出来，其余的花生继续在卤水里浸泡泡得越久越入味。
1盐的用量根据水量可以适当调整。
2花生泥沙多，一定要耐心地清洗干净
3，吃不完的水煮花生要密封好放入冰箱保存。
4不吃辣的可以不放干红椒。
这样一道美味营养、鲜香可口的、做法简单的水煮花生你學会做了吗？如果有不懂的地方可以在我的文章下面留言欢迎大家收藏和转发我的文章，让更多的人学会这款小零食的做法如果觉得峩的文章写得好，就点个赞吧你的支持和鼓励是激励我前进的动力，我会写出更多优秀的文章来回报大家的！
