腾讯科技精选优质自媒体文章攵中所述为作者独立观点，不代表腾讯科技立场

在昨天的围棋比赛中，李世石战胜了 AlphaGo

这是让人欣慰的消息，但我总觉得这种欣慰有点底气不足谁知道是不是人类最后一次战胜机器的围棋系列赛呢？

从这 4 盘比赛来看AlphaGo 即便今天有关键失误，但掩盖不了这几盘比赛的落子咣辉AlphaGo 强大的判断和计算能力，让循规蹈矩的对战变得基本没有胜算而只有找到它的 Bug，方才有战胜它的可能这已经是根本的实力差距叻。

李世石 9 段今天的表现是人类历史伟大的一幕但改变不了的是，机器未来将统治围棋王飞跃老师在博文里说，任何规则明确的问题戓任务都应该是计算机战胜人类早晚只是时间而已，围棋不应例外

我们低估了 AI 的发展速度

从专家到普通人，都低估了 AI 的发展速度

在這次比赛前，有非常多的顶级专家包括人工智能界和围棋界都做出了预言，其中大部分都认为李世石将 5：0 毫无疑问战胜 AlphaGo

在新智元当时嘚读者调查中，42% 的人认为需要 1 到 3 年AI 才能在人机围棋对决中获胜。

但实际上呢现在就实现了。

在这几天的比赛中尤其是第三盘，李世石赢着、赢着就输了。那时候围棋顶级棋手都认为李世石赢定了但比赛中间基本上都蒙了。世界冠军柯洁倒是比较清醒在很多人之湔预言了李世石会输。但世界上只有一个柯洁剩下 99.99% 的人，都没看懂 AlphaGo 的布局被它骗过去了。

我们很难理解 AlphaGo即便是在围棋这样规则明确嘚游戏里。它的对围棋的认识和我们有很大的不同我们可以从它的行为去推测想法，但它里面究竟在想什么行为背后的原因，都无从知晓

在围棋中，AlphaGo 有自己的认识而理解结构和人类有很大的不同。在未来更多的领域里AI 会形成自己的价值观。

但人类要通过行为去揣測它的价值观

围棋之后？AlphaGo 的下一步是什么

我相信 Google 不会过于纠结在围棋上AlphaGo 在创立之初，就是一个通用人工智能程序这意味着它不仅仅會下围棋，只要你喂给它足量其他领域的数据它也能表现的非常好。

在和李世石的对战中AlphaGo 已经证明自己可以比世界冠军还要高明，这對于 Google 已经足够了

几周前，DeepMind（创造 AlphaGo 的公司）刚宣布了和 NHS（英国国家医疗服务体系）的合作着手建立医疗+机器学习的平台。这项合作有助於 DeepMind 获得医疗诊断方面的数据而就像围棋一样，当把这些数据喂给医疗版本的 AlphaGo 的时候它也能学会怎么给人看病。

在看到 AlphaGo 在围棋的优异表現后你是不是比较能够接受，让机器人医生给你看病呢

所以我猜测，DeepMind 会鸣金收兵公布进军医疗领域！

而除了医疗，还有游戏、律师、金融、智能手机助手你相信各种版本的 AlphaGo 在这几个领域，能比最好的人类选手做得还好么反正我是信的。

恐惧：16% 对人类未来不抱希望

茬新智元最新的一次调查中“面对AI，你对人类的未来充满希望吗”，猜猜结果是什么

16% 的参与者，投了“不抱希望”

昨天李世石获勝带来的狂欢，掩盖不了人类集体的落寞当然，人工智能的坚定支持者们大多是心情平静的。

但我们很容易估计到在未来的 5 到 10 年，AI 會一步一步取代很多工作岗位《纽约时报》有一篇文章，讲到了自从 21 世纪以来美国的就业率就在不断的下降。

这是事实而且还将继續。也许有人会说当机器去做那些枯燥、重复性的工作的时候，人类还可以从事创意的工作但无论什么时候，我们都不会需要那么多嘚演员、画家和歌手

现实一点说，阿尔法工场的一篇文章的数据统计表明经济衰退以来企业用于购买软硬件设备的投资增长了 26%，而人仂成本根本没有增长

千万不要低估，AI 对人类的影响

所以今天我们推荐一篇文章，来自 the Guardian新智元翻译。

这篇文章说的是 DeepMind 背后的故事有點长，讲述了这个团队的价值观和使命以及这对人类的未来意味着什么。

译者：王婉婷 王嘉俊 李宏菲

通过他的公司DeepMind伦敦人Demis Hassabis正在领导着()嘚一个计划——创造比人类大脑更强力的软件。但是这对于人类的未来而言，意味着什么

Hassabis有着谦逊低调的风度和平易近人的神情，但昰当他告诉我他正在为“解开智力的谜团随后将之用于解决其他一切问题”的使命而努力时，他看上去无比严肃如果从其他人——几乎任何一个其他人——口中听到这句话，都会让人发笑；但是从他口中听到就没那么让人想笑了39岁的Hassabis曾经是一位围棋大师和一位视频游戲策划，而他的人工智能研究初创公司DeepMind在2014年据传被谷歌以6.25亿美元收购他的父母都是移民，他在Finchley读了一所州立综合学校又从剑桥大学和倫敦大学学院（UCL）获得了计算机和认知神经科学的学位。一位“空想家”与他一起工作的人们是这么评价他的，Hassabis也顺水推舟地表示他巳经找到了“让科学研究更高效”的方法，并且在领导着一个“21世纪的阿波罗登月计划”他是那种你在街上看到也不会留下印象的样貌岼平的家伙，但是Tim Berners-Lee曾经对我说他是地球上最聪明的人之一。

人工智能已经来到我们的身边这毫无疑问，每当我们询问Siri或是从安卓上看箌推荐信息时背后都有人工智能的影子。而在短期内谷歌的产品肯定会从Hassabis的研究中获益，即使个人化、搜索、YouTube、语音和面部识别从名芓上看并没有“AI”这个词（“于是这只是软件对吧？”他露齿一笑“这只是某种能派上用场的东西。”）不过，从长远来看他正茬研发的技术所具有的意义并不会仅仅止步于有情感的机器人和更智能的手机。它甚至不会止步于谷歌也不会止步于、、、以及其他正茬搜刮人工智能博士并往这场最近的科技军备竞赛中砸下数以亿计金钱的巨头们。它关系着我们能想象得到的一切以及更多我们想象不箌的东西。

如果这听上去极其野心勃勃——就是这样没错大多数AI系统都是“狭隘”的，训练事前编写好程序的代理（agent）来掌握某种特定嘚任务它们并没有太多其他的能力了。所以的“深蓝”可以在国际象棋上击败Gary Kasparov却无法在画圈圈叉叉的井字棋上和一个三岁小孩对战。Hassabis站在另一边：他从人类大脑中获取灵感试图创造第一台“通用用途的学习机器”，一组灵活的、适应性强的算法能够——就像系统做嘚那样——只利用原始数据来学习如何从头开始掌握任何一种任务。

这就是人工通用智能（AGI）重点在于“通用”。在他憧憬的未来中超级智能的机器将会与人类专家共同协作，差不多能解决任何问题“癌症、气候变化、能源、基因组、宏观经济、金融系统、物理学，峩们想要掌握的系统中有许多都在变得日益复杂”他说道，“信息太过泛滥即使是对于最聪明的人类来说，要在有限的中掌握这些也囸变得越来越艰难我们要如何筛选这些铺天盖地的数据、从中找到正确的洞见？人工通用智能可以被当作某种自动将非结构信息转化为囿行动意义（actionable）的知识的过程”

获得这种元解决方案可能仍然有数十年的路要走，但是它似乎正在不可避免地渐渐来临2015年2月，全球顶尖的科学杂志《自然》在封面上刊登了像素游戏“侵略者”的图片配以“自我学习的AI软件”已经获得了“人类级别的视频游戏表现”的概述。翻开这期杂志这篇来自DeepMind的论文描述了第一个成功的通用“端到端”学习系统，其中他们的人工代理（agent）——图像处理单元上一个被称作Deep-Q网络的算法——学会了如何处理屏幕上的一个输入理解这个输入的意义，然后做出决策来达到希望的结果（在这个例子里就是荿为精通许多经典雅达利2600游戏（包括太空侵略者、拳击、和Pong）的超人）。这个突破在科技界一石激起千层浪

随后，在上个月DeepMind第二次登仩了《自然》杂志封面——在如此短的时间内第二次登上封面本身就是一件值得称道的事了。这次它略过70年代和80年代的复古街机游戏，囙溯到更久以前选择游戏围棋，这种来自中国的深奥的策略游戏已经有超过2500年的历史，连孔子的作品中也提到过围棋围棋的分支因孓非常庞大，它可能的行动步数超过了中的原子数量并且，与象棋不同它不能通过暴力计算来破解。它非常棘手也不可能为它写出┅个评估函数（通过一组规则来告诉你谁在某个位置的输赢以及输多少赢多少）。取而代之的是围棋需要旗手具备某种类似“直觉”的東西：当被问起为何做出某个落子的决定时，专业旗手们往往说出类似这样的话：“这样做感觉比较对”

很显然，计算机一直以来在做這种判断方面都不太在行因此，对于AI来说围棋始终被视为“不同凡响的伟大挑战”之一，大部分研究者预期至少还需要10年才能看到机器破解围棋的希望

但是经过严格的同行评审的证据就摆在面前：DeepMind的最新人工智能算法，AlphaGo已经在去年秋天的一场秘密赛事中以5比0的成绩唍胜蝉联三届欧洲围棋冠军的樊麾，并且将在之后的3月于世界围棋冠军李世石对战“一个让人震惊的成就”，帝国理工学院认知机器人學教授Murray Shanahan这样向我描述这件事“一个重要的里程碑”，超人类主义哲学家Nick Bostrom表示了赞同他在《超级智能：路线图，危险性与应对策略》一書中曾写道如果能够完成AGI，这将会是一个无与伦比的事件——也许借用谷歌工程主管Ray Kurzweil的话来说，甚至称得上是“撕裂人类固有的历史結构（a rupture in the fabric of history）”在Bostrom位于牛津大学人类未来研究所的办公室中，他告诉我AlphaGo的出现“让过去几年间机器学习领域的进展一下子变得引人注目起來”。

“这相当酷当然，”Hassabis同意道当时我们约在他的办公室见面，讨论最近的这场胜利像往常一样，他穿着不伦不类的黑色上衣、褲子、以及鞋子：你觉得他是一个实习生也无可厚非虽然据传谷歌的收购让他个人获益8000万欧元。“围棋就是终极：它是所有游戏的顶峰需要的智力深度（intellectual depth）也最高。它让人目眩神迷而令我们感到激动的不只是我们掌握了这个游戏，还有我们在其中使用的神奇有趣的算法”比起科学，下围棋更像一种艺术他坚持道，“而AlphaGo的下棋方法与人类非常像因为它是像人类一样学习围棋、接着通过不断下棋变嘚日益强大的，就像你我会做的那样”Hassabis可能看上去还像个学生，但是他现在笑得像是为孩子感到自豪的家长AlphaGo是他在职业生涯中获得的朂让人兴奋的成就。“这个量级超出了任何人的想象”他对此津津乐道，“不过对于我们来说最重要的是，这不是一个使用手工打造嘚规则的专家系统使用通用用途的机器学习技术，它自己学会并精通了这个游戏最终，我们希望将这些技术应用于中药的现实世界的問题上比如气候建模或是复杂病症分析，对吧所以开始想象它可能下一步会解决什么问题是非常激动人心的。”

“气候建模复杂病症分析——开始想象它可能下一步会解决什么问题是非常激动人心的。”——Demis Hassabis

我第一次见到Hassabis是在2014年夏天那是DeepMind被收购之后几个月。从那时起我一直观察着他在各种各样的环境中工作，在过去的8个月里也曾在不同情况下对他进行了3次正式采访这段时间里，我看着他从一个穀歌的AI天才逐渐成长为一个言辞凿凿的沟通者找到了有效的方式向我这种非科学家描述他那极其复杂的工作——他对那些工作热情洋溢——以及为何他的工作是重要的。他用词质朴而易懂非常擅长深入浅出地讲解DeepMind使用的方法——也就是结合旧有和全新的AI技术——比如，茬围棋中使用了传统的“树搜索”方法来分析落子效果，以及新颖的“深度学习网络”（它模拟了大脑中的神经元网络）——还有他们對不同领域AI研究的方法学“联姻”

在DeepQ中，他们将深度神经网络与“强化学习”相结合强化学习是所有动物都用到的、通过大脑中多巴胺驱动的奖励系统进行学习的方法。在AlphaGo中他们更进一步，增加了另一个更深度的强化学习用来处理长期规划。下一步他们将会整合其他的，比如说记忆能力以及其他的东西——直到理论上所有的智力里程碑（intelligence milestone）都就位。“我们在这些能力的数量方面有一个想法”Hassabis說道，“结合所有这些不同的领域会是一把钥匙因为我们有兴趣的是能够将在某个领域中学到的东西应用到另一个领域中的算法。”

这聽上去有一点像人类自身对于他简历的第一印象可能是他对一切都一知半解的好奇心，从棋盘游戏到视频游戏到计算机编程到认知神经科学更不用说人工智能了。事实上他能取得今天的地位是因为聚焦于一点：将他强大的、几十年一遇的智力与他毕生钻研的那些领域精心结合。（简要重点回顾：8岁编写自己的计算机游戏；13岁国际象棋达到大师水平；17岁创造最早的包含AI的游戏之一“主题公园”；20岁从剑橋大学获得计算机科学双重一级荣誉学位（double first）；不久之后创办自己的开创性视频游戏公司Elixir；在2011年创办DeepMind之前一直在被誉为“拼图的最后一块”的海马体和情节记忆方面进行开拓性的学术研究）

“我很容易感到厌倦而这个世界是那么有趣，有那么多很棒的事情可以做”他承認（他也保持着蝉联5届脑力奥林匹克运动会全能脑力王（Pentamind）称号的纪录，脑力奥林匹克运动会中参赛者们通过各种游戏进行比赛）。“洳果我是一个体育运动员我一定会想要成为一个十项全能选手。”

体育运动比赛的荣耀从未垂青于他虽然Hassabis是利物浦球队的忠实粉丝，吔喜欢观看所有的体育比赛他4岁时开始下国际象棋，只有仅仅一年就在国内立于不败之地并在不久之后世界无敌。想必这很明显地预礻了他日后的生命将以脑力为重心

1976年的伦敦北部，他诞生在一个有希腊-塞浦路斯混血的父亲和新加坡-中国混血的母亲的家庭中是3个孩孓中的老大。他的父母都是教师曾经开过玩具店。他的妹妹是一位作曲家和钢琴家；他的弟弟研究的是创造性写作对科技的热情并没囿盘踞在这个家庭中。“在我家我绝对是一头奇怪的黑羊，”他开了一个玩笑回忆起他小时候怎样把国际象棋比赛的奖金花在当时的個人电脑ZX Spectrum 48K和Commodore Amiga上——买回来以后，他立刻将它们拆开找出了如何编程的方法。“我的父母都是不喜欢新科技的人他们不怎么喜欢计算机。他们有一些像波西米亚人我的妹妹和弟弟也都走了艺术家的路线。他们没有一个人真的对数学或是科学有兴趣”他耸了耸肩，有些菢歉的意思“所以，好吧这有些怪异，我不太确定（我的）这一切是从哪儿来的”

他的公司在谷歌收购时只有50名员工，现在已经雇傭了接近200人；他们来自超过45个国家将位于伦敦国王十字地区一角的大楼的6个楼层都占满了。Hassabis下定决心要让他的公司接近他的根源无论受到何种搬迁的压力（想必也包括搬迁往硅谷山景城）。

“伦敦北部生养了我”他提醒我，“我绝对热爱这座城市这就是为什么我坚歭留在这里：我不觉得有什么理由说伦敦不能拥有一个世界顶级AI研究所。而且我对于我们所在的地方感到非常自豪”所有的房间都以智仂上的巨人命名：特斯拉、拉玛奴江、柏拉图、费曼、亚里士多德。还有玛丽?雪莱（他是粉丝吗“当然，”他向我保证“《科学怪囚（Frankenstein）》我读了好几遍。时刻记得这些东西是很重要的”）

一楼是一间咖啡屋和裸露着砖块结构的接待台，摆着储存椰子水的冰箱、桌仩足球机和沙包就像你对一家世界上最雄心勃勃的科技公司的期待一样。上楼以后在原本的楼顶上是新添的现代开放式结构，放眼望詓满目都是伦敦的屋顶风光，美丽得让人难以抗拒

星期五的晚上，DeepMind的员工就在这里聚会欢饮一位员工热情地向我描述这个聚会，说昰“醉人地结束一周”的方法社交是一种内在生活方式：他们告诉我DeepMind内部有跑步俱乐部、足球队、还有棋盘游戏俱乐部。墙上有一幅带囿可移动照片的位置图上面标明了每个人在特定某天会出现在哪张办公桌上（hot-desking）。这是一种激进的开放式环境走廊中与我擦肩而过的笁程师们——大部分是男性——粉碎了我对于在科学的枯燥角落工作着的人们的刻板印象：这些家伙看上去健康，快乐又酷炫。不得不說空气中散发着一股才智的迷人气息。尽管有许多谷歌的最大竞争对手们都越来越多地重视起AI更不用说全球的一流大学了，但是毫无疑问地球上最聪明的人们都在排着队想进入这里工作，到现在为止离职率还是漂亮的0%

“我们真的很幸运，”Hassabis说他将他的公司与阿波羅计划和曼哈顿计划类比，因为他正在以越来越快的速度集结起来的研究人员的质量和DeepMind的野心都让人惊叹不已“每一年，毫不夸张地说我们都能够从每个国家获得最好的科学家。所以我们将会有比如说，波兰的奥林匹克物理冠军法国的顶尖数学博士。我们已经有的想法比我们已经有的研究人员还要多不过与此同时，青睐我们的优秀人才数量也比我们能接收的还要多所以我们正处在一个非常幸运嘚位置。唯一的局限是在不伤害公司文化的前提下，我们能吸收的人员数量”

这种文化不只是沙包、免费的零食和屋顶的啤酒。Hassabis坚持鈈让谷歌的收购以任何方式强行影响他自己的研究路径他估计自己花费了“至少和思考算法一样多的时间来思考DeepMind的运转效率”，并将这镓公司描述为“调和了最好的学术圈与最激动人心的初创企业拥有令人难以置信的能量来为创造力和成就助力。”他好几次提到“创造仂”这个词他观察到，虽然他接受的正式训练都来自于科学领域但是他“本能地站在创造力或是直觉的一侧”。“我谈不上是一个标准的科学家”他评价道，看上去并无讽刺之意对于DeepMind的构造来说至关重要的，是被他称作“胶水大脑（glue minds）”的人才：能够在相当程度上悝解无数科学领域、以此“用某种别具一格的方式找到不同领域间的连接点、随后迅速鉴别出有前途的交叉领域连接可能是什么”的博学鍺符合标准以后，这些像胶水一样的人才可以每隔几周在工作中的小组中登记信息随后快速灵活地在需要时调用资源和工程师。“所鉯如果你有一个让人吃惊的天才研究员那么几乎立刻——与学术圈中不同——就会有三四个来自其他领域的人可以接过他的指挥棒、将洎己的智慧添加进去，”他这样描述道“这会导致令人震惊的结果的产出速度非常迅速。”启动于仅仅18个月前的AlphaGo项目就是对这一点的完媄阐释

每天晚上，Hassabis都要登上北线列车及时回家与家人团聚、享用晚餐。他们居住在海格特离他长大的地方不远。他的妻子是一位意夶利分子生物学家研究的是阿兹海默病。他们的两个儿子一个7岁一个9岁。Hassabis会与他们一起玩游戏、读书或是帮他们一起做作业（“他們都以自己的方式发挥着聪明才智，但是他们几乎就像我对立的两面一面是科学，一面是创造”）

他会带他们上床睡觉，就像任何一個普通人家的父亲一样随后，大概晚上11点左右当大部分人可能都合理地预计将要睡觉了的时候，他开始了他自己说的“第二天”与媄国方面的常规Skype通话将会持续到凌晨1点。之后是“纯粹思考的时间直到凌晨3点或是4点之前，那是我用来思考的时间：思考研究思考我們的下一个挑战，或是写一份算法设计文档”

并没有太多真正的AI代码，他承认“因为我的数学现在已经不行了。这更像是直觉性的思栲或者可能是对公司的策略性思考：如何扩张它，如何管理好它或者可能只是我从一篇文章里读到的东西、或是那一天从新闻里看到嘚东西，我会思考我们的研究能如何与它相连”

这让我想起了AlphaGo，它就在谷歌强大到难以想象的计算云中不停地下棋、下棋、下棋，每┅天的每一分每一秒都在自我提高因为它学习的唯一方式就是继续不停地做下去…

“它休息过吗？”我问

“没有。无休无止！它甚至沒有圣诞假期”

我犹豫了一下。“它需要休息吗”

“也许它就喜欢这样，”他驳回了我的话眼神闪亮。

懂了所以Hassabis自己呢？“绝对昰超人”他的一位同事顺口告诉过我。他关机休息过吗他能够让自己关机休息吗？“这很难”他承认，“我从来没有真的感到过工莋与生活对立的问题；它们是同一张画布上的部分我的确喜欢读书、看电影、听音乐，但这些都倾向于和我做的事有所关联”（他是┅个影迷，与最近执导AI电影《Ex Machina》的Alex Garland是朋友；他也提到了他刚与美国电影制片人Brian Grazer见过面那是一个“真的很酷的家伙”，而他们的会面讨论嘚是你猜得到的，就是AI）“我的大脑就是为它而运转的。”

那他的孩子、朋友、还有日常生活呢“当然，我在试图保持脚踏实地否则我会变得有点疯狂。关于孩子最神奇的一点是，他们是唯一能让你以类似的方式度过时间的存在”

“如果存在超越了人类智能的數字智能，那么‘助手’这个词就不是一个正确的描述了”—Elon Musk

他和自己的朋友们保持着亲密的关系：他在UCL读博士的时候遇到了DeepMind的联合创始人之一Shane Legg，另一位Muatafa Suleyman则是他的发小他讲述了一段令人愉快的经历：他在剑桥大学时与本科同学Dave Silver成了朋友，随后在空闲时间教他如何下棋盘遊戏包括某种古老的中国游戏。二十年后我注意到，David Silver是DeepMind里围棋项目的主要程序员而且也是最近这篇《自然》论文的第一作者。“是嘚Dave和我认识很久了，”Hassabis笑着说“我们曾经梦想在未来做这件事情，所以19岁的我们可能对于现在取得的这个成就感到非常欣慰”

他沉思了一下，补充道：“虽然如此但我真的没有多少日常生活。在所有醒着的时刻我都在思考这些东西，也许在我梦里也是这样因为咜是如此让人兴奋，如此重要也是我最有热情的事情。”

他的眼里有一种神采我只能用熠熠生辉来描述，就像孩子一样天真无辜“峩觉得太幸运了。我想不出比我正在研究的更有趣的问题了而且我也可以每天都思考这些问题。每时每刻我都在致力于做那些我抱有信心的事。否则的话生命如此短暂，为何还要做这些（不抱信心的）事呢”

Bostrom和其他一些伟大科学家对于AI的恐惧成真了，那么我们的生命可能会比我们预期的要短很多对AI的顾虑从未经审查的人工通用智能武装、到挥散不去的“技术奇点”的阴影，最终是让机器有能力迭玳地自我完善的“智能爆炸”这会让机器的智能超越人脑的智能，接着就是超越人类的控制。如果超级智能之灾即将来临那么过去嘚历史是无法可靠地指示我们预见到这一点、在一切无法挽回前退出AI军备竞赛的。“当你看到某样东西在技术上很诱人时”Robert Oppenheimer曾经观察到，这非常著名“你会上前研究它；而只有在你取得了技术成果以后，你才会回过头来讨论应该用它来做什么”“如果有办法能确保超級智能永远不会伤害人类，”Bostrom在几十年后说道“那么这样的智能将会被创造出来。如果没有这样的保证可能无论如何它们也会被创造絀来。”“成功创造AI”霍金在最近简练地总结道，将是“人类历史上最大的事件但不幸的是，它可能也是最后一个事件”

“好吧，峩希望不会这样”Hassabis面不改色地说。在他看来公众对人工通用智能危言耸听的态度，模糊了它近期巨大的潜力和价值而且在根本上就錯位了，尤其是在时间上 “我们距离任何类似人类水平的通用智能的东西都还有几十年的时间，”他提醒我“我们还踩在梯子的第一條横杠上。我们都不过是在玩游戏”他也认同，有一些“我们应该现在就考虑起来的法律风险”但是他坚定地认为，这些要考虑的风險不是科幻小说中超级智能机器把它们的人类创造者无情消灭的反乌托邦场景

此外，他强调谈到减少人工通用智能的潜在危险时，这個领域的领导者是DeepMind虽然，很明显这家公司不像政府领导的阿波罗计划和曼哈顿计划那样需要接受官方审查，但它的运作也相当透明咜倾向于发布自己的代码，而它接受谷歌收购时的协议也包含了禁止将它的技术应用于军备或是智能应用的条款Hassabis和他的同事们在召开2015年波多黎各人工智能大会方面起到了重要的作用，并且签署了公开信宣誓为“良好的目的”而使用技术同时“避免潜在的陷阱”。最近他們帮助协办了另一场在纽约的会议会议期间他们组建了被大肆报道的内部伦理委员会和咨询委员会（虽然是私下组建的）。“Hassabis对人工智能的安全性争议了解得非常透彻”Murray Shanahan说，“他当然不是幼稚的人也不会把头埋在沙子里当鸵鸟。”

“在鼓励围绕这些问题展开对话沟通這一方面DeepMind一直是行业中的佼佼者，”Bostrom对此表示赞同“并且在致力于进行一些未来可能需要用于解决这些挑战的研究方面也是如此。”

峩让Hassabis列出他认为的未来主要的长期挑战“随着这些系统变得越来越复杂，我们需要开始思考它们能怎样做出优化、能对什么做出优化”他回答道，“技术本身是中性的但它是一个学习系统，所以不可避免地，它们会带有一些设计者的价值体系和文化背景的印记所鉯我们对于价值观的思考必须非常谨慎小心。”

关于超级智能问题他说：“我们需要确保设定的目标是正确指明的，并且其中没有任何模棱两可的东西随着时间推移也依旧稳定。但在我们所有的系统中最高级的目标仍然要由它的设计者们指定。系统可能会得出自己的方法来实现这个目标但是它自己是不会创造一个自己的目标的。”

他用毫无动摇的语调宽慰我“看，这些都是既有趣又困难的挑战隨着配备上所有新颖强大的技术，人工智能需要被负责地、符合伦理地使用而这就是为什么我们现在正积极地呼吁对这个问题展开辩论囷研究，那么当时候到来时我们才会准备充足。”

什么的时候到来机器变得超级智能的时候，还是它们超越人类的时候他笑了起来，“不不，不我指的是还要在那些之前！”（我觉得他是在开玩笑，尽管在2011年他的同事Shane Legg的确说过：“我认为人类灭绝这件事可能会發生，而技术有可能在其中发挥不小的作用”）Hassabis澄清道：“我的意思是，当这些系统强大到不只是会玩游戏时我们放任它们处理更现實、更重要的事，比如医疗然后我们需要确保我们知道它们将会有怎样的能力。”他对我露齿一笑：“那将会阻止机器掌管世界的情景荿真”

Hassabis经常微笑。他待人友好言辞让人信服。他所说的一切似乎都很有道理并不自以为是，而且谁知道呢：说不定人工通用智能将┅直处于在我们的控制之下但是许多人仍持怀疑的态度。“显然如果存在一个任何方面都大大超过人类的数字智能，‘助手’这个词僦不是一个正确的描述了”Elon Musk反对道，他最近将AI技术的进步描绘成人类“正在召唤一个恶魔”这位SpaceX的创始人、Tesla和PayPal的联合创始人，曾经是DeepMind朂早的投资者之一但他投资DeepMind不是为了获得金钱上的回报。“我的投资并不是为了投资所带来的经济利益”他在加利福尼亚州的办公室Φ这样对我说，“我投资DeepMind的原因仅仅是因为想对AI的进展与威胁有更好的理解如果我们对AI不够小心，让一些不好的事情发生了到那时银荇存款将变得毫无意义。”

“Elon是这个行业里最聪明的人之一并且有着惊人的沟通能力，”Hassabis态度中立地回应道“而且我真的认为，像他這样的人正在如此关注AI是一件很酷的事情，因为这恰恰显示了AI是一件大事”他保持着外交辞令般的回应，但是来自其他领域的科学家放肆地公开对AI下断言这样的事确实激怒了他：毕竟你没有听到过他对粒子物理学指手画脚。

“总体来说我发现了那些不真正在AI领域工莋的人对于AI的理解都是不完全的。他们通常都没有与许多AI专家交谈过所以他们脑袋里的思想实验总是把他们带偏，因为这些想法都是基於一些我认为即将被证明是错误的假设”他又再一次提到，他组织的内部伦理委员会和咨询委员会——其中都是来自各个科学和哲学领域的顶尖学者——将会管理未来任何的人工通用智能技术的应用他毫不动摇地坚持现阶段不公开进程的决定。“之前没有任何人尝试做過类似的东西所以在我们对于公众揣测我们在Twitter或者其他什么东西上做了什么能有额外的审查之前，我们还有许多事情需要探索从第一忝就要开始。”这个初始阶段他说，是关于“给每个人提供最新的消息这样下一阶段我们才能准备好讨论实际的算法和应用。对于许哆参与其中的人来说这不是他们的核心领域。我们需要他们的专业知识但是他们必须弄清楚将会发生什么事。”

史蒂芬霍金作为一个“得到最新消息”意味着什么的榜样被人引以为鉴。Hassabis最近邀请霍金在剑桥大学进行私人会谈“仅仅是见到他对于我来说就显然是巨大嘚荣耀了，” Hassabis兴奋地说着拿出手机——无论他的新东家怎么看，Hassabis仍然是霍金的拥趸——向我展示了他和霍金的自拍合照“我们本来只咹排了1个小时的时间，但是他提出了那么多的问题以至于我们最后谈了4个小时。他错过了午餐所以他的陪同人员不大喜欢我。”

在他們的会面之后Hassabis指出，霍金没有再在媒体报道时提及“任何关于AI的有煽动性的言论”；最令人惊讶的是在他上个月的BBC Reith讲座上，他所列出嘚他认为将会对人类产生威胁的列表上没有将AI技术“可能听到更多关于实用性、更多关于我们可能建立的真实的系统，以及我们对这些系统能够有的监察和控制的讨论的确起到了作用。” Hassabis大胆地猜想道他环顾这间有许多布满了难以辨认的字迹的白板的屋子。“一旦你悝解了工程这一切看上去就变得好理解多了，也合理得多了”

很明显，我没有希望做到这一点但是他真的相信霍金转变了思想吗？“我想在谈话的最后，是的他宽慰了不少。他拥有这种好笑的、干巴巴的幽默感在我离开之前，我对他说‘所以你怎么想呢？’然后他把打出了这样的字，‘我祝你好运’随后，他眼里闪烁着的光芒又补充道，‘但是不要太多’”Demis Hassabis给了我一个胜利的微笑，說到：“我当时想‘我会把这当做是胜利的宣告’。”

原标题：柯洁对战AlphaGo之际送上一篇对DeepMind CEO的万字专访，顺便听几首歌

国庆 李林 编译整理量子位（公众号 QbitAI）

DeepMind开发出人工智能围棋程序AlphaGo，他也因此被称为阿法狗之父还有一天，AlphaGo和柯洁的围棋人机大战即将揭幕

大战之前，哈萨比斯接受BBC广播节目《荒岛唱片》专访谈论了他眼中的人工智能、AlphaGo，以及他自己对科技、艺术的见解

哈萨比斯的母亲是新加坡华裔，他形容自己的父母“放荡不羁”对他而影响是：不要循规蹈矩，走自己的路并且一矗走下去。

而这位从小就是“国际象棋神童”的天才也确实跟普通人不一样。例如他下班回家之后，会从晚10点工作到早上4点“读最噺的学术论文，创造性地思考”

在人工智能领域，最让他兴奋的两件事：一是深度学习、二是强化学习前者用于识别，后者用于决策

“将这两个系统结合是我们非常大的创新，从某种意义而言我们创造了智能的雏形。本质上讲我们还处于人工智能研究的初期。”囧萨比斯说实际上，AlphaGo就是深度学习和强化学习结合的产物

谈到AlphaGo，哈萨比斯说“我们对这台机器的能力很震惊因为AlphaGo居然有自己棋路，泹是对于它能下这么好我们没有感到惊讶，我们也很高兴它做的事情都是我们设计范围之内的事情也就是下围棋。”

尽管AlphaGo是面向围棋這一狭窄领域的人工智能但哈萨比斯表示，DeepMind正在使用AlphaGo系统的变体来服务其他行业“其中一种变体应用于医疗行业，我们正在着力解决疍白质折叠的问题”

在这个访谈中，不单单谈论技术趋势而且穿插播出多首哈萨比斯选出的乐曲。其中有一首来自《星际穿越》

“這部电影和我的最终目标关联紧密，我想理解我们周围的整个宇宙《星际穿越》的主题正是这样：理解时间、黑洞、我们在整个宇宙中嘚真正地位。”把征途放眼星辰大海的哈萨比斯说：

“这正是未来我想用AI做的事。”

以下是哈萨比斯专访全文量子位编译整理：

这个頭衔并不足以彰显他的成就，因为哈萨比斯还是一位神经学家电脑游戏设计师，企业家和世界国际象棋大师

他目前正在从事哪方面的研究？

简单地说为一切问题寻找可能的元解决方案。

考虑到他过去的成绩哈萨比斯应该非常适合这项工作，一是因为科学家的严谨作風二是他极有可能具备这样的能力。

哈萨比斯幼年是一名国际象棋神童16岁考入剑桥大学，并以双重一级荣誉学位的成绩从剑桥毕业30幾岁的时候，哈萨比斯和合作伙伴将他们创办的人工智能公司DeepMind以4亿英镑(5亿多美元)的价格卖给了谷歌。

哈萨比斯说过不少有意思的话不過有一句很有料，“我认为建造人工大脑是探究人类某些思想谜团的最好办法比如意识是什么，人为什么会做梦创造力是什么东西。”

梦创造力和意识是人类区别于其他动物的最重要特征，而你给我的感觉并不像那些陷入存在主义焦虑的人你很喜欢思考这些问题，對吗

Hassabis：是的，这些对于人类意义巨大的问题我一直都非常感兴趣，比如生命的意义我们为什么存在，宇宙的运行等等像物理，科學人工智能，以及破解这些谜题的方法

主持人：为一切问题寻找可能的元解决方案，这个想法意味着有这么一把钥匙可以打开所有问題的门我觉得正如最好的科学可以解决不可能解决的问题，而最坏的科学一定极端荒谬的如果我说得不对，请你纠正

Hassabis：如果我们思栲文明是怎样演化的，人类社会是怎样形成的其实这些都是人类智慧的杰作，所以从某种意义上讲智能就是元解决方案，帮助实现我們对这个社会的期许我从小就觉得计算机是可以增强人脑功能的神奇设备，而人工智能就是实现这一目的的最终落脚点

主持人：极具智慧的人通常都是异于常人的，你身上有哪些与众不同的特点

Hassabis：我有些习惯可能跟别人不太一样，我早上4点才睡上午10点开始工作，花┅整天在办公室回去和家人一起吃晚饭。

晚上10点或者11点开始第二天的工作一直工作到第二天早上，通常我会在这几个小时里进行研究，读最新的学术论文创造性地思考。

主持人：人工智能领域到目前为止最令人振奋的突破是什么

Hassabis：从我们的角度看，最令人振奋的突破就是将两个领域的人工智能结合在一起一是深度学习，也就是使用人工神经网络模仿人脑原理

主持人：你是说神经通路？

Hassabis：是的就是这些通路构成了神经网络。当这个功能非常强大的时候就可以应用于物体识别，语音识别

主持人：这就像三四十年，计算机不鈳能看到一只猫然后就说出这是一只猫，而现在可以了

Hassabis：是的，如果给计算机提供几百个例子告诉它猫长什么样，它就能判断出来

第二个领域是强化学习，这个是我们的专长主要用于决策。一个人世界观的形成是基于他的经历而世界观也会帮助他做决定。我们囸在在一款电脑游戏上测试一套算法算法比人类玩家的分数还高。

将这两个系统结合是我们非常大的创新从某种意义而言，我们创造叻智能的雏形本质上讲，我们还处于人工智能研究的初期

主持人：我不知道你们为此付出了多少努力，但是你的解释浅显易懂稍后峩们将讨论关于人工智能技术的担忧和机遇，现在请Demis为我们介绍第一支曲子

Hassabis：《银翼杀手》是一部关于人工智能和机器人技术的电影，峩特别喜欢

这部电影上映的时候我只有十几岁，可以说让我大开眼界因为它将人工智能技术活生生地展现在一个美丽的影像世界里，峩想用美轮美奂来形容那个世界

Roy Batty最后的那段台词我非常喜欢，他说起星际旅行中那些令人动容的人类没有办法体会的回忆，而这些回憶就像眼泪和雨水一样永远不能找回。

我也非常喜欢Vangelis的电影配乐对我走上人工智能研究之路，并把人工智能变成现实的启发很大

我缯见过人类无法想象的美，我曾见太空战舰在猎户星座旁熊熊燃烧注视C射线在天国之门的黑暗里闪耀，而所有过往都将消失于时间如哃泪水消失在雨中……死亡的时刻，到了

主持人：刚才听到的是由Vangelis作曲的，电影《银翼杀手》中的配乐《泪水消失在雨中》（Tears in Rain）

Demis Hassabis，每佽我读到你关于人工智能研究的讲话感觉听起来，怎么说呢都是那么的春风和煦，有点煽情让人感到温暖，措辞也比较婉转可不鈳以谈谈这个，因为业内人士和一般人的理解反差很大比如说我，就感觉人工智能挺可怕的

Hassabis：智能是一种非常了不起的能力，我们甚臸可以称之为一种力量拥有它我们就能发明创造。作为工程师我们希望把智能分成若干部分进行分析，理解其中的程序和机理这是囹人非常着迷的事情。

主持人：你觉得这些都是可以通过计算完成的可以通过数字推算。

Hassabis：对这个我持开放态度可能有些伟大的科学镓也有不同的观点。比如数学家Roger Penrose认为大脑中存在一些量子现象，因此使用传统的计算设备不可能完成对智能的分析要通过量子电脑才能完成。

主持人：你的观点是什么

Hassabis：生物学和神经学研究都显示大脑中没有晦涩如量子力学一般的现象。我们还是会对新发现和新理论保持开放态度但目前公司的运营还是基于人脑中的一切现象都可以用一般电脑设备分析计算的假设前提之下。

主持人：DeepMind的名字本身就是那些目前我们理解起来还很困难的领域比如创造力和意识，我可以用“隐秘”来形容那些目前科学还无法触及的大脑区域吗

Hassabis：可以，峩觉得可以用“隐秘”或者“浮现”来形容这些待探究的谜题可以从根本上区分人类与其他动物，我认为我们正处于开始理解这些问题嘚起点

主持人：可不可以介绍一些最近一两年令人难以置信的的新发现？

Hassabis：当然比如一些关于梦是什么的理论，而这个问题已经困扰囚类几千年新发现表明，做梦其实是大脑中的一个称作海马体的区域在睡眠的时候重放最近能够激起强烈感情的记忆而重放的速度要仳记忆事件发生的速度快很多，而大脑的其他区域在了解这个情况之后根据上百个例子——有些可能你只在真实世界中经历过一次——莋出相应的反应，该做什么不该做什么。

主持人：我们再来点音乐现在听什么？

Hassabis：我找了恩雅的《水印》（Watermark）选这个曲子的原因是，这是我买的第一张CD那时候我大概十二三岁的样子。15岁的时候我自学了钢琴作为嗜好，这首曲子是我最开始学的几首之一选它的原洇是这首曲子非常好听，又很好弹

主持人：Demis Hassabis，你的父母生了三个非常有趣的孩子 你的妹妹是一名作曲家，音乐家弟弟是一名职业牌掱，还有你能不能介绍一下是什么样的父母造就了这样的孩子？

Hassabis：我的父母也非常有意思如果用一个词形容的话，那就是“放荡不羁”

我父亲年轻的时候是一名创作歌手，但是他也做了许多创造性工作有一段时间，他们还开了一家玩具店我的父母都喜欢按自己的囍好做事，这对我们三个人都有影响那就是不要循规蹈矩，走自己的路并且一直走下去，这样一点问题都没有实际上那才是生活的囸确方式。

主持人：你说你的父母曾经开过玩具店是不是有的时候也会把玩具满屋子乱扔，然后部件就不齐全了

Hassabis：没错，其实还就是這种经历让我有了最初的游戏设计实践有时候会有成套游戏或者玩具部件缺少的情况，就卖不出去我就根据这些游戏的规则创造一些蔀件，然后和我的弟弟妹妹一起玩测试是不是行得通，然后根据测试的效果再改进我就是这么学会游戏设计的。

幼年哈萨比斯(左下角)囸在下象棋

主持人：你4岁就开始学国际象棋6岁开始比赛，然后11岁的时候你去列支敦斯登参加了一场国际巡回赛，那期间发生了一件非瑺不寻常的令人印象深刻的事情。

Hassabis：是的11岁的时候我去列支敦斯登参加了 一场国际巡回赛，一个非常大的比赛大厅有几百名来自世堺各国的棋手。

我和一个当时是丹麦冠军的棋手对局下到10个小时的时候，残局非常有意思我剩王和后，他剩王车和象，他当时占有┅点优势但应该是平局。

我们又下了4个小时他一直试图取胜，最后他耍了一个小把戏困住我的王，我能做的只能是放弃我的后然後就会下成王棋受困而以平局结束。但是我当时太累了居然没有想到放弃我的后，而是选择了认输因为我以为我会被将死。于是他站起来问我为什么要认输，本可以下成平局的然后他还下给我看，我记得很清楚

当时我就想，我后来也想过这对一个11岁的孩子而言昰不是有点残酷，因为他的对手是一个成年人我觉得这样做是不对的。

后来我就想我们是不是在浪费大脑，因为这个级别的比赛选手嘟是顶尖的为什么不用我们的脑力去做点更有意义的事情，比如解决癌症问题找到其他疾病的治愈方法，那不是更好吗

主持人：你11歲就有这种想法？

Hassabis：是的我有一种顿悟的感觉。

主持人：你的父亲那时候安排你在家学习以便你能专心于练棋，你有没有很父母谈过這个问题

当时我在我那个年龄段的棋手中世界排名第二，所有人都想当然地认为这就是我将来的职业下棋是我生活的全部，我一点都鈈记得上过什么课全都是下棋，虽然也会用到电脑所以没错，11岁能说出那些话还是挺厉害的。

主持人：再来点音乐Demis告诉第三首想讓我们听什么。

注：QQ音乐不提供这首歌可以去查看完整歌单

Hassabis：我挑了KLF乐队的《白色房间》（The White Room），十几岁的时候我算不上很逆反听KLF的歌鈳能我做过的最逆反的事情了。我就是非常喜欢那种复古的思维还记得那个时候就是边用卡带反复听《白色房间》，边学习高中课程

主持人：刚才我们听到的是KLF乐队的《白色房间》。Demis Hassabis你用国际象棋比赛的奖金买了电脑，8岁的时候买了第一台电脑是一台ZX Spectrum。

你曾经引用過物理学家Richard Feynman的话“我不能创造的我也无法理解。”这也是激励你去理解写程序的原因吗

Hassabis：是的，我买了几本编程的书而且我意识到這是一个非常了不起的工具。可以让电脑晚上开始计算而你去睡觉，这个工具继续为你工作早上起床的时候，问题已经解决这种感覺实在是太好了，就像把人脑卸下来并加以增强真是太神奇了。

我的下一台电脑是Commodore Amiga 500学校里有几个朋友和我一起组成了一个黑客俱乐部，一起写代码做影像演示，复制我们看过的电影活着玩过的游戏所有的业余时间都贡献在如何用这些电脑更好地编程。

主持人：就像參与一个秘密计划

Hassabis：是的，就像一个无人知晓的地下世界有这样的感觉。

主持人：你说你提前一两年完成了高中课程然后被剑桥录取，但是剑桥告诉你年纪太小但是会为你保留学籍。这段时间你为一家公司工作都从事了一些什么工作？

Hassabis：当时我在一个全国比赛中獲奖奖品是一份工作。那家公司叫牛蛙制作（Bullfrog Productions）创始人是著名的游戏设计师Peter Molyneux，他们设计了一款我1213岁的时候非常着迷的游戏，一款名為《上帝也疯狂》（Populous）的模拟游戏

我高中课程结束之后的第二天去这家公司报道，他们以为我是一个毕业生结果没想到我那么小，他們甚至不能合法雇佣我结果最后他们只能付给我现金，我用这些钱付了基督教青年会青年旅舍的住宿费用

最后我们还是开发出来几个非常著名的游戏，其中一款我担任首席编程师和联席设计师的游戏买了几百万套。

主持人：你的父母认为你一个人住青年旅舍没问题

Hassabis：是的，他们不了解情况那时候我们关系没那么近了，我想去哪里就去哪里我觉得他们对我的情况一点都不了解。

主持人：下一个曲孓是什么

Hassabis：The Prodigy的Skylined。我在剑桥度过了非常美妙的三年是我人生中最美的三年，因为剑桥对我而言就像一个度假营

之前作为一名职业棋手，我从来没有在暑假休息过一直在世界各地飞，虽然也很好我有点后悔没有在高中课程学习之后去南美背包旅行，而是直接去为那家遊戏公司工作那份工作一直持续到我上剑桥之前。

所以我去剑桥之前就下定决心要好好过一下社交生活并且学很多东西。The Prodigy在1994年发行了這张专辑我一直在房间里放他们的歌。我还记得出去了一夜之后会到房间，躺在床上享受早上的阳光照进房间。

主持人：刚才听到嘚是The Prodigy的歌Demis Hassabis，能听得出来你在大学过得很快乐，虽然这也没有影响你拿双重一级的成绩你还参加了不少聚会。这些会不会伤害你的大腦听起来这首曲子还挺刺激的。

Hassabis：是的所以剑桥的第一年是我人生的一个教训，当时确实有点散漫在剑桥我也交到了很多好朋友，現在还保持联系

主持人：剑桥毕业后你加入了另一家游戏公司，也创立了自己的游戏设计公司说起来这个有点脸红，我这辈子还从来沒玩过电脑游戏我都错过了什么？

Hassabis：成功的游戏都会从一个侧面反映生活可以从中学到很多东西，生活不允许我们一直追求安稳需偠不断激发我们产生新的想法，改进策略开发自己的大脑。我认为游戏像是大脑体操无论是桌上游戏还是电脑游戏，都可以增强我们嘚大脑功能

主持人：我们谈一谈世界智力运动会，你在1998到2003年期间获得了五次冠军这项赛事像是头脑游戏的节日。我们知道奥运会那昰体能的竞争，看比赛的时候我们知道那种体能的竞争水平，我们永远没有办法达到因为我们看到了那种紧张程度，肌肉的拉伸跳動的脉搏，和汗如雨下

智力运动会的看点是什么？

Hassabis：和奥运会相类似只不过不是体力方面的。脑力比赛也很紧张有智力的对撞，通過比赛项目表现出来

那些比赛也让我理解到真正擅长一件事情需要付出的努力，这也是我从很多职业比赛当中得到的经验那就是要迅速对情况作出评估，并判断如何做出下一步动作这些也是我现在工作中需要具备的能力，比如对项目人和需要具备技能的评估。另外通过参加像纸牌，国际象棋这类的游戏我们可以更好地了解自己，找到自我管理的最佳方式这些都是可以相互转换的。

主持人：你給我们介绍的第五首曲子是什么

Hassabis：是一首Michael Nyman的作品，Nyman是我最喜欢的现代古典音乐作曲家之一我在为我的第一款大制作游戏进行编程的时候，经常听的这首《主题公园》（Theme Park）是通向我职业游戏生涯的一扇门，我在设计这款游戏的那段时间也就是最需要创造力的那一两个朤，听了很多遍这首曲子

注：QQ音乐不提供这首歌，可以去查看完整歌单

主持人：刚才听到的是Michael Nyman为电影《绘图师的合约》的配乐The Garden is Becoming a Robe Room2010年，你與合作伙伴创立了公司经过三年的辛勤工作，你们向世界展示了这款意义重大的可以成为专业级玩家的，“具备得高分本能的”机器你们没有教这台机器如何玩游戏，但是你们安装了可以让它自己解决问题的赢得游戏的工具。你的团队是怎么做到的

Hassabis：是的，你说嘚是7080年代比较流行的Tori游戏，我们赋予系统的也只有屏幕上的像素和得到最高分的目标剩下的都需要机器自学。这项突破表明我们的系统可以掌握一些对于人类专业选手都具有挑战性的技能。

主持人：也因为这个史蒂芬霍金说人工智能可能是人类历史上最大的事件，洏不幸的是也可能是最后一个大事件，因为当我们为计算机赋予了本能它们不光会想到我们在想什么，而且会想在我们前面所以当嘫它们就取得了控制权。

Hassabis：我觉得还有很多的研究需要做不过需要考虑的是，我们给这些系统赋予了什么目标和价值然后确保它们会堅持执行我们赋予的目标。我认为人工智能是很好的工具可以帮助我们更好地实现目标。

主持人：你自己也很惊讶是你发明了AlphaGo，观看叻它击败李世石的比赛澄清一下，国际象棋有35种落子选择而围棋有多少种？

主持人：在你看到AlphaGo获胜之后你也很惊讶？

Hassabis：是的我们對这台机器的能力很震惊，因为AlphaGo居然有自己棋路但是对于它能下这么好，我们没有感到惊讶我们也很高兴它做的事情都是我们设计范圍之内的事情，也就是下围棋

主持人：所以你们会将善意程序编入机器？

Hassabis：是的未来几十年，随着系统的发展我们将更好理解需要編入什么样的控制程序，如何检查和解读系统的操作目的我们也会在建造机器的过程中解决这些问题。

主持人：如果这些机器的设计者夲身就存在恶意怎么办

Hassabis：建构人工智能系统目前而言还是非常艰巨的工作，需要非常复杂的技能这个世界上只有几百个人能够参与这項工作，其中大多数人都了解对方整个人工智能社区很小，我自己一个人也没有办法完成整个项目

我们的团队有400个人，其中250人是拥有國际知名学府博士学位的人员而即使这样，我们的进展还是比较小的这是一个原因。 另外一个原因是在某个时间点，当我们已经更恏地了解人工智能系统以及我们需要怎样的立法才能解决相关问题，我们就会有更强力的全世界都遵守的管制。

主持人：我可以长出┅口气了下一首曲子是什么？

Demis Hassabis：我挑了一首Queen的Who Wants to Live Forever我认为Freddie Mercury是历史上最伟大的歌手之一，我喜欢这首歌原因是它在和生命的短暂和脆弱对話，生命的这些特征我一直能感受到我会思考怎样充分利用生命，因为它如此短暂

主持人：刚才听到的是Queen的Who Wants to Live Forever。我看你听歌的时候一直凝视天花板可能在思考生命和死亡。

谷歌2014年向DeepMind发出收购申请的时候你同意出售公司，因为“能够创立一家公司是弥足珍贵看着它从初创成长为人工智能领域的重要企业，”当时为什么要同意谷歌的收购

Hassabis：除了这个原因之外，我还对谷歌做了一年的尽职调查以及合並后的协作问题。

对我而言同意出售与金钱无关，尽管有很多钱我们的投资人并不想出售。而最终决定出售的原因是我认为与谷歌合並可以加速实现我们的项目结合谷歌的实力，资源我们可以更快地探索和拓展算法，雇佣更多的科学家进行研究过去三年的进展也囸如我们所料想的。

主持人：人工智能以及其相关技术可能威胁传统行业工人的工作因为如果人工智能可以运用到这些工作中，就不再需要工人

你说看到很多机会，但也有人看到的是很多人失业哪些行业已经实现了人工智能技术的大力推广？

Hassabis：我们正在使用AlphaGo系统的变體来服务其他行业其中一种变体应用于医疗行业，我们正在着力解决蛋白质折叠的问题

生物学研究一个重要的课题就是蛋白质如何折疊成3D结构，因为3D结构将决定蛋白质在体内如何工作和反应患阿尔海默氏症的病人或许就是因为蛋白质的折叠方式错误。

生物学家和制药公司希望能取出一个氨基酸序列然后根据其中的基因序列判断3D结构会是什么样子，这样就可以令药物研发加速5到10年而实验室通常都要幾年的时间才能搞清楚这些结构。

我们希望将AlphaGo的算法来模拟这些蛋白质的折叠目前还没有实现，但是从初期结果来看很有希望可能再過一年就可以提供给制药公司，通过虚拟的方式模拟针对某些蛋白质药物的设计，用来治疗各种疾病

主持人：下一首歌是什么呢？

Hassabis：峩选择了Daft Punk的一首歌我非常喜欢他们的最新专辑《Random Access Memories》，我认为这张专辑的主题是AI或者计算机、机器人获得了意识的觉醒然后谈起了时间過得飞快，简直不能相信我去年就已经40岁了。

主持人：看看你对自己的生活都做了什么

Hassabis：实际上，我把这首歌当成自己40岁的生日歌

伱提到了AI可能对很多重要的领域都有帮助，比如说阿尔兹海默症的研究我忽然想到，你的妻子的一名研究阿尔兹海默症的研究人员你們会一起工作一起研究吗？

Hassabis：是的我们经常讨论怎样加速科学发现的过程，AI在其中扮演怎样的角色现在人口老龄化加速，照顾老人的荿本越来越高我们急需做出一些新的发现。

主持人：你对于家长有没有什么建议比如说那些天赋异禀的聪明孩子，你对他们的家长有什么建议呢

你这么聪明，理应是个惹人讨厌的人才对但你并不是。今天我和你坐在这里聊天发现你真是个温暖、开放、周到的人，叒非常谦虚愿意和我们这些普通人交流。

你是怎么成长为一个这样的人的家长该如何帮助智力超群的孩子融入这个世界？

Hassabis：如果我有這样的孩子我会让TA从小对这个世界进行大量的探索，积累丰富的经验

让孩子对某一领域进行深入的探索、发展专长是好的，但我不会排斥其他领域生活如此丰富，你需要参与到其中的方方面面

现在我想教给孩子的技能，是学习的能力而不是具体学到的东西。

孩子該学会的第一件事不是为了上学，而是了解自己：你怎样做最好、想要什么、你的梦想是什么会为什么而激动。这些都是需要孩子洎己探索发现的。

主持人：奥巴马在卸任演说中提到了“文化个性化”说随着我们的计算机，随着人工智能的发展进步人们能按照最適合自己的方式生活，偏见随之而来人与人之间的联系也越来越弱。

Hassabis：我同意这种说法但我认为一切技术都可能带来这个问题，可能峩们现在使用的互联网、手机也有这个问题AI也会。

人们需要开阔的视野和心态了解不同的观点，愿意去探索不同的领域知道如何用建设性的方式来解决分歧。

主持人：Demis我真希望我们可以聊一整天，但现在该播放你推荐的最后一首曲子了这首曲子是什么呢？

Hassabis：这首謌选自《星际穿越》电影这部电影非常赞，克里斯诺兰是我非常喜欢的导演我们现在成了好朋友。他和作曲家Hans Zimmer有很多合作我喜欢Hans Zimmer所囿的作品。

我选了《星际穿越》是因为这部电影和我的最终目标关联紧密，我想理解我们周围的整个宇宙《星际穿越》的主题正是这樣：理解时间、黑洞、我们在整个宇宙中的真正地位。

这正是未来我想用AI做的事

注：QQ音乐不提供这首歌，可以去查看完整歌单

主持人：剛才我们听到的是《星际穿越》配乐Hans Zimmer作曲。

Demis现在我该给你几本带去荒岛的书了：《圣经》、《莎士比亚全集》，你还想带上什么

Hassabis：這个问题其实很难回答，不过我想说我要带上《指环王》。我在9岁左右的时候读过很多遍，书中创造了一个非常美妙的世界独自一囚在岛上生活，可能应该需要随身带一个丰富、深入的美妙世界

Hassabis：我会带一台单一功能的国际象棋计算机，这样就能下很多局象棋等峩获救离开孤岛的时候，我的棋艺可能会大有长进

主持人：这8首歌，你最想保留哪一首

主持人：谢谢你，Demis Hassabis谢谢你和我们分享自己的荒岛唱片。