王小川认为此次人机对弈是一场人工智能的启蒙运动，“人类应摒除偏见，与机器为伴”。
            　　3月16日，搜狗CEO王小川与地平线机器人科技CEO余凯做客优酷《老友记》，展开了一场以《人类将如何与人工智能共处?》为主题的对话。此前，二人都曾预判“人机围棋大战”中机器将获取胜利。近两个小时的思想碰撞中，两位分享了对人工智能的看法与建议。王小川认为此次人机对弈是一场人工智能的启蒙运动，“人类应摒除偏见，与机器为伴”。

       

　　以下内容根据王小川与余凯对话整理：

　　人机对弈，是谁的胜利?

　　王小川：今天我会和余凯一块儿来谈一下这五场比赛的复盘，以及对人工智能未来的思考。

　　余凯：你认为(AlphaGo与李世石的对弈)是谁的胜利?

　　王小川：大一点讲是人类的胜利，小一点讲是科学家和技术人员的胜利。这几天你观棋时是怎样的感觉?

　　余凯：我觉得这几天过的实在是太精彩了，今天早上有个体会，这个世界为什么美妙呢?这个美妙在什么地方呢?

　　王小川：你是觉得美妙，你有体会围棋专业选手的感觉吗?

　　余凯：你且听我娓娓道来。咱们俩可能是少有的在网上公开预测这次机器会赢的人，我特地观察了一下，这次预测机器会赢的就我们俩，也许还有别人。为什么说美妙呢?因为第四盘的时候人类赢了一盘，如果五盘机器都赢的话那是一个什么样的状况?

　　王小川：我会觉得反而对Google的压力更大。

　　余凯：世界不够完美，对于人类来说，很多人关心这个事情，但并不知道这个技术会怎么发展，他会觉得压力很大，认为技术起到颠覆性和震撼性的作用。

　　王小川：不能太完美，太完美我们就产生距离感和恐惧感了。

　　余凯：对，对DeepMind team来讲他们一下把事儿都干完了，下一步KPI怎么定啊?

　　王小川：你这个想的太多了。

　　余凯：当然这是开玩笑。我相信第四盘是自然的，双方拼尽全力的正常结果。

　　王小川：你相信是自然的，没有放水?

　　余凯：我相信是没有放水的，这样等于暴露出一个不完美的事情，让人类更深入窥探究竟发生什么事情，大家反而可以更深入来讨论，如果五盘能毫无悬念地赢，机器没有表现任何弱点，我们就不能深入去讨论人类强在什么地方，机器强在什么地方。

　　王小川：这有两个考虑，一是我们做技术的可以思考深度学习遇到了什么瓶颈的问题? AlphaGo已经有排名了，如果它完胜就没法排入到这个序列。这反映了一种融合，帮助我们接纳他，如果机器完胜了，我们和机器相处的味道就不对了。

　　余凯：而且参与这个排名的话，让我想起另外一个事情，加州从法律责任上定义无人驾驶的机器等效于司机。这两件看似不相关的事情都在2016年发生，其实揭示了一个历史的开始，我们得好好思考一下，在后面五年、十年、五十年的时间里，人类要思考怎样和机器相处。

　　王小川：这次对弈给我们开了个好头，所以说4：1是个完美的开局。

　　为什么AlphaGo会赢?

　　余凯：我也分享一下为什么一开始我认为这次机器会赢。1月份大家看到的结果反映的是职业二段的水平，职业二段到九段那是要跨越万水千山的距离，为什么在两个月里会跨越呢?那是因为，如果仔细看AlphaGo的算法里它有一步所谓叫蒙特卡罗train research做自我对决。这个算法本身是已经就存在的。思路用在这个地方，使得机器和机器对决最需要学习历史的数据，这变成什么问题。假设算法是好的，不会陷入所谓本地优化，全局性优化，它只要把计算资源加上就好了。所以，它可以加一千台机器，两千台机器。

　　余凯：我听说他们内部把很多工作都停下来全力以赴，Google是志在必得的。

　　王小川：我听说这个事情之后非常担心Google会分心，一会儿宣布打游戏，一会儿搞程序Bug，一会儿搞药品研发，我认为他们专心做好这一件事情就已经很有意义。

　　余凯：相信他们内部对这件事情志在必得，所以把其他事情都停下来了，全力以赴地把这些资源放在这上面。人类棋手两个月内成长的速度是有限的，但是机器它没有疲倦，而且计算的速度还挺快。

　　王小川：充分调动内部工程师，源源不断地引入数据，让它成长。

　　余凯：是的，它有两方面的覆盖，一方面覆盖了人类历史上所有的棋谱数据。AlphaGo在五局下来，下的一些招在人类最优秀的棋手看来也是想象不到的，说明它们从人类的数据里学习，甚至在有些方面已经超越了这个领域。

　　王小川：这可以看到一个细节，第一局、第二局比赛当中我们对机器不信任，当我们看不懂这个棋的时候会说这是步臭棋，哈哈一笑。但其实到中盘时却会发生逆转，这个逆转是人类自我解嘲和自我合理化，认为机器前半场下得不好，所以到后面就逆转，有的则解释说李世石出现失误，但失误并不会影响全局的变化。我们从数据分析上获得的消息，模拟分布认为机器一直是占优的，只是有时候这个棋人类是看不懂的。

　　余凯：他中盘逆转，内部打分已经在往上走了。

　　王小川：你看不懂，但并不代表你看不懂的事情是不对的，这只能证明我们人类在围棋经验上并没有做到满分。

　　余凯：传统上来讲机器的优势在于精确，人类的优势在于直觉。这次AlphaGo和以前的深蓝那次比赛完全不一样。深蓝那次是靠超级计算机暴力搜索，用的是精确和快速计算。在象棋这件事情上并不那么复杂，他可以算得清，不需要那么靠直觉。但是在围棋这件事情上，整个围棋的棋盘状态空间复杂度超过宇宙中原子的总和，非常庞大。所以，就算计算机也算不过来，AlphaGo这次之所以有革命性意义，就是因为它第一次有了神经网络和直觉。

　　王小川：这可以深入探讨一下，最早我们认为机器是没有直觉的，没有大局观的，这次机器反而有大局观而且有全局观，甚至比人更好。大家普遍认为机器相对于人的优势是不知疲倦，没有情绪，不会犯错误，但现在看也不全是这样。机器也会犯错误，在第四局、第五局，特别是第四局已经到不如业余选手的状态。但是机器没有情绪，它不需要把一个子抽象成一个个子的概念，在机器深度学习网络里，尽可能包含复杂性的局势，直接把复杂性抽象成它的走棋或者棋感。在这个地方我们之前谈论的比较少。

　　余凯：因为深度神经网络是复杂的系统，中间有很多神经元可以点亮或者不点亮，究竟它表达的是什么，思考的是什么?我们不得而知，它是个黑箱系统，未来它究竟会不会形成一种概念或美学认知，现在还不知道。

　　王小川：机器没概念就不丢失信息，也就是我们说的无招胜有招。

　　机器丢掉的一局，是故意的吗?

　　余凯：小川，我想问一下，这个事情是不是还有一些方面有打动到你或震撼到你?

　　王小川：我觉得这次有两个收获，一是发现人有概念，机器无概念，这是机器优势的地方，转化过来看，机器因为没概念就没法形成概念之间的关联性推理。因此，人在下棋时靠着计算、推理和棋感，机器是有了计算，有了棋感，但是没有概念从而也就没有推理。概念一旦形成之后，不仅能指导下棋也能指导训练，所以我反复想，第四局机器输了之后，Google工程师在优化这个系统时会怎么做，这时候不是用人的30万盘棋重复做3000万步对弈了，而是用当下局部的失利做训练。我们认为机器学习的美妙之处是尽可能不依靠人去找规则，并在失利里做更好的增强学习，这是我所思考的技术层面需要往下突破的两个领域。

　　余凯：这涉及到继续往下走人应该怎么干预的问题，昨天和一个朋友谈论第四局时，我们就在想，机器应该要输。

　　王小川：是机器故意输还是Google故意输?

　　余凯：对的，如果是机器自己决定输那就很可怕了，相信我们还没到那一步。如果机器输是因为Google基于某种原因的人为干预，比如他们的机器有五个等级分，他把等级分调低一点或者故意让机器犯个错。这反映一个本质的问题，机器在很多方面还是人为在干预，在控制的，包括整个机器，比如AlphaGo两个齿轮耦合在一起构造一个机器，一个齿轮是估值网络Value network，一个齿轮是策略网络Policy network，装在一起最后把机器装配完了。这两个齿轮的耦合实际就是人去设置这个Machine。一旦碰到问题，比如说第四局，人就会去查：他们说在第79步时AlphaGo下了一个昏招，机器内部算法到87步时内部估值网络才发现出了问题，是因为在79步时它们往下搜索，集成一个估值网络打分打错了，很有可能对搜索没有穷尽。相当于工程师装了这个机器，用个铁榔头进去敲敲打打。

　　王小川：还得靠人。这种情况下，机器战胜人就凶多吉少了。

　　人类不能太自大 要与科技一起进化

　　王小川：第三场我看到几个现象，许多人已经不是用居高临下审视的方法看AlphaGo，后来开始叫“A老师”，这就是一种欣赏和学习的过程。樊麾在五局比赛输了之后的几个月时间里，棋局大涨300分，这也体现机器可以开拓棋手的思路，让棋手走出定式。

　　余凯：我们经常会拿过去的经验判断未来，这次对弈给大家震撼的主要是前后反差太大了，机器在两三个小时之内突然一下颠覆了人类过去几十年对它的认知。

　　王小川：因为人是需要有意识，需要有存在感的。我所说的认识不仅是“我是王小川，你是余凯”，还一定是和背后的经历连在一块儿的，比如我是很好的程序员，或者我对商业有很好的认知。但这个认知突然在几个小时之内被推翻掉了。

　　余凯：谈到认知我有个比喻，这次人机大战给人的震撼一定意义上可以比拟当年哥白尼挑战地心说。

　　王小川：我当时在一篇文章里讲人别太自大，人应该思考自己存在的原因是什么?

　　余凯：这是哲学问题。今天AlphaGo给大家带来了思考，机器的智能有边界吗?

　　王小川：有人说人有创造力但机器没有，人有情感但机器没有，我说现在没有，未来却不一定。如果有人说我们造出了一个比人聪明的机器，我们认为他太过自大。但评价一件事情的时候，如果你认为人一定能赢机器，这反而也是一种狂妄自大的状态。

　　我把机器的能力分为两部分，一部分是帮助你辅助你，还有就是未来会有一些机器进化成人类的一部分，也许是加一个存储设备，比如说戴眼镜，带手机让你变成千里眼顺风耳。科技进步以后，我们能掌握得更多。

　　余凯：我以前开过一个玩笑，我说人类继续进化的话，人的脚下不应该是脚，而是轮子。

　　王小川：我有两点比你想得更远一些，一个是人类可以像钢铁侠一样装火焰喷射器飞起来;另一个是随着虚拟现实到来以后，我不需要走来走去这种物理上的运动了，只要在原地就可以和外界发生联系，即原子运动变成比特运动。我们这次是跟科技一起共同进化。

　　余凯：有的时候会担心机器的进化会不会变得无比强大。我们讲机器和人自然的融合，其实会让人变得更加强大，现在已经有这样的苗头了。比如说我们看搜索引擎，它在一定意义上通过搜索框成为了人的第二个外脑，使得整个互联网的数据和知识变成你大脑的一部分。

　　中国的人工智能为什么没能占到先机?

　　余凯：我再问你一个问题，如果《科学》的论文没有发表，一年之内中国的赢率高吗?

　　王小川：我认为这是一个信念问题。我之前就找了人工智能实验室，遇到的最大的挑战和压力是大家心气不足，大家觉得这事不容易做出来。你没有坚定的信念的话，遇到困难就很容易投降。

　　余凯：我觉得今年有两个事情让我非常震撼，一个是引力波，在新年一开始，听到了10亿年前宇宙里的动静。第二个事情是在围棋这个智力游戏高峰上，人类创造的机器展现出了强大的威力。从PC互联网到移动互联网，然后又是O2O，人类又开始重归光荣和梦想的阶段，迎来一个科技的大航海时代。

　　总结：

　　王小川：这次人机对弈是21世纪最伟大的事件之一。这一次启蒙运动很不幸和引力波一样，都是西方世界推动的进步。我们已经开始说中国人在互联网领域中有了很多的成绩和贡献，但我们不可否认在这种最前沿的探索里，我们还有差距。我们需要思考，怎么让我们中国人在互联网领域里、在科学史、人类史上，做出更大的贡献。另外一个就是在这次思想启蒙中，我们存在一个大的争辩——人和机器应该如何相处，如何解除掉原来的，不管是对围棋，还是对程序的偏见。在这一过程中，我们需要进行反思。

　　余凯：我觉得这一次人机大战，观众和我应该都觉得非常有幸，能在自己的生命中见证这一历史性时刻，这样的时刻是一个思想启蒙的时刻，我们开始思考未来人和机器是什么样的关系。第二点，我们近期经历的两件事情其实改变了大家的观念，第一个是引力波，科学家伟大的设计使得我们能够听到在10亿年前宇宙中发生的那一小段故事，第二个是人类制造的机器，在围棋上表现得如此完美聪明、淋漓尽致，让我们认识到现在进入了新的航海时代。(来源：中国网)