刘慈欣谈现阶段人工智能：前面有多少智能，后

据钛媒体报道，在最近举办的2018年「IDG资本私享会」上，科幻文学创作者、《三体》作者、IDG资本首席畅想官刘慈欣谈及了人工智能的话题。

谈到人工智能时，刘慈欣以人类驯化小麦的案例畅想，可能人工智能现在已经悄悄开始控制人类了。不过他也认为，要达到电影里面的强人工智能，在现在看来中间还有很多技术障碍。“现在的人工智能，前面有多少智能后面就有多少人工。”

距离真正的人工智能离那一步还差的很远

过以宏：现在从投资、创业各个角度都会碰到一个概念，就是人工智能（AI），IDG资本也是全球人工智能独角兽企业商汤科技最早的机构投资人，我们看到很多科幻作品也在讨论这个。比如人通过机器人在改变一些事物，过程中就失控了，人工智能反过来控制和打击人类，开始作恶。目前似乎还看不到这样的失控转折点，这样的点是否真的存在，如果有，我们该如何提前捕捉到一些讯息？

刘慈欣：举一个有意思的例子，我们说人类被自己创造的某种力量控制了，或者统治了，比如AI。但我要提一个问题，此前没有过吗？也许在上古时代就出现过。比如小麦。尤瓦尔·赫拉利在《人类简史》里提出的一个观点，是我们驯化了野生的小麦成为农作物，还是野生的小麦驯化了我们。仔细想一想，可能后者更合乎情理。农民要照顾小麦，很辛苦，要给它浇水、除虫、耕地，辛辛苦苦就是为了让它一代代繁衍下去，而且繁衍的越多越好，某种程度上就是小麦控制了人类，但是我们意识不到这一点。你说人工智能什么时候控制人类，可能现在已经悄悄开始了。

我前两天去了一趟雄安新区，那边的超市没有店员，酒店没有柜员，都是自动化的。街上行驶的都是无人车，送快递、送外卖都是自动的，这个可能就是你说的一个节点吧。

过以宏：如果再往前延展一点，从科幻电影来说不光是不知不觉的控制，而是要作恶，取代人类，把人类作为他们的工具。

刘慈欣：要达到电影里面的强人工智能，在现在看来中间还有很多技术障碍。现在的人工智能，前面有多少智能后面就有多少人工。所以说距离真正的人工智能离那一步还差的很远。真正的智能是什么呢？

举一个例子。大家都知道图灵测试（编者按：指测试者与被测试者（一个人和一台机器）隔开的情况下，通过一些装置（如键盘）向被测试者随意提问。进行多次测试后，如果有超过30%的测试者不能确定出被测试者是人还是机器，那么这台机器就通过了测试，并被认为具有人类智能。）

现在很多机器已经通过图灵测试了。但我不这样认为，真正的智能是什么呢？这个机器能通过图灵测试，但他假装通过不了，这是真正的人工智能。还有比如说AlphaGo赢了柯洁，这个也不叫人工智能，它就该这样，那就是他最擅长的东西。真正的人工智能是什么，他赢不了柯洁，恼羞成怒，拿起棋盘往柯洁脑袋上砸，这个才是。但是到这一步，人工智能还很远。

牛奎光：台下很多科技企业CEO，特别关心科技的发展。关于科技加速发展的问题，您如何思考？技术越来越进步，同时也带来了很大的焦虑，那么快速进步是一个好事吗？

刘慈欣：我觉得不管好事、坏事，进步肯定不能停止，这是我们生存必需的。而且技术本身，用凯文·凯利的话说，本身就是自我进化的东西，无论如何都是要进步的，不以我们的意志所转移。除非发生某个不可预料的灾难，社会肯定会进步。

你的问题本质可能在于，人在不断进步过程中，所处的位置是什么样的。人的位置肯定是渐渐变得没有用处了，以后可能会出现所谓的“无用阶级”。

从目前来看，最需要人做的工作，基础科研。但有一个很令人担忧的趋势，传统的研究思路越来越多被大数据所取代，而对大数据的分析不是靠人分析，是靠机器分析，就是科研中相当一部分工作是由机器来完成的。这种情况如果发展下去也是十分可怕。