郝景芳：人工智能最大的威胁可能是让人类懒于思考

　　新浪科技讯 11月5日下午消息，今日“2017腾讯WE大会”在京举办，中国科幻作家、第74届雨果奖获得者郝景芳出席并发表演讲。

　　郝景芳介绍说，人工智能只能处理特定边界的问题，目前，人工智能头上还有三朵小乌云，分别是综合认知的能力、理解他人的能力和自我决定的能力。“人工智能无法回答跨界问题、常识问题；无法回答需要因人而异、体察人情的问题；它不会做这样的决定，因为它并没有对于自我的了解、自我的认知。这种能够从自己出发做决定的能力，也能够看得出来人工智能和人的区别。”

　　郝景芳解释说，综合认知的难度在于，现在的深度学习网络，一个网络只能够学习一件事情，这在科学界被称为遗忘的灾难，一个这样的人工智能只能干一件事情，不可能像我们人一样有通识的能力，这是人类和人工智能很大的不同，人是触类旁通的。

　　对于理解他人的能力，郝景芳分析说，现在是有一些人工智能和人的语言对话，但自然语言处理仍然还是一个难题，只有在特定领域的专业问答，可以有比较好的答案匹配，就是因为人工智能实际上还仍然不能理解大量的情景，就是因为它的头脑里面没有对人类世界、物理世界、人情世界的通识知识体系，所以他理解很多的自然情景都会很困难。此外人工智能由于没有内心丰富的情感世界，并不能够推己及人。

　　第三点自我决定的能力，它得需要两个方面的突破，一是自我表征的能力，人工智能需要能够自己说出来，我做这个事情是为什么；此外，人工智能没有自我意识。

　　对于这些能力是否能够突破和解决，郝景芳认为，有可能，但是不是现在，不仅仅靠算力提高，需要有更好的、更强的综合性算法以及更多技术突破。

　　“人工智能下一步发展，不管它往哪个方向发展，它要处理的接下来就是综合的、多功能的、多能力的、多目标的任务的相互协调，多种价值观、多种任务的相互协调，这是我们需要更多地去理解人类的大脑、理解我们人类的心智系统。”

　　提到人工智能最大的威胁，郝景芳表示并不是取代工作，它们会取代一部分工作，但是他们会制造出更多更多的就业岗位。“人工智能对我们最大的威胁就在于，当我们过于依赖很多的数据系统以后，我们自己如果变得懒于思考、懒于自我反思，而让我们自己的智慧退化的话，这是对人类最大的威胁。”（谭宵寒）

　　以下为郝景芳演讲全文：

　　我要讲什么故事？是讲的有关人工智能的故事，人工智能这两年真是太火了，从去年开始就有很多人一直在谈论，人工智能现在已经战胜了围棋世界第一的高手，人工智能什么时候全面地战胜人类？他们会不会超越人类？会不会全面的取代人类，甚至会不有一天毁灭人类呢？

　　我们前些日子都看过一个电影叫《机械姬》，里面有一个很有钱的老板请了一个科学家去帮他测试他的人工智能能不能通过图灵测试。

　　我今天要讲的故事是前一段时间又有一个老板请我过去，说你作为一个科幻作家帮我测一测我刚刚花了大价钱买的人工智能机器，你帮我测一测它能不能通过图灵测试。我说好，你这个机器是什么算法，什么原理？他说就是现在最流行深度学习、强化学习、大数据学习。我说好，我用三个小测试就能帮你测出来，我猜它是通不过图灵测试的。这三个小测试很简单，他说什么三个小测试？我说就是我们人都会的，但是机器现在都不会的测试。

　　第一个测试题，如果哥伦布没有发现新大陆对中国哪个菜系影响最大？这对我们人类实在是太简单了，我们都知道哥伦布从美国带回来了南瓜、玉米、红薯、花生、辣椒，还有很多别的食物。那么哪个食物影响最大？对于我们吃货界来讲，也不难回答，当然是辣椒。如果没有辣椒，当然没有川菜，所以肯定是对川菜影响最大。

　　而这个涉及到我们的日常生活的常识，尽管所有的其他食物也很重要，但是只有像现在这样一个灵魂式的味觉食物，它能够调味，才对菜系影响最大。

　　所以对于人工智能来讲这是一个跨界问题，它涉及到历史，也涉及到日常生活的常识，也涉及到饮食对这种跨界问题、常识问题，人工智能是答不出来的。我跟老板说你就测试它这第一问题。

　　第二个测试题，她说没想到今天这么冷，她希望你如何回复它？人工智能如果回复给她一个天气预报，肯定不是他心里希望的，如果一个女孩子说了这样的话，她希望你怎么回复她？抱抱？这也不是唯一的答案，答案要看你和她的关系，要看这个女孩子她是一个什么样的个性，也要看当时在一个什么样的场合下。如果真的是一个跟你关系很不错，有一点暧昧的可爱的姑娘、萌妹子，也许说这个话，是想让你把衣服给她，然后顺便抱抱。

　　但是如果这个时候不是这样的场合，是一个女老板，刚正不阿的女上司，她说没想到今天这么冷，那你再说我抱抱您吧，她肯定一个耳刮子就扇上来了。这个时候她可能是跟你说，你的工作是失职的，为什么没有给我把房间弄得更暖和一点，你这个时候赶紧得说对不起老板，我下次给您提前安排。

　　所以这是什么问题，就是对方当他说一句话的时候，他心里的意思，他的含义，他希望我们的回应，这是完全因人而异的，这是需要我们能够察言观色，能够体察对方、理解他人的心思才能够给出正确答案。我说这种问题人工智能它是不会做的，您放心我帮您测这个它肯定不行。

　　第三个测试题，明年可以学英语，也可以学编程，你会选择学什么？为什么？这种问题对于我们人来讲也很容易的，我们每天都在看大量形形色色的广告，每天都被各种各样的信息充斥，我们在其中能够根据我们自身选出我们自己想要的，这也是没有正确答案的问题，因为实际上该学什么，要从你自身找答案，你要知道你是一个什么性格的人，你的梦想是什么，你未来的目标是什么，你想要达到目标要怎么做，根据你自己的自身情况来决定学什么。

　　人工智能它们不理解自己，它们没有这种元认知能力，他们并不能够为自己做决定，当你跟AlphaGo说下围棋，它不会说我不要下围棋，我今天想去看场电影，它不会做这样的决定，因为它并没有对于自我的了解、自我的认知。

　　所以我说这种能够从自己出发做决定的能力，也能够看得出来人工智能和人的区别。

　　然后老板就问我说，可是你说的这几个东西在我听起来实在是太简单了，AlphaGo都这么厉害了，AlphaGo Zero在已经战胜了原本的AlphaGo，它不能很快就学会吗？我说那我们要来看看AlphaGo它会什么、不会什么。AlphaGo厉害的地方在于深度学习、强化学习，它有很强的算力、它有大数据。深度学习是一种神经网络，是一种基于大数据的统计的算法，模仿了我们大脑皮层的神经网络，能够从很多的数据里面找到规律，自己学到最好的算法。它和过去上一代的人工智能最大的不一样就是上一代的人工智能经常是专家系统，就是专家告诉你怎么下棋你就怎样下棋，但是这一代的人工智能用了这样深度学习的办法，可以自己学会下棋的套路。但是它是非常有局限性的，因为这样的深度学习算法它只能够处理数据透明规则明确的一个特定领域的问题。