联系 投稿

廊坊新闻网-主流媒体,廊坊城市门户

郝景芳:人工智能最大的威胁可能是让人类懒于思考(2)

2017-11-07 12:00:25     来源:腾讯网

  也就是说,在一个特定的边界里面,处理这个边界里面的数据,然后找到最好的结果。它并不知道它自己在下围棋,它也不知道它是AlphaGo,它不知道它战胜了世界上所有的高手,它下了围棋也不会高兴,它只是在处理一些数据,但是它并没有我们刚才说过的一些高层次认知能力,自我认知能力,自我意识能力。

  然后老板说,我知道现在算力是进展很快的,过几天我们计算能力又上了一个新台阶,你说的这些高级能力是不是就能够学会了呢?我说,其实我相信未来总有一天人工智能会克服这些难关,学到我刚才说的这些能力。但是,这是一个阶梯状,并不是拿现在的算法增强算力,就一定能够解决所有的问题,而是要跨过一个又一个槛,上一个又一个台阶。这就像是当时发明了蒸汽机、电,人们就觉得自己能够解决世界上所有的问题了,物理大厦就剩下了三朵小乌云,后来就是这三朵小乌云提出了相对论、量子力学,把人类带入了新的世界。

  我说,未来可能会实现,但是它需要有很大的鸿沟、很大的跨越,才能够实现。

  现在人工智能头上三朵小乌云的就是综合认知能力、理解他人的能力、自我决定的能力。

  综合认知的能力困难在哪?现在的深度学习的网络,一个网络只能够学习一件事情,当它学习了下围棋,它把围棋领域的数据都学会了之后,它整个网络记住了这一件事情,一旦这个网络再去学另外一件事情,这个网络就把前一件事情忘记了,因为它是用整个网络所有的参数来学习了这一件事情,一旦学习另外一件事情,它就已经不会记得前一件事情所有的参数。

  这个在科学界被称为遗忘的灾难,一个网络,一个这样的人工智能只能干一件事情,只能在一个特定领域里面做一件狭窄的事情,不可能像我们人一样有通识的能力,我们人和人工智能很大的不同,就是我们人是触类旁通的,当我们学习了政治、经济、历史、社会文化、家庭日常生活的做饭、交通出行,我们不会认为这些都是不同领域的事情,我们是把它融会贯通,融在一起的。

  人类在我们的头脑当中有一个世界模型,很多时候我们并没有意识到这个世界模型的存在,它就是我们对物理世界,对于人情世故这个世界常识的来源,但是这个世界模型非常重要。

  当我们有了这样的世界模型,我们在看眼前的一幅画面,明明是一个二维画面,我们会用自己头脑当中的知识,把这个画面在我们眼前构建成一个三维的,栩栩如生的画面。

  我们现在看到面前的礼堂、舞台、座位,我们会觉得这是一个有纵深的,三维的舞台。可是人工智能没有这样一个世界模型在自己的头脑当中,它分辨图象要用很多很多真的图象,非常非常多的计算来做。

  现在有一些实验室做这样的视觉,已经开始试图用这样一个模型来构造这样的视觉。而我们的头脑当中都有这样的模型,我们有关于世界的理解、关于他人的理解,关于整个社会的理解,我们的常识系统,这种通识知识体系,是我们理解事情的基础,也是我们超越人工智能的地方。

  第二理解他人的能力,理解他人的能力,现在是有一些人工智能和人的语言对话,自然语言处理仍然还是一个难题,只有在特定领域的专业问答,可以有比较好的答案匹配,为什么自然语言处理会难呢?就是因为人工智能实际上还仍然不能理解大量的情景,就是因为它的头脑里面没有对人类世界、物理世界、人情世界的通识知识体系,所以他理解很多的自然情景都会很困难。

  现在的语言很多时候是用的这样一个优化算法的搜索,你出了一个问题,它去搜索一个答案匹配给你,但是很多时候并不能够真正理解对方的意思。

  此外人工智能由于没有内心丰富的情感世界,并不能够推己及人。我们人类是怎样相互了解彼此的呢?有几个方法,第一个我们用目光接触。研究共情的学者会发现,最先进的灵长类的大猩猩可以通过这样的目光交流,人类绝对可以通过目光来理解对方,小孩子大概从9个月的时候就开始有这种能力。我们头脑当中有镜像神经元,镜像神经元可以直接反映出对方的一些意图和对方的感受,我们能够直接感受到对方。

  另外,我们有推己及人的能力,在这个时候,当我们生病的时候,希望对方嘘寒问暖,我们就能够推导出对方生病的时候,一定希望我们嘘寒问暖,而人工智能由于没有这样的自己内部的情感,它自然也很难推己及人。

  人工智能在理解他人的能力方面,目前还是有很多的困难。我也知道有很多实验室,现在已经开始试图把整个的认知框架、认知模型带到自然语言处理上面,但是可能是很久很久以后的事情。

  第三个自我决定的能力,它得需要两个方面的突破,一个是自我表征的能力,人工智能需要能够自己说出来,我自己做这个事情是为什么。现在我们的智能网络,当它学会了一件事情,你给到它很多数据,它直接给你说出一个结果,我们人并不知道它为什么这么做,它自己也说不出来为什么这么做。这种真正提取出对于自己来说有意义的因果表达能力,它使得我们做很多事情可以举一反三,可以泛化,我们可以从一件事情学到的东西,可以带着这样的因果关系用到另外的事情。但是,人工智能在很多时候缺少这样的语言认知能力。

  此外,人工智能并没有一个说,原来这就是一个我,这样的一种自我意识,可能未来要到很久之后才会产生,不知道要到什么时候,其实人工智能目前并不是一个独立体系,不像我们人与人,我们每个人所有的思想、灵魂都封闭在我们同一个身体里面,我们并不能随时联通到互联网,但是人工智能不一样,很多时候是要与其他的网络去连接、联通。

  所以,这样的孤立自我意识,很可能跟我们人完全不一样。

  现在这几朵小小的乌云是人工智能目前不能做到和我们人类一样的地方,未来有没什么可能突破呢?有可能,但是不是现在,不仅仅靠算力提高,需要有更好的、更强的综合性算法,以及更多技术突破。

热门