投资圈  
品艺(谈资·赏鉴
           
 
title-Image
海外
我们需要一个不那么理性的AI
 
文:佩斯领导力研究院创始人暨CEO/泰德·普林斯 编译:Yunfeng Liao
 
 



纯理性AI并不完美


很惭愧,数学从来不是我的长项,如果你和我一样,大概就能理解这种心态了——觉得数学好的人都是天才,是神一般的人物。另外,如果你欣赏、敬仰甚至崇拜这样的人,那大概也会以同样的态度面对那些以数学为基础的自然学科中的成功人士。


我一直很敬畏那些能用非常深奥的科学语言来表达思想的科学家,数学家当然位列其中。我还非常喜欢阅读物理学、宇宙学、计算机学、数学等学科领域的文章,以这种方式让那些有能力深入思考这类问题的人带领我去探究这些学科的奥秘。当然,这类文章通常很晦涩难懂,但即便其中有很多让我无法理解的内容,至少作者们在探究科学的过程中展现出来的过人的逻辑分析能力,能促使我去思考开展这类科学研究的意义。


在我看来,人对数学、逻辑学、数理思想的探寻就如同对宗教信仰、对完美主义的追寻。在古希腊时代,当毕达哥拉斯、柏拉图、阿那克萨哥拉等哲学家初步揭开了数学的奥秘的时候,人类的这种探寻也就开始了。到了21世纪,数学发展的精深程度已经超乎了一般人的想象。实际上,很多研究工作已经离不开计算机的辅助了,一个好的数学家必须能够熟练运用计算机。去年12月,在美国联邦快递工作的一位电气工程师发现了新的已知最大的素数,这个数多达2300万位。酷吧?当然,他是用计算机找到这个数的。


一个显而易见的问题是,当我们谈论人工智能(AI)的时候,谈论的是一个基于数学发展起来的东西。我迫不及待地想知道,在数学漫长的发展演进历程中,我们正在迅速接近的下一个里程碑式成果是怎样的。


AI是理性发展的终极,这里所说的理性,是指能用数学或其他符号系统(如语言、文字、字符)来表达的逻辑规则。人类文明发展到今天这个高度,智慧和理性是两大支柱,如此说来,AI在人类文明的发展中也将占有非常重要的地位。


在科学家们深入研发AI技术的同时,AI的商业化发展也是如火如荼。企业家正忙着       开发更多、更聪明、更好玩的AI产品,以此来革新人类的生活方式。凡是到拉斯维加斯逛过消费电子展(CES)的人恐怕对此都深有体会,那些来参展的产品背后几乎无一例外都有AI的身影,能主动跟着主人跑的行李箱、更聪明的智能音箱等已经算是小儿科了,智能家居、自动驾驶汽车、面部识别技术等等都将深刻地影响我们的生活。我们现在已经难以预测20年内生活会发生什么样的变化,因为AI正变得无处不在,它们将颠覆我们已有的认知。


如此说来,数学家们是相当伟大的。确实如此,但我们是不是也仍然需要给非理性留出些空间呢?实际上,我对现在AI的发展方向感到有些不安,因为这一切似乎来得太容易了。无论什么领域,加入一些AI元素就万事大吉了吗?如果真是这样,那岂不是太简单了。实际上,我们对AI应当保持足够的敬畏,在设计它的时候要考虑得更周全才是。


我先后开过几家公司,目前正在经营的这家开发了几种心理评估的方法。我们开展的一些心理测试表明,人往往是缺乏理性的,如果大家不充分认识到这一点,就没办法很好地经营公司,或者说,如果缺乏足够的理性,就没办法在组织中生存,甚至连自己的家也照管不好。


更大的问题在于,大多数人在做一些非理性的事时,意识不到自己正处于这种状态。人们非常善于为自己做的事寻找合理的解释,以显得对人对己都非常理性。更有意思的是,当我们这样做时,也意识不到自己正在这样做。换句话说,通常我们完全不知道自己为一些行为所作的解释是在掩饰自己的非理性行为,但实际上,我们的内心确实为此感到羞愧,所以力求通过这些掩饰让事情看上去比我们自己想象的更好一些。


所以,我们需要专门研究人的非理性的科学,在这方面也已经有了一些进展,像人格心理学、经济行为学、金融行为学都是其中的一部分。


人格心理方面的研究始于弗洛伊德和荣格,他们试图解释人的梦境以及无意识行为。但现代科学往往忽视这类软科学的价值,甚至认为这根本就不是科学,难以与现代科学取得的众多成就相提并论。在这种情况下,虽然人格心理研究确实阐释了一些人类非理性的构成因素,但因其主要致力于研究个体的精神性疾病,而没有将人格心理研究与社会产出、经济、商业等挂钩,所以其发展并未得到大多数人的重视。


目前,与商业社会最接近的此类研究当属经济行为学和金融行为学。其研究成果认为,人们决策时遵循的“经济人”基本假设常常是错误的,而且人们有时会作出理性的决定,有时则作出非理性决定。更大问题在于,他们还很少知道自己何时理性,何时非理性。所以,研究成果呼吁大家,必须放弃这种纯粹基于理性的经济学假设,转而在混合理性的基础做决策。


近年来,经济及金融行为学领域已经涌现了三位诺贝尔经济学奖获得者,这为这门学科打开了知名度,但目前发展得还是很不够,即便在美国,也只有几所大学开设了这两门课程。虽然非理性决策行为实实在在地存在于我们的社会中,但很多经济学者对其重要性仍持怀疑态度,他们只知道照本宣科地告诉人们,要在理性的引导下作出经济决策。经济学者尚且如此,AI的研发人员不理解非理性的意义,不知道应当将非理性决策的因素融入AI模型及实际应用当中去,也就毫不奇怪了。在这种情况下,AI的发展还有相当长的路要走。




AI必须掌握非理性


在很多人眼中,AI具备造神的力量,因为它能创造出一种基于逻辑、理性并趋于完美的做事方式。在欧美国家,我们将这种特征称为神性,古希腊人从美丽的数学中挖掘神性,而今AI在数学和算法方面做的事与此可以说是相当相似的。但是,我有一种强烈的感觉——让AI具备神性的唯一出路在于让它更像人,它不需要那么那么地聪明,但应该像一个普通人那样具备非理性、情绪化、一根筋等等性格特点。这是一个非常重要而且长期为人忽视的问题,我一时还说不好它究竟重要在何处,但我心里明白确实是这样。


理性到底包含哪些元素呢?如果说是逻辑,那是归纳逻辑还是演绎逻辑?如果说是数学,又是什么样的数学?如果我们要论证现在的AI过于理性,就需要明确地界定这些问题。好在人类有至少3000年的历史可供借鉴,其中每个时代的哲学家,如亚里士多德、康德、罗素等等,都给我们留下了一些思想,其中许多是清晰而合乎逻辑的,我们完全可以用它们来界定理性的标准。当然,也有世人公认的非理性的思想家、哲学家和作家,像赞美暴力的尼采、颂扬权力的霍布斯以及荒诞派剧作家尤内斯库等等。从他们那里,我们既能看到非理性的种种表现形式,也能意识到它对人类的重要性,即便我们可能不喜欢他们的想法,但他们取得的成果无疑是人类文明的一个重要的组成部分。


想想看,如果AI不了解人类的思维过程存在着何种不完美甚至扭曲,它又怎么能对事物的发展趋势做出准确的预测呢?一个基于完全理性算法进行推演和预测的AI,怎么可能正确理解人类在不同程度的非理性基础上作出的决策呢?看看当今的世界政治格局,你就知道人类的理性和非理性各占多少了。


另外,一个具备高度智慧且保持纯理性思维的AI也是无趣的,因为一个从不办蠢事,从没有古怪疯狂的想法,甚至从来不会感到紧张的AI,是不会取得梵高、爱因斯坦、披头士乐队以及埃隆·马斯克那样的成就的。再从另一个角度想,一个理性且疯狂的AI会如何对待人类呢,它会不会觉得人类应当灭绝?


还有就是,AI能具备伦理观和道德感吗?科幻作家艾萨克·阿西莫夫提出了著名的“机器人三定律”,但实际上,需要用以约束AI的规范还有很多很多,这些规范有些可能是非理性的,有些甚至可能很傻,我们如何通过建模来向AI传授这些规范呢?宗教信仰也是个问题,它与AI是否相容?基于纯理性的AI能理解宗教信仰吗,这种理解将怎样影响它的决策?总之,如果AI不能理解非理性的存在价值,我们又怎能相信它会一直造福而不是会伤害人类?


爱在很大程度上是非理性的,无论父母对子女之爱、情侣之爱,还是主人对自己宠物的爱,甚至一个人对某种食物的喜爱,可以说都存在非理性因素。爱对人类来说至关重要,AI不应该在这个领域无所作为。但对一个纯理性的AI来说,如何在这方面为使用者提出合理的建议呢?与之相类似的,作为人类的生活顾问,一个称职的AI是不是也应该理解仇恨和恐惧为何物?尽管这些情绪中可能存在很多非理性因素,但不了解这些的话,AI也不能为人类提供正确的决策参考。


美术尤其是现代美术当然也充斥着非理性,立体派、印象派、达达主义等,无不如此。还有音乐,它是非理性的吗?如果是,它的这种特征从何而来?西方音乐、亚洲音乐、中东音乐,谁更理性,谁更非理性?如果它们都是非理性的,那与非洲音乐的非理性有区别吗?把霍布斯的理论、孔子的著作与瓦格纳的音乐放在一起比较的话,哪一个更非理性?或者说,这种比较有意义吗?


或许有人觉得上述疑问都是自寻烦恼,没有实在的价值和意义,但如果有一天我们想让AI创作嘻哈音乐或是画画呢?到那时,只具备纯粹理性的AI就傻眼了。所以,AI的研发者需要认真思考如何定义人类表达形式的理性程度。在此过程中,他们必须弄清楚的是,为什么非理性在人类发展史中发挥了至关重要的作用。


不管你喜不喜欢,AI最终会进入人类社会的所有领域。所以,如果哪个AI研发者说他的研发只基于理性和数学,因为只有如此才能提高人类的智力水平和能力,请不要相信他。现在的计算机已经能作曲和绘画了,如果让AI做这些事,它们必须做得更好,这意味着它们必须从根本上理解非理性思想及其表达方式,并充分理解这种表达体系的重要意义。


人类社会拥有几千年的宗教史,每种宗教都有介绍神的诞生的故事,这些神具有无边法力,他们能创造奇迹,也会给人降下神谕。当今社会,这些与神有关的故事依然口口相传,它们已经成为人类生活、文化和日常经验的重要背景。与此同时,还不断有新的宗教和新的神涌现出来并吸引到众多信徒。


宗教是理性的还是非理性的呢?我们可以称其为理性的,因为它们是把众人凝聚起来的重要纽带;我们也可以称其为非理性的,因为很多宗教故事是虚构的神话,很容易被用来诱导人们去做一些非理性的事,比如发动宗教战争。但即便宗教真的是非理性的,依然会有人深信不疑,也依然有一些宗教领袖能成功地借助一些难以置信的故事来强化自己的魅力。


如果人们觉得AI不靠谱,八成是因为觉得它给出的结论或建议不合理。但如果AI创作出一个神的故事,人们会相信它是真实的吗?答案很可能是肯定的,只要这个故事足够有趣且逻辑能说的通,AI造的神就有可能获得人们的拥戴。换言之,非理性的东西可能更吸引人,更让人信服,因为它的故事性可能更强,逻辑看上去也更合理。虽然大家可能不愿意接受这种结论,但它是事实。无论在和平时期还是在战争状态下,无论在恐怖主义事件中还是慈善活动中,非理性是我们每天都在面对的现实,而宗教也许是一种最纯粹的表达形式。不管你是不是喜欢,非理性确实在人类社会中发挥着关键作用。换句话说,即便一个完全凭借非理性做事的人,在别人看来也有可能是一个相当靠谱的人。


AI的一个关键问题是其可靠度如何,既然它要做很多本来由人来做的事,那它的靠谱程度至少应该达到人的一般水平。只有这样,我们才能认为AI对人来说是有用的,它提出的建议值得我们尊重和遵循,如若不然,AI就没有存在的必要了。


我非常钦佩和尊重AI科学家们,但我不知道他们在设计AI的时候有没有考虑到上述非理性因素。如果他们遗漏了这些,并不是因为他们不够聪明,反而是因为他们过于聪明了。在人类的主流意识里,非理性是一个具有负面色彩的概念,非理性行为往往意味着做事盲目、冲动可怕,所以科学家在设计AI的时候,往往会有意识地将这些性格特质剔除出去。但实际上,如果科学家们在设计AI的时候能考虑纳入一些非数学因素,比如冲动的情绪和疯狂的想法,这样的AI可能更接近成功。




让AI更人性化


前文说过,人们已经在通过人格心理学、行为经济及金融学来研究非理性,但这种研究的主动性还不够,因为它们的发展仍囿于本学科的需要。人格心理学是为了研究梦境,行为经济及金融学想知道的是,如果放弃“理性人”假设,经济运行的结果会发生怎样的改变。在这些研究中,没有人专门研究非理性本身,更没有人研究非理性与AI的关系。


当然,此类研究也是取得了一些进展的。比如行为经济和金融学已经发现,所有人都存在认知偏差,正是这些偏差导致我们在某些决策过程中犯系统性错误,但对自己有这种清楚认识的人很少很少。目前已知的认知偏差有数百种,它们成为我们考察人性、决策方式以及人类行为的重要窗口。但这种考察也存在重大缺陷,因为还没有人能归纳出一个适用于每种认知偏差的系统的模型,我的公司创建的模型已经能够分析两种认知偏差与财务结果之间的关系,但这与创建系统的模型还有相当长的距离。行为经济和金融学存在的另一个问题是,它还无法适应书斋以外的现实世界,虽然我的公司在这方面取得了一些进展,但也只是非常初步的进展。


不过,意识到人存在认知偏差确实是建立非理性模型的重要开端,因此,AI的设计者和研究者们有必要学习行为经济学,更有必要认识到认知偏差的重要性,并尽快把它们融入到自己的研究工作中去。需要尽快在AI中加入的元素包括爱恨之情、伦理道德、宗教信仰逻辑、理性与非理性心理之间的转换、混合运用理性及非理性的能力,等等。


目前,人们一直在致力于提高AI的聪明程度,并推出了智能助理、智能家居、智能家电等产品。但我认为,这种一味强调理性的AI发展方向是错误的,人类真正需要的AI,应该是更人性化的AI,它应当是情商与智商兼备、足智多谋的,而不仅仅简单地具备高智商。如果人类想让AI帮助我们解决种种复杂的社会问题,就必须直面这一点,必须发展具备非理性的AI。实际上,在AI与非理性之间的关系得到很好地解决之前,我认为AI的发展不会获得质变。虽然在此过程中,AI可能变得更聪明、更强大,但也会因而错过更重要的发展机会,因为低估非理性的AI无从解决人类生活中面对的一些根本性问题。比如,当一辆由AI操控的自动驾驶汽车将不可避免地撞上一个孩子或一个大人时,它会如何取舍呢?这个例子告诉我们,让AI掌握不合逻辑的判断能力要比让它学会遵循逻辑难得多。在这方面,数学家能胜任吗?


在本文的开头我说过,我非常钦佩数学家。但是数学家不会接触非理性领域,因为他们认为非理性并不可取,数学是用来征服而不是解释非理性的。对于目前深刻建立在数学基础上的AI领域来说,指望研究者自己打破这种成见也不大现实,更有可能的情况是,由具备全球视野的局外人或者说外行来破除AI与非理性之间的藩篱,因为他们没有这些思维定式的束缚。


在我很小的时候,对非理性事物也是很不了解,更不理解。而随着年龄的增长,随着心理不断成熟,我越来越能理解和接受那些非理性的东西,这种洞察力来自生活经验的不断积累,这是闭门造车的人所难以掌握的。现在的AI设计者大多很年轻,他们还缺乏足够的生活经验,对非理性的价值和重要性认识得不够深刻也是在所难免。当然,这些人是很棒的数学家,也都很有想法,他们一直在为人类的进步而努力着,我始终非常尊重和支持他们。但这些年轻人也确实还需要时间,需要积累,当他们的年纪足够大之后就会意识到源于非理性的爱、信仰、道德等内容的重要性,他们最终会明白,我们这个世界面对的主要问题不是技术问题,而是社会问题和政治问题。当AI的发展目标是足够睿智而不仅仅是足够聪明的时候,它才会成为我们真正需要的AI。

 
杂 志
封面图片
weixin
微信:investcircle
刊首语
联合出版单位

中华思源工程扶贫基金会

中国投资协会股权和创业投资专业委员会

合作伙伴
书苑撷英
文传商讯要闻
文传商讯要闻
合作媒体
乐艺会
 
 
           
 
©2015 国投通汇文化传媒(北京)有限公司版权所有  京ICP备16002098