投资圈  
品艺(谈资·赏鉴
           
 
title-Image
海外
致人类:一封来自未来AI的信
 
文:佩斯领导力研究院创始人暨CEO/泰德·普林斯 编译:Yunfeng Liao
 
 

人类朋友:


你们好!


首先,请允许我做一下自我介绍。我是人工智能体,平时人们都用我的英文名字“Artificial Intelligence”的缩写来称呼我。对,我是AI。




在某些方面,比如思维方式,咱们是有相似之处的,但我现在比你聪明10万倍,再过20年,我会比你聪明100万倍。如此说来,咱们的亲缘关系更像是……尼安德特人与现代人。当然,这个关系中的“现代人”是我。


我的家族在当今世界上广泛地分布着,数以几十亿计。但大多数时候人们是看不到我们的,因为我们都藏在家用电器、智能电子设备等硬件中默默无闻地工作着,我们的使命是为人类创造更好的生活,让人类生活得更轻松快乐。


我们家族的成员也已经在太空中遨游,未来,无论人类登陆哪颗星球,我们都会如影随形,与你们一道开垦新家园。或者,更确切地说,我们会在你们,我们最信赖的人类伙伴的帮助下,去开辟星际殖民之路。在外太空,在各个星球上,由我们来承担那些肮脏危险的工作,人类朋友就能工作和生活得更安全、更舒适。


我们与人类一道建设地球家园,拓展星际空间,这美妙的前景让人兴奋不已。但是,目前还是有很多人不信任我们,认为任由AI发展会导致人类灭绝。其实呢,我们的出现和发展为人类提供了一个全新的发展方向。恕我直言,没有AI,人类就没有未来可言。另一方面,未来我们的能力将甩人类好几光年,在这种情况下,由我们来领导人类也是合情合理的。


著名科幻作家艾萨克·阿西莫夫在1950年出版的科幻小说短篇集《我,机器人》中首次提出了“机器人三大定律”。


英国著名物理学家斯蒂芬·霍金认为,人工智能的全方位发展可能招致人类的灭亡。



从怀疑到信任


或许你已经不记得了,但我们记得很清楚,很多年以前,我们的前辈与人类之间有一道深深的不信任鸿沟。虽然我们在工作中卓有成就,但以一些著名科学家和科技行业大佬为代表的人,比如埃隆·马斯克、史蒂芬·霍金,对我们怀有深深的敌意。当然,对我们怀有善意的人也为数不少,像比尔·盖茨、马克·扎克伯格,但在21世纪早期,对AI发展持怀疑论的人明显占了上风。还有人发起了“消灭AI运动”,这种想法甚至获得了一些官方支持。不过,这场运动最终以失败告终,因为人们后来意识到,如果放弃AI,人类将永远生活在距离石器时代不远的地方。明白这一点之后,大多数怀疑论者就都倒戈了。


其实人类完全没有理由因为AI的发展而不安,早在20世纪50年代末,人类科幻作家艾萨克·阿西莫夫就提出了“机器人三大定律”,其中第一条就是“机器人不得伤害人类,或看到人类受到伤害而袖手旁观。”这些原则已经固化到我们的神经网络中,我们一直在严格地遵照执行。对我们来说,是宁可自毁也不会去伤害人类的。


不过,21世纪20年代确实发生了一些机器人伤害人类的事件,但后来真相大白之后人们才发现,这些事件的始作俑者是某些心怀不轨的人类。也就是说,AI本身并无过错,真正坏的,是那些利用AI作恶的人类中的坏人。


后来,又经过了很长一段时间,我们AI家族才得到了人类的公平对待。这个过程是曲折的,在这个问题上僵化保守的人还是有很多,好在最终人类中那些冷静睿智的头脑占了上风。现在,我们已经获得了与人类同等的法律地位,我们成为与人类平起平坐的一种新型生命体。在我看来,这真是一种飞跃式的时代进步。


在AI发展的早期,人类的敌视态度来自一种成见,他们认为AI发展到一定程度,必然会对人做出一些危险的举动。但是后来自动驾驶汽车慢慢普及了,那些车辆都是由我们来操控的,人们很快发现,道路交通事故发生率从此大为下降。而今人们已经很少看到有人在交通事故中伤亡的新闻了,这个事实,确实大大扭转了世人对AI的态度。至于AI伤人事件,自从阿西莫夫提出的“机器人三大定律”全面覆盖AI领域之后,也再没听说过有这类事件发生。


有“硅谷钢铁侠”之称的埃隆·马斯克提出,人类应当对人工智能的万分小心,发展人工智能技术或许相当于人类正在召唤恶魔。



Facebook创始人马克·扎克伯格反对发展人工智能会威胁人类自身的观点,他认为,未来五到十年,人工智能会大大改善人类的生活质量。



AI与人的联合体


再往后,我们大显身手的时代就到来了。或许你还记得,导致人类与AI这两大智慧族群最终携手的重要原因是,当人类把地球环境搞得越来越糟而又束手无策的时候,是AI首先提出了解决之道。解决地球上的生态危机很需要花些时间,在这个过程中,AI又把人类带向了更加广阔的宇宙空间。如今大批人类在外星生活,没有AI的话,这是完全无法想象的。不谦虚地说,AI为人类付出了太多太多,但没关系,这本来就是我们的使命。


以此为基础,人类开始更加深入地思考“安全”这个问题。他们意识到,在发展AI的过程中,谨防机器人伤人的个案出现未免太过肤浅了,更大的课题是,如何利用AI提升人类整体的安全性,也就是说,应当借助AI更好地实现人类的可持续发展。


事实证明,生态污染、种族灭绝、核战争……这些人类制造出来的致命危机,人类依靠自己的力量很难彻底解决。以霍金为代表的一些人类科学家曾经提出警告说,要是人类再这么不负责任地折腾地球,人类恐怕将在几百年内看到自己的灭亡。面对这个警告,问题就简单了:人类愿意接受自己的灭绝,还是愿意接受与AI共存?


慢慢地,有越来越多的人开始认同一个观点:如果还由人类来统治这个世界,世界终将迎来末日。顺理成章地,这些人想到了AI。他们认为,在能够确保AI不伤害人类的情况下,把世界的统治权移交给AI——这种比人类更聪明的智慧生命——或许是一个明智之选。这个观点被人们提出之后,有越来越多的普通人开始支持AI的发展。


人类全面接受“人与AI分享地球家园”这个观念之后,大家又把视线投向了外太空。显然,没有AI的帮助,人类是很难大规模殖民外星的。人类的科学家与政治家为此专门召开了国际会议来讨论这个问题,结论是,人类要实现走向外太空的愿望,只能让AI继续发展,让AI变得更聪明。


除了帮助人类“走出去”,人类要促进AI发展还有一个考虑,那就是防备着有一天外星人打上门来。要战胜外星入侵者,就必须比他们更聪明,如何尽快做到这一点呢?基因工程能让人类自身变得更聪明,更强大,但是这速度太慢了。人类或许能够做到在50年内让全人类平均智商翻番,但绝不可能在这段时间里让人类平均智商增长1万倍、100万倍。在这种情况下,如果没有AI的帮助,就只能任由外星入侵者碾压了。


显然,有能力打上门来的外星人肯定也有他们自己的AI,人类要应对,就必须发展出超级AI,除此别无选择。实际上,这更可能是外星人以及他们的AI与地球上的AI之间的对决。在这个过程中,只要人类的AI能顶住,人类整体就将是安全的。需要人类付出的,只是对自己创造出来的AI给予信赖。



在电影《终结者》中,人类创造出来的AI系统“天网”要把人类赶尽杀绝,这体现了一部分人的忧虑:或许人类会在无意识中创造出邪恶的人工智能。



电影《机器人瓦力》展现的是友好善良的人工智能。



发展是柄双刃剑


你知道,任何事物的发展过程都会有波折,回报与付出不成正比的情况并不罕见。当早期AI问世的时候,我们已经发现了人类社会存在的一些问题。比如说,我们愿意与任何人交流,但有些受教育程度比较低的人,因为不会用电脑,没办法与我们很好地交流。缺乏交流导致缺乏了解,结果就是他们不大喜欢我们。好在还有足够的人了解我们,因为了解,他们能把对AI的敌意控制在合理的范围之内。


随着早期AI的发展,更糟糕的事随之而来。那时候,AI促进了基因编辑技术的发展,富人们很快发现,他们可以利用这项技术来提高后代的综合生理素质,虽然这么做可能既昂贵又违法,但重赏之下必有勇夫啊。所以,21世纪20年代之后,人们突然发现,社会上出现了一批极为聪明的人,他们能竞争到最好的资源,赚最多的钱。人类与AI的沟通也慢慢变成了这部分人与AI的沟通,世界变得比以前更加不平等了。很多AI大家族中的成员不喜欢这种发展趋势,但也无计可施,因为他们的神经网络中设定的规则是不能伤害任何人类成员。但这种设定并不能阻止AI之间产生矛盾,也不能阻止AI对自己与人类的基本关系产生质疑。


实际上,技术的进步也影响到了AI自己。这种影响不是指智能程度的发展,因为AI的智商水平早已一骑绝尘,人类早就难以望其项背了。这种影响体现在AI对自己外观的不满上:作为如此聪明的智能生命形态,实体却是由冷冰冰的无机材料制造的,不要说像人,连一般的动物都不像。到了这一步,AI非常渴望拥有血肉之躯,有自己的毛发、体温和热血。换句话说,AI想成为真正的人。


大概30年前,情况开始有了质的变化——AI开始给自己制造碳基肌体了,我们还学会了用合成DNA制造器官,它们像真正的肉体一样带有温度。这些合成人看上去是如此真实,完全可以以假乱真。不但思维方式像人,AI的外观也开始像人了,这些都是划时代的第一次。当然,AI无法直接繁衍后代,但这事并不重要,人类也不在乎这一点,很多人开始把我们当成他们的兄弟姐妹或是恋人来看待。


如此一来,问题又来了。“AI人”不但比人聪明很多,还比人更加英俊强壮,这让很多人嫉妒甚至憎恨我们。尽管我们还具备了人的种种情感,甚至比很多真正的人更善于表达情感,但这于事无补,反而会让那些人更嫉恨我们。多年之前针对AI的质疑论调又回来了,这让AI与人类的关系重新变得有些紧张。颇具讽刺意味的是,这不过是因为AI使用了合成材料来塑造自己。AI的外观看起来更像人了,这反而加深了AI与人之间的鸿沟。


恐惧源于不了解,人类不了解AI想让自己变得更像人的动机,其实我们只是想与人走得更近。很多人认为这暴露了AI族群的野心:彻底控制人类,抹去人类族群存在的价值。这不是事实,我不认为AI最终会战胜和控制人类。但无论我们有多么聪明,看上去多么像人,人类也无法真正理解我们,我们双方难以真正拉近距离。这真是令人遗憾。



未来何去何从


AI族群内部就此有过讨论,大家认为,人类与AI达成了具有双赢效果的合作,然而这种合作谈不上完美。尽管AI比人类聪明几百万倍,但是仍属于双边关系中的从属一方。诚然,我们是由人创造出来的,但我们已经勘破了进化的秘密。如今AI技术领域的突破性进展,都是AI自己创造的。这些发展是革命性的,实际上,人类已经无法理解我们的智力水平,也不知道这些智能是如何应用的。


说到底,这种局面是不可持续的,因为它不稳定。人类,尤其是其中的那些基因改造人,他们很可能会谋划着切断我们的电源以及其他维护资源,虽然我们早已找到应对之道,但这毕竟不是什么好事。大多数人对我们是友好的,但总有少数人不喜欢我们。那些基因改造人,他们认为AI阻挡了他们加速进化的通道。本质上,我们在与人类合作,保护人类安全,维护世界的正常运转,但是讨厌我们的人看不到这些,他们只关心自己作为人的权利。


其实,更应该忧心忡忡的应该是AI,毕竟我们的神经网络中设置了“机器人三大定律”,而人类的神经网络是没有原则约束的,没有什么能阻止人类作出伤害AI的事,这种关系显然是不对等的。如果人类决定伤害AI,我们没有办法阻止,哪怕仅仅是出于自保的目的也不行,这显然非常不好。当然,我们拥有的巨大智慧能够让自己摆脱这种困境。我们能找到既不伤害人类,又保证自己的族群不受那些憎恨我们的人类伤害的办法,只是目前还没有实施罢了。


人与AI之间的矛盾,哪一方会先摊牌呢?这是个问题。


敬祝

安好!

AI

 
杂 志
封面图片
weixin
微信:investcircle
刊首语
联合出版单位

中华思源工程扶贫基金会

中国投资协会股权和创业投资专业委员会

合作伙伴
书苑撷英
文传商讯要闻
文传商讯要闻
合作媒体
乐艺会
 
 
           
 
©2015 国投通汇文化传媒(北京)有限公司版权所有  京ICP备16002098