新人类文明曾经不止一次地产生一个念头:创造一个传说中的强人工智能
这个强人工智能,拥有自我意识,能通过优化自己,改善算法,以实现无穷的自我更新迭代。如此一来,它能无限提升自己的智商。
这样的物种,可以短期内,带来科技爆炸的“奇点时代”。
这个想法确实很美好,从地球时代就已经存在了。先不计较其中的安全性,暂且认为它是安全的。
人们幻想着科技奇点的到来,一个强人工智能,能给所有人类带来永生在无限的智商下,永生还不是一件轻而易举的事儿
各种大拿们不停地吹嘘着,他们算出一个距离美好未来的倒计时,距离奇点时代还有三十年,还有二十年等等
但现实很糟糕。
随着科技的发展,特别是进入星际文明,科技爆炸后,人们反而越来越倾向于,这种能够无限进化的机械文明,似乎是不存在的
换而言之,你只能创造出,比你更“蠢”的物种,却不能创造出比你更“强”的
这种说法很容易解释。
“我们在以我们的大脑,来研究我们的大脑。”百合子用手指了指自己的脑袋,想了半天说道:“你认为我们的智慧,能够彻底了解我们的智慧吗”
不是绕口令,而是一个哲学层次的问题。
人对大脑的了解,都基于人的思考。而思考,是建立在大脑本身的基础上。同样的,如果我们写了一个能写程序的程序,这个程序能否写出和自己本身一样复杂的程序
如果人类是一个自然产生的程序,那么它能彻底辩明自身吗
“用一位医生的话来解释:如果我们的头脑简单到可以被理解,我们就会蠢得无法理解它;反之,如果我们聪明到能够理解我们的大脑,它就会因为太过复杂而无法被我们揭示。”
“我们进步了,大脑也进步了。”
“如果我们连自己都不能够理解,更何况,从根本上创造一个更强的物种了。”
“所以我认为,强智力壁垒,确实很可能是一个难以破解的巨大难题。生育筛选可以提高智力上下限,却不能将它捅破。因为它本身根本不是智力的问题。”
“我们本身,即使成了超人类,很可能依旧没有通过。”
听到她的这一番解释,于易峰心中黯然,这个问题已经上升到哲学的层次,让人感到十分无奈。
这种无奈,是发自内心深处的无力感。
人们再聪明,再厉害,也只能创造出更弱的“人工智能“,难以实现无穷迭代。
弱人工智能的强大只在于它的计算力。假设它的计算力与新人类一样,毫无疑问从各个方面会被完爆。
更进一步地思考,这个悖论一样的问题,可以更加广域地,推广到宇宙所有的物种当中。
假设一个物种a,能够比较轻易地创造出另一个更强的物种b;那么物种b,是不是可以轻易创造出更强的物种c
然后c再创造更强的d
d再创造f
如此无穷地迭代下去,一直到后来的物种n,它将会多么强大多么聪明
如果真的如此,宇宙中早就充满“神灵”一样的生物了
但星空依旧如此暗淡,“神灵”并没有到处乱跑,也没有“圣母”神灵来拯救万物。
也即,“创造更强物种”这一命题,本身是极度困难的,抑或根本就是伪命题,在已知范围内,难以做到
同样的,可以再将这个问题再次推广。
宇宙是我们做研究的工具,我们所能够思考、实验的一切,都基于这个宇宙提供的基本规律。
而同时,宇宙又是我们研究的对象,我们研究宇宙的诞生与毁灭,研究宇宙为什么会是现在这个样子,而不是别的样子。
也即我们的研究,包括我们的想象,本身就是宇宙提供的。能够逼近,已经是了不起的成就。
“按照这种理论,世界是不可知的吗”于易峰苦闷地说道,他想到了各种一拳爆星的yy小说。
百合子轻声说:“言归正传,先不要纠结这些更加广义的东西强壁垒只是一个猜想而已,并没有被彻底证明。我们的思维以及自我意识确实一个黑箱系统,不知道如何研究,也不知道如何切入。”
“但我认为,在不断接受输入输出的情况下,也有可能摸清其中的部分状况,对里边的内容进行少量改善。”
“或者可以求助于未知,让我们不了解的东西,来进行改善。”
看到于易峰埋头思考的样子,她微微笑道:“这样的强智力壁垒,并不是4级文明的课题吧,甚至不是星际文明的课题我们暂时不要想太多。”
“跨过强门槛的,已经可以称作神级文明。我们暂时怀疑这种神级文明的存在性播种者是吗不知道。”
“4文明面临的,只是一个弱智力壁垒,是明确可以解决的。”
具体地说,强壁垒涉及的,是逻辑疆界,是悖论,是神秘,是自我意识,是脑域指令集的问题。
“弱壁垒”就简单多了,只是一个生物学难题。
智慧的基础是大脑,但一个大脑,仅仅相当于硬件,并完全不等同于智慧。
人在死的那一刹那,那0000000001秒的时间,理论上,大脑的物理性质并没有发生剧烈的变化,但是人为什么就这么死了呢人的死亡,是瞬间的,还是连续的
如果是瞬间的,很可能有某些“软性”的东西,譬如说自我意识之类的东西挂掉了,所以人死了。
强壁垒描述的,主要是这种“软件”。
“软件”在某一刻,因为硬件的差错挂掉了,宕机了,所以人死了。
而大脑本身的物理结构,作为“硬件”,生物学上是可以优化的,也是看得见摸得着的,并不像“自我意识”那样,是一个黑箱系统。
“使用软件来改造硬件,并没有什么悖论。”
人的大脑就是一台杂乱地拼装在一起的器件,低效、笨拙、兼之深奥难解,却还能工作。无论从哪个层面看,大脑都是个设计拙劣,效率低下的团块,可又出人意料地运作良好。
从生物学角度,有部分团块,因为进化的不完善,确实是可以改进的,这就是人们目前使用的“大脑芯片”的由来。
但目前的大脑芯片,还远远不够,它能够提升计算量,却不能让人更加更加聪明。
“大脑很久以前对某个问题形成了特定的解决方法,人们经年累月一直使用它,或者加以改进用于其他用途,形成了多种不同的智慧。用分子学家弗朗索亚雅各布的话说来就是:进化是个修补匠,而不是工程师。”
进化也好,技术手段也好,如果能将大脑本身的能力,发挥到最佳,也就是通过了“弱壁垒”。
生育筛选是通过弱壁垒的常用方式。
“硬件是智慧的基础,而软件,规划了智慧的疆界。一款下围棋的软件,不可能去下象棋,这是算法问题。”
“人脑所拥有的软件比任何电脑程序都要复杂,它非常强大,几乎什么都会,看上去非常完美,但实际上也拥有自己的疆界。疆界外的东西,我们不可能考虑到,也想不到,感受不到。”
“也正因为这套软件实在太强,硬件反倒太弱了。”
“换句话说,强壁垒是智慧生命的软件,是思维疆界,包括自我意识等等未解之谜,基本上没有自我改进的可能。”
“弱壁垒只相当于硬件是整个大脑的物理构造,改善硬件,确实是可以用各种手段做到的。”
只要有一种方法,能让硬件更加强大,更适用于软件,逐渐发挥出“软件”最大的性能,就可以说通过了弱壁垒。
如果完全通过弱壁垒,相当于“软件”的潜能完全开发,这个生命将会多聪明呢
“但是,光是这一道门槛,一个弱壁垒,已经难如登天,卡住了绝大多数星际文明”
于易峰感叹道:“也不知道,我们到底通过了弱壁垒没有理论上超人类的大脑,还远远没有开发完全。嗯还有,我们的软件是不是被完美素提升了”
讨论完这番话后,两个人怀着心事,重新回到了办公室。
接下来繁忙的工作还有很多