法师伊凡
字体:16+-

311 记忆

接下来,赵真雪又兴致勃勃的和许多个代号为“KL”的AI进行了一些对话,尽管赵真雪对此已经有了一些心理准备,但她还是对AI在谈话过程中,表现出来的“智能”而感到惊讶不已。

这些AI和赵真雪原来想象之中的,存在很大的差距,甚至,赵真雪有种感觉,从某种程度上来定义,与自己进行对话的,已经可以说是一种“类”只能,虽然通过对话AI还是会表现出很多的破绽,不过这种破绽非但没有让赵真雪觉得失望,反而让她隐隐有种感觉,眼前自己面对的,正是心目中理想的人工智能。

一个最明显的例子就是,在跟她进行对话的这些AI当中,每一个说话都具备它特有的风格,每一个AI都记得自己的名字,甚至会给自己取代号之外的名字,它们会给自己建立一整套“简历”,包括家庭住址,生活环境,甚至还有“小时候”经历过的趣事……

严可守告诉他,AI之所以会有当前的智能,和它的“学习”能力分不开的,其实归根到底,这些AI不过是在计算机当中的一些算法程序,只不过在设计的时候,可以模仿了人类的学习“记忆”习惯,让它们能够在一次又一次的实验过程中,学习那些有助于让人们相信他们的信息。

举一个最简单的例子,在打字对话这样的媒介当中,一般让别人相信自己的最好方式,就是形成特有的语言风格,从而让被测试者对自己印象深刻,比如在常用语中刻意增加一些地方方言,有的AI甚至还学会了模拟一些人类的脾气,比如不耐烦,连续的催促等等,用这些许许多多的小细节,让对方相信自己是一名人,而不是AI。

这所有的一切,其实都是AI的算法所决定的,严可守告诉赵真雪,每一次“测试结束”,AI都会根据这次对话的内容,总结哪里是比较完美的表演,而哪里又是容易被识破的破绽,这些结果会促使AI修改自己在特定概念上的权限值,比如一个电脑,装东北人,在打字过程中“俺们”之类的方言出现频率过多,而大量的统计显示,出现类似词汇的时候,被识破的几率也就越小,那么AI就会在以后的对话中,下意识多用类似的词汇,到最后,甚至可以形成和真正东北人差不多的说话模式。

在赵真雪的这几次测试当中,她遇到的一个最让她印象深刻的AI,是一个代号为KL3300的AI,与其他AI不同,这名AI不是通过和她聊家常来获取她的信任,而是通过不断把话题引向一些形而上的话题,比如说哲学,人生意义之类……他甚至还提到,自己的理想是在未来,当一名作家……

在和他论及这些话题的时候,赵真雪还不知道对方是一名AI,在与他谈天说地说了半天之后,她惊讶的发现,不知道什么时候,话题的主导权已经完全让对方掌控了,而在下意识之间,她也把对方真的当成了一名哲学爱好者,当她自信满满的结束测试,并满心认为对方是一个人的时候,电脑出人意料的告诉她,对方只是一名AI。

严可守就在一旁,并在当下为她解释了她辨认错误的原因——其实说穿了很简单,因为在涉及类似哲学,艺术,文化之类的话题时,真正的人对回答信息真假“敏感度”其实是很低的,就比如说,最简单的,“人生意义是什么”,说享乐,赚钱,学习……这样的答案都不能算错,因为没有相对真确的答案,所以人也自然不能根据这答案得出更准确的判断。

所以说,相对于这名机器人,“爱好哲学”也是它的一种欺骗策略,根绝严可守掌握的数据,KL3300在图灵测试当中,过关的几率是所有AI当中最高的,这本身就已经说明,这种策略的行之有效。

“但是如果……”赵真雪得知后,有些不敢置信的问严可守,“如果他刚才所说的那些,都是真的,都是他真的想说的内容,如果它是一名真正的AI,而不是你所说的模拟程序,那怎么办?存不存在有一种方式,可以让你们鉴别这两者之间的区别,鉴别程序究竟是在说谎,还是源自它真正的本源目的?”

严可守摇了摇头:“你说的这种鉴别,我们做不到。”

“怎么会?不是你们设计的它吗?”

“算法和结构是我们设计的,这没错,”严可守说,“但AI程序跟一般的计算机程序不同,一般的计算机程序,你下命令,情况1,做A,情况2,做B,一条一条,程序所有的行为都被代码锁定,这样的程序哪怕再复杂,也不过是一架精密的机器,在进行AI理论性设计的时候,这种机械方法是最早被我们抛弃的。

KL的算法跟通常这样的算法不同的是,它是一个不断进化,不断膨胀的混沌算法系统,每一个AI最早出现的时候,源程序在计算机中不过是占用了几百KB,但是随着它通过图灵测试不断进行学习,获得和掌握的信息越多,它的复杂度就和人类大脑发育一样,是在不断增长的,甚至就连我刚才所说的那些权限值修改,修改多少,这其中的度也是AI自己掌握的。

现在你看到的所有AI,其实都是源于同一段源程序,这段源程序才是整个项目中,最珍贵的部分,现在你看到的所有AI,本质上都是由这段源程序“成长”而来,然而每一个AI在测试过程中接触到的信息不同,它们也会长成完全不同的智能,而这种成长过程本身就太过复杂,根本不可能实现精确监控,计算实施了监控,我们也很难预测,它下一步会做出什么行为,就像影响人的行为因素可能会有很多一样,AI现在表现出来的行为虽然简单,但也是不可捉摸的,它已经自行成长成为一个混沌整体。

这就好比我们能推测一个婴儿的想法,因为模式简单,饿了就哭,高兴了就笑,几乎没什么其他的东西,但要想清楚的看到一个成年人,几乎就是不可能……不,除了魔法,但我要说,即使是伊凡站在这里,他也不可能看清楚,这些AI的想法,这一点,也是我为什么,在这个项目上投入这么大精力的最大原因。

现在你看到的这些具备编号的AI,其实只是成长中AI的沧海一粟,看到后面那个小隔间了没,后面的面积,比现在你看到的要大得多,里面放着的是日本当前最先进的巨型计算机,光是放着主机机房占用了楼上和楼下同一位置整整四个实验室,每天都会有数上百万亿个源程序拷贝同时在里面进行“发育”,也就是通过系统不断给予随机的“虚拟刺激”,让这些智能得到最初的发育,这其中的整个过程,你可以想象成人的大脑胚层发育,无数的神经元突触互相联接,最终形成一个有机整体……

而这种人工模拟“发育”的效率,其实是非常低下的,这种运算的本质,其实就是在模拟原始神经在亿万年间的发育过程,即使是当前每秒过“京”(一亿亿的单位)的运算速度,我们也一直花了四年多的时间,才找到一些最基础的规律,也是就总结出从单纯的神经元,进化到智能结构的模式,我和你所说的成果,也正是这一点,至于你现在看到的这些AI,其实都是在这之后,我们用于“临时试验”的一批,几年年初刚刚进行“训练”,也就是你看到的这些图灵测试,所以严格来说,它们都才是只有七个月大的孩子。”

“七个月?”赵真雪被这个数字吓了一跳,“那你的意思是不是说,随着这些训练的深入,他们还会变得比现在更聪明?刚才你说骗8岁的孩子,那是不是再过一段时间,真的和人无法区分,连成人也不能将其识破?”

“你是不是还怕它们最后比我们人类聪明,最后取我们而代之?”严可守笑道,“科幻小说看多了吧,其实你的这种担心大可不必,到目前为止,AI所接受的所有训练,都是如何欺骗的训练,也可以说,是撒谎训练,即使他学到了极致,也不过是撒谎技能学到极致,让人无法分辨真假,但要说它真就有多么聪明……我不这么认为,也许今天他可以很你聊哲学,聊人生,但是AI本身,是无法理解这些概念的,这些概念只是他用于欺骗的工具,在程序中权限较高而已……

为了达到欺骗效果,有点电脑甚至可以和你争论哪道菜比较好吃,它偏爱什么味道,但你要知道,它只是程序,连基本的味觉器官都没有,怎么可能真的有这种感觉。

同样的道理,一个连视觉都没有的电脑,怎么可能理解人类生活中的概念,最简单,一台电脑要离开人类而单独存在,最起码的一点,就是必须有独立的能源,以维持他们的存在,而要做到这一点,就意味着他们必须学会电力工业中的种种常识,要不然,可能普通的一颗螺母松了,都会导致他们整体的消失,而在他们的词典中,是不可能了解螺母这个概念的,因为他们没有看的眼睛,没有人告知他们这个概念,我们控制了他们所有的信息渠道,即使他们有朝一日,在网上看到的大英百科全书,但那些信息始终还只能停留在纸面上。

现在说AI是智能,还为时尚早,充其量,也就是“类智能”,它们是在电子世界成长的体系,与人类相比,他们永远只是“不出门”的秀才,嘴上即使说的天花乱坠,但也掩盖不了他们无知的本质,这里的无知,不是说不知道,而是说,“不能知道”,就好像先天性的聋子必然也是哑巴,在没有共同感受的前提下,也不可能存在共同的文化,即使AI最终真的产生了智能,那也必定是我们不能理解的世界,而同样的道理,它们也不可能真正理解我们这个世界,所以,你的担心,应该说是完全不必要的,其实很多这方面文学题材,外星人入侵,机器人叛变什么的,都可以称之为,艺术需要导致的被害妄想……”

“那既然明知道学撒谎没用,你还让他们学干什么。”赵真雪不解道。

“这种学习对AI确实没什么意义,但对于人来说,却意味着很多东西,”严可守说,“图灵训练,也就是让AI通过图灵测试的实验,只不过是一个开始,一个验证AI确实有实用功能的宣传,在项目开展之初,我就说过,这个项目的最终目的,其实还是为了对抗魔法,或者说,对抗意识网,如果它日后真的能成长成独立的智能,必将是不受意识网控制的智能,无论从什么角度来看,这都是对意识网,还有对伊凡‘独裁’可能的一种平衡手段,在未来人类对抗卡梅尔的武器中,总是多出了一种选项。”

接下来,严可守又带赵真雪参观了里面那个小隔间,在进门的时候,赵真雪注意到,隔间里面竟然还有两名穿着日本军人制服的“自卫队队员”,整个房间比赵真雪想象的要大出不少,严可守给赵真雪指了指被凿开的天花板,以及从上面联通下来一排又一排的光纤,为了防止魔法侦查,整个房间的背景,甚至是安装着一排又一排主板的机柜,都被刷成了白色,房间的各个角度都有监视器存在。

严可守告诉赵真雪,她的投资,不过是整个项目占比重稍大的一部分,同时,对整个项目感兴趣的日本政府,也在整个项目占有了一定的比率,比如现在需要使用到的巨型计算机,就是经过日本政府授权,才允许定制购买的,同时,日本政府还承担了安全保卫工作,以及科研技术上的支持,当然,作为回报,整个项目如果产生了成果,日本政府也将是第一个受益人。

因此,即使是作为最大投资人的赵真雪,在进入这里的时候,依然需要经过一名在场执勤的日本政府人员确认,以防止任何泄密的可能,不过在当前,赵真雪的知名度不说在全球,起码在亚洲一带,还是鼎鼎有名的,更可况中日美俄这四国在面对魔法问题上,都互相之间订立了攻守同盟,在反魔法项目上,四国都互相保持信息畅通,看起来这个项目是日本的,其实本质上,是四个国家共有的,只不过各国都在各国自己的强项上,进行投入罢了。

人工智能只是在这个背景下,众多的项目之一而已,如果它成功了,可能会产生类似当年原子弹的爆炸性效果,但在没成功之前,谁也不会明白它的重要性,在反魔法领域的研究中,还是那些主流的项目更受欢迎,在资金上也拥有更大的比例,比如之前卡梅尔在内部会议中提到的,“主动激光扫描设备”。

“最后,再跟你说一件比较不可思议的事情,”带赵真雪大致参观了一下机房之后,严可守带着回到了外面的测试间,在其中正在测试的人员之中,找到了一个戴着眼睛,正对着电脑打字的瘦弱青年。

“他叫井上海,之前是这所大学的学生,也是我们最早的测试人员之一,”严可守拍了拍对方的肩膀,在他回头之后,对赵真雪介绍说,然后他又对着赵真雪向井上海用日语介绍,“这是我的一位朋友,赵真雪,赵小姐。”

井上海看了赵真雪一眼,笑着对她打了个招呼,又叽里呱啦的说了一串,赵真雪对日语不熟悉,但也能听的出来,这句话的开头,应该是你好的意思,后面,就不得而知了。

“你可以使用意识侦测,这样省的我翻译,”严可守对赵真雪说,“他刚才说你长得很漂亮。”

赵真雪只是淡淡一笑。

然后严可守对井上海说:“有你想象当中的0564漂亮吗?”

井上海笑着拍了严可守一下,看来两人之前应该是很熟悉的:“我知道,你是特意来取笑我的。”

“没有没有,我的这位朋友刚刚对AI很感兴趣,我只是让她多了解一下,”严可守说,“那就不打扰你们聊天了。”

因为使用了意识侦测,不等严可守开口,赵真雪就已经明白了,不过一时时间,她没有好意思发表看法,等走出门以后,才说到:“他竟然喜欢上了AI?而且明知道这只是一段程序的前提下?是不是动漫看多了啊?”

“KL0564使用的是比较感性的,特别针对部分男性测试者的策略,也是人类最常见的策略,那就是爱情,在他们第一次接触的测试中,KL0564就称自己是一名本校学生,设计专业,是家里最小的妹妹……一整套很严密成熟,能够打动年轻男性的背景身份设定,井上海在和它聊过一次之后,就把她错做真人,彻底陷了进去,他今年刚刚毕业,虽说已经找到了工作,可总还是会回到这里,希望跟对方谈谈话。

他倒没有和你想象的那么疯狂,他自己很清楚,和自己聊天的是一段程序,充其量,也不过是一段非常复杂,足以拟人的情绪,我们劝他的时候,他说过这么一段话,爱情本来就只是一种感觉,一种非理性的冲动,他无所谓真假,也不在乎给他这种感觉的是真人还是一段程序,他知道程序在骗他,而他自己,也只是在享受这种被欺骗的感觉而已,就好像生活中,谁都知道电影内容是假的,可依然会有那么多人享受这种虚假所带来的欺骗。

事实上,旁人大可不比对他有过多的担心,井上海并没有完全失去理智,不然的话,他也不会拥有继续测试的资格,在测试过程中,他依然严格遵守着图灵测试需要遵守的要素,即使是安排到到和KL0564的测试,他也会在测试的结尾,给出他认为的客观答案。”

“真是不可思议,”赵真雪摇了摇头,“也就是在日本,要是在国内,一定被人认为不太正常。”

“别国内了,”严可守说,“就算是在日本,也有不少人在听说这件事之后,骂他是变态的,不过井上海的心里素质看起来还不错,要不然,刚才我也不会当着他的面,开玩笑了,不过我跟你说起他,倒不是因为他的这点事,而是因为,由于他的这种行为,与之相对的KL0564也出现了很有趣的现象,就像井上海记住了它一样,它似乎也对井上海产生了印象,以至于在后面几次的接触中,双方只要一说话,就能明白对方的身份,通俗的来说,就是AI记住了他……你用这种眼神看着他干什么,别想多了,是记住了他,不是爱上了他,当前的AI所有行为都是基于对图灵测试的适应,你得时刻记住这一点。”

“这里我要先声明一下,通常我们所说的图灵测试,人员都是流动随机的,都是从本校随机遴选,再经过对方同意邀请而来,其中还要剔除掉百分之50测试是人和人说话,截止到现在,累计进行有效测试也才不到百万次,这里差不多有50多台电脑,平均下来,每天每台电脑进行的测试,也才一百多次,平均一次有效测试需要10多分钟左右,而进行的测试而当前用于测试的备选AI有5000名,也就是说,即使是同一台电脑,一个人不间断测试一天,使用超过15个小时,能和同一名AI遇到两次的概率,差不多是50分之一。

但说来凑巧的是,井上海在这里进行过的数千次测试中,就曾经不可思议的和AI遇到过6次以上,从第二次开始,两人开口不超过三句,就能准确认出对方的身份,从这个角度来说,他们两人应该能算是认识了,人能认出电脑,这不奇怪,但电脑能认出人……这确实是这次试验的第一例发现。”