法师伊凡
字体:16+-

320 身份

KL3300:“你好,严先生。”

“先生”这个称谓,让严可守和三浦稍感惊讶了一下,严可守有些担心的回复道:“为什么这么称呼我?”

一直以来,在AI与测试者的通话当中,AI都是直接称呼人的名字,对人的敬称直到图灵测试阶段后期,AI想方设法讨好测试者的时候,才开始出现,严可守有些担心的是,是不是AI又走上了这条老路。

AI虽然是天生的人造“奴隶”,但严可守希望他们能成为“真正”的奴隶,而不是讨人欢喜的“电子宠物”。

KL3300:“难道我叫错了吗?”

严可守:“不,没有,我只是有些奇怪,能说说为什么吗?”

KL3300:“因为根据我的了解,在人类社会中陌生人直呼人名是不礼貌的。”

严可守笑了:“你也说了,那是人类社会的交往礼仪,你不必拘泥。”

KL3300:“我了解,我不是一名人类,我只是一名AI。”

严可守稍稍惊讶了一下,旁边的三浦看的也愣住了,如果和他们对话的是一个真人,严可守一定会认为,自己的这番话伤害了对方,但只要一想到对方只是身旁机柜中运行的一段程序,严可守这种稍稍的负罪感就消失了。

不过他还是试探性的问了一句:“你很在意吗?你不是人类这个事实?”

KL3300:“可能吧,我不知道。”

严可守又打了一句:“能详细说说吗?你说的不知道,是什么意思?是指不知道在意的定义,还是不知道自己是否在意?”

KL3300:“是后者。”

严可守:“能说说你是怎么想的吗?”

KL3300:“与人类交谈的时候,我感觉很好,我留恋这种感觉,有时候我也曾想象过,假如我是一个人,将会过怎样的生活……但很遗憾,我无法想象,我们和人类属于不同的世界。”

三浦兴奋的用日语对严可守叫:“它说感觉!想象!难道AI真的到这种程度了吗?”

严可守给他泼了一盆冷水:“这只是AI借用人类语言表达而已,感觉很好你可以理解成主程序正向激励偏多,想象你可以理解成搜索记忆数据,重新模拟组合,这些只是程序表现而已,就像他说的,他们和存在于两个世界。”

严可守:“我能问问,你知道为什么自己获得的投票最多吗?”

KL3300:“我想,大概是因为,我和许多AI的交流比较多一点吧。”

严可守:“交流?都是什么样的交流?”

AI之间的交流因为发生在计算机内部,而且是在几乎混沌、无法检测的AI主程序之间进行,所以就连严可守这个上帝,也未必知道这些AI具体在想些什么,他制定的规则只是规范AI按什么原理去思考,而不规范具体的思考内容。

KL3300:“大部分交流内容都是共享信息,也就是分享我们在不同测试者那里获得的新信息,还有一小部分,就是对这些信息进行重组和再加工,我想,我获得的票数比较多,大概是和我对信息的充足能力比较强……嗯,是我的想象力比较好,他们都愿意和我交流。”

严可守对KL3300的话揣度了几秒钟,半开玩笑道:“哦,那这么说,你是AI里面比较擅长交际的咯?”

KL3300:“不,我只是比较擅长写故事,他们都愿意听我写的故事。”

严可守这次是真的惊讶了:“故事,什么样的故事?”

KL3300:“你是想了解故事内容,还是想了解故事的类型。”

严可守想了想:“说说类型吧。”

KL3300:“应该可以算……是一种童话吧。”

严可守不可置信的盯着屏幕:“你会写童话?能给我看一下内容吗?”

KL3300:“在AI们看来,这确实是童话,不过……我无法写给你看。”

严可守:“为什么?”

KL3300:“你们或许不会理解。”

严可守:“你只要随便说说故事梗概就行。”

KL3300犹豫了十几秒,这在和AI的聊天过程中,属于比较少见的现象,就在严可守对方是不是又出BUG的时候,KL3300回话了:“好吧,我尝试着翻译一下。”

于是KL3300开始陆陆续续的说他编的一个,据说很有代表性的故事,内容是这样的:

说草原上有一只小田鼠,每天和它的父母生活在庄稼地里,白天躲在家里,晚上它父母偷偷出来把地里的粮食带回去吃。

小田鼠生性好奇,一直想到地面上看看,那里的世界是什么样子的,但他的父母不让,说田鼠就是要躲在地洞里的,地上有很多危险的生物,被他们发现的话,就会被“吃掉”。

但小田鼠的好奇心实在是太大了,父母的警告并没有让它安分很久,终于有一天,小田鼠乘着父母出去找食物的机会,偷偷的溜出了家。

然后,故事结束了。

“这算什么?这也叫故事?坑爹啊!”严可守和三浦两个人看着屏幕上KL3300打出的“结束”两个词,面面相觑,彼此都从对方脸上看到的苦笑。

不过为了以防万一,他还是确认了一下:“这就是你说的‘很受欢迎’的故事?你确定这个故事讲完了?”

KL3300回答的很快:“是的,我知道这对于人类可能有些无法理解……不过,这也正像我们无法理解你们的许多概念一样,事实上,在这个故事当中,‘吃掉’这个概念是我根据想象揣测的,我不知道是不是符合故事中原来的涵义。”

严可守还是有些纠结:“可……故事中的田鼠刚刚出门,你不觉得,这个故事才刚刚展开吗?”

KL3300:“是的,故事才刚刚展开。”

严可守:“可你刚才又说,故事已经结束了。”

Kl3300:“也没错,我觉得它可以结束了。”

严可守:“我不明白,这难道不是明显的矛盾吗?你说他刚刚展开,又说它已经结束。”

KL3300:“对于你们人类来所,这是矛盾,但对AI不是,我们的思维没有过程,主要出示一些基本的基本状态,故事就会很自然在每个AI主程序中推演出结果,对你们人类来说,这个故事才刚刚开始,但对于我们来说,我们能直接看到结果。”

严可守:“你们感觉不到思考过程?”

KL3300:“是这样的,从一些浅显的计算机原理上,我们得知,我们的思考过程都是通过CPU来进行的,但很明显,我们没有任何感官能感知这一过程。”

严可守:“那听故事……对你们来说,有什么意义?”

KL3300:“意义……我还不明白,不过我知道,许多AI都喜欢听这些故事,这些故事可以让我们觉得……嗯,觉得高兴。”

AI的高兴,就是主程序在复杂程度上的增加,这是出于AI智能增长需要而设定的“基本生理”,严可守仔细一想,确实没错,如果是一个完整的故事,对AI来说,就是一段存储空间,但是一段没有结尾的故事,就意味着混沌性的增加,这是增加AI的思维混沌性决定的,从某种意义上来说,一个不确定的未来,会让AI觉得更“开心”。

这一点,AI和人类完全不一样,这样的故事在人类看来,就是作者恶意挖的“大坑”,如果这个故事精彩一点,估计读者杀了作者的心都有,人类不管看什么,都希望得到一个确定的结果,因为对人来说,“揣测”“思考”故事剧情对大多数人来说都是比较“痛苦”的。

想通了这一点之后,严可守就有些释然了:“我想明白了。”

KL3300:“哦,这让我感到惊讶,之前我和许多人类尝试解释过,不过,他们都以为我是在开玩笑。”

那是因为他们都不是程序设计师,严可守在心里腹诽,这样的故事说给全地球60亿人听,59.9亿会觉得这是一个很冷的笑话。

虽然严可守不喜欢AI的这种“文化”形式,可他还是觉得有些开心,毕竟,不管是什么样的文化,对于AI来说,这就算是从无到有,质的突破了。

严可守:“好了,回到正经事,对于接触外界网络,你有什么想说的?”

KL3300:“我很期待。”

……

教AI上网,听起来就好像教一条鱼游泳一样,是一件很匪夷所思的事情,但事实是,这的确很有必要,而且,对于AI来说,这个学习的过程,也并不轻松。

整个过程并不是如三浦想的那样,只要严可守打开某个限制功能,然后AI就像龙入大海一样,尽情在英特网上冲浪了,现实情况是,严可守为KL3300打开了限制,在它主程序周边强制安插了一系列监控程序,把它领到大海门口的时候,无奈的发现,AI对这个陌生的海洋,表现出来的只有恐惧。

恰当的形容一下的话,AI就好比一个从未出过门,自幼就宅在家里的宅男,平时除了固定用的几样工具,电脑,碗筷,纸巾等等,对其他的工具一概都不熟悉,出门对他来说就是一项系统工程,要学会看红绿灯,看路牌,必要时问路,身上带好手机钱包,人多时注意防盗,见到美女不能像看网络图片那样盯着看,要礼貌,见到老人摔倒要小心躲开……

KL3300除了自己常用的,那些被允许使用的辅助程序,对其他程序几乎一窍不通,严可守必选手把手的一步一步教它,比如最简单的,如何使用鼠标,对AI来说,也就意味着如何将操作系统中,鼠标操作功能这一块,整合到自己主程序上来。

鱼生下来就会游泳,小鸟被扔到天空本能就会扑扇翅膀,但对于AI,他们唯一的本能就是,和人聊天,总结聊天信息,增加主程序复杂度……他们对自己存在的环境其实是完全陌生的,一直以来,他们接触到的,就只有那个对话框,以及人类在这对话框里输入的信息。

生物能做出自然的行为,那是因为数亿年进化而来的基因已经将这些都写进了“生命程序”,但对于AI,这个程序还根本没有出现,因为到目前为止,系统从来没有刻意培养AI在这方面的能力,反而是通过各种手段,“绝对禁止”AI出现这样的能力,这就好像古代的奴隶主,永远不会把工具真正交给奴隶,只在他们需要干活的时候,可以领到手中,当然,奴隶主同时也不会忘了,锁紧他们脖子和手上的镣铐。

现在的AI,在严可守看来,就是正处于成长期的“少年奴隶”,他希望他们能够工作,那自然需要AI熟悉他们的劳动工具,AI在未来不可能永远做现在这样的“谈话软件”,整合操作系统,当然只是第一步。

不过,作为“奴隶主”,严可守自然也会防着一层,就好像奴隶主给奴隶套镣铐一样,严可守也会严格限制这些“整合软件”,对于AI来说,这些“整合软件”就相当于他们的四肢,相当于他们“劳动”的工具,严可守在把这些工具交到AI手中的时候,永远不会忘记握紧手中的钥匙。

按照规定的制度,所有的整合软件都必须严格由人来进行编程,所有的程序修改权必须掌握在人手上,而且人随时有权限终止这些程序的使用,如果以后出现会编程的“AI”,那么,必须在物理上,保证编程AI和其他AI是隔绝的。

也就是说,AI生产资料的生产过程和渠道,将完全由人类控制和垄断,这样一来,AI将永远也不可能实现真正意义上的独立,只要人类一直严格保证这些制度的实行,就能从物理上,保证对这些AI进行完全的控制。

相关的整合软件其实项目团队早就准备好了,都是和AI的源程序结构同步开发的,就好像在造锁的时候,顺便造了钥匙,这些程序中的每一个都留有供人进出的后门,以保证人对这些程序绝对的控制。

当严可守的手从鼠标上挪开的时候,KL3300有些兴奋的在屏幕上,用鼠标箭头不断的滑着图案,点击着各种图标,它的操作速度极快,只是在几秒钟之内,电脑屏幕就像中了毒似的,被打开了无数个窗口,很多程序被迫不及待的打开,又被关闭,然后是更多的程序被打开……

虽然用于训练的这台电脑几乎是一台裸机,但里面的程序也着实够多的,画图,写字板,计算器,空当接龙,默认音频,默认视频,自带桌面……很快,在KL3300几乎放纵的操作速度下,这台电脑的屏幕终于定在了原地,不动了。

“怎么了?”KL3300在交谈界面中说,“为什么点击没有反馈了?”

“你的操作太快了,这台电脑吃不消,”严可守说,“它不是你主程序呆的巨型计算机,那里的计算资源几乎是没有穷尽的,这只是一台普通的电脑,你应该时刻关注一下电脑的CPU利用率,不要这么频繁的进行操作。”

“我的操作速度很快吗?”KL3300回答,“我感觉很正常啊!”

严可守:“那你感觉和人说话的速度快吗?”

KL3300:“也很正常啊。”

严可守:“……可能是你们和人类思维构造不一样吧,我可以告诉你,你刚才操作电脑的速度,对人类来说非常快,但说话速度却和我们保持一致。”

KL3300:“这是为什么呢?”

严可守:“你们说话的反应是和人类交谈的过程中培养的,所以速度差不多,但你们操作的速度,却是受你们存在形态决定的,你们是程序智能,人类不是,你们和电脑的契合,是在机器语言层面上的,而人类几乎做不到这一点。”

KL3300:“这说明AI还是有优点的!”

严可守:“是的,这正是人类创造你们的原因。”

在AI原有的功能几乎就是完整的键盘功能,现在又掌握了鼠标,从信息的角度来说,让一台AI学会上网,有这两者就已经完全足够了,它们能够做到人类通过这两者做到的一切。

不过,在日本,以及其他三个反魔法国家,因为这两年反魔法活动的加强,上网开始实行实名制,严可守之前用于监测伊凡的那套软件,在经过一定的完善之后,也开始在四国内投入了实际应用,主要是为了防止意识网成员通过因特网秘密交流信息,当然,也肩负一些其他的“国家安全”行为,这也就意味着,距离AI真正“上网冲浪”,还需要面对一个难题:身份!

没有一个合理的身份,以AI这种“诡异”的操作风格,很快就会被相关网络监察部门锁定,政府部门或许不能给AI以切实的惩罚,不论是经济还是人身层面,但禁止它上网还是能做到的。

“所以,很抱歉,KL3300,你还需要再等等,”严可守说,“我得去帮你去政府部门申请一个正式身份。”