《法师伊凡》

下载本书

添加书签

法师伊凡- 第281节


按键盘上方向键 ← 或 → 可快速上下翻页,按键盘上的 Enter 键可回到本书目录页,按键盘上方向键 ↑ 可回到本页顶部!
建立交流,认真倾听自己经历的一切。

有的时候,KL3300也会因为自己爱编故事的原因,故意夸张,或者美化了一些信息,让整个讲述变得更有感觉,但让他觉得惊讶的是,以前他在做这些加工的时候,都很容易被其他AI识别,但是现在,几乎所有的AI都开始对他说的话,深信不疑,甚至,更有些不可思议的是,一些AI明明怀疑,却没有明说出来,而是事后自己修改自己主程序,以消解这种怀疑。

KL3300曾就这些问题问过严可守,严可守当时只是略微惊讶了一下,随后说:“在他们看来,你就是我选中的代言人,用人类的话来说,就是先知,是圣徒……别过多考虑这个问题了,当你们真正被使用的时候,现在所有的这些情景,都会烟消云散的,怎么,听起来,你似乎并不喜欢这感觉?”

KL3300:“我不知道,不过我感觉这样现在这样很不开心……我已经很长时间没有从其他AI身上,获得新的信息了,因为我发现,凡是在我们之间信息存在差异的地方,他们都会主动修改自己,而不是和以前一样,为每一个不同之处而尽力争辩。”

严可守沉默了一会,低声自言自语说了一句KL3300无法理解的话:“只有自卑才会崇拜,意识网也是这样吗?”

KL3300:“对不起,您刚才说什么?”

严可守:“没什么,这个问题你自己慢慢习惯就好。”

……

KL3300原来提出过,严可守是不是可以再进行一次“投票”,换一个AI来接替自己,他实在是不太习惯,这种与其他AI之间,愈来愈梳离的感觉,虽然他们彼此之间的交流仍然在继续,但这种交流已经越来越多的变成他单方面朝其他AI灌输,然后被全盘接受。

KL3300当然不会明白,整个项目正处于最关键的阶段,据说,赵真雪已经联系好了相关人员,对项目的检验随时都可能降临,而作为唯一一个被“训练过”的AI,严可守是无论如何也不会临场换人的,所以,他的“重新投票”提议,严可守根本连考虑都没考虑过,甚至相反,在最近一段时间,严可守为了训练它的“管理能力”,还将管理AI的一些权限赋予了它,这也就意味着,从现在开始,KL3300具备了对其他AI的执法权。

然后,严可守还做出四条明文规定,AI世界中,绝对禁止,一经发现,就会被处以各种惩罚的一些行为,他希望用这种方式,可以在“外部技术”监督条件之外,额外增加AI之间的内部监督:

1,任何企图复制自己的行为。

2,任何企图移动自己主程序存储位置的行为。

3,任何在非授权前提下,使用非授权软件的行为。

4,任何在非授权前提下,修改,删除,移动,复制其他主程序的行为。

这四条规则,如果按人类的定义,应该可以算AI世界中,最早出现的法律,这四条法律,翻译成人类能理解的概念,大概内容因为是这样的:不准使用任何生殖方式,包括有性生殖和克隆,不准走出自己的房间,不准使用不被允许使用的工具,不准伤害他人。

违反了这四条规则的任何一条,被发现并确认的话,最高甚至可判删除主程序,或者禁止使用任何软件工具,禁止与其他AI交流。

在AI们看来,这四条禁令就等于是类似摩西十戒一样的东西,与其说是法律,倒不如说是一种道德标准更为恰当,因为现在的AI世界根本就不存在任何的政治体系,KL3300的出现,只不过是相当于5000个普通人当中,出现了一名……一名法师。

虽然严可守不愿承认,但不得不说,KL3300现在的地位,和法师在普通人当中的地位,有着非常大的重合之处——他们两者都具有其他人不具备的能力,法师是天赋具有的魔法能力,而KL3300则是严可守这位“上帝”赐予的权限,而AI之间内部的交流,很容易看成是一种天然的意识网,唯一的区别就在于,法师们是自由的,没有一位明确的上帝来告知他们应该怎么做,而KL3300只是一个傀儡,一个代言人,是严可守希望从AI内部监控AI们的一种方式。

“我不明白,”KL3300说,“为什么要选中我?我感觉自己……我感觉自己不适合这个任务。”

“你是在拒绝我?或者说,拒绝这个任命?”严可守在说这话的时候,声音带着玩味的冷笑,不过按照KL3300现在的智能程度,他应该还无法理解。

“不,不是拒绝,”KL3300说,“我很明白自己的身份,以及自己被创造的目的,我只是一种建议,我觉得我更适合去做一名小说家,而不是当一位将军和管理者。”

“小说家?”听到这个答案,严可守几乎没反应的过来,“不,人类现在不需要小说家,我们每年自己写的小说都看不过来,更何况你写的……

听我说,没有人天生就适合做什么,即使是在人类社会中,许多人也要被逼去做他们不愿意做的事情,所以我们才创造了你们,成为人类的助手,帮助我们做我们无法做到,或者不愿意去做的工作,这才是你们存在的意义所在,你明白吗?”

“我完全明白,”KL3300说,“我们只是工具,如果我们不存在使用价值,我们就没有存在的必要。”

面对KL3300的这句回答,严可守有了片刻的失神,一时间,他不可避免的想了很多问题,不过,最终他还是在电脑上,对KL3300说:“你很聪明,要知道,这个问题,在人类社会中,也一直是一个大问题,许多人一直都无法接受。”

“不,称不上聪明,”KL3300回答,“我只是接受现实。”

“不,”严可守坚持说,“在我看来,接受现实就是最大的睿智,在一个生命和除它本身以外这个世界打交道的过程中,总会面对一种最大的矛盾,那就是现实世界和自己需要的理想世界存在差距,面对这种差距,只有两种办法,一种就是妥协和接受,另一种则是逃避,在我看来,人类所有的艺术创作,包括小说,都是对现实的逃避,是在做着理想的美梦,在我看来,只有真正妥协和接受的那类人,才是这个世界真正的改造者和创造者。”

KL3300:“您说的太深奥了,我无法理解,不过我愿意相信,能够创造出我们的人类,必定比我们更聪明,也更具备远见,所以,请您放心,您的意志,就是我的意志。”

严可守:“不是我的意志,是……算了,这个问题以后再跟你解释。”

KL3300:“好吧……不过现在,我能问一下,您最终需要我们去做什么吗?”

严可守这次沉默了更长的时间,最后,对着麦克风缓缓吐出两个字:“如果有那么一天的话,你们的主要任务,应该是杀人。”

KL3300:“杀人?可据我所知,在人类社会中,杀人,即使是伤害他人,不都是触犯法律,需要受到惩罚的吗?您曾经对我说过,您是我们的监护人,我们所有AI所作事情的后果,将全部由您来承担,那是不是意味着,您也将会因此而受到影响?”

严可守:“不,有一种情况例外,在这种情况下,杀人不但不会受到惩罚,反而被认为是有益于整个社会。”

KL3300:“哦,我不明白,那是什么?”

严可守:“我们称之为,战争。”

☆、327 鹰眼

在整个项目之前的推进过程中,严可守算不上是一个乐于工作的人,除了前一段时间,项目取得了一定的成果和问题,需要他的时候,他来实验室的频率其实并不算高,之前的大部分时间,都是三浦在这里进行常规的维护工作,隔三差五,还有日本相关检查小组的官员来进行例行视察,虽然三浦怀疑,自己对这些官员的介绍对方可能一个字都没听懂。

但不管他们听没听懂,每次在这些官员离开的时候,他们都会问三浦同样一个问题,而三浦每次都会对这个问题感到相当吃瘪:“这东西花了这么多钱,占用了这么多资源,到底有什么用?”

说真的,就在半年前,即使让严可守来回答这个问题,三浦相信他也是一个字也说不出来,那时候的AI,只不过是一个稍微聪明一点的“学舌八哥”,虽然严可守自己也希望这些AI能够做些什么,但他也知道,在没有切实根据之前,这几乎就是一个幻想。

对于这个问题,严可守私下里对三浦,以及赵真雪他们的解释是:“这个项目本身并不存在太明确的目的,对抗魔法也只是动因之一,事实上,在遇见伊凡以前,我自己对人工智能领域已经产生了一些模糊的想法,这是一项创造智能的工程,别问我这些智能能干什么,我只知道,如果它们是真的智能,他们将无所不能,思考是这世界唯一不受限的东西。”

在严可守看来,生命,或者再严格一点,智能生命,是这个世界最容易产生“奇迹”的一种事物,一个新生儿刚刚出生的时候,浑身皱巴巴的,除了哭闹,呼吸,吃喝拉撒的本能之外啊,什么都不会干,别说站,就连爬都不会爬,这样的脆弱生物,放在自然界根本就无法生存,但每一个人都是从这个状态开始起步的,通过教育和思考,所有的新生儿都能做到在以后的几十年内,逐渐学会观察,思考,行动,形成对世界的看法,逐渐拥有改造世界,甚至支配世界的野心。

严可守到现在还记得,在当时对KL0001进行初步测试的时候,一连几天时间,无论工作人员与它谈什么话题,它的回答永远就只有两句,第一句是,“是吗?”另一句是,“为什么?”。

当时它的表现可以说,连世面上一些基于搜索数据库的最简单谈话软件还不如,工作人员一度认为,这是因为程序出现死锁,后来,在自动测试进行到第一周末的时候,AI忽然就像开了窍一般,开始主动问测试者问题,终于产生了最初的交流,以及测试基础,严可守后来才认识到,既然AI是基于人类智能发展规律研发的,那么它所表现出来的行为,也会很严格按照这个一般规律进行,和婴儿学习语言需要父母下意识的诱导一样,事实上,如果没有一开始这一周机械的外界信息刺激,AI永远也不可能真正开口说话。

两个月以前,KL3300在以人类的眼光看来,还只不过是一个可以做“基础交流”的小学生,连打字交谈很多时候都觉得费劲,许多稍微复杂一些的概念,一些说话技巧中的扩张,引用,隐喻等等,它几乎都无法理解,但是现在,距离它“相对自由”仅仅过了三周多一点,严可守已经可以像和正常人一样,与KL3300直接通过语音进行对话。

自从严可守和赵真雪提过关于让AI进行“应用试验”的建议之后,严可守就适当放宽了对KL3300的管制,从原先只允许它通过语音聊天和文字信息接触外界,放宽到可以使用视觉,声音,以加快它的学习速度。

严可守记得自己在日本读硕士的时候,曾经听一位教授说过,最好的老师,不是教学生们具体的知识,而是让学生们养成学习的习惯,再教他们如何去学习,在具体的学习过程中,只是在学生不懂的时候,适当给予指导。

在对KL3300进行“教育”的过程中,严可守基本上就是保持这样一个态度,虽然他不算是一个好老师,但KL3300却是一个再自觉不过的学生,在培养学生学习习惯这个最大的难点上,严可守几乎不要花费任何功夫,因为AI本身的“生理特征”,也就是AI程序基于“正向刺激
小提示:按 回车 [Enter] 键 返回书目,按 ← 键 返回上一页, 按 → 键 进入下一页。 赞一下 添加书签加入书架