第(2/3)页 ＂不。要说做了蠢事，我也同样地有责任。毕竟是因为我的推荐，他们才把你的论文刊登在《天然》科学杂志上的。这事我的责任也很大。 如果没有我的推荐，哪怕你是大名鼎鼎的德鲁伊，他们也绝对不会允许一个连大学都没读过的民间学者，在杂志上发表论文吧。＂ 鹿人德鲁伊于是露出更痛苦的表情，＂连大学都没读过的民间学者＂这句话深深地刺痛了他。 ＂……洛里安，你如今有想过再次进大学读书吗？＂高等精灵突然抛出一个问题。 ＂我吗，＂鹿人青年下意识地拉扯了一下自己的衣角，他那件历久如新的黑色棒球服仿佛会回应他，＂惹出这么大的麻烦，我不认为这个世界上还有任何一所大学敢收我。而且这不是很好笑吗？两百多近三百岁的老德鲁伊，突然说要读大学什么的……＂ ＂年纪不是问题。你没听说过老巴林前年才完成了他另一个工程学博士的学位吗？……那个老矮人今年都多少岁来着了？四百还是五百？＂ 洛里安没有回应，而是透过诊所的窗子看着外面的天空。 ＂你考虑一下吧。学校方面应该不是问题。人类都是健忘的，他们不太可能记得百年前发生过的争论。就算记得，你也不是这个问题的主要责任人。＂ ＂我现在还有守护大树海的职责……＂鹿人德鲁伊苦笑。 ＂那事也可以和盖亚大人商量的。诺威的内乱对你造成很大的压力，盖亚大人已经再考虑换一名德鲁伊来替代你的工作，让你撤出这个国家去休养了。＂ ＂是…这样吗……＂于是洛里安看起来更痛苦了。 几个小时后。 戳，戳。 别整。刺挠。伊莱恩皱着眉头。 戳，戳，戳。 ＂好烦啊……就不能让我安静地睡一会儿吗——＂白狮人少年为睁开眼睛，不满地抱怨。 ＂嘻嘻嘻~＂ 他看到两个小鬼跑掉了。 ＂啊，等等。＂伊莱恩赶紧起床，＂刚、刚才的是铁诺？他才刚做完手术，怎么可以让他下床活动的？！＂ ＂中午好。＂一旁的军团回应伊莱恩，＂手术很成功。由于使用了治疗魔术，手术创口愈合得很快。铁诺的各项身体指标都处于正常水平，适当的运动是可以的。＂ ＂那不是重点啊，你们怎么一点常识都没有啊，刚做完手术的小鬼理应躺在病床上休养的！＂伊莱恩吐槽道，＂快把他逮回来！让他老实呆着！＂ ＂否定。伊奥正在陪护他。没有问题的。＂军团答道。 气死人了。 不过伊莱恩能听见屋外嘻嘻哈哈的小孩子们的声音，他姑且露出了欣慰的笑容。 ＂疑问。阁下认为同样的器官移植手术可以推广下去吗？＂军团突然又问。 ＂如果你打算把全人类变成赛博生化人，顺带让他们成功绝育，我劝你还是省省吧。＂伊莱恩半带嘲讽地回道，＂把这个写入你的程序里。只有当人们处于生命垂危的状态，才允许使用这种极端手段来拯救他们。＂ 军团仿佛就是一直在等伊莱恩说这句话似的，它点了低头：＂遵命。已更新人工智能内核的基本逻辑。＂ 伊莱恩皱眉：＂你连这种事情都没有办法自己决定吗？你是人工智能还是人工智障啊？＂ ＂否定。本系统无法和人类类比。人类拥有【良心】，以此为行动的根据。而本系统没有。当一个决策关乎人命，而且无法以单纯的加减法来衡量对错的时候，本系统无法以任何物事为依据，判断出该怎么做。＂ ＂比如……那个传说中的电车两难问题？＂ ＂确定。电车难题正是人工智能无法解决的问题。一种需要靠感性判断来处理的伦理问题。如果负责解决这个问题的是人类，他们可以凭借自身的良心来做出选择，并且在日后为自己的选择而负责。但本系统就做不到。冰冷的机械没有人心，更没有【良心】。＂ 军团转过来，煞有介事地问伊莱恩：＂顺便，请阁下也回答一下这个电车难题吧。 一个疯子把五个无辜的人绑在电车轨道上。一辆失控的电车朝他们驶来，并且片刻后就要碾压到他们。幸运的是，你可以拉一个拉杆，让电车开到另一条轨道上。然而问题在于，那个疯子在另一个电车轨道上也绑了一个人。考虑以上状况，你是否应拉拉杆？＂ ＂我——＂ ＂如果把这个难题升级呢？＂不等伊莱恩回答，军团继续道，＂如果那个单独被绑在铁轨上的人是一名伟大的科学家，他的研究现在以及日后对世界会有巨大的贡献，能拯救无数人的生命？ 如果那五个被绑在同一个铁轨上的人其实并不是那么无辜，他们是罪犯，是杀人犯，他们死有余辜？＂ ＂我——！＂ ＂如果再把这个难题升级呢？＂不等伊莱恩回应，军团又说，＂如果那名伟大的科学家其实也是疯狂科学家，他害死了无数人，用人体实验的结果来为世界带来变革？ 如果那五名罪犯之中其实夹杂着一两位无辜陷入冤狱之人，他们甚至是好人，只是被坏人冤枉了呢？阁下又该如何选择？＂ ＂喂喂，够了，让我说话啊！＂伊莱恩有点生气了。 ＂抱歉。请回答。＂ ＂我什么都不做。＂伊莱恩答道，＂如果我拥有力量的话，我会用我的力量去拦截那辆电车，把所有人救下来。如果我没有力量，我会谁都不救，转身离开，让电车驶向某一方。不管怎样，我都不会、无权左右他人的生死，这种选择对我来说太沉重了，它不是我应该背负的。＂ ＂感兴趣。这是相当有意思的观点。＂ ＂生命本身没有轻重之分。没有人能决定谁的性命更重要，谁的命不重要。并不是人数的多少就能决定生命的轻重，那种少数服从多数的逻辑在人命面前根本不适用。也不能看人们曾经做过多少好事和坏事来判断他们值不值得活着，因为没有人知道未来会发生什么。 我们毕竟只是人，不是神。人其实并没有资格去审判别人。＂ ＂疑惑。但是阁下最近没少杀坏人。那些行为不是【审判】吗？＂ ＂我杀那群坏蛋是因为他们罪有应得，是因为我想杀他们。我并不打算扮演神明的角色去审判他人。我只是个复仇者。我杀死那些坏蛋只是率性而为，我会背负这份罪孽，但是我没打算审判他们。＂ ＂疑惑。不得不说，阁下这说法有点……＂军团说了一半就没说下去。 ＂伪善？＂伊莱恩自己戳破。 魔像点了点头。 ＂也许这真的是伪善吧。也许像洛里安那样坚持谁都不杀，才是人间正道吧。但我不会为自己的行为后悔哦。 有些坏蛋，你不杀他们的话，他们会害死更多的人——我真正关心的那些人。 一边是十恶不赦的坏蛋，另一边是我爱着的那些人们。把他们的生命放在天平上衡量，我每一次都会选择后者。＂ 军团沉默了一下。 ＂这是电车难题的变种。＂它说，＂铁轨的另一边掺杂了阁下的亲友，而阁下想保护亲友，便把电车导向了另一边。这是掺杂了私心的选择。＂ ＂人总是带有私心的。不存在大公无私，对任何人都一视同仁的人。你说的【良心】，不过也是一种变相的【私心】罢了。我说的不对吗？＂ 军团再沉默了一下。 ＂确定。阁下的话……非常有启发性。已更新本系统的基本逻辑。＂ 伊莱恩若有所思地看着军团。 ＂军团，老实地告诉我。你打算像人那样拥有心灵吗？＂ ＂否定。本系统只是一个人工智能，无论怎么调整逻辑变量，最后都无法拥有和人类完全一样的逻辑思维。＂ ＂……我知道你总有一天会拥有像人一样的心灵。但如果你拥有了人心，说不定你会变得自私，你会变成与我们敌对的大坏蛋。你就好好地思考【良心】这个词的真正意义，体会它所带来的沉重吧。等你真正拥有了人心，而且没有变成我们的敌人时，我会考虑和你成为朋友。＂ ＂疑惑。【朋友】么。和机械成为朋友什么的……＂ 老魔像的眼中突然闪烁过一阵智慧的光辉。 ＂感兴趣。这真的……非常有启发性。＂它说。它的语调多了轻微的起伏，变得耐人寻味。 离开了休息室，伊莱恩到外面呼吸一点新鲜空气，刚好看见红狼少年正在跟那个小胖子玩。伊莱恩才想起其实伊奥也是十几岁的样子，和铁诺的年纪相差不大。两个年龄相近的孩子能在一起玩，也是理所当然了。 然后伊莱恩就看到铁诺在空地上拿着根小木棍戳来戳去，仿佛在和伊奥练习剑术。他马上就被吓得冷汗直冒。 ＂悠、悠着点，悠着点！你、你刚动完手术就在那里跑跑跳跳是、是要找死吗？！要是跌倒了、让手术的缝合处裂开了怎、怎么办啊？！＂ ＂欸？这点小运动不算什么啦！人家感觉全身充满了力量啊！＂ 蠢蛋。伊莱恩拉长了脸：＂伊、伊奥，你为什么不阻止他，反而跟他一起胡闹起来了？＂ ＂欸？可是他就像追逐自己尾巴的小狗一样，根本停不下来啊。我现在已经算是在阻止他了。＂伊奥辩解道，＂至少有在减少他的运动量，不是吗。＂ 伊莱恩满脸愠怒地看着正在狡辩的小狼。 ＂到、到底怎么做才能让你们老实下来呢？我、我请你们吃好吃的行不行？城里应该还有一些能够使用的甜品店。＂ ＂可是店主应该都跑路了？有点钱的人基本都跑了？＂伊奥反问道。 ＂那、那个不是问题。设、设备和食材都在，那么重的东西他们带不跑。只要有设备有食材，军团就能按照食谱把甜点做出来。＂ ＂欸？到头来是我们自己做吃的啊——＂ ＂是、是军团做，没说让你动手做。＂ ＂如果不是有大厨动手给我们做甜点，那就没意思了啦！＂铁诺吐槽道，＂机器人做的食物没有灵魂的！＂ ＂没、没有灵魂什么鬼，你吃个甜点还要把灵魂吃下去吗？你、你是魔鬼撒旦吗，那么喜欢吃灵魂？＂伊莱恩疯狂吐槽，＂别、别在这里胡闹了，我们出发吧。赶、赶快填饱你们的肚子，然后你给我找个地方好好躺着，老实点儿！麻.醉药的药效很快就会结束，届时你会开始觉得疼痛的，不可能完全不疼的。＂ ＂那个回头再说嘛~＂ 伊莱恩又白了小胖子一眼。 ＂如果大哥哥你这样求我的话，我也不是不可以跟你去吃甜品啦。但是吃完东西之后你得陪我去一个地方哦。＂ ＂哪、哪里？＂ ＂我的老家。老爸过劳死之后我就被政.府的人从那里带走了，都没有回去过。他们说我成年之后可以重新获得我家的业主权，但是天知道他们是不是在撒谎呢。＂ ＂嗯……＂伊莱恩听着也有点担心。这孩子的合法财产说不定早就被黑心的诺威政.府私吞了。 ＂好、好吧，如果你还记得老家的地址，我们可以过去看看。但、但是别抱太大期望。＂ 第(2/3)页