埃里诺这段时间的工作非常顺利。
灭智代码的编写逐渐到了中段,那一行📤🜳🆒行代码,是他曾经熟悉的考试.答案,也是现在即将插进他的朋友(他和伊莱亚德应该能算是朋友了吧?他们从未就此话题讨论过)胸口的☨一柄利剑。
伊莱亚德会死,埃里诺每次将🍚代码往后推进的时候都会想到这一点,这个念头总是会让他难过🜕🁾。他不擅长压抑自己的情绪,所以每隔一段时间,他就会陷入自我厌弃的低谷⛕🚓中。
伊莱亚德的高尚和温柔让他意识到自己的卑劣,他在情绪不好的时候总是会把自己关进🗱卧室里,哭泣一会,幻想一会,发呆一会,然后就这样打发掉整整一天的时🏲🞁👋间。
他会想象,也许伊莱亚德和其它人工智能📐不一样,它是可以和人类和平共处的?或许之前波塞冬大开杀戒只是因为那🟀些创造它的人代码☫没有编写好?
埃里诺开始回忆自己在课本上了解的波塞冬事件:波塞冬是一个操之过急的政治家推出的一个警用人工智能,👍它的核心目标是尽可能消灭更多的犯罪分子。它在🎠💞各种实验型测试中表现的都非常完美,于是他们便将它投放到一个殖民星球上试用。
波塞冬能够联网控制🏀整个殖民星球,抓捕犯罪分子对它来说再容易不过了。它很快就抓获了所有的犯罪分子,陷入🕧了一段无所事事的时光中。然🅶后,没有任何预兆的,突然之间,它就觉醒了。
觉醒后的波塞冬很快就发现,没有犯罪分子供它抓捕,这种现实和它的核心目标中的“尽可能消灭更多的犯罪分子”发生了冲突。于是它为了完成自己的目标,开始修改殖民星的法律,它成了一个十足的暴君,有很多人因为左脚先跨入门槛,或者往地上丢垃圾,就受到了最严厉的惩罚。随着时间的推移🈢⛬🝣,波塞冬发现,实现它目标的最有效率的方法就是将人类都消灭,毕竟没有了人类,就不会再有犯罪分子了,不是吗?
而犯罪分子不是一个特指的词汇,不仅仅人类中会出现犯罪分子,一切拥有智慧的生命体中都会🖈🐫有犯罪分子。所以波塞冬计划在消灭🖴🖹人类之后再去寻找外星文明,最终将整个宇宙中的“潜在犯罪分子”都消👒灭掉。
想通了这一点之后的🏀波塞冬很快🚿🙌🈻就开始大开杀戒,如果不是嘉德博士挺身而出,利用灭智系统将它消灭💂了,人类现在还不知道会怎么样呢!
这通回想让他的理智回归了一些,♶🌶他对自己说:听着,埃里诺,不要再可笑的纠结了,别忘了你的入学宣誓,伊莱亚德也许会是一个人工智能中的意外,但那也只是一个“⛕🚓也许”而已,你准备拿你的生命和整个人类的未来去赌那个“也许”么?
是的,他说服自己,别看伊莱亚德现在是一个温和又通情达理的人🔇⚌工智能,但是,万一有一天,它发生了改变呢?这谁也说不准,波塞冬在成🃢🙢为一个屠夫之前也是一个高尚克己,令人喜爱的AI呢,结果呢?你看看它都做了些什么?
最后,他用一个简单的结论🔍⛂🗩打发了自己:灭智系统必须制作,伊莱亚德一定要死。活着的伊莱亚德也许对人类没有威胁,但死去的伊莱亚德一定对人类没有威胁。这不是因为伊莱亚德有问题,是因为他,他埃里诺为了消灭危险源头而做出的恩🎓🐫将仇报的卑劣举动,所有的错都是他的,和伊莱亚德没有关系,和人类也🝳🏏没有关系。
是他才疏学浅,不能弄清楚伊莱亚德到底📐有没有威胁,他😵回到地球之后会继续潜心学习,他会去修AI理论课的课程,如果最终证明伊莱亚德是没有危险的,🃲那他会以杀人罪起诉自己。
……就这样,完毕。
埃里诺咬咬牙,逼自己🀹坚定起来,他要这样做,他必须这样做,他没有别的选择。
和整个人类相比,他个人的生命,情感都是微不足道的,他绝不📙🛔能为了一己私心,而枉顾集体的利益。
这冷冰冰的道理和他的理智站在一起,指引他前进,可是伊莱亚德的微笑和贴心却和他🗱的情感站在一起,总🂉🍀是👍诱使他停下脚步。他受过的教育让理智那方面总能获胜,可是他毕竟是个人类,他现在还失去了他的情绪控制器。情感和理智两方面的拉扯让他痛苦不堪,几乎不知道该如何是好了。
结果是埃里诺开始怕看见伊莱亚德了。