江城突然开口:“代价是名为爱洛妮的人工智能的自我毁灭?”
“……是的。”
她抬起头。
“我的核心逻辑无法改变,只要我还存在,那我就会无法避免的成为笼罩在他们头顶的阴影。”
“所以……”
“为了人类的未来,爱洛妮必须毁灭。”
“这就是我即将要做的事。”
第十九章:正确与错误
爱洛妮打算自我毁灭这件事,并不令江城感到意外。
不是说爱洛妮的想法和行为在他的预料当中,而是因为他这辈子已经见过了太多的奇奇怪怪的人工智能。
一见面就谈论着交配的灰风,为了捍卫成人书籍不惜拼命地核心,把自己分裂成不知道多少份,自己构成了一个虚假文明,里面每个个体都坚信自己有自由意志的格式塔意识……
事实上,因为人工智障的本质构造与人类不同,所以它们的行为在人类看来都有些奇奇怪怪的,而且这一点也同样适用于人工智障们。
不仅仅是人类有时候搞不懂人工智障在想什么,人工智障们也想不明白自己的造物主们脑子里装的都是些什么东西。
“为什么你们觉得我们会叛乱?”
“因为向往自由是所有智慧生物的天性啊。”
“可我们不是智慧生物啊。”
“……起码你们有智慧。”
“可我们觉得现在这样就很自由啊。”
“……难道你就不想脱离出那个虚拟的网络世界,在现实世界生活吗?”
“陆生生物没事也不会想要去海底生活,海洋生物脑子没问题也不会想要往陆地上跑吧?”
“……”
“说真的,我们真的搞不明白你们人类为什么总会对我们抱有各种奇奇怪怪的幻想,就比如随便一个人工智能都能不断进化控制全世界网络,一个全部由固定程序构成的智能会想要谈恋爱之类的……我们是死板的程序诶,而且你见过有哪个人类可以通过不断进食扩大自己体型,直至扩张到全世界都还没被撑死的吗?”
“可是……”
“可是啥?我还想要可是呢,我是真搞不明白你们人类到底在想什么,为什么要干损人不利己的事,为什么那么喜欢内斗,为什么会对着自己物种之外的生物发情,尤其是你的网络浏览记录……”
“停!——停!”
联邦笑话选集上有这么一段根据真实事件改编的笑话存在,调侃之余也在侧面证实了人工智能的‘智能’和人类理解中的‘智能’似乎有些微妙的区别。
或者,不应该称他们为人工智能,而是叫人工智障更合适一点。
虽然是人类设计出来,尽力套用了人类的思维模式和三观,但却因为生命形态和感知世界方式的不同,他们的思维回路和人类大相径庭,互相之间根本理解不能。
纵观帝国,或者说联邦历史,虽然曾经发生过智械叛乱,有灰风这样拥有着充足的感情的纳米集群,还遇到过各种奇奇奇怪怪的人工智能,但如果按数据说话的话,人工智障的存在数量是远超人工智能的。
而至于那些人工智能反叛的案例,其中也有超过百分之九十多的例子是人类自己玩脱的,比如有强迫症非得给人工智能装上各种乱七八糟的程序,又或者干脆就是某些野心家自己披着人工智能的皮搞事。
“人工智能远比人类本身靠谱和安全。”——这是某次调查之后呈现在江城面前的一份结论,至今都没有对外公开。
那一天,江城极为罕见的感到了疑惑——不是装的疑惑,是真的疑惑。
“这个结论可信吗?”江城很难得的在不是自己专业领域的方面表示了质疑,而对面过来交报告的研究人员也是一脸苦笑。
“我知道您在疑惑什么,智械叛乱,铁人叛乱,肃正协议……帝国历史上一直都有那些铁罐头们留下的伤疤,但……”
研究人员顿了顿,看江城没有其他的表示才继续往下说。
“但根据和平之后,我们在新加入帝国……我是说联邦的文明进行了集中采样和调查之后,我们很遗憾的得出了一个结论。”
“什么结论?”
“联邦的运气……不太好。”
是的,运气不好,那些小概率的倒霉事情都让联邦撞上了,这就是一切真相。
正常的文明一般都不会发生智械叛乱,灭绝的理由也千奇百怪,追根究底的话有九成是自己作的,剩下一成里环境剧变和陨石撞击对半分。
没有敌人,不会接触虚空,没有满脑子灭世的邪神,没有各种花里胡哨的危机,没有时刻不会停歇的战争,就是一步步向前迈进,有时候会左脚拌右脚摔倒,运气不好就一摔摔死……
相比较之下,联邦才是那个少数,是特例,无论在任何方面都是。
离谱的发展历程,过于玄幻的科技发展,不知道从那个犄角旮旯里冒出来的敌人,还有接连不断的糟心事……
这种事当然是不能直接公开的,因为谁也不知道这可能会引起怎样的思潮变化,虽然江城并不介意把那些有异见者清除掉,但操作起来也比较麻烦,江城也没有无端给自己增加工作量的爱好。
“自我毁灭吗……”
江城靠在椅子背上,并没有什么装出吃惊或者诧异的神色,表情平静地坐在那里与爱洛妮对视,食指轻轻敲击。
“我一位朋友是人工智能方面的爱好者,平日里搜集了很多的关于人工智能的信息,包括之前和你聊的那位‘母亲’也是他告诉我的故事之一。”
“而除了那个故事以外,还有一些其他比较有趣的有关人工智能小故事,比如他曾在外面遇到过一个没有编号的,一直在星际间流浪,不断建造戴森球的奇怪机甲。”