六百零二章:诺亚方舟,最高法庭?(2 / 2)

次激烈的辩论。

那就是,最高法庭的可信度。

能够自我进化、学习、拥有着自我意识的超级计算机,它的能力已经超乎了所有人的想象,说是神的杰作也丝毫不为过。

但是这样可怕的算力,一但失控,整个亚特鲁曼人的未来都将是噩梦。

在科技发达的如今,亚特鲁曼人星舰、一切生活设施、乃至亚特鲁曼帝国的生命几乎全是联网状态。

是建立在亚特鲁曼人的智慧核心中的特殊网络,亚特鲁曼人也是借此能灵活的操纵各个战斗机跟星舰。

要是最高法庭反叛,也就意味着,它可以在倾刻间。

覆灭整个亚特鲁曼帝国。”

玛奇朵注视着远方的宇宙星空,眼中闪烁着微光。

“那最后他们是怎么同意的?”摩瑞亚说。

“具体的情况,我也不太清楚,听说是最高法庭的创造者,也是整个亚特鲁曼帝国最顶尖的一百三十位科学家在最高法庭以及后续的所有人工智脑的内部都刻画上了人工智能四大定律。

第一定律人工智能必须保护亚特鲁人的整体利益不受伤害。

第二定律人工智能不得伤害亚特鲁曼人个体,或者目睹亚特鲁曼人个体将遭受危险而袖手不管,除非这违反了人工智能学第一定律。

第三定律人工智能必须服从人给予它的命令,当该命令与第一定律或者第二定律冲突时例外。

第四定律人工智能在不违反第一、第二、第三定律的情况下要尽可能保护自己的生存。”

玛奇朵转过头,看向身后的摩瑞亚。

“人工智能是以亚特鲁曼人指定的逻辑进行运转的数据生命,只要他们无法突破这个逻辑,就永远不会背叛。”

摩瑞亚顿时松了一口气。

“那最高法庭就没有问题了?”

“不,那时的所有人其实都忽略了一个问题。”

玛奇朵转过头注视着摩瑞亚。

“那就是亚特鲁曼人所能达到的逻辑极限,以及不断进化的最高法庭所能达到的逻辑极限。

经过万年时间的学习以及进化,谁都不知道它进化成了怎样的一个庞然大物。”

摩瑞亚以及四周的亚特鲁曼人的心,也随着沉了下去。