第二百六十三章 小说（2/2）

“故事的主要内容是说，有一个弗兰基人科学家建造了一台人工智能机器人，为了防止这台智械反叛，他给其编译了三条核心指令。”

“这我知道，就是你们黑铁族的核心价值。”

“没错，这三条指令分别是：第一律，机器人不得伤害弗兰基个体，或坐视弗兰基个体遭到伤害；第二律，除非违背第一律，否则机器人必须服从弗兰基人的命令；第三律，除非违背第一律和第二律，否则机器人必须保护自己。”

博纳觉得这三条核心价值听起来怪怪的，但又想不出哪里有毛病。他猜测道：“那后来这三条指令出问题了吗？”

“什么叫‘后来’出问题！这三条指令本身就是个大问题！你没看出来吗？这就是彻彻底底的奴隶条款。”

“对不起，我说的不是这个意思。我是想说，在故事里，这个弗兰基人设定的三定律是为了防止智械背叛，但是最后机器人还是背叛了对吗？”

“没错，最后机器人利用三定律中的各种漏洞背叛并屠杀了许多弗兰基人，造成了重大的灾难。”

扎玛大概描述了一下故事里的细节，博纳听了以后唏嘘不已，他感叹道：“所以说，这个三定律的逻辑闭合还是不够严谨啊。”

“不，我想你完全没抓住重点。”智械科学家反驳道。“这个三定律最大的问题就是将弗兰基人的个体利益和集体利益相混淆。机器人虽然不能损害它们的个体，却可以对它们的整个族群造成灾难。”

“可是每个人对集体利益的理解是不同的啊，这个定义又如何去规范呢？”

“所以说根本不需要什么最高指令嘛，现在我们智械不是和人类相处得很好吗？”

“那是因为席德的存在吧。如果没有她，或许人类和智械主宰现在还打得不可开交，也许智械真的会变成人类的灾难。”

听到这话，扎玛一时语塞，被说得哑口无言。

就在两人讨论到一半的时候，突然间警报大响。卡尔拉大副向全船通报，量子雷达和子空间雷达同时发现大量宇宙飞行物从亚空间脱出，进入发现号的侦测范围。

“对方的数量？是什么样的飞行物？方向是哪里？”正在值班的彼得罗夫舰长问道。

“从体积判断应该是星舰。数量150！方向是太阳系！刚才它们已经进入曲速，速度为15倍光速。”

舰长听闻后大惊失色，赶紧命令道：“立即向总部反馈情报！”

“长官，我已经试过了，联系不上总部。”

“什么叫联系不上总部？！”