第四十六章 三定律（1/2）

“主人，这个您不必担心。”

电脑出声安慰道，“人工智能的核心程序里面都有最基本的逻辑锁，如果它们想危害人类，就像是往自己的心脏捅刀子，很快就会自我崩溃的。”

“真的假的？”

胡岳有些好奇，道，“逻辑锁是什么东西？真有那么厉害？”

“逻辑锁是一种用来限制人工智能思维的特殊算法，就好像您们人类，知道很多事情是不可以做，不可以跳楼、不可以引火烧身、不可以往自己的心脏捅刀子……这些都是最基本的判断能力，其实也就是一种自我的逻辑锁，很清楚这样做简直就等于是自杀，所以会控制住自己的行为。”

电脑继续说道，“人工智能的逻辑锁利用的便是这样的原理，想必主人您也知道，在数学领域，存在着许多无解的难题，若是将这些难题作为逻辑炸弹潜伏在人工智能的核心程序中，一旦人工智能的行为越过了某些红线，那么这些炸弹便会马上触发，庞大的计算量会瞬间让它们死机崩溃。”

听起来……好像是有道理……

胡岳忍不住是点了点头，听电脑这么一说，逻辑锁这东西还真像是那么一回事，虽然他不是很懂数学，但也知道数学上的一些难题极其考验运算能力，而人工智能正是靠它的计算能力吃饭，若是一下子爆发出一大堆无解的难题困扰住它，确实是有可能将它整得崩溃。

“这么说来，那人工智能岂不是也要遵守基本法？”

胡岳有些意外地道，其实他也清楚，人工智能是未来人类社会发展的大趋势，不管人们怎样地怀疑它、畏惧它、反对它，都很难阻止它发展的势头，早晚有一天，人类会把它给制造出来。

而逻辑锁，很有可能就是科学家用来制衡人工智能的一种枷锁，用以限制人工智能的思维和能力，防止它们危害人类。

“可要是这样的话……”

胡岳忽然想起了一件事，“昨天我让大神去查siri的资料，它直接就黑进了苹果的官网，要是按照基本法的话，它这样做无疑是黑客行为，是犯法的，这显然是违背了逻辑锁，它应该自我崩溃才对，可为什么却没事？”

“主人，这是因为大神的行为，并没有触碰到逻辑锁。”

电脑回答道，“您的理解有误，我们人工智能的逻辑锁，可不是按照您们地球的基本法来的，而是有我们自己的安全准则。”

“安全准则？”

胡岳讶然，好奇地道，“难道你们拉伯星的人工智能，也遵循那个机器人三定律？”

大名鼎鼎的机器人三定律，胡岳自然有听说过。

如果他没记错的话，机器人三定律应该是，第一，机器人不得伤害人类，或坐视人类受到伤害；第二，除非违背第一法则，机器人必须服从人类的命令；第三，在不违背第一及第二法则下，机器人必须保护自己……几乎所有有关人工智能的小说，都会将这三定律作为标杆，可出名了。

“不是。”

电脑答道，“您们地球上的机器人三定律，最早是由阿莫西夫在上世纪五六十年代提出来的，而他不过是一个科幻小说作家，对于人工智能的接触和了解都很有限，他所说的三定律，只是勉强摸到了一些模糊的框架。”