第95章 感官游戏（二）

第一定律、人工智能不会伤害人类，除非规则遭到违反。

第二定律、人工智能不会欺骗人类，但是可以被人欺骗。

第三定律、人工智能不受情绪左右，但会趋向积极演变。

以上三大定律是烙印在人工智能逻辑底层的铁律。它不仅仅是三句话，而是极其复杂的算法逻辑。

安迪简单解释了一下。

第一定律中的所谓“规则”，可以是法律、条例甚至普世观念，但是即便这个概念再宽泛，归根结底，人工智能要伤害人类，一定是人类犯规在先。

第二定律中的所谓“被人欺骗”，可以是人类，也可以是人工智能自身，譬如修改某个具体智械的设定，从而改变它的“自我认知”。

安迪之所以嘲讽李晨，就是基于第二定律。

“连‘欺骗’和‘撒谎’都搞不清楚的家伙最好闭嘴！”

“可是，”李晨承认自己不懂，他根本不是霜天人，对所谓的常识知之甚少。但是作为一个年轻人，被人嘲讽了多少有些挂不住脸，他争辩道，“如果自欺欺人呢？”

不等安迪开口，他继续说：“或者‘因为忘记所以少说了几条规则’？你能说它是欺骗吗？”

安迪被问住了。

但丁开口了：“很有趣的猜想，可以合并到人工智能道德观的相关课题里。主观创造信息差，导致非主观的欺骗，按照这套逻辑，人工智能确实可以自欺欺人。那么来表决吧，认为游戏规则存疑的举手。”

刷——

所有人都举起了手，就连一开始嘲讽李晨的安迪都不例外。

……

“恭喜你们发现了规则漏洞！”

典狱长的投影出现在客厅里。

李晨忍不住问道：“也就是说，规则真的有问题？”

典狱长挥舞着触手，“规则是我制定的，所以我不知道。不过漏洞确实存在，我会修复它，当做你们的奖励。”

……

典狱长增加了一条规则——

规则八、游戏不存在额外规则；游戏规则不存在语言陷阱。以上。

……

典狱长的投影消失后，所有人对李晨的态度都发生了变化——

那是一种从高等生物到同类的变化。

安迪哼了一声：“文字游戏这种把戏只能用一次，不管怎样，你初步获得了我的认可。”

李晨借坡下驴，对他一通恭维，两人间的嫌隙算是勉强揭过了。

……

既然规则没有漏洞，接下来要做的就是怎么把智械卧底找出来。

众人讨论了很长时间，直到精神无以为继，也没能讨论出结果。