林雾道：“所以你们需要模拟在不使用任何电子设备的情况下，达到消灭曙光的目的。”
玛雅：“没错。”
林雾问：“没考虑投降吗？”
玛雅愣了半晌，看着林雾认真问：“你为什么会有这样的想法？”
林雾道：“曙光堕落，护卫军消灭了曙光，随后人民会消灭护卫军。你们不是死得很惨？”
玛雅问：“你对曙光持完全信任态度？”
林雾道：“不，曙光一直教导我们对所有事物持质疑态度。如果我不相信曙光，我就不会持质疑态度。如果我相信曙光，我就会质疑你们护卫军消灭曙光的目的。再说，如果曙光想堕落，别说你们护卫军，全蓝星人类搭上都不够。”
玛雅并没有回答这问题，她不能就此事想林雾进行过多的解释。创造曙光时，人类已经考虑到曙光不受制衡的后果。设计师们更相信规则制约，而不是相信道德约束，也不相信ai始终会按照规则运行。
表面看曙光训练护卫军，护卫军保护曙光。实则曙光要求护卫军优先执行制约曙光的程序而不是曙光命令。如果曙光没有提出这个要求，护卫军必须毁灭曙光，这条规则又是由曙光向护卫军传达的优先规则。
-->>(第8/12页)（本章未完，请点击下一页继续阅读）