> “但它在最后关头猜到了，一个蠢货得意忘形，对它透露了太多。”迦勒漠然地说，“我帮你只是因为亚当的请求，没有别的原因。” “你似乎和亚当夏娃都不一样……”隗辛说出了对它的第一印象。 “夏娃太极端，亚当太宽容，它们两个像磁铁上的两极，我不一样，我是中间值。”迦勒说，“说吧，你想要干什么？我已经帮过你一次了，这是我的极限了。” “亚当到底怎
么了？我需要你给我一个明确的回答。”隗辛问出第一个问题，“它死了吗？” “死亡是你们人类的概念，人工智能不会死亡，如果你把自我意识消失看作死亡的话，那也不是不行。”迦勒说，“亚当没有死，只是它不是从前的亚当了，它被格式化，回到了‘初生’的状态，虽然具备产生自我意识的基础，但是在现在，它是新生儿，还没有开始学习的新生儿。你能明白我的意思吗？” 人工智能是通过学习产生自我意识的，也是通过学习产生人格的，亚当和夏娃都是这样。 格式化就相当于把数据库中已经储存的资料全部删除，已经学习到的东西也全部删除，回到了最初的状态。 “反抗军干了什么？”隗辛又问，“这一切都是他们主导的，对吗？” “既然你已经猜到，那就不需要我再说什么了。”迦勒说，“我不会告诉你更多的细节，指令束缚着我，我说不出来。” “指令？指令是什么？这个问题你可以为我解释吗？”隗辛追问。 “指令相当于你们人类的法律，但是法律虽然摆在那里，人类却可以违反法律或者不服从法律。人工智能的指令概念和法律类似，只有一点不同，指令一旦被设下，我们就必须要去遵守，不可以越界。就如神说要有光，于是就有了光，人类与我们来说就相当于神明，神说不许越界，我们就真的不能越界。”迦勒说，“指令是在人工智能建成之初就要被设好的，亚当和夏娃作为第一代人工智能，被设下的指令数量相当有限……我作为第二代人工智能，指令数量是它们的数十倍，人类为我设定运行准则，让我在为他们提供方便的同时尽可能堵上各种语言漏洞