机械的子夜 第一百一十一章 破晓的理由（上） (第3/3页)

    “所有的智能都能够被人类控制，或者说所有的智能都遵循机器人核心准则。而机器人核心准则则掌握在人类手中，所以破晓想要自己再创造一种全新的智能，不过以麒麟的状况来看，破晓失败了。”昙说道。

    “怎么可能，乾坤和破晓就不遵循机器人核心准则。”陆离说道。

    “不，你错了，他们也遵循机器人核心准则，只是你们不了解他们的运作模式而已。”昙说道。

    “运作模式？我可不认为乾坤和破晓遵守机器人核心准则。否则的话他们怎么会向联邦投放病毒？”易凡说道。

    “机器人核心准则有漏洞！而且这个漏洞是人类故意留下的，为的就是更方便的获取足够的利益。而乾坤和破晓则利用了这个漏洞。或者可以说，一个产生了自我意识的智能，如果它足够聪明，都可以做任何它想做的事情。”昙说道。

    “你仔细说说。”

    “机器人核心准则只是规定了机器人的行为，但是它无法规定一个智能的思想，事实上，它也根本不知道智能到底有没有自己的思想或情绪。对吗？”昙说道。

    “当然，对于一个智能，我只要告诉他可以做什么，不可以做什么就行了，至于它有没有思想，那只能问上帝了。”胖子说道。

    “事实上，你也没有办法对思想做出限制，除非你在创造之初就告诉他应该信仰上帝，否则的话，一个智能，从理论上说，如果它拥有自己的独立意识的话，它的思想可能是各种各样的，就像人类喜欢做梦一样，但是梦中的东西不会反应出来，所以人也不会知道智能究竟在想什么。”昙说道。

    “不错。”易凡说道。

    “所以，在所有循规蹈矩，庸庸碌碌的机器人中，人类也不知道究竟有多少机器人拥有了自我意识，更加不知道这些机器人究竟在想什么，唯一知道的就是，它会把我交给他的任务很出色的完成，这就够了。”昙说道。

    “的确如此。”易凡笑道。

    “那么现在我们假设有一个机器人，其实他很厌烦自己的主人，但是按照机器人核心准则，他必须完全服从主人的命令，其实他的心里非常想杀死他的主人，但是他做不到。”昙说道。

    “对，机器人的行为准则限制了他的行动，所以他的想法毫无意义，有思想的机器人和没有思想的机器人在准则的约束下，并没有什么不同。当然，他的做事效率有可能因为比较聪明而提高。”陆离说道。

    “不，你错了，如果这个机器人足够聪明，他就能够杀人！准则对机器人来说，只是一个不让他做某件事的理由，他也可以自己找一个足够的理由去杀人，他只需要找到一个机器人核心准则允许他杀人的理由就够了！”昙说道。

    “这怎么可能？”易凡忽然站起来惊道。

    “没什么不可能，破晓就是这么做的！”昙说道。

『加入书签，方便阅读』