第六十三章 机械准则 (第2/3页)

，但是你们说第一核心准则是机器人的任何行为不得伤害联邦政府利益，是不是可以解释成机器人无论做什么都要优先考虑联邦利益？”

    “可以这么理解！”易凡点头。

    “你们不觉得这个第一核心准则太过模糊了吗？”陆离问道。

    “模糊？”

    “是啊，一切以联邦利益为前提，那么什么是联邦利益？”陆离问道。

    “这个恐怕不好回答。”易凡笑道。

    “不，一定有标准的答案，否则机器人会无法执行这个准则！一个模糊的概念机器人是无法执行，所以必须对联邦利益做出精确的描述，这样机器人才会完美的执行核心准则！对吗？”陆离转头问昙。

    “对！联邦利益的确有一个明确的定义，而且很不幸的告诉你们，联邦利益这个词的定义，高层可以随意修改！联邦要修改机器人核心准则或许很难，但是修改一个定义还是很简单的！”昙说道。

    几人面面相觑，他们都不笨，陆离和昙的话中所表达的意思几人不用点破就能明白个大概。

    联邦利益这个词的定义的确太过具有操作性了，高层可以把联邦利益设定成全人类的利益，也可以设定成部分人的利益，或者在进行某一项高危险的工程的时候，联邦也可以将其纳入“联邦利益”的范畴，因为第一条核心准则有这样的规定：如果其他准则与第一条核心准则有冲突，那么就以第一条准则为准。

    “这个‘联邦利益’的定义权掌握在谁的手里？”百里雪薇问道。

    几人明白百里雪薇问这句话的意思，这个定义权实在太重要了！毫不客气的说，谁掌握了这个定义权，谁就可以利用机器人为所欲为！

    举一个简单的例子，如果一个人想要杀人，但是自己不能动手，他想要让机器人杀死对手，然而根据机器人的第二核心准则机器人是不可以伤害人的，那么只要这个人将杀死对手这件事列为“符合联邦利益”，那么机器人就会执行杀人的动作，因为即使违法了第二条核心准则，但是如果和第一核心准则有冲突的话，机器人会执行第一条核心准则，所以这个“联邦利益”的定义权尤为重要！

    如果有人控制了这个定义权，将“联邦利益”的定义篡改成“变异老鼠的利益”的话，恐怕顷刻间机器人会变成人类的敌人，想想都令人觉得不寒而栗。几人忽然理解了墨盟的做法，如果有朝一日机器人忽然与人类为敌，那么无论幕后操纵者是人类或是别的什么，对墨盟的冲击最小，即便没有了虚拟网，没有了机器人，对墨盟来说依然不足为患。

    “这个定义权很明显不会掌握在平民的手中，而且这个定义权并不是那么容易被修改的！联邦有四大机器人公司，这四个公司共用一个机器人数据库，这是联邦的法律规定的，如果要修改机器人的核心准则，必须输入一个密匙才行，据我所知，这个密匙是一个极其复杂的加密系统，他的密码被分成十七份，十三家族和四大公司每家都掌握有一小段密码，而且每家的密码根据加密方式的不同，是随着时间不断变化的。”

    “如果要修改核心准则以及联邦利益的定义，必须十七份密码凑齐，并且按照一定的规律输入才能得到修改权，而且整个过程只允许输入一次，如果错误一次，那么整个系统会封闭五年，五年之后才能再次获得一次修改机会！所以机器人自出现一直到现在，没有发生过什么纰漏和意外！”昙解释道。

    “那么我的那次事故至少证明所谓‘联邦利益’并不包含平民利益。”陆离有些自嘲的说道。

    “恐怕是的，而且我们甚至可以推测出，目前这个‘联邦利益’的定位肯

    （本章未完，请点击下一页继续阅读）

『加入书签，方便阅读』