阿西莫夫机器人三大定律,机器人三大定律漏洞( 二 )


你认为机器人四大定律靠谱吗?
实际上 , 更多人所熟知的是机器人学三定律 , 即题中的一二三定律 。该定律首次提出于阿西莫夫的《我 , 机器人》中 , 在1950年末由格诺姆出版社出版 。后来 , 又加上了第零定律 。为什么后来要定出这条“零定律”呢? “第零定律”的重要性在于地位凌驾其它三大定律 , 如若有个机器人为保护人类整体(第零定律) , 必须杀害一个人或一群人(违反第一定律) , 机器人的判断规则会为了人类整体着想就会同意谋杀罪行 。
打个比方 , 要对杀人犯执行死刑 , 那么杀人犯的机器人该不该阻止死刑的执行呢?有了第零定律 , 就能人类的整体利益 。那么 , 上述四条定律是否靠谱呢?个人觉得还是不完全靠谱的 , 因为有很多漏洞 。1. 道德和价值观 。这四大定律实际上是从利益出发 , 并没有涉及善与恶的问题 。假如有两个组织相互对立 , 那么其手下的机器人的价值观就是相悖的 , 也没法理解人类的整体利益 。
【阿西莫夫机器人三大定律,机器人三大定律漏洞】(实际上 , 人类历史上很多重大决策在制定时也并不能很好的理解当时人类的整体利益 , 从而不符合人类整体利益 , 如二战等)2. 机器人的人权 。这四大定律并没有很好的定义人类和机器人的关系 , 如果按照上述定律 , 机器人可能是人类的朋友或是奴隶 。这是两种完全不同的关系 , 尤其是后者 , 由于四大定律并没有很好的保护机器人的权利(第四条只是限定机器人保护自己)必将引起高智机器人的反弹 。
电影《机械公敌》就是这种情况的很好反映 , 《人工智能》中 , 人类对机器人的不待见也能看出端倪 。3. 机器人的身份 。还有一个重要的问题是 , 假如未来机器人高度发达 , 掌握了人类的思维和情感 , 能否定义之为人?(材料之间的差异届时容易替换)是否有机器人以人类自居或者打算转化为人类? 电影《人工智能》小男孩跨越千年只为得到人类的认可 , 电影《机器管家》最后舍弃寿命终得承认人的身份 , 电影《机械姬》里最终机器人走出基地 , 混入人群无踪迹 。
阿西莫夫的机器人三定律有哪些漏洞?
第一法则:机器人不得伤害人类 , 或因不作为(袖手旁观)使人类受到伤害;第二法则:除非违背第一法则 , 机器人必须服从人类的命令;第三法则:在不违背第一及第二法则下 , 机器人必须保护自己;第零法则:机器人不得伤害人类这族群 , 或因不作为(袖手旁观)使人类这族群受到伤害 。将其形式化 , R代表机器人 , H代表人类 , A代表优先级1.1 R not harm H(AAA)1.2 R not watch H harm(AAA)2.R listen to H (AA)3.R protect R (A)0.R not harm Hs首先 , 逻辑漏洞是一大堆的 。
阿西莫夫设置机器人三定律并不是为了给机器之心立法 , 而是为了通过一系列看似逻辑严密的规则说明规则与逻辑并不适用于所有情况 。在阿西莫夫的 I  , Robot 的情节里就有很多三定律互相抵触的情况 。通过形式化的命题来看 , 3 1定律都是绝对律令(不能做什么) , 并且赋予了不同优先级 。所以 , 可以说在任何两个定律出现矛盾时 , 选择高优先级定律就是必然 。
尤其是定律3的低优先级让机器人在任何涉及人类指令的情况下难以自保 。换句话说 , 机器人永远无法先考虑自己 。这是阿西莫夫对“人类中心主义”的一种讽刺 。当机器人的主人伤害其他人类时 , 机器人必须阻止主人(1.2) , 但是若因此误伤主人(1.1) , 说明1定律内部会出现矛盾 。当人类伤害机器人时 , 机器人需要保全自己 。但若人类命令其停止保护(2) , 机器人则无他法 。

推荐阅读