阿西莫夫机器人三大定律已不适用

admin

据国外媒体报道，AI研究员最新研究指出，艾萨克-阿西莫夫的机器人三大定律已不适用，将有待更新。

机器人三大定律是：

第一、机器人不得伤害人类，或看到人类受到伤害而袖手旁观；

第二、在不违反第一定律的前提下，机器人必须绝对服从人类给与的任何命令；

第三、在不违反第一定律和第二定律的前提下，机器人必须尽力保护自己。

大卫·伍兹，一位俄亥俄州立大学的系统工程师，提倡更新这三大定律以认清机器人现在的缺陷。«宇宙»杂志(Space magazine)引用了他的观点。

伍兹认为，问题不在于机器人，而在于制造它们的人类。他说，真正的危险在于人类迫使机器人的行为超出了它们的判断决策力。

伍兹和他的同事，德州A&M大学的机器人专家罗宾·墨菲，提出修正机器人三大定律来强调人类对机器人的责任。

他们认为在三大定律中应该明确的是，在人-机关系中的“人”应该是智慧的、有责任感的。

他们提出的新三大定律是：

第一，人类给予机器人的工作系统应该符合最合法和职业化的安全与道德标准；

第二，机器人必须对人类命令做出反应，但只能对特定人类的某种命令做出反应；

第三，在不违反第一定律和第二定律的前提下，当人类和机器人判断决策力之间的控制能顺利转换时，机器人对其自身的保护应有一定的自主性。

虽然这可能会导致“天网”（译者注：参见电影«终结者»）的出现，但也意味着，一辆机器人控制的汽车不会开向险崖，也不会出现突然的猛烈转弯。

伍兹说，许多有关于机器人更危险的预测是于机器人软件开发者们的想法造成的，这些人不了解制作软件的危险，

而当他们的机器人变得像«银河系漫游指南»中的一样（译者注：应该是指小说中的机器人马文，患有忧郁症），他们也不愿意承担这个责任。

正如小说中所描绘的：“它或者瘫痪，或者吵吵闹闹，或者一动起来就磨擦不停—你可高兴不起来—因为它吃了你的帽子，

或者和你的猫咪做爱，或者把油洒在地板上，或者掀翻你的门。当它这么做时，你再也忍受不了了。”