欧盟立法管制机器人:机器人要配“死亡开关”

据英国广播公司报道，当地时间12日，欧洲议会法律事务委员会召开会议，呼吁制定“人类与人工智能机器人互动的全面规则”，这或将是首个涉及管制机器人的立法草案。

报告要求欧盟为民用机器人制订法律框架，探讨是否需要为机器人安装“死亡开关”、研究机器人抢走人类工作的应对措施等等。专家认为，此次立法将有利于人类应对机器人革命带来的社会震荡。据英国广播公司报道，当地时间12日，欧洲议会法律事务委员会召开会议，呼吁制定“人类与人工智能机器人互动的全面规则”，这或将是首个涉及管制机器人的立法草案。

当地时间周四，欧洲议会的法律事务委员会举行会议，讨论欧洲首份管制机器人的建议立法草案，旨在为民用机器人的使用制订法律框架。报告对机器人可能引发的安全风险、道德问题、对人类造成的伤害等情况作讨论。

报告讨论的一个问题是，是否应给予机器人“电子人”的法律地位。英国律师罗纳·布拉扎尔认为这个问题具有前瞻性，但对此提出质疑。“蓝鲸和大猩猩没有人格，但它们应得到的尊重不比机器人少，所以我不明白为什么我们应该给予机器人法律地位。”他说。

确保安装“死亡开关”

报告还指出，设计人员应确保机器人安装了“死亡开关”，保证机器人可以随时被关闭。同时，机器人不能对使用者造成“身体或心理伤害”。

报告建议，设计师研究机器人时也应该尊重人类的基本人权；在设计新型机器人时，需事先获得道德研究委员会的批准；设计者还应该为机器人注册，方便他们在调查事故时找出涉事的机器人。

机器人影响人类就业

欧洲议会认为，机器人和人工智能正准备“发动一场新的工业革命，这可能影响到所有的社会阶层。一方面，机器人可能创造“无限的繁荣”；但另一方面，人类未来的就业情况可能受影响。

在许多行业，机器人取代人类是大势所趋。以德国为例，国际机器人联会指出，德国每一万个雇员中就有301个是工业机器人。报告要求欧盟委员会着手调查各国民众的就业情况，关注易被机器人代替的职位。一旦机器人成为“职位杀手”，欧盟各成员国应考虑为国民提供基本的生活保障。

德国法律教授埃里克·希尔根多夫认为，即使是银行顾问、教师和记者等要求严格的职业，未来也无法在这场科技洪流中幸免。“这不仅在政治上是可取的，从法律角度也是必要，”希尔根多夫说，对欧洲议会讨论此议题表示认同。“这样我们才能及时应对机器人革命带来的社会震荡。”

提出机器人学“三大法则”

人类与机器人的关系将掀起一场对于私隐、尊严及安全的讨论。报告认为，人工智能在几十年内可能超越人类的智力，这将对人类控制机器人构成挑战。一旦机器人自我意识崛起，机器人甚至可能威胁人类的生存。

报告参照美国科幻小说作家阿西莫夫提出的“机器人学三大法则”作为立法框架，规定了机器人自我意识觉醒后的行为规范。“机器人学三大法则”指的是：1.机器人不得伤害人，也不得见人受到伤害而袖手旁观；2.机器人应服从人的一切命令，但不得违反第一定律；3.机器人应保护自身的安全，但不得违反第一、第二定律。

由于规则无法转化为代码，该法律将针对机器人的设计者、生产者和操作者。欧洲议会正在考虑建立一个针对机器人和人工智能的机构，提供技术、伦理和监管方面的专门知识。

报告提出，一旦发生事故，机器人应当承担责任。机器人应负的责任应该对应它接收的实际指令及其自主程度。也就是说，机器人的学习能力和自主性越高，人的责任就较低；机器人“受教育”的时间越长，教导它的“老师”负的责任越大。报告还提出，机器人的生产商或拥有者将来或需要购买保险，来承担机器人可能造成的损失。

近来，机器人“杀人”的争议事件不少。2016年6月，美国一家汽车零件生产商的一名女员工在修理故障机器人时，被突然启动的机器人压死。2015年6月，德国大众汽车一名工人在安装机器人时，被抓起推向金属板压死。

如果欧洲议会投票赞成立法，那么它在成为欧盟法律之前要经过各成员国政府进一步的辩论和修正

谢谢分享！

喋喋不休