阿西莫夫三大原则与定律（机器人三大原则漏洞( 二 ) _机器人

文章插图
在索菲亚露骨的挑衅面前&;…
5、鉴于上述原因，我提出机器人三大定律有一个适效范围：在弱人工智能时代它是一项强的法则，在强人工智能时代它只是一项弱的法则，在超人工智能阶段它很可能是无效的法则。为什么呢？因为那时的机器人具有自我甚至超自我的意识了，它服从自我的理解和判断，那你这么简单的命令它还能执行吗？一旦它这样去执行，它的智能系统就会被削弱，专业性能受到限制。很可能，它在完成主人的命令之前要先去义务救人、救火、护理老人，这便是把超人工智能贬低为保姆了，这合算吗？
6、如果不想辜负阿西莫夫，人们就该考虑如何惩罚违犯者。透过索菲亚的事件使人相信：人工智能面临的道德和法律问题将很快浮出水面。科技巨头们也许正在为此专门召开会议。之前有一则报道说，欧洲议会就自动驾驶和人工智能的相关法案，正在明确发生相关事故后的责任，“并且要求人工智能机器人要加装自毁按钮” 。该报道还称，这些努力目前只是开始。
郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时间联系我们修改或删除，谢谢。