神刀安全网

专家警告机器人杀手或很快成为现实:将做出生死决断

专家警告机器人杀手或很快成为现实:将做出生死决断 科幻电影《终结者》的镜头:专家认为未来科幻领域中的全自动化武器“机器人杀手”或将很快成为现实。

专家警告机器人杀手或很快成为现实:将做出生死决断 一些国家正在利用无人驾驶设备执行战场任务,比如“死神”无人机。但是,攻击目标的选择如果没有人类的决策,那世界将会变成一个极其危险的世界。

新浪科技讯 北京时间6月21日消息,据国外媒体报道,随着人工智能技术的飞速发展,机器人的“智商”越来越高,功能越来越强大。在人类享受机器人所带来的各种便利的同时,机器人对人类的威胁也越来越大。专家认为,机器人的威胁性将远大于其便利性,未来科幻领域中的全自动化武器“机器人杀手”或将很快成为现实。2017年,人类必须要启动关于禁止“致命性自动武器系统”的磋商程序。

这些全自动化武器可能将彻底改变武装冲突和法律执行的过程。支持者认为,这些机器人杀手是必需的,因为现代战争需要速度,机器人可以让士兵和警察远离伤害。但是,更多的人认为,机器人所带来的威胁要远大于其在军事行动和执法过程中的好处,即弊大于利。攻击目标的选择如果没有人类的决策,那世界将会变成一个极其危险的世界,机器人将在无人控制的情况下做出生死决断,平民被误伤的风险和几率将大幅提升,而且没有任何人需要对此负责。

考虑到全自动化武器所带来的道德、法律、人身等方面的风险,人类必须要先发制人,阻止其发展、生产和使用,已刻不容缓。处理这种威胁的最佳方式就是制定一系列具有法律效力的国际性武器禁令,这里的武器主要是指没有人类意识控制的全自动化武器。至少已有20个国家在联合国会议上提出了这种倡议,即人类应该控制攻击目标的选择和交战与否的决定。四月份,人权观察组织和哈佛法学院国际人权研究中心发表一份最新报告,提出了许多关于禁令的建议。这两个组织一直在致力于禁止全自动化武器的研发与生产。

专家警告机器人杀手或很快成为现实:将做出生死决断 无生命的机器人,它们根本无法真正理解生命的价值与意义。这些福斯特-米勒“魔爪”机器人装备了多种武器。专家认为,如果这样的系统被制造成全自动化,它们有可能攻击错误的目标。

专家警告机器人杀手或很快成为现实:将做出生死决断 这款“死神”无人机携带有GBU-12铺路Ⅱ激光制导炸弹。

人类对武器保持控制也是一种道德的必要,因为人类有恻隐之心,在伤害其他个体时他们会有情感上的压力。对人类尊严的尊重,可以也是应该作为对杀戮的抑制。相反,机器人没有真正的情感,它们根本没有方向和限度。此外,无生命的机器人,它们根本无法真正理解生命的价值与意义。

人为控制也可以推动人类对国际法的遵守,因为国际法也是为了保护平民和士兵。人类可以根据以往的经验和道德考量做出自己的判断,可以根据不同的实际情况做出不同的决定。然而,全自动化武器则几乎不可能有此判断力,它们所执行的程序也不可能考虑到所有的情节。因此,这些武器不可能成为一名“理性的指挥官”,拥有传统的处置复杂、不可预见局面的能力。此外,失去人类控制将可能威胁目标的一种权利,即不能任意剥夺别人的生命权。在任何的执法环节和军事行动中,保证这一基本权利也是一种责任。在评估攻击的必要性时,必须要做出此判断,而做出合理的判断,人类的能力要强于机器人。

现在,要想找到可以负法律责任的全自动化武器研发者和生产商仍然存在不少障碍。在美国,政府为大多数武器生产商制订了豁免政策。当然,美国检测武器产品质量的标准也非常高,这样也可以促使武器生产商更具法律责任感。在4月份在日内瓦召开的一次联合国会议上,94个国家倡议启动关于“致命性自动武器系统”的磋商。这些国家将共同商讨常规武器公约是否能够限制“致命性自动武器系统”的生产。12月,加入这一公约的国家将召开会议,制定未来工作的日程表。最为关键的是,各成员国应该商定于2017年正式启动关于“致命性自动武器系统”的磋商程序。

专家警告机器人杀手或很快成为现实:将做出生死决断 在不久的将来,《钢铁侠2》中的军用机器人或将走进现实。

裁军首先需要人类对武器的控制。比如,国际社会已经制定了得到广泛认可的公约,用来禁止生物武器、化学武器和地雷等。因此,各国现在也应该禁止“致命性自动武器系统”。专家建议,在12月的会议上,各个已加入常规武器公约的国家也应该齐心一致向这一目标努力。他们首先要通过谈判达成一个新的国际性协定来定义“致命性自动武器”。其次,在2017年,各国还需要花费足够的时间进行深入研究。考虑到国际法律的制定过程漫长,各国可以先快速地定义“致命性自动武器”的威胁。专家最后还建议,各国应该抓住这次会议的最佳机遇,因为别无选择,不能因为科技超越外交而给人类带来可怕的后果。(彬彬)

转载本站任何文章请注明:转载至神刀安全网,谢谢神刀安全网 » 专家警告机器人杀手或很快成为现实:将做出生死决断

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址