快捷搜索:

杀人机器人军备竞赛或导致对平民屠杀参考消息

2020-04-05 作者:澳门4166登录   |   浏览(107)

他说,飞行、游泳或行走的无人装置可装备导弹、炸弹和枪等致命武器系统,可以给它们编程实现完全或部分自主操作,这项快速发展的技术“最终将扩散到许多国家”。

原标题:外媒担忧“杀人机器人”走向自主化 吁出台禁令限制研发 来源:参考军事参考消息网12月17日报道 美媒称,能够在没有人类直接参与的情况下杀人的武器,即所谓的“致命性自主武器”很快就会出现。据美国《福布斯》双周刊网站12月15日报道,2019年9月14日,少量无人机袭击了沙特阿拉伯的胡赖斯油田和布盖格炼油厂。除了中断全球5%的原油生产外,这次袭击还凸显了使用这些遥控武器所带来的一些挑战。报道称,首先是难以问责。在事件发生近3个月后,仍不清楚是谁制造了这起袭击事件。就像网络战中的黑客一样,攻击者几乎没有留下任何踪迹。另一个问题是,这种武器体积小、成本相对较低,因而可能会对小股武装分子或恐怖分子以及一些国家具有吸引力。报道称,这已经够吓人了。但鉴于军火工业目前的发展方向,这些担忧还无法与未来可能产生的担忧相提并论。正如荷兰非政府组织“和平”反战组织在几周前发表的一份报告中指出的那样,世界正处于一条危险的路径上,那些能够在没有人类直接参与的情况下杀人的武器,即所谓的“致命性自主武器”很快就会出现。这类武器更常见的名字叫“杀人机器人”。报道称,这个绰号在某种程度上具有误导性,令人想起科幻电影中的“终结者”之类的幻想事物。事实上,这些工具类似于更传统的致命装置:无人战机、坦克、潜艇;发生改变的不是武器的形态,而是其自主程度。目前,完全自主的进攻武器还没有部署到实战中,但机器正变得越来越先进,对人类控制的依赖程度不断降低。资料图片:科幻电影《终结者》中的T-800猎杀机器人。(美国《福布斯》双周刊网站)资料图片:防展上公开的土耳其“卡尔古”攻击型四轴无人机。(土耳其国防部网站)其中一个例子是由土耳其国有企业STM公司开发的“卡尔古”自主攻击型四轴无人机。报道称,它将于2020年部署在土耳其东部与叙利亚相邻的边境地区。据土耳其《自由报》的一篇文章说,每个“卡尔古”机群将由30架无人机组成,它们都配有人工智能和面部识别系统。依靠目标的坐标或图像,这些“卡尔古”无人机将能够自主完成所有任务。幸运的是,在无人机发动攻击的所有阶段,人类操作员仍然可以选择“中止任务”和“返回基地”。报道称,俄罗斯的T-14“阿玛塔”主战坦克配备了无人炮塔和计算机化系统,因此经常被作为另一个很快就能实现完全自主的装备案例——尽管有些人怀疑这是否真的会使其在战场上更加有效。也许并非偶然的是,俄罗斯、以色列和美国等国家强烈反对预先禁止研发“杀人机器人”。联合国11月在日内瓦的一场会议上讨论了预先禁止此类武器的问题。正如《纽约时报》在最近的一篇特别报道中所指出的,预先禁止激光致盲武器的措施取得成功,因此从理论上讲,这种禁令有可能同样适用于“杀人机器人”。公众的普遍意识和对禁令的强烈支持可能会使情况发生改变,而这正是目前所缺失的。【延伸阅读】解禁“杀人机器人”?美军AI发展战略涉伦理争议参考消息网2月15日报道 据英国《每日邮报》网站2月14日报道称,美国军方希望扩大人工智能(AI)在战争中的应用,但表示会注意按照国家价值观部署该技术。报道称,在一份17页的报告中,五角大楼阐述了如何向未来的军事行动注入人工智能,以及如何跟上俄罗斯和中国在未来技术方面的进展。这份名为《利用人工智能促进我们的安全与繁荣》的报告标志着,五角大楼首次就如何应对人工智能的兴起制定了战略。该战略规划要求加快在全军使用人工智能系统,执行从情报搜集行动到预测战机或舰船维护问题等一系列任务。它敦促美国在被其他国家削弱其技术优势之前,迅速推进此类技术。报告称:“其他国家,尤其是中国和俄罗斯,也在为军事目的对人工智能进行大量投资,其中包括那些在国际准则和人权方面受到外界质疑的应用。”报告几乎没有提及自动化武器,但引用了2012年的一项要求人工掌控的军事指令。包括美国在内的少数几个国家,一直在联合国阻挠国际社会对“杀人机器人”设下禁令。有朝一日,这种完全自主的武器系统可能在没有人类干预的情况下发动战争。美国认为,试图对“杀人机器人”进行监管还为时过早。报道认为,五角大楼本周公布的这项战略报告的重点是更即时的应用,但即便是其中的一些应用也引发了伦理辩论。去年谷歌的内部抗议导致这家科技公司退出Maven项目后,五角大楼在人工智能领域遇到了障碍。Maven项目是利用演算法分析冲突地区的航拍图像。其他公司试图填补这一真空,五角大楼正与业界和学术界的人工智能专家合作,为其人工智能应用制定伦理准则。美国雷神公司人工智能部门副总裁托德·普罗伯特说:“我们所看到的一切都是由人类决策者来决定的。”普罗伯特说:“该项目正在利用技术帮助加快这一进程,但并没有取代现有的指挥结构。”(2019-02-15 10:29:27)【延伸阅读】专家警告:杀人机器人军备竞赛或导致对平民屠杀参考消息网11月21日报道 英国《明星日报》网站11月17日发表了题为《杀人机器人军备竞赛》的报道。一名人工智能专家透露,美国、英国、俄罗斯、以色列等国正卷入一场打造杀人机器人军团的竞赛。从自主射击枪械和无人机到遥控超级坦克,美国和俄罗斯的原型机器人已经打造成功并整装待发。而人形机器人上战场也不过是几十年内就会出现的事情——并为这个世界勾勒出可怕的前景。英国设菲尔德大学的人工智能与机器人学荣誉教授诺埃尔·沙尔基对本网站记者说:“一场军备竞赛已经拉开序幕。”沙尔基说:“我们现在看到,美国、以色列和俄罗斯(的杀人机器人军备竞赛)已经开始了。如果这些东西登场,那么它们随时可能意外触发战争。”他还说:“怎样才能取缔它们?你完全可以把这些东西永远搁置起来,可它们只需再充一次电就能再次启动。”如今,人工智能机器人正在全球掀起一股热潮。沙尔基教授担心,杀人机器人的研发可能也有着如此惊人的速度。因此,他正在领导一场禁止杀人机器人的全球运动。在本网站披露了相关的最新进展——美国机器人做后空翻——后,这名专家警告说,俄罗斯的最新项目“绝对令人害怕”。沙尔基表示:“还有很可怕的东西……俄罗斯人研发出了这个被称为‘超级坦克’的东西,而它是世界上最先进的坦克,领先很多。它绝对是一个拥有巨大破坏力的庞然大物,而且他们可以远程遥控它。他们还在努力以最快速度把它变成一种全自动的机器人。”虽然自主武装机器人比人形机器人领先很多年,但沙尔基教授担心,可能出现的人形机器人也许会给世界带来灾难——导致对平民的大屠杀。在警告杀人机器人的可怕后果时,沙尔基教授说:“这不可能符合战争法,它们能区分某个目标是军事目标还是民用目标吗?这是战争法的关键。”他说:“杀死试图投降的人也是不允许的。我知道很多人以为投降就是举白旗,其实投降是指任何表明不再战斗的姿态,比如手无寸铁地躺在地上……但机器人无法对此加以区分。我个人最大的担心是,这会对全球安全造成怎样的破坏——因为一场此类武器的军备竞赛已经拉开序幕。”资料图片:能做后空翻的美国机器人。(英国《明星日报》网站)(2017-11-21 10:14:24)【延伸阅读】德媒称联合国欲约束“杀人机器人”发展 至今无果参考消息网11月16日报道 据德国《每日镜报》网站11月13日报道称,在不久的将来,完全自主行动的杀人机器人将在战场上决定人们的生死。关于禁止或者至少是限制此类武器系统使用的讨论近年来一直没有停止,但至今仍毫无结果。联合国近期开始在日内瓦就此进行讨论。什么是杀人机器人?它的正式名称为“致命自主武器系统”。目前还没有普遍有效的定义。联合国和国际红十字会是这样解释的:它无需人类的帮助就可以确定目标、发动攻击并清除目标。换句话说,一旦编好程序,这些武器系统可以独立分析数据,导航至作战地区并使用机关炮或火箭等武器。近年来人工智能领域的巨大进步构成了杀人机器人发展的基础。已经在使用的无人机目前还是由士兵操控的,因此它(还)不是杀人机器人。尽管距离它独立操作似乎并不遥远。发展到何种程度了?负责军备的俄罗斯副总理罗戈津今年春天发布过一段视频,里面可以看到《终结者》似的类人杀人机器人。这更多地属于宣传范畴。外观是否与人类相像一点都不重要。人权观察组织的专家认为,“美国、英国、中国、以色列、俄罗斯和韩国开发的武器系统自主性都在增大”。目前已经有原型机在使用当中。支持者辩称,它将令军人的危险最小化。但恰恰这点可能会导致门槛的降低并令战争增多——从而导致更多的平民伤亡。人们已经可以在远程操控的无人机的使用中看到这样的发展。图为美国装备的军用无人机后果责任谁来承担?这是与杀人机器人密不可分的一个根本性的伦理问题。合乎伦理和道义的行动,善与恶、对与错的区分,对后果的评估,对自身行为责任的承担,所有这些在未来战争中都不存在。机器人虽然有人工智能,但却没有怜悯或悔恨等情感,它没有任何的愧疚感。对于适度等概念它无从下手。但这却是写在所谓的战争法当中的:冲突各方必须避免不必要的破坏并避免给对方带来不必要的伤痛。必须善待平民、受伤、无作战能力和被俘的军人。专家认为,这是无法编入程序当中的。2013年时,政策专家在给联合国人权委员会的一份报告中就警告说:这些“不知疲倦的战争机器”可能会令武装冲突变成无休止的战争——外交将没有可能来终止专门用来在即便是毫无希望的情况下也继续作战的机器的杀戮。法律规范如何确立?到目前为止,没有。本次联合国会议也不会立法,它只会在一份“政治声明”中摸索其政治、伦理和法律上的空间。禁令不在讨论范围之内。由于这些系统目前实际上还不存在,德国和法国一起建议先确定自主武器系统的定义。包括军工代表在内的一个技术专家小组将对新武器的风险进行说明。“国际停止杀人机器人运动”的代表认为这完全不够,必须提前对这些武器进行禁止。只有19个国家要求颁布禁令。在幕后阻挠的恰恰是在将人工智能与作战装备相融合方面领先的国家。最近,有100多名专家在一封公开信中写道,杀人机器人是在火药和核弹之后的第三次作战革命。如果新武器落入暴君和恐怖分子手中,等待人们的将是彻底的恐怖。(2017-11-16 09:31:00)

史密斯在接受采访时说,“致命自主武器系统”的使用提出一系列新的伦理问题,需要各国政府作为紧急事项予以考虑。

英媒认为,美国、以色列、韩国、俄罗斯和英国等国都在研发在选择和攻击目标的关键功能方面具有高度自主能力的武器系统。

报道称,许多国家的军队越来越关注这项技术,因为用机器取代军队可以让发动战争的决定变得更容易。但尚不清楚机器造成的伤亡该由谁负责——研发者、制造商、指挥官,还是设备本身。

本文由澳门4166登录发布于澳门4166登录,转载请注明出处:杀人机器人军备竞赛或导致对平民屠杀参考消息

关键词:

  • 上一篇:没有了
  • 下一篇:没有了