基于尊重生命尊严确保人类对自主武器系统的控制

为了朝向今年11月召开的《特定常规武器公约》第七次审查会议迈进,SGI全球课题委员会于2026年7月23日发布了以下声明。

一位年轻女子正看着巨大荧幕上显示的蓝色神经网络的3D视觉化图形。
(照片来源:gorodenkoff/istock)

“欲免后世再遭今代人类两度身历惨不堪言之战祸。”

深切反省两次世界大战夺去多国人民的宝贵性命,《联合国宪章》的序言列入这项“人类共同信誓”以来,今年6月迎来八十一周年。

自联合国成立以来,尽管世界一再面临各项危机,包含东西冷战所造成的长期分裂,国际社会不断努力解决冲突与建构和平,各项裁军条约的缔结也在民间社会的强力支持下逐步取得进展。

两排旗帜沿着绿色小径排列,延伸至一栋黄色建筑前。
联合国位于瑞士日内瓦的总部入口处前,沿路两旁皆插着会员国的国旗 (照片来源:Krasnevsky/istock)

然而目前所发生的状况,足以从根本威胁国际社会长年来累积的成果。近年来随着乌克兰、中东及非洲等地的冲突与军事行动接连扩大,正如红十字国际委员会(International Committee of the Red Cross,简称ICRC)等组织所发出的警讯般,“国际人道法的基本准则被习惯性地蓄意践踏的情况”持续不断。

其结果一再造成包括儿童、妇女、老人及病患在内的大批民众无辜受害。

此外令人忧心的是,这些冲突成为加速与部署包含AI(人工智能或称人工智慧)等新兴技术武器的催化剂。ICRC警告此为“因无人机及先进武器的投入使局势更趋恶化的残暴战争模式”,这情形已实际发生在长年处于纷争状态的苏丹,平民百姓饱受无情的炮火攻击。

倘若如此危险且惨无人道的趋势继续下去,行使武力的门槛将会明显降低,使无数人生命和尊严遭受威胁的悲剧进一步扩大。

国际创价学会(Soka Gakkai International,简称SGI)在这次声明中呼吁,应早日对利用AI等技术的自主武器系统(Autonomous Weapons Systems,简称AWS)建立国际监管框架,尤其应全面禁止以人为攻击目标的AWS。

越来越多国家要求对条约开启谈判

AWS通常是指在没有人类干预的情况下选择目标并对其使用武力。目前,国际社会严重关切的是不仅各国毫无节制地开发,甚至部分试验性的部署与应用已成为现实。

为了今年11月召开的《特定常规武器公约》第七次审查会议,现在正是关键时刻。

AWS在国际上经常被称为致命自主武器系统(Lethal Autonomous Weapons Systems,简称LAWS)1,国际间对于其规范和禁令的讨论正进入重要阶段,继2025年9月政府专家组(Group of Governmental Experts,简称GGE)会议上四十二个国家发表联合声明,表达就规范LAWS的条约等法律文件进行谈判的意愿,2026年3月的GGE会议上,已增加到七十国对此声明表示支持。为了今年11月召开的《特定常规武器公约》第七次审查会议,现在正是关键时刻。

联合国秘书长安东尼奥・古特雷斯与ICRC主席米里亚娜・斯波利亚里茨・埃格曾一起呼吁各国领导人开始就明确禁止与限制AWS的具有法律约束力新文件进行磋商。

2026年5月,罗马天主教教宗良十四世发布了《伟大的人类》的通谕,对使用结合AI的武器提出强烈警告,呼吁:

“AI并不消除冲突内在的不人道;事实上,它只能使冲突来得更快,并使之更冷血,降低诉诸暴力的门槛,将防御转化为威胁预测,从而把受害者简化为单纯的数据。如此一来,AI将使我们习惯于暴力不可避免,只需要加以优化的观念。”

我们相信凡是造成人类生命尊严深远影响的重大决策判断,万不可交由AI掌控。

我们SGI对于这些议题和呼吁深表赞同,因为这些与我们所信奉的佛法,其尊重生命尊严的中心思想深起共鸣,我们相信凡是造成人类生命尊严深远影响的重大决策判断,万不可交由AI掌控。

观看这部片长23分钟的纪录片,深入探讨人类决策的复杂性,以及自主武器所引发的危险与伦理问题。

自2018年起,SGI参与了一个呼吁禁止AWS名为“制止杀手机器人运动”的民间社会联盟,其活动包含推广《不道德编码》(Immoral Code)这部凸显国际人道法议题的纪录片,提升草根大众的意识。

此外,SGI与其他宗教团体合作,从道德与伦理观点对AWS表达关切。例如,2021年SGI与普世教会协会等组织就杀手机器人发表题为“恳请维护我们共有的人性”(A Plea for Preserving Our Shared Humanity)的跨宗教联合声明,主张“为捍卫人类共有的人性,必须坚拒研发AWS”。并多次在各种国际会议上发表声明,再三警告AWS将人类简化为“数据”,泯灭人性的危险性。

毫无迟疑、完全不受良心谴责地发动攻击

回想《特定常规武器公约》框架内在日内瓦召开第一次有关规范LAWS的非正式专家会议的2014年,SGI会长池田大作(1928-2023)在与和平学者凯文・克莱门茨(Kevin Clements)博士的对谈中曾发出以下的警讯:

“这些机器人武器只要收到攻击的指示,便会在毋须人类意志介入的情况下,毫无迟疑,完全不受良心谴责地自动进行连续攻击。从人道主义的观点来看,这是一个非常严重的问题。在冠冕堂皇地主张拥有这些武器或核武器的逻辑背后是一种‘赶尽杀绝’的思想,意即,一旦视为敌人,无论对方是平民还是士兵,一律彻底消灭殆尽。”2

关乎发动攻击的决定绝对不能完全由机器掌控。

池田会长基于这样的危机意识,主张必须及早制定一个国际监管框架,全面禁止研发或部署这类武器。当时,结合AI等技术的AWS仍被视为“未来的武器”,国际间对于亟须监管这些武器这件事尚缺乏普遍的认知,而今已演变为迫在眼前的危机。

在以往有关规范LAWS的GGE会议上,要求使用武器必须经由“实质的人为控制”的声浪日益升高,今年3月的会议中,与会者更认识到应进一步严格要求以“适合情境的人类控制和判断”为基本原则,将部署武器的实际情况和环境,与国际人道法相关规定列入考量。

三名抗议者举着反对AI和杀人机器人的标语。
(照片来源:Nathan Kuczmarski on Unsplash

换句话说,关乎发动攻击的决定绝对不能完全由机器掌控,人类必须参与武器研发及运用的过程,包含对其使用承担相关法律责任。

在上述3月的会议中,ICRC提议在协议中列入禁止以人类为攻击目标的AWS条款,以确保遵守国际人道法。“制止杀手机器人运动”联盟亦支持这项提案,呼吁各国政府设定法律及伦理的规则,防止人类社会进一步走向自动化杀戮的危险方向。

我们强烈要求将实现“禁止以人为攻击目标的AWS”,作为国际监管框架的核心。

SGI对此深表赞同,我们强烈要求将实现“禁止以人为攻击目标的AWS”,作为国际监管框架的核心。

下一次GGE会议预定于2026年8月31日至9月4日召开。我们希望在已获七十国支持的联合声明基础上,在这次最终会议进行建设性的讨论,于呈交11月审查会议的报告中,确立对“禁止以人为攻击目标的AWS”条约启动谈判的方针。

池田会长对LAWS的洞见

池田会长曾在2019年的《和平倡言》中提出如下洞见,凸显隐藏在LAWS背后的问题本质。

“假如LAWS不受管制,或实际上被使用,战争的本质将从根本上改变。完全自主武器系统不仅造成实体的距离,也会造成伦理的距离。前者指的是发动攻击的一方与被攻击的一方各在不同的地点,使用无人机进行攻击就已是这种情形。后者指的是意图攻击的人完全与实际的战斗隔离。”

在实际使用LAWS的战斗之后,是否有如以往般对战争进行道德反省的空间?

池田会长将此与德国前总统里夏德・冯・魏茨泽克(1920-2015)回忆二战期间遭遇敌军的经历:“在战线两方的所有人主要都担心自己的性命,可说是敌我双方差异不大”进行对比,并从两个层面表达他对于LAWS可能从根本上改变冲突本质的担忧。首先,一旦部署此类武器,是否有可能对敌人产生一种超越敌我分歧的复杂情绪,感受彼此共同的人性,哪怕只是片刻,暂缓做出攻击的决定?其次,在实际使用LAWS的战斗之后,是否有如以往般对战争进行道德反省的空间,也就是对自己的所作所为深感悔恨,对战争感到难以忍受,身为人,痛下决心为后代重建和平?

根据池田会长的见解,我们SGI考量潜藏在欠缺人为实质控制的AWS背后的非人道问题,再三呼吁应规范和禁止AWS。

漠视人类生命所导致的危险与痛苦

关于非人道问题,在过往国际会议的讨论中一再指出,这类武器恐怕对禁止“攻击平民”和“滥杀无辜的武器”的国际人道法造成威胁,且引进可减少攻击者伤亡的AWS,将大幅降低行使武力的门槛。

除了这些国际人道法上的忧虑之外,SGI向来站在佛法信仰者的立场,从尊重“生命尊严”的观点发出警讯,AWS将被攻击者视为单纯的“数据”,而“以数位科技抹杀人性”的现象,可能导致漠视人类生命所带来的巨大痛苦,从根本摧毁“生命的尊严”。

两个人,一个人看着手机,另一个人看着面前的大荧幕。
这是获SGI与国际特赦组织支持,由“辨识2.0”(Identity 2.0)为了制止杀手机器人运动而制作的互动性展览“自动化的设计”(Automated by Design),当中探讨数位去人性化的议题,欢迎透过SGI海利・拉姆齐—琼斯(Hayley Ramsay-Jones)所主持的相关系列讨论,了解此议题对你我的影响 (© Alexander Bitar)

此外AWS存在着经常为人诟病的内在风险,包括AI经常因根据不准确的咨询或认知而产生“幻觉”,以及AI如何学习,如何做出决策的过程不透明的所谓“黑箱作业”问题。这样的误判或意外错误启动所造成的伤害,以及无法承担道德与法律责任的AWS所发动的攻击,有可能夺走对个人而言是无可替代的家人或亲友之性命。

SGI在以往的会议中还从人权角度再三指出,AI算法不仅可能反映,甚至可能放大社会对族群、种族等偏见的风险。尤其可能根据“固有犯罪性”的预测,即将人归类为特定类别,推论其特征和倾向,片面认定某族群成员在未来会采取某种行动,因而沦为AWS的攻击目标。

人类共同遗产奠定国际人道法的基础

除了对AWS非人道性的深切忧虑以外,我们要在此提出警告,一旦AWS在缺乏国际规范下成为主要的作战手段,终止武装冲突的力量将从根本上脱离人类的掌控。在各地冲突中,平民伤亡数目不断攀升,非人道的攻击频繁发生,国际人道法等国际法所面对的状况,令人感到前所未有的忧心。

今后,若因毫无节制地使用AWS,使殃及平民百姓的攻击在冲突中变得半自动化,长久以来支撑国际法的“人类良知的约束力”将荡然无存。

来自多样种族背景的手交叠成圈,象征着团结。
(照片来源:Cecilie_Arcurs/istock)

2024年5月,在日内瓦的ICRC总部举办了一场国际学术研讨会,以纪念通过国际人道法核心的《日内瓦公约》七十五周年,讨论国际人道法这项“人类共同遗产”的意义。

诚如“人类共同遗产”这句话所象征般,历史上各宗教、传统、文化在形成捍卫战争中人道的规范上发挥奠定基础的作用。“在战时保护人道”的理念早在国际法成为普世规范前就已逐渐培养,我们有必要再次着眼于这项人类精神遗产所传承的理想与价值,以确保此规范屹立不摇。

重拾和平的佛教寓言

佛教中亦以各种方式传达关于战争与和平的教诲。其中一个例子是在《长阿含经》中有关称为“刀兵劫”的武器时代的寓言。有位国王背弃了长久以来重视人民幸福的治国法则,导致社会道德沦丧,人们陷入“一见面就像猎人看到鹿群般总想杀害对方”的心理,进入“刀兵劫”,人类寿命大幅缩短。

这种互不伤害的行为成为榜样,社会上逐渐回复慈悲心,国家才能重拾和平。

然而,即使在人们继续伤害彼此的极端状况下,仍有人努力克制自己免于落入暴力的循环,宣称:“如果你不伤害我,我也不会伤害你”。于是当幸存者相遇时,即使是陌生人也仿佛像家人般为彼此庆幸:“你还活着!你还活着!”这种互不伤害的行为成为榜样,社会上逐渐回复慈悲心,国家才能重拾和平,人类的寿命也再次延长。

反观现代,假如AWS在战争中成为主流,人类发自内心诚挚地立誓不伤害他人的道德份量,将从根本丧失其意义。纵然维护国家安全对所有国家来说都十分重要,我们强烈敦促国际社会针对从根本威胁“世界人民生存权利”的新型武器划定明确的界线。

我们强烈敦促国际社会针对从根本威胁“世界人民生存权利”的新型武器划定明确的界线。

切换视角遏止破坏和分裂

对于监管AWS持保留态度的国家中有一种论调,认为提升攻击准确度可减少平民伤亡。然而倘若其他国家也研发或部署这些武器,一旦爆发冲突用来攻击己国人民,还敢说这些武器是可接受的吗?

虽然这与裁军议题有所不同,池田会长曾在2015年《和平倡言》中,就人权的议题透过如下洞察,呼吁进行“视角的切换”:

“假如这种基于歧视的暴力或欺压事件发生在自己或家人身上,相信任何人都不能接受。但是,当这些事情发生在其他人民或族群时,就会有认为受害者咎由自取之人出现。”

“正因如此,花功夫去理解对方的立场,或尝试从他人的角度看待事物都异常重要。一旦缺乏这样的努力,特别在关系变得紧张的时候,自己对和平、正义的理解,往往会成为威胁他人性命和尊严的利刃。”

就其本质而言,和平的相关议题也和人权议题一样,必须以确保每个人平等受到保护为目标来推动。

为了让各国间有关规范和禁止AWS的讨论更具建设性,透过如此切换视角,重新审视议题是必不可少的。SGI向来就裁军与人权等全球议题,积极参与跨宗教与跨文化的对话,并重视民间文化交流和教育交流。因为我们深信若要开辟世界和平之道,扩展并巩固解决问题的全球网络,透过跨越国家框架的对话与交流进行“视角的切换”不可或缺。

一条林荫大道的尽头阳光明媚。
(照片来源:H_Barth/istock)

就其本质而言,和平的相关议题也和人权议题一样,必须以确保每个人平等受到保护为目标来推动。人类若要避免走向破坏与分裂,就必须在此基础上采取行动。

SGI决心与呼吁禁止和规范AWS的各国,以及包括ICRC等参与“制止杀手机器人运动”联盟的民间社会组织和宗教领袖携手合作,并以承担未来的青年为核心,不断扩大全球人民的团结,凝聚强大的民意力量,推动条约之缔结。

浅蓝与土耳其蓝的背景上有着海军蓝的文字。

“SGI全球课题委员会”为解决全球迫切面临的各项挑战,以SGI会长池田大作在年度《和平倡言》中所提之建言为基础,发表声明并提出对策。该委员会的组成包括来自非洲、亚太地区、欧洲、北美、中南美各国的致力投入当地和平活动的SGI领导人们。

  • *1致命自主武器系统。联合国裁军事务厅网站。(于2026年7月24日造访)
  • *2池田大作、凯文・克莱门茨。《迈向和平的世纪——民众的挑战》(平和の世紀へ 民衆の挑戦)。373-374页。