联合国青年促进裁军论坛主办 "人工智能和信息通信技术对核稳定的破坏性影响 "专家小组会议。

10 月 16 日,作为由大韩民国政府支持的首届联合国青年促进裁军论坛的一部分,青年领袖与核专家和外交官一起参加了关于 "人工智能及信息和通信技术对核稳定的破坏性影响 "的深入专家小组会议。

专家小组为青年与会者提供了一个与专家就核武器与新兴技术的关系进行有意义互动的机会。专家们帮助与会者完善了成果文件草案,其中包括将于 2025 年 12 月向联合国大会第一委员会代表团分发的主要建议。

日本国际问题研究所研究员 Umi Ariga-Maisy 女士主持会议开幕,她围绕了解人工智能、网络技术和核指挥系统(NC3s)相互交织产生的风险的迫切需要展开讨论。专家小组和论坛与会者就人工智能和信息通信技术对核稳定的不稳定影响所带来的挑战和机遇进行了思考。

论坛与会者、能源与安全研究中心研究员 Dina Tawfik 女士指出,最近的研究发现,人工智能倾向于选择更多的升级选项。她还强调了与算法不透明、自动化偏差和对核武器的误解有关的其他风险。

与会者和小组成员进行圆桌讨论。

联合国裁军研究所安全与技术方案负责人贾科莫-佩尔西-保利先生强调,人工智能的发展普遍被低估,下一代人工智能有可能在2027年超越下一代人工智能的性能。他还指出,即使可以很容易地避免将人工智能纳入核指挥、控制和通信系统(NC3),但从安全和网络安全的角度来看,将人工智能纳入核决策过程的挑战可能是一个漏洞。

联合国裁军事务厅 科技股股长Beyza Unal 女士概述了人工智能、网络和核系统交叉点上的许多漏洞。她指出,许多第三次国家信息通报和生产基础设施仍然依赖过时的技术和脆弱的供应链,使其在网络安全方面存在潜在的薄弱环节。她还进一步强调,与将新技术集成到现有核武器系统所需的时间相比,网络技术的发展速度过快带来了多重安全挑战。

联合国裁军事务厅科技负责人贝扎-乌纳尔(Beyza Unal)在论坛上就人工智能发言。

核威胁倡议组织(NTI)全球核政策项目主任帕特里夏-贾沃雷克(Patricia Jaworek)女士解释了人工智能相关风险如何开始在《不扩散条约》的讨论和相关倡议(如斯德哥尔摩倡议组织在第三届筹备委员会上的贡献以及最近的多边努力,如《2024 拜登-习近平联合声明》)中出现。她强调,人工智能与核的关系不仅是技术和结构上的挑战,也是政治和体制上的挑战。

巴西常驻联合国代表团二等秘书Erika Campos 女士强调了今年第一委员会面前的两项决议,这两项决议涉及人工智能和新兴技术的各个方面。她还鼓励通过无核武器区和核裁军核查问题政府专家组等机制参与管理人工智能与核的关系问题。

论坛与会者 Leonard Günzel 先生是联合国裁军事务厅人工智能促进和平与安 全负责任创新的校友,他强调缺乏负责任工程方面的教育。他强调了负责任和道德工程教育的必要性,并鼓励政策界和工程界更多地参与社会问题和彼此间的关系。

小组成员、专家和与会者进行讨论。

在互动问答部分,与会者探讨了验证挑战、治理框架以及弥合政策界和技术界分歧的方法。专家们呼吁制定共同的分类标准,为负责任的人工智能提供行业激励,并扩大研究金和培训机会,以促进跨学科理解。他们还建议将有关人工智能的讨论正式纳入《不扩散条约》未来有关透明度和问责制的审议工作中,并强调持久的解决方案将取决于青年领袖的创新和参与。

最后,与会者和专家强调,青年、决策者和科学界必须继续对话,以确保人工智能与核技术之间的稳定。他们强调,弥合快速新兴技术领域与管理领域之间的差距将是防止误判和全球持续安全的关键。