祁昊天：人工智能军事应用治理与相关国际学术共同体

人工智能（AI）的军事应用尚处在初级阶段，但影响已嵌入指挥、情报、攻防、后勤、训练等诸多领域，覆盖战略、战役、战术不同层面。

AI作为一种通用和赋能技术，在提高军事效能的同时，也带来诸多风险，主要包括：本体性风险，即人类在机器面前失去主导地位；能动性风险，即AI在攻防平衡、威慑平衡、危机稳定等场景下诱发主动冲突或升级可能；意外性风险，即AI系统因误操作或系统故障所带来的伤害。

相关国际治理亦面临多重挑战，比如：规则机制发展与技术发展不匹配；对于如何将AI军事应用进行界定和分类，存在分歧；国际信任赤字叠加AI军用利益诉求差异，加大了不信任和误解；AI军备竞赛与扩散风险；AI叠加信息和网络安全，使得广义数字化军事安全场域愈加复杂，等等。

国际社会需要通过加强多边合作来应对AI军事化风险，但相关全球治理仍处在酝酿期，学术和智库在此时的积极参与至关重要。目前，AI军事应用治理的国际学术共同体呈现松散状态，但也已形成几种初步的样式和特点：跨地域、跨领域、跨形式，就军用AI的伦理、法律、技术、军事和治理机制问题进行不同形式的对话与合作研究；学术机构和智库合作往往嵌入政府、国际组织、非政府组织和业界，而非单纯纸上谈兵；合作平台逐渐机制化，包括定期举行国际研讨会，开展中长期的双多边联合项目，进行共同成果倡议和宣言发布；跨领域学术“基建”得到重视，特别是针对AI军事应用的定性、范畴及互动过程；教育与培训提上日程，通过国际平台帮助相关研究和实践者提升对AI军事应用复杂性的认知……

过去一年，比较典型的合作包括清华大学战略与安全研究中心与美国布鲁金斯学会合办的双边二轨研讨，新加坡南洋理工大学举办的年度多边AI与战略稳定研讨会，日内瓦安全政策中心举办的年度五常智库会议，海牙阿瑟研究所举办的“困境2023”会议。另有官方多边场合为学术和智库交流搭台，如荷兰政府举办的首届“负责任军事人工智能”峰会（REAIM2023），英国政府举办的AI安全峰会，等等。这些活动虽由不同的主办方发起，但所依托的机构和人员网络存在广泛交集，议题互补，整体呈现出共同体式的聚合力。这一共同体包含不同的子网络，子网络的范围、紧密程度、科研水平和政策支持能力固然存在差异，但共同塑造着全球军事AI治理体系。

通过对过去十年相关数据的收集与分析，可以发现中国的清华大学、中国科学院、北京大学，美国的布鲁金斯学会、卡内基和平研究所，欧洲的人道主义对话中心、日内瓦安全政策中心、斯德哥尔摩国际和平研究所，以及新加坡的南洋理工大学，拥有相对更为广泛的合作网络和更加中心化的地位，在掌握合作资源方面占据着较高排名。而在它们之外，哈佛大学、美国对外关系委员会等机构并非最为活跃，但也承担着共同体网络的中介调节和向外延展通道功能。

目前这些机构和相关研究群体已在一些重大问题上达成较广泛共识，涉及：军用AI系统安全可靠的必要性，避免意外或未经授权行动发生的重要性，测试和验证的重要性，不同环境和条件下稳定性和可预测性的重要性与局限性，伦理和法律标准的重要性，等等。近几年，它们围绕AI军事应用术语、治理原则框架、跨学科复杂性、军事与非军事领域关联、AI与核导关联、AI与其他新军事技术集成、既有军控机制与AI治理等议题，开展了广泛的学术研讨、知识积累、报告发布和咨政管道疏通工作。在此过程中，共同体内存在不同程度的分歧，比如：AI系统多大程度上可拥有自主性，特别是决策方面；人在回路中的具体位置、作用、控制程度，以及如何定义“有意义的控制”；如何针对透明度、责任和伦理等问题，制定和实施国际标准和规范；如何明确有效部署的技术标准和成熟度；如何界定和规制致命性自主武器系统，等等。

AI军事应用尚处在高度不确定的萌芽期，但在新技术冲击下维护全球和平与稳定的任务又是紧迫的，未来相关学术共同体如要进一步发展，需要继续降低跨学科跨领域对话门槛，降低科研—政策对接成本，并努力破除信息茧房。