中國關於規範人工智能軍事應用的立場文件

中國關於規範人工智能軍事應用的立場文件
作者：中華人民共和國政府
2022年12月14日

https://www.mfa.gov.cn/web/ziliao_674904/tytj_674911/zcwj_674915/202112/t20211214_10469511.shtml

中國關於規範人工智能軍事應用的立場文件

人工智能技術的快速發展及其廣泛應用，正深刻改變人類生產和生活方式，給世界帶來巨大機遇的同時，也帶來難以預知的安全挑戰。特別值得關注的是，人工智能技術的軍事應用，在戰略安全、治理規則、道德倫理等方面可能產生深遠影響和潛在風險。

人工智能安全治理是人類面臨的共同課題。隨着人工智能技術在各領域的廣泛應用，各方普遍對人工智能軍事應用乃至武器化風險感到擔憂。

在世界和平與發展面臨多元挑戰的背景下，各國應秉持共同、綜合、合作、可持續的全球安全觀，通過對話與合作，就如何規範人工智能軍事應用尋求共識，構建有效的治理機制，避免人工智能軍事應用給人類帶來重大損害甚至災難。

加強對人工智能軍事應用的規範，預防和管控可能引發的風險，有利於增進國家間互信、維護全球戰略穩定、防止軍備競賽、緩解人道主義關切，有助於打造包容性和建設性的安全夥伴關係，在人工智能領域踐行構建人類命運共同體理念。

我們歡迎各國政府、國際組織、技術企業、科研院校、民間機構和公民個人等各主體秉持共商共建共享的理念，協力共同促進人工智能安全治理。

為此，我們呼籲：

——戰略安全上，各國尤其是大國應本着慎重負責的態度在軍事領域研發和使用人工智能技術，不謀求絕對軍事優勢，防止加劇戰略誤判、破壞戰略互信、引發衝突升級、損害全球戰略平衡與穩定。

——軍事政策上，各國在發展先進武器裝備、提高正當國防能力的同時，應銘記人工智能的軍事應用不應成為發動戰爭和追求霸權的工具，反對利用人工智能技術優勢危害他國主權和領土安全的行為。

——法律倫理上，各國研發、部署和使用相關武器系統應遵循人類共同價值觀，堅持以人為本，秉持「智能向善」的原則，遵守國家或地區倫理道德準則。各國應確保新武器及其作戰手段符合國際人道主義法和其他適用的國際法，努力減少附帶傷亡、降低人員財產損失，避免相關武器系統的誤用惡用，以及由此引發的濫殺濫傷。

——技術安全上，各國應不斷提升人工智能技術的安全性、可靠性和可控性，增強對人工智能技術的安全評估和管控能力，確保有關武器系統永遠處於人類控制之下，保障人類可隨時中止其運行。人工智能數據的安全必須得到保證，應限制人工智能數據的軍事化使用。

——研發操作上，各國應加強對人工智能研發活動的自我約束，在綜合考慮作戰環境和武器特點的基礎上，在武器全生命周期實施必要的人機交互。各國應始終堅持人類是最終責任主體，建立人工智能問責機制，對操作人員進行必要的培訓。

——風險管控上，各國應加強對人工智能軍事應用的監管，特別是實施分級、分類管理，避免使用可能產生嚴重消極後果的不成熟技術。各國應加強對人工智能潛在風險的研判，包括採取必要措施，降低人工智能軍事應用的擴散風險。

——規則制定上，各國應堅持多邊主義、開放包容的原則。為跟蹤技術發展趨勢，防範潛在安全風險，各國應開展政策對話，加強與國際組織、科技企業、技術社群、民間機構等各主體交流，增進理解與協作，致力於共同規範人工智能軍事應用並建立普遍參與的國際機制，推動形成具有廣泛共識的人工智能治理框架和標準規範。

——國際合作上，發達國家應幫助發展中國家提升治理水平，考慮到人工智能技術的軍民兩用性質，在加強監管和治理的同時，避免採取以意識形態劃線、泛化國家安全概念的做法，消除人為製造的科技壁壘，確保各國充分享有技術發展與和平利用的權利。