節選自《前線》雜志2024年第5期

以“總體國家安全觀”為指導，做好人工智能安全治理

郎平

　　生成式人工智能技術的發展推動人工智能治理進入新階段。如何堅持發展和安全并重、在加強監管的同時盡可能發揮人工智能技術的賦能作用，這已經成為實現新時代國家治理能力現代化的重要命題。

　　鑒于人工智能的全局性和系統性影響，將總體國家安全觀的大安全理念貫徹于人工智能治理全過程，對于做好人工智能安全治理具有重要的現實指導意義。

　　一、總體國家安全觀的“總體性”是人工智能治理的指導性原則。

　　總體國家安全觀是新時代國家安全工作的根本遵循和行動指南，人工智能治理也不例外。

　　總體國家安全觀的關鍵是“總體”，強調大安全理念，強調堅持國家安全工作的系統思維和方法，強調國家安全要貫穿到黨和國家工作全局各方面、各環節，強調打總體戰，用全社會全政府全體系全手段應對重大國家安全風險挑戰。

　　由于人工智能技術的通用性、智能性和創新性，人工智能技術應用所帶來的安全風險將會出現在國家經濟、政治、社會、軍事等領域的各個環節。

　　一方面，原有的安全風險出現了新的變化和形式，例如網絡安全、數據安全、內容安全等。

　　另一方面，新的安全風險開始出現，如倫理道德風險和自主性軍事武器的使用所帶來的風險等。

　　在進行人工智能安全治理頂層戰略設計時，必須全盤考慮各領域各層面的安全風險。要從國家的總體利益出發，制定相應的治理方略，避免因某個領域的治理規制措施對其他領域產生消極影響。

　　二、總體國家安全觀的“重點性”對集人工智能安全等于一體的國家安全體系和能力建設提出了更高的要求。

　　鑒于人工智能所蘊含的巨大安全風險，總體國家安全觀強調大安全理念，涵蓋政治、軍事、國土、經濟、金融、文化、社會、科技、網絡、糧食、生態、資源、核、海外利益、太空、深海、極地、生物、人工智能、數據等重點領域，并且將隨著社會發展不斷動態調整。

　　人工智能安全被列入國家安全重點領域，凸顯出在新興的人工智能領域推進國家安全體系和國家安全能力現代化的迫切性，必須統籌謀劃、協同創新、穩步推進。

　　就目前而言，我國在關鍵核心技術創新領域距離國際領先水平還有一定差距，技術深度應用和動能轉換方面的潛力還有待挖掘。

　　我們要充分利用好人工智能：

　　一方面要把握戰略主動，讓人工智能成為國家安全體系和能力現代化的重要賦能者。

　　另一方面也要系統應對國家、社會、企業和個人層面的安全風險，有效維護和保障國家安全。

　　三、總體國家安全觀的“統籌性”是人工智能治理實踐的指導原則和政策目標。

　　總體國家安全觀強調科學統籌，做到統籌發展和安全、開放和安全、傳統安全和非傳統安全、自身安全和共同安全、維護國家安全和塑造國家安全，著力解決國家安全工作不平衡、不充分的問題。

　　在人工智能技術突飛猛進、大國競爭博弈加劇的大變局下，人工智能治理中的統籌問題就顯得尤為重要。統籌問題產生的前提是由于矛盾各方內在的沖突和張力。

　　如果一味地推動人工智能技術突飛猛進而忽視安全監管，那么可能會帶來嚴重的社會后果。

　　如果過于重視軍事安全風險而忽視倫理道德風險，也會帶來國家安全的不平衡發展。

　　如果僅僅單方面強調本國的安全而不重視共同安全，外部安全環境的惡化最終也會損害本國安全。

　　如果只是被動地應對安全風險而忽視了主動塑造國家安全，片面追求近期安全利益就可能導致長期利益受損。

　　因此，在世界和平與發展面臨多元挑戰的背景下，人工智能治理只能是共同的、綜合的、合作的、可持續的治理。必須堅持發展和安全并重的原則，通過對話與合作凝聚共識，建立開放、公正、有效的治理機制，真正讓人工智能技術造福于人類，推動構建人類命運共同體。

　　人工智能技術創新應用的飛速迭代，帶來巨大發展機遇的同時，技術發展的不可知性和風險的不確定性也將帶來諸多安全挑戰。

　　我們要在機遇與安全之間尋求平衡，盡快筑牢安全屏障，充分發揮人工智能的“頭雁”效應，加快形成新質生產力，助力以中國式現代化全面推進中華民族偉大復興。