中山大學計算機學院網絡空間安全研究所所長、中山大學人工智能研究院副院長盧偉教授

習近平總書記指出：“要加強人工智能發展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控。”人工智能作為一項創新性、革命性的技術，將不可避免地對國家和社會發展帶來一系列影響。一方面，人工智能技術可以在維護與保障國家安全方面發揮新形式、高效率的作用；另一方面，人工智能的脆弱性、不可解釋性和不定向性等特點會給社會穩定和國家安全帶來全新的潛在風險與挑戰。高松校長在2023年秋季工作會議上指出：“助力國家創新體系提升整體效能，是學校科研高質量內涵式發展的重要任務”。因此，探索人工智能技術在促進區域協同發展、經濟建設與社會治理等方面的可能性，以及應對人工智能安全風險并把握人工智能發展的戰略主動，是新時代我國國家安全治理所面臨的一個重要議題。

新一代人工智能，機遇與挑戰并存

人工智能生成內容（AIGC）作為新興技術，正在逐漸成為實體經濟發展的重要推動力。目前，AIGC技術已經能夠生成新聞、評論、廣告、產品描述等多種形式的內容。同時，它正在重塑傳統的內容生產方式和商業模式，通過引入新的生產力工具，促進了內容制作、營銷與商業運作等領域的廣泛變革。然而，AIGC技術的應用同樣伴隨著挑戰和風險。特別是，AIGC技術可能會產生不真實或不準確的內容，導致信息泛濫、思維誤導，甚至可能侵犯用戶的個人隱私或名譽。針對這些問題，中山大學計算機學院的人工智能與安全研究所團隊等就AIGC可能引起的數據安全問題，如流通數據的隱私、生成內容的質量與安全、版權和惡意用戶的攻擊等開展深入研究，致力于推動新技術安全發展與應用。隨著大模型開放使用和AIGC深度應用，對數據處理、算法設計、計算能力等方面提出了更高要求，也對安全、隱私和倫理提出了更多挑戰。只有在確保數據安全和隱私保護、健全人工智能倫理與安全的前提下，才能讓AI技術真正釋放應用價值。

面向國家安全新需求，技術與監管并重

在大模型時代，信息技術與互聯網的飛速發展，安全威脅更加多樣和隱蔽。一方面，在防御針對大模型的隱私數據泄露和內容安全問題，計算機學院網絡空間研究所團隊不斷完善AIGC攻防理論，通過結合技術研究與實際應用，旨在開發高效的新型防御技術，以應對新型隱私泄露威脅。同時，積極開發先進的主動探測技術，用于識別模型中的漏洞和弱點，從而主動加強對關鍵信息基礎設施的隱私數據和內容安全的保護。另一方面，鑒于人工智能技術在安全領域的重要性，特別是在監控和身份驗證等關鍵應用場景中的作用，參與制訂了行業標準。中山大學計算機學院在引導和規范新技術應用的同時，全力維護廣大人民群眾的隱私數據安全和切身利益，促進國家網絡新技術健康發展。

發揮技術優勢，助力區域經濟發展

從時代演進的視角出發，人工智能領域的技術快速進步正孕育著新機遇與新的發展前景。特別是以ChatGPT等大模型為代表的技術在理論與應用層面的顯著進展，正在全球范圍內推動新一代人工智能的蓬勃發展，這不僅為經濟社會發展注入了新的動力，也在根本性地改變人類的生產和生活方式。中山大學作為學術研究的前沿陣地，正積極參與到這一領域相關理論科學研究之中。計算機學院科研團隊正把握這一新時代科技革命的脈動，加強組織科研，培養相關技術和理論人才，開拓獨具特色的研究途徑和理論體系。計算機學院致力于推動校企合作，立足大灣區的強大人才儲備、經濟基礎、區位優勢和超級計算中心的高性能設備、計算體系，進一步促進互聯網、人工智能和大數據科研理論與實體經濟相融合。通過產學合作、校企聯合培養等發展模式，為全國的高校持續性發展和國家經濟發展提供新的思路。在這個過程中，中山大學遵循“集中力量辦大事”的原則，整合資源創辦人工智能研究院，從學校層面統籌大智能相關學科，以充分發揮人工智能在新一輪科技革命和產業變革中所發揮的驅動力量，堅持將新一代人工智能作為各個行業推動產業優化升級、科技跨越式發展、生產力整體提升的關鍵技術基礎，為國家實現高質量、高增速、高水平的發展貢獻力量。

新一代人工智能技術引發的革命性變革和生產力躍遷具有全球性影響，因此不論是關于人工智能安全治理問題還是在其推動發展方面的潛力，都必須在全球范圍內加以考量和應對。計算機學院將秉承“勇于擔當，敢于突破”的理念，致力于人工智能與安全理論研究，并在加速人工智能技術在經濟領域的應用和產業化進程中，著力構建一套完善、公平、安全且可控的國際標準，為人工智能技術安全、可控、健康、可持續性的發展保駕護航，為全球人工智能發展注入正能量，展現中國在科技共享和全球化問題中的大國擔當。

文稿終審：計算機學院 馬嘯