九月二十一日，澳門特區網絡安全委員會召開年度全體會議，人工智能、大數據、雲計算帶來的數據安全、私隱保護和技術濫用等問題被列入下一階段工作，政府信息設備“安全可控”亦再次受到強調。此前舉行的國家網絡安全宣傳周澳門分論壇亦提出，將修訂現行網絡安全技術規範，並優化人工智能安全、數據安全等領域的合規指引。
澳門現時更需要思考的，不是人工智能是否納入網絡安全治理，而是如何在現有制度下識別新風險。第13/2019號法律《網絡安全法》及配套技術規範已建立關鍵基礎設施的網絡安全管理、系統分級和風險評估機制，其中第12條對關鍵基礎設施私人營運者的風險評估義務作出規定。在此基礎上，可先從政府資訊系統和關鍵基礎設施着手，把人工智能風險識別納入現有網絡安全管理機制。
風險識別不能只看模型
人工智能的風險往往不只在模型本身，還取決於模型被放在甚麼場景、處理甚麼資料、由誰使用，以及依賴甚麼外部條件。同一模型，用來協助整理一般行政文件，與用於公共服務調度、金融風險分析或重要業務決策，顯然不能用同一套標準判斷。真正需要評估的，不應只是某個模型“安全不安全”，而是它在具體場景中處理甚麼資料、承擔甚麼功能、由誰使用，以及對哪些外部技術存在依賴。
風險識別需要從數據、用途、主體和外部環境四個維度判斷。數據方面，要看是否涉及個人資料、依法受特別保護的資料，以及其他一旦失控可能影響公共安全、重要公共服務或重大公共利益的資料；用途方面，不只看人工智能“做甚麼”，還要看出錯後會造成甚麼後果；主體方面，政府部門和關鍵基礎設施營運者應提高警覺，但最終仍要看其實際承擔的公共職能和關鍵業務；外部環境則要看相關模型、雲服務和供應商是否穩定、可審計，以及使用者是否具備可行的替代方案。外部依賴本身不等於不安全，關鍵在於是否仍然可控。
從風險識別走向分級管理
如果一項人工智能應用涉及敏感或重要數據，可以先啟動風險提醒，再進一步判斷其是否屬於“關鍵用途”。
關鍵用途不能只看功能名稱。例如，同樣是“決策輔助”，有些只是內部參考，有些則可能直接影響公共服務、重要資源配置或個人重大權益。因此，較合理的判斷方式，是同時看人工智能所承擔的功能，以及一旦失誤可能造成的後果。只要人工智能參與重要功能，且其失誤可能引起重大公共服務中斷、大規模權益損害、安全事故或其他系統性影響，就有必要提高風險管理層級。
在不改變現有資訊系統保護等級的前提下，可以對人工智能應用另作低、中、高三級識別。一般輔助性用途、影響有限而且外部依賴可控的，可按低風險管理；涉及較敏感數據或具有一定公共影響的，可列為中風險；如果人工智能應用屬於關鍵用途，而且一旦失效可能造成重大公共後果，則應按高風險處理。這種分級的目的，不是把人工智能簡單貼上“安全”或“危險”標籤，而是讓監管資源放到真正需要關注的地方。
把新方法嵌入現有網安制度
澳門正在修訂《網絡安全——管理基準規範》和《網絡安全——事故預警、應對及通報規範》，這正好提供一個制度接口。較實際的做法，是把人工智能風險識別的基本義務納入技術規範，例如要求相關部門和關鍵基礎設施營運者在採用人工智能前，先說明應用場景、數據類型、用途和主要外部依賴。至於甚麼屬於重要數據、怎樣判斷關鍵用途，以及不同風險等級可參考哪些場景，則可透過人工智能安全合規指引逐步細化。這樣做的好處，是不需要另起一套行政架構，也能把新技術帶來的風險逐步納入既有的網絡安全管理流程。
人工智能帶來的新問題不少，但對澳門而言，第一步未必是增加更多規則，而是先把風險識別做準。當制度能夠區分一般技術應用與可能造成重大公共風險、甚至涉及更高層級安全問題的應用場景，後續的監管、通報和責任安排才有清晰基礎。這也是現有網絡安全制度面對人工智能時，較值得先處理的一步。
（澳門學者同盟會員、澳門發展策略研究中心理事、中國政法大學博士生 何思雅）
