中共建立AI安全監管制度 所圖為何◆文/曾怡碩(國防安全研究院網路安全所副研究員)
- 更新日期:114-02-17
2024年7月,中共二十屆三中全會《中共中央關於進一步全面深化改革、推進中國式現代化的決定》(以下簡稱《決定》)提出將建立人工智慧(以下簡稱AI)安全監管制度。中共過去數年在境內接連推出AI法規,對外則密集出招,例如常駐聯合國代表張軍於2023年7月18日聯合國安理會舉辦的「人工智能給國際和平與安全帶來的機遇與風險」會議中,提出AI治理的五條原則,為習近平2023年10月第三屆「一帶一路」國際合作高峰論壇開幕式上提出《全球人工智能治理倡議》預做鋪陳,實有必要檢視中共AI安全監管制度之指涉及其背後政治意涵。
中共決心將AI發展置於安全管控下
AI的發展必須要有大數據、演算法與運算能力,中國大陸都有一定發展條件。首先是數據,中國大陸政府機構有權限可以蒐集、分析與運用境內資料,海外除了公開資料外,還有小紅書或TikTok之類的APP後門所蒐集的使用者瀏覽資料痕跡,形成巨量資料,足以訓練演算法。其次,對於演算法所需的領域知識,即使官方力有未逮,仍可藉由私部門網路服務運營業者蒐集分析,或者委外交由領域專家與演算法工程師合作產出。最後則是運算能力,電力供應除充沛穩定外,最好還能廉價,中共「東數西算」打的算盤之一,就是把雲端運算資料中心設置在發電量充沛無虞的貴州。然而,算力尚須有高階AI晶片與硬體設施支持,高階晶片在美國脫鉤、去風險的出口管制政策下,可能成為中國大陸發展AI的瓶頸。
《決定》建立AI安全監管制度,放在統籌兼顧發展與安全風險的脈絡中,意味中共已決心將AI發展置於安全風險管控之下,此舉將進一步限制中國大陸AI發展。近年來中共中央和地方層級陸續發布AI治理相關指導法律法規,例如《新一代人工智能治理原則—發展負責任的人工智能》、《最高人民法院關於審理使用人臉識別技術處理個人信息相關民事案件適用法律若干問題的規定》、《深圳經濟特區AI產業促進條例》等。近年則先後發佈2份重要的政策文件,包括2022年3月《關於加強科技倫理治理的意見》和2023年7月《生成式人工智能服務管理暫行辦法》。
《生成式人工智能服務管理暫行辦法》(以下簡稱《辦法》)共23條,包括定義、准入資格、責任義務和處罰措施等,對「生成式AI」(Generative AI)產業列出詳盡規定。美國Open AI公司2022年底推出ChatGPT後,2023年3月百度、4月阿里巴巴即分別推出「文心一言」、「通義千問」等類似產品。生成式AI浪潮席捲中國大陸不到半年,官方即推出監管辦法,尤其以第4條第1款,利用生成式AI生成內容「堅持社會主義核心價值觀,不得生成煽動顛覆國家政權、推翻社會主義制度,危害國家安全和利益、損害國家形象,煽動分裂國家、破壞國家統一和社會穩定,宣揚恐怖主義、極端主義,宣揚民族仇恨、民族歧視,暴力、淫穢色情,以及虛假有害資訊等法律、行政法規禁止的內容」,最受關注,顯示中共即便視AI為下階段產業創新利器,首要關鍵考量仍係遏止生成式AI野蠻生長,造成政治風險。
綜觀全文23條,主要針對服務提供者(利用生成式AI產品提供聊天和文本、圖像、聲音生成等「服務的組織和個人」),責任承擔(承擔該產品生成內容生產者的責任)、事前審查標記、防止用戶過分依賴或沉迷,並著重對生成的內容進行推薦演算管理等,逐條要求生成式AI科技業者全方位配合負責。鑒於生成式AI涉及「資料密集型」網路應用,並能接觸蒐集個資,當前爭議點多圍繞在生成式AI缺乏任何法律根據,以及足夠的年齡驗證機制、使用者的對話、用戶個人資料與付款相關資訊等數據外洩問題。
AI治理中國方案 與歐美互別苗頭
各國已開始訂定AI監管法條,預計各國監管部門在保護智慧財產權、提高透明度、解決虛假訊息、資料維護、用戶互動等流程,都會要求業者進行模型設計和改進,以消弭前揭疑慮。《辦法》也要求參與生成式AI服務安全評估和監督檢查的相關機構和人員,對履行職責中知悉的國家秘密、商業秘密、個人隱私和個人資訊應當依法予以保密,不得洩露或者非法向他人提供。由於《辦法》仍未達全面監管之效,中共中央在2024年《決定》中揭示將進一步制定AI安全監管制度。
AI安全監管制度也是建構「AI治理中國方案」不可或缺的手段,後者更是實現《全球人工智能治理倡議》路徑圖的主要基礎,主要是藉由聯合國等國際組織,讓「AI治理中國方案」成為歐美等民主國家之外的強力競爭選項。中共持續運用「人類命運共同體」與AI治理掛勾,指責美國結合情報與晶片盟友,在機敏資料、演算法之外,尤其是AI高階晶片上,對中國大陸築起「小院高牆」的藩籬圍堵。
中共運用聯合國場域提出AI治理的五條原則:一是堅持倫理先行,二是堅持安全可控,三是堅持公平普惠,四是堅持開放包容,五是堅持和平利用。其中所強調的「開放包容」,就是在指責「個別發達國家為謀求科技霸權,構建排他性小圈子,以種種藉口和行動惡意阻撓他國技術發展,人為製造科技壁壘」。中共外交部、國防部以及貿易部門口徑一致,從2023年迄今接連砲轟美國制裁與管制行徑;川普回任總統後,若漠視聯合國等國際多邊組織的經營參與,將正中下懷,順應中共刻意利用聯合國,讓中共占據法理正當性制高點,以抵銷美歐對其高科技脫鉤的負面衝擊。
過濾訓練資料 難以發展出強大AI
中共除利用國際組織抗衡美歐科技脫鉤,也有其他反制招數。近年來中共限制公開資料的作為,可能對其他國家生成式AI資料取得造成侷限。中共除持續強化原已嚴密的資訊監控與管制,對非機密資訊亦出現緊縮跡象,除原先對境外開放的學術資訊網站改為不再對外開放,另對蒐集政治經濟公開資訊的外商諮詢顧問公司進行搜查與拘捕。
2023年7月中共推出新版《反間諜法》,對所謂「違反國家安全」明確界定,地方循此制定反間諜條例,加碼要求嚴審查各機關安排的海外交流和旅行,要求駐外機構制定政治安全計畫,公務員訓練和大學課程也須加入反間諜內容,就連快遞服務公司也必須接受國安審查才能營運,形同非機密資訊流經之處,全民均被動員加入管控之列。推斷中方這些作為係為避免經濟真實數據外流,背後出自習近平政權對經濟下行的不安與缺乏自信。新版《反間諜法》已造成許多在陸的外國企業及單位不安心理,加上2024年5月1日新版《保守國家秘密法》上路,更讓外國機構在中國大陸取得任何公開資訊充滿風險。
中共對數據的嚴格監管對AI的發展是雙面刃,除使外國的AI訓練因缺乏中國大陸的資料庫而受到侷限,也讓中國大陸難以訓練出強大的AI─因為中共能控制的AI,就不會是強大的AI。