中共建立AI安全监管制度 所图为何◆文/曾怡硕(国防安全研究院网路安全所副研究员)
- 更新日期:114-02-17
2024年7月,中共二十届三中全会《中共中央关于进一步全面深化改革、推进中国式现代化的决定》(以下简称《决定》)提出将建立人工智慧(以下简称AI)安全监管制度。中共过去数年在境内接连推出AI法规,对外则密集出招,例如常驻联合国代表张军于2023年7月18日联合国安理会举办的「人工智能给国际和平与安全带来的机遇与风险」会议中,提出AI治理的五条原则,为习近平2023年10月第三届「一带一路」国际合作高峰论坛开幕式上提出《全球人工智能治理倡议》预做铺陈,实有必要检视中共AI安全监管制度之指涉及其背后政治意涵。
中共决心将AI发展置于安全管控下
AI的发展必须要有大数据、演算法与运算能力,中国大陆都有一定发展条件。首先是数据,中国大陆政府机构有权限可以搜集、分析与运用境内资料,海外除了公开资料外,还有小红书或TikTok之类的APP后门所搜集的使用者浏览资料痕迹,形成巨量资料,足以训练演算法。其次,对于演算法所需的领域知识,即使官方力有未逮,仍可借由私部门网路服务运营业者搜集分析,或者委外交由领域专家与演算法工程师合作产出。最后则是运算能力,电力供应除充沛稳定外,最好还能廉价,中共「东数西算」打的算盘之一,就是把云端运算资料中心设置在发电量充沛无虞的贵州。然而,算力尚须有高阶AI晶片与硬体设施支持,高阶晶片在美国脱钩、去风险的出口管制政策下,可能成为中国大陆发展AI的瓶颈。
《决定》建立AI安全监管制度,放在统筹兼顾发展与安全风险的脉络中,意味中共已决心将AI发展置于安全风险管控之下,此举将进一步限制中国大陆AI发展。近年来中共中央和地方层级陆续发布AI治理相关指导法律法规,例如《新一代人工智能治理原则—发展负责任的人工智能》、《最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》、《深圳经济特区AI产业促进条例》等。近年则先后发布2份重要的政策文件,包括2022年3月《关于加强科技伦理治理的意见》和2023年7月《生成式人工智能服务管理暂行办法》。
《生成式人工智能服务管理暂行办法》(以下简称《办法》)共23条,包括定义、准入资格、责任义务和处罚措施等,对「生成式AI」(Generative AI)产业列出详尽规定。美国Open AI公司2022年底推出ChatGPT后,2023年3月百度、4月阿里巴巴即分别推出「文心一言」、「通义千问」等类似产品。生成式AI浪潮席卷中国大陆不到半年,官方即推出监管办法,尤其以第4条第1款,利用生成式AI生成内容「坚持社会主义核心价值观,不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情,以及虚假有害资讯等法律、行政法规禁止的内容」,最受关注,显示中共即便视AI为下阶段产业创新利器,首要关键考量仍系遏止生成式AI野蛮生长,造成政治风险。
综观全文23条,主要针对服务提供者(利用生成式AI产品提供聊天和文本、图像、声音生成等「服务的组织和个人」),责任承担(承担该产品生成内容生产者的责任)、事前审查标记、防止用户过分依赖或沉迷,并著重对生成的内容进行推荐演算管理等,逐条要求生成式AI科技业者全方位配合负责。鉴于生成式AI涉及「资料密集型」网路应用,并能接触搜集个资,当前争议点多围绕在生成式AI缺乏任何法律根据,以及足够的年龄验证机制、使用者的对话、用户个人资料与付款相关资讯等数据外泄问题。
AI治理中国方案 与欧美互别苗头
各国已开始订定AI监管法条,预计各国监管部门在保护智慧财产权、提高透明度、解决虚假讯息、资料维护、用户互动等流程,都会要求业者进行模型设计和改进,以消弭前揭疑虑。《办法》也要求参与生成式AI服务安全评估和监督检查的相关机构和人员,对履行职责中知悉的国家秘密、商业秘密、个人隐私和个人资讯应当依法予以保密,不得泄露或者非法向他人提供。由于《办法》仍未达全面监管之效,中共中央在2024年《决定》中揭示将进一步制定AI安全监管制度。
AI安全监管制度也是建构「AI治理中国方案」不可或缺的手段,后者更是实现《全球人工智能治理倡议》路径图的主要基础,主要是借由联合国等国际组织,让「AI治理中国方案」成为欧美等民主国家之外的强力竞争选项。中共持续运用「人类命运共同体」与AI治理挂勾,指责美国结合情报与晶片盟友,在机敏资料、演算法之外,尤其是AI高阶晶片上,对中国大陆筑起「小院高墙」的藩篱围堵。
中共运用联合国场域提出AI治理的五条原则:一是坚持伦理先行,二是坚持安全可控,三是坚持公平普惠,四是坚持开放包容,五是坚持和平利用。其中所强调的「开放包容」,就是在指责「个别发达国家为谋求科技霸权,构建排他性小圈子,以种种借口和行动恶意阻挠他国技术发展,人为制造科技壁垒」。中共外交部、国防部以及贸易部门口径一致,从2023年迄今接连砲轰美国制裁与管制行径;川普回任总统后,若漠视联合国等国际多边组织的经营参与,将正中下怀,顺应中共刻意利用联合国,让中共占据法理正当性制高点,以抵销美欧对其高科技脱钩的负面冲击。
过滤训练资料 难以发展出强大AI
中共除利用国际组织抗衡美欧科技脱钩,也有其他反制招数。近年来中共限制公开资料的作为,可能对其他国家生成式AI资料取得造成局限。中共除持续强化原已严密的资讯监控与管制,对非机密资讯亦出现紧缩迹象,除原先对境外开放的学术资讯网站改为不再对外开放,另对搜集政治经济公开资讯的外商咨询顾问公司进行搜查与拘捕。
2023年7月中共推出新版《反间谍法》,对所谓「违反国家安全」明确界定,地方循此制定反间谍条例,加码要求严审查各机关安排的海外交流和旅行,要求驻外机构制定政治安全计划,公务员训练和大学课程也须加入反间谍内容,就连快递服务公司也必须接受国安审查才能营运,形同非机密资讯流经之处,全民均被动员加入管控之列。推断中方这些作为系为避免经济真实数据外流,背后出自习近平政权对经济下行的不安与缺乏自信。新版《反间谍法》已造成许多在陆的外国企业及单位不安心理,加上2024年5月1日新版《保守国家秘密法》上路,更让外国机构在中国大陆取得任何公开资讯充满风险。
中共对数据的严格监管对AI的发展是双面刃,除使外国的AI训练因缺乏中国大陆的资料库而受到局限,也让中国大陆难以训练出强大的AI─因为中共能控制的AI,就不会是强大的AI。