AI技术点亮新一代的科技前景，为产业与生活带来许多便利，同时也是一把双面刃，易被有心人士滥用于犯罪活动，包括大规模社交工程攻击、破解密码、恶意软体等。深伪（Deepfake）的泛滥、ChatGPT引发的热潮，使得网路世界更加真假难辨，甚至成为认知作战的利器。

犯罪组织利用AI侵犯隐私及人权

AI是近年最热门的话题之一，广泛运用于生物医学、能源科技、多媒体创作、企业行销等领域，另一方面，也被不肖人士「应用」于犯罪行为，侵犯他人的隐私与人权。

早在2017年，浙江绍兴破获中国大陆首例利用AI技术窃取民众个资的案件，犯罪组织利用AI破译验证码，取得10亿多组个资。以往的电信诈骗依赖人工，现在则利用AI，伪冒能力更加逼真，数以千计的受害者声称被冒充亲人的顶替者所骗，蒙受高额财物损失。

与传统犯罪不同，数位领域的犯罪可轻易地分享、复制、再现，甚至出售，犯罪技术可推广，犯罪也能当成服务提供。去年12月，刑事局侦破台湾治安史上首宗利用AI语音技术来拨打诈骗电话的案件，主嫌以5万元的价格，透过AI语音科技公司客制化诈骗电话AI机器人模组，该模组可根据民众回答内容，判断是否对投资有兴趣，进而对潜在客群发送诈骗简讯，11个月间送出高达6千万则诈骗简讯，不法所得逾新台币1亿元。

「眼见」不一定为凭

「深伪」是AI威胁排行榜的第一名，不但辨识不易，也很难反制，容易被恶意攻击者用来损害特定人士的名声，或是冒充亲人或信赖的人向受害者加以诈骗。

在所有深伪影片中，利用AI换脸技术制作的伪造色情图片、影片，对当事人的伤害性最强。去年中国大陆发生多起在网路上分享生活照，遭到有心人士以AI「一键脱衣」功能恶搞成裸照，上传网路散布，被造谣的当事人蒙受无妄之灾，影响其正常生活与工作。除了侵害隐私以外，背后更隐含恶质的性羞辱文化，不论受害者是男性或是女性，这种影像性暴力的行为都应受到严厉谴责。

去年「照片一键改漫画」掀起热潮，手指一点就能轻松制图，受到许多年轻人喜爱。随著绘图技术不断进化，AI现已能制作逼真的肖像、风景和静物等图像，程式版本不断更新，已修正AI画不好人类手指的缺点，致使辨别图片真伪愈形困难，仅凭肉眼几乎无法区别与真实照片有何不同。由AI绘图工具MidJourney生成的「川普被逮捕」、「习近平会见普丁亲吻照」、「教宗方济各穿名牌羽绒外套」等图片，制作者原始的出发点虽非恶意，但确实影响部分人们对于事件的认知。

从Deepfake到Cheapfake，制作成本与传播成本越来越低，增强使用AI作为犯罪手段的动机。今年2月扬子晚报报导，有不肖业者以AI仿真人的性感女仆照片，标榜开价人民币3千元就能享有女仆游艇派对的贴身服务，被踢爆海报中的女仆全都是AI绘图而非真人，在警方约谈处置后，活动宣布取消，差一点成为中国大陆AI绘图领域首起诈骗事件。该事件虽告落幕，但难保类似情事未来不会再重演。

ChatGPT爆红　犯罪手法再升级

美国人工智慧研究实验室 OpenAI，2022年11月底推出一种先进的AI技术─ChatGPT，透过大量资料的训练，借此学习并内化，拥有巨量知识以及与人类相似的语言能力，功能远胜于市面上出现过的 AI 聊天机器人，发布后迅速风靡全球。

由于强大的生产效率，ChatGPT深获网路诈骗犯青睐，几秒钟内就能编写一封情书，利用生成式AI创建虚拟角色后，透过电子邮件引诱被害人谈一场「虚拟恋爱」，先取得信任，再设法诈骗钱财。这种手法并不新鲜，但现在已难以分辨网路的另一端到底是人还是机器。

ChatGPT快速制作逼真文本的能力，使犯罪者不需花费太大力气，便可产出、散布特定论述。今年4月25日，甘肃多地传出「甘肃一辆火车撞上修路工人致9人死亡」的文章，追查发现都来自于广州深圳一间自媒体公司所编造散布的假新闻，负责人以科技手段编造假新闻，借以非法获利，行为已涉嫌「寻衅滋事罪」，是中国大陆第一起因滥用ChatGPT遭逮捕的案件。

不法份子借由AI技术伪造、传播色情影片，或利用错误讯息、仇恨与偏见言论训练AI，产出严重误导公众的内容。相关法律除了关注智慧财产权、隐私权问题，也不可忽视AI传递偏见与特定意识形态所造成的威胁。

不实讯息研究机构《First Draft》创办人克莱尔‧瓦杜(Claire Wardle)在2019年就曾指出，随著科技进步，制作深伪影片将越来越容易而且便宜，影片愈趋泛滥，散布者的罪恶感将会减少，最大的危机是造成民众对所见所闻、乃至于对整个社会产生不信任，一点一点地破坏民主制度。

AI成为认知作战的利器

去年Meta平台出现乌克兰总统泽伦斯基向俄国投降的影片，事后证实为深伪技术制作的假讯息。近期美国研究机构发现，利用深伪技术制作的亲中反美宣传片在网路盛传，影片中的主播是AI合成的虚拟人物，进行特定宣传，企图影响民众政治上的偏好。

日本媒体也指出，过去由于国外情报机关难找到大批语文人才，撰写流畅的日文文章，因此日本少有遭到资讯统战的案例。但ChatGPT已能产出论述清晰、文字运用通顺的日文文章，使得中国大陆、俄罗斯等国操控日本舆论、发动资讯战变得更为简单，形成极大的安全隐忧。

从前述例子来看，AI技术已在认知战和资讯战战场上大显身手，发展速度也超乎想像，威胁性不容小觑，且其负面效应有朝一日可能反噬操作者本身。一旦深伪攻击泛滥，人们可能会开始对任何图像、语音或影片失去信任，导致对真实事件和新闻的可信度失去信心，真实世界恐将遭到深伪建立的虚假世界所取代。

防范AI犯罪与认知作战刻不容缓

潘朵拉的盒子一旦被打开，就很难再关上，如何防止人类与民主价值不被科技巨头、极权国家侵犯，各国都必须严阵以待。

虽然说科技是中性的，关键在于什么人、如何去使用它，但平台方已意识到AI犯罪问题的严重性，思考如何避免情况进一步恶化。美国人工智能企业OpenAI日前宣布，从图像生成工具DALL-E中移除可能被用户用以创建色情图像的内容；Google宣布在其AI搜索工具Bard中添加过滤器，筛查仇恨言论等讯息。

「以AI制AI」是另一种尝试，一款名为Glaze的程式透过「误导」AI的方式，阻挠AI学习艺术创作者的风格，从而限制利用AI进行艺术抄袭。也有一些研究团队，透过分析语音特征分辨真伪，试图防范层出不穷的语音诈骗案件。

实际上，到目前为止，与AI的对抗，还是「人」之间的交锋。除了依照AI的风险等级，制定相对应的管制法规以外，如何开发出与人类价值观、道德观一致的AI系统，使其不被滥用、误用，是防范AI犯罪的关键课题。

对抗认知作战，假讯息的攻防是重中之重，需提升全民数位素养，不要转传未经查证的消息，并强化媒体识读，增加民众独立思辨能力，避免酝酿社会冲突，破坏国家安定。