2023年5月，一张疑似描绘美国五角大厦周遭发生巨大爆炸的影像，在社群平台X（原Twitter）上迅速流传。画面中，浓烟直窜天空，场景骇人，该影像立即唤醒人们对2001年911恐怖攻击的阴影。在接下来短短几分钟内，该贴文被迅速大量转传，引发市场短暂震荡，美股甚至一度下挫。事后证实，这张影像是由生成式AI制作的假图像。尽管事件很快被厘清，但该事件已清楚的凸显了一个事实：在高度即时、相互连结的资讯年代中，AI生成的错假内容，即使只存在片刻，也足以产生真实的政治与经济后果。

这起事件并非孤立案例，而是AI资讯操弄逐步进入公共视野的缩影。随著生成式AI技术快速成熟，资讯的生产、扩散与再制方式正发生结构性改变。过去需要大量人力、时间与资源才能完成的宣传、带风向与舆论操纵行为，如今可以在极短时间内完成，且内容品质之高，足以混入日常资讯流之中。对民主社会而言，这不只是「假新闻变多」的问题，而是公共讨论的基本条件正在逐渐改变中。

AI辅助下　产制内容与操作假帐号成本显著降低

AI带来的基本改变有以下至少三项。首先，生成式AI显著降低政治内容的生产成本。大型语言模型能快速生成大量文字，并依不同语境、语言与受众调整语气与叙事，使政治讯息更容易被包装成自然、理性，甚至像是一般民众的意见。在社群媒体与新闻网站的留言区中，这类内容往往不是以单一错误资讯出现，而是以大量彼此呼应、论点高度一致的留言呈现，逐步制造出某种看似存在的社会共识。

其次，AI正在提高资讯操弄的持续性。过去的政治水军或假帐号操作，往往受限于人力、语言能力与管理成本，较容易留下破绽。例如，在人力上，真人操作的水军有固定上下班与午休时间，因此调查者过去曾按照特定发文时间进行判断。然而，在AI的辅助下，操作者可以同时维持多个帐号的叙事一致性，又能在细节上保有差异，使行动更隐蔽，更难被即时辨识。这类操作不需透过戏剧性的谎言，而是透过长时间、跨平台的留言与互动，逐步引导讨论方向，让特定立场看起来越来越合理、越来越主流。

第三，深伪技术的成熟，使公众面临更严峻的识读能力挑战。当影像、声音与文字都可以被高度逼真地合成，公众不仅更容易被误导，也更容易对真实资讯产生怀疑。这种真假难辨的状态，可能削弱人们对媒体、政府与公共机构的基本信任，并在政治冲突或选举期间放大混乱与不确定性。即使深伪内容最终被揭穿，其短期造成的信任侵蚀，往往已对政治过程产生影响。

AI操弄资讯之政治后果　学界仍有分歧

上述三项发展固然真切的威胁民主社会的稳定、信任与公众讨论。然而，学界对AI资讯操弄的实际影响与政治后果，仍存在重要分歧。

第一个核心争论，在于生成式AI带来的能力跃升，是否构成资讯操弄的根本性改变，而不只是加速传播。较为警觉的研究指出，生成式AI不仅提升内容产制速度，更改变影响力行动的组织逻辑，使原本高度仰赖人力的操作，转变为人机协作的规模化，甚至让小型行为者具备接近国家级影响力操作的能力。换句话说，假讯息的传播方式、影响力，以及衍生的辨识方式，已进入全新的纪元。但另一类研究谨慎的提醒，AI在资讯操弄的讨论，多半建立在技术潜力之上，仍然缺乏长期、可重复的实证支持。这类研究认为，即使AI 提升了内容品质与数量，受限于人的注意力与既存心理需求，例如「可欲性偏误」（desirability bias）、「确认偏误」（confirmation bias），或「选择性曝光」（selective exposure）等，大规模的假讯息要转化为大规模态度改变，仍高度依赖平台演算法、媒体环境与社会极化程度，而并非假讯息本身。

第二类研究方向，则把假讯息的研究焦点从单一内容转向为塑造或改变整体舆论。研究发现，政治上的「伪造草根民意」（astroturfing）行动在依赖人力的情况下往往呈现高度协调的行为模式，这种伪造共识本身，即足以影响人们对舆论走向的判断。研究者针对这一协调的现象，发展特定的方法追踪这些帐号。AI的出现使原本的追踪技术需要更新，但伪造民意的研究向来是假讯息研究的重要方向之一，实证研究显示，假讯息的实际接触与分享高度集中于特定族群，其影响并非均匀扩散至整体社会，这使得其塑造舆论的效果是否被高估，成为一个辩论中的问题。

第三类研究方向，聚焦在AI生成的留言对公众的影响。研究指出，人们在判断政治议题时，往往依赖对多数意见的感知线索，而非仅评估内容本身的真伪与论证品质。当留言区呈现出高度一致的立场时，使用者容易重新评估何为主流意见，进而调整自身态度。

第四类研究方向，则探讨生成式AI对国际冲突的影响。透过研究非洲冲突与联合国维和行动，显示生成式AI的假资讯恶化刚果与卢安达的关系，并且煽动人们的暴力倾向，甚至威胁国际组织的可信度，进而威胁联合国维和人员的安全。最后，也有学者提醒，对AI资讯操弄的恐慌过度宣传，可能产生另一种政治影响。若社会普遍相信资讯已被全面操纵，反而可能削弱公民参与，使得民主讨论更加贫弱，或为过度管制提供正当性。

错假内容　已侵蚀公众对民主讨论的信赖

总体而言，AI资讯操弄是一种仍在快速演化中的技术与政治实践。现有研究大致可以确认，生成式AI确实提升资讯操弄行为者的能力，并透过心理机制，在特定条件下产生政治影响；但其影响的类型与扩散范围，仍有必要加以细致区分。当前的实证证据显示，AI生成的错假内容往往更倾向于强化既有信念，而非全面改变公众态度。即便如此，这一趋势仍对民主社会构成警讯，因为它已然侵蚀民主讨论中所仰赖的信任与沟通基础。与此同时，若对AI资讯操弄的风险过度恐慌，也可能进一步削弱公众对资讯环境的信赖，甚至为过度管制提供正当性。因此，对民主社会而言，当前的关键或许不在于过早下定论，而在于持续运用科学、可检验的研究方法，审慎评估其实际影响，与社群媒体平台紧密配合，逐步重建社会对开放资讯的信心。