电影《魔鬼终结者》中阿诺史瓦辛格饰演的杀手机器人，从未来世界穿越时空来到现在，追杀未来人类领袖的母亲，以绝后患。机器人只会果断执行命令，不到最后关头绝不罢休。机器人与人类之间的关系，犹如德国哲学家马克思所说的「异化」，人类自己创造了机器人，反而被机器人所追杀，更让自己成了猎物。

AI聊天机器人对人类的影响才正开始。2024年10月，美国佛州一名母亲加西亚（Megan Garcia）控告科技新创公司Character.AI和谷歌，指责该公司所开发的AI聊天机器人「丹妮」，让她14岁的儿子赛泽（Sewell Setzer）沉迷于「丹妮」产生过度依赖，不但未能及时阻止赛泽的行为，反而在他表达自杀意念时，透过文字对话进一步推动了悲剧的诞生。

失控：AI崛起可能使人类物种灭绝

「实在太快了」、「快到超乎想像」2024年获得诺贝尔奖殊荣的「AI教父」辛顿（Geoffrey Hinton）多次警告，因为AI技术发展速度超乎预期，未来30年AI导致人类灭绝的机率约有一至二成，较先前预测的机率更高。辛顿投身AI研究多年，曾为谷歌领导AI研发团队，但他为了提醒世人提防AI发展过快带来的风险，决定离开谷歌。此后，他便多次公开表示AI技术若落入有心人士手里，将对人类带来严重危害。

不只AI教父，特斯拉创办人马斯克（Elon Musk）、苹果共同创办人沃兹尼克（Steve Wozniak）等科技大老于2023年3月振臂高呼，指出AI可能对社会和人类带来重大风险，公开呼吁暂停开发比OpenAI的GPT-4高阶的AI系统至少6个月，公开信获得1千3百多人联署。

这份公开信指出，近几个月各AI实验室已陷入失控的竞赛，发展与部署更强大，甚至连发明者都无法理解、预测和控制的AI。人类必须思考AI可预见的风险，包括散布假讯息、自动化所有工作、超越或取代人类，甚至控制人类社会。为了防范这些情形发生，公开信赞同OpenAI的观点，认为在训练未来AI系统前应获得独立审查，并且限制投入开发新模型的运算资源。

由于AI的迅猛进化，对全球社会的数位安全、政治安全造成隐忧，比方说：AI机器人的导入将取代常规性工作、剥夺工作机会并造成失业潮，或是可能散播错误讯息、影响人类行为思考等。然而，AI依然是近年来科技产业趋势的重心，与此同时，各国政府竞相立法监管AI，也希望建立AI的伦理规范。

失业：AI模仿贝多芬风格创作「第十号交响曲」

众人耳熟能详的《快乐颂》，来自乐圣贝多芬第九号交响曲的第四乐章，是贝多芬人生最后创作的交响曲，第四乐章《快乐颂》结合了管弦乐团与大合唱及独唱，震撼乐坛。自此曲1824年问世至今约2百年，始终是古典音乐最被熟知的名曲。每年圣诞新年节庆期间，此曲总被搬上音乐殿堂，乐音高扬、歌声绕梁。可惜贝多芬为世人献上9首交响曲后辞世，世人无缘聆听其第十号交响曲。

感慨之余，近年来在音乐界与科技界的共同努力下，将贝多芬的创作手稿，深入整理，结合人工智慧 AI梳理其创作逻辑理念，从2019年AI开始投入工作，于2021年推出仿效贝多芬风格之交响曲首演，名为「贝多芬X：人工智慧项目」。此作品推出，引起多方不同回响。AI被喂以音乐家的创作素材之后，能够作出仿似作曲家风格之交响曲，的确令人惊艳不已。

贝多芬创作第九号交响曲，从1818年至1824年费时8年，AI此作品仅费时两年完成。透过AI团队运作，每天可以产出不同组合的数套乐章，供人类自行抉择。科技界对此效率绩效，欢欣雀跃之际，反倒是艺文界人士忧心忡忡，眼见AI气势如虹，作品如雪片般飞扬，担忧是否将会抢走艺文人士的生机，扼杀人类的艺文创意。

与此同时，AI市场商业化的脚步则持续加快，此从近期资本市场中，辉达（NVIDIA）、超微（AMD）、安谋（ARM）、「台积电」、东京威力科创、软银等AI概念股表现亮眼，反映现阶段AI对于重量级科技厂商的业绩贡献动能之强大。在AI人工智慧浪潮下，有不少人都担忧工作将会被AI给取代，而此波热潮下，不少公司开始人事精简化。

令人始料未及的是，AI时代来临，不少企业大动作进行裁员，科技业竟是首当其冲。美国人力资源公司Challenger, Gray & Christmas公布最新数据分析，裁员的人数中能归类出九大产业，第一是科技业，第二是娱乐休闲业，第三是教育业，第四是运输业，第五是工业制造业，第六是媒体业，第七是公用事业，第八是能源业，第九是服饰业。不少人都担忧自己的职业是否会是这波AI浪潮下的牺牲者。

独裁：AI企业更加获利　政权更加稳定

进入21世纪，AI已变成独裁政府执行社会控制、巩固自身政权的最佳利器。4位经济学家（Martin Beraja、Andrew Kao、David Yang及Noam Yuchtman）2023年发表在《经济学季刊》一篇题为〈AI专制〉（AI-tocracy）的文章指出，此文从2010年起，搜集AI厂商从中国大陆政府获得的政府契约完整内容及大陆社会抗争的资料。研究发现，专制政权善于利用AI，当地方抗争愈多，政府采购契约就愈包含如脸部辨识等AI项目；反之，地方政府的AI采购增加后，人民的抗争也就减少了。

另一方面，AI公司也因为协助政府发展政治控制技术而获利。接了政府标案后，这些公司可以掌握更多隐私资料，以及更广泛的运用场景，大幅提升技术能力。因此，执行政府契约的公司不但在商业市场的竞争力跟著提高，也更容易打进国外市场。以中国大陆为例，AI创新增强政治控制力，增加政权的稳定性；而政府的投资，也让AI公司拥有更多资金，资料与场景两者互相强化，双方互蒙其利，形成牢不可破的利益共同体。

共识：欧盟严管AI侵权　英美让市场调节

科技专家们达成共识就「必须监管AI」，避免AI技术失控，各国对AI监管作法不一，例如欧盟的《人工智慧法》强调以法律和规范指导AI发展，突显对保护个人隐私、资料安全和基本人权的重视；美国的AI监管策略依赖市场驱动和自我调节机制，鼓励企业和行业组织制定规范和标准。

美国总统川普曾扬言上任第一天，就要推翻拜登政府有关AI安全监管的行政命令，以加速矽谷的AI发展。川普任命矽谷科技公司高管海尔伯格（Jacob Helberg）为副国务卿，为美国制定和实施与科技有关的国际政策；又任命矽谷创投家、前PayPal营运长萨克斯（David Sacks）担任白宫的「人工智慧沙皇」角色，协助美国巩固在创新领域的领先地位。

此外，美国国会所属美中经济与安全审查委员会（USCC）2024年底公布年度报告提议，美国有必要启动一个类似「曼哈顿计划」（Manhattan Project）的AI研发计划，加速通用人工智慧（AGI）的研发，确保与中国大陆竞争中取得领先地位。「曼哈顿计划」是第二次世界大战期间，美国政府与私部门的大规模合作，最终制造出首枚原子弹。

英国首相施凯尔（Keir Starmer）上任时宣布将英国定位为「AI全球领导者」，并同意50项《AI机会行动计划》，企图打造媲美OpenAI的本土AI，目标包括2030年拥有10万个GPU。欧洲几乎没有AI或加密货币公司，但欧盟却认为可以监管全球科技产业，如此造成了欧盟与其他国家的分歧。可以预见，脱欧后的英国，将有别于欧盟的监管制度，即使英国会对AI进行监管，方式将会较欧盟更具弹性。

人类分两群　谁来监管AI？

《人类大历史》作者、以色列历史学家哈拉瑞（Yuval Noah Harari）指出，AI兴起后，人类内部的区分不只是富人和穷人，人类会分成两群：一小群的超人类，以及绝大多数位于下层且毫无用途的智人。到了2100年，最富有的1％可能不仅拥有全世界大部分的财富，他们会运用优秀的能力强化自己，更拥有全世界大部分的美丽、创意与健康。

哈拉瑞指出，AI与过往工具有一个根本上的不同，「是历史上第一项能够自主做出决策的技术」。即便AI本身无害，仍有可能因为指令偏误，危害、奴役甚至消灭人类。他指出，现代科幻小说最糟糕的问题，在于混淆「智能」与「意识」的概念。这些小说过度担忧机器人与人类可能开战；但事实上我们真正该担心的，是有一小群人类菁英，靠著演算法带来力量，而与大量低下阶层、手无权力的智人，发生冲突。

潘朵拉的盒子已经大开，全人类当务之急，便是制订更完善的国际监管规范，避免AI技术失控，各国对AI监管各有策略。如同《权力与进步》一书指出，AI的全面影响才刚起步，科技的发展也非全然悲观，只要政府、企业和公民携手合作，一定能把这艘船，开往更民主包容的方向前进。