電影《魔鬼終結者》中阿諾史瓦辛格飾演的殺手機器人，從未來世界穿越時空來到現在，追殺未來人類領袖的母親，以絕後患。機器人只會果斷執行命令，不到最後關頭絕不罷休。機器人與人類之間的關係，猶如德國哲學家馬克思所說的「異化」，人類自己創造了機器人，反而被機器人所追殺，更讓自己成了獵物。

AI聊天機器人對人類的影響才正開始。2024年10月，美國佛州一名母親加西亞（Megan Garcia）控告科技新創公司Character.AI和谷歌，指責該公司所開發的AI聊天機器人「丹妮」，讓她14歲的兒子賽澤（Sewell Setzer）沉迷於「丹妮」產生過度依賴，不但未能及時阻止賽澤的行為，反而在他表達自殺意念時，透過文字對話進一步推動了悲劇的誕生。

失控：AI崛起可能使人類物種滅絕

「實在太快了」、「快到超乎想像」2024年獲得諾貝爾獎殊榮的「AI教父」辛頓（Geoffrey Hinton）多次警告，因為AI技術發展速度超乎預期，未來30年AI導致人類滅絕的機率約有一至二成，較先前預測的機率更高。辛頓投身AI研究多年，曾為谷歌領導AI研發團隊，但他為了提醒世人提防AI發展過快帶來的風險，決定離開谷歌。此後，他便多次公開表示AI技術若落入有心人士手裡，將對人類帶來嚴重危害。

不只AI教父，特斯拉創辦人馬斯克（Elon Musk）、蘋果共同創辦人沃茲尼克（Steve Wozniak）等科技大老於2023年3月振臂高呼，指出AI可能對社會和人類帶來重大風險，公開呼籲暫停開發比OpenAI的GPT-4高階的AI系統至少6個月，公開信獲得1千3百多人聯署。

這份公開信指出，近幾個月各AI實驗室已陷入失控的競賽，發展與部署更強大，甚至連發明者都無法理解、預測和控制的AI。人類必須思考AI可預見的風險，包括散布假訊息、自動化所有工作、超越或取代人類，甚至控制人類社會。為了防範這些情形發生，公開信贊同OpenAI的觀點，認為在訓練未來AI系統前應獲得獨立審查，並且限制投入開發新模型的運算資源。

由於AI的迅猛進化，對全球社會的數位安全、政治安全造成隱憂，比方說：AI機器人的導入將取代常規性工作、剝奪工作機會並造成失業潮，或是可能散播錯誤訊息、影響人類行為思考等。然而，AI依然是近年來科技產業趨勢的重心，與此同時，各國政府競相立法監管AI，也希望建立AI的倫理規範。

失業：AI模仿貝多芬風格創作「第十號交響曲」

眾人耳熟能詳的《快樂頌》，來自樂聖貝多芬第九號交響曲的第四樂章，是貝多芬人生最後創作的交響曲，第四樂章《快樂頌》結合了管弦樂團與大合唱及獨唱，震撼樂壇。自此曲1824年問世至今約2百年，始終是古典音樂最被熟知的名曲。每年聖誕新年節慶期間，此曲總被搬上音樂殿堂，樂音高揚、歌聲繞樑。可惜貝多芬為世人獻上9首交響曲後辭世，世人無緣聆聽其第十號交響曲。

感慨之餘，近年來在音樂界與科技界的共同努力下，將貝多芬的創作手稿，深入整理，結合人工智慧 AI梳理其創作邏輯理念，從2019年AI開始投入工作，於2021年推出仿效貝多芬風格之交響曲首演，名為「貝多芬X：人工智慧項目」。此作品推出，引起多方不同迴響。AI被餵以音樂家的創作素材之後，能夠作出仿似作曲家風格之交響曲，的確令人驚艷不已。

貝多芬創作第九號交響曲，從1818年至1824年費時8年，AI此作品僅費時兩年完成。透過AI團隊運作，每天可以產出不同組合的數套樂章，供人類自行抉擇。科技界對此效率績效，歡欣雀躍之際，反倒是藝文界人士憂心忡忡，眼見AI氣勢如虹，作品如雪片般飛揚，擔憂是否將會搶走藝文人士的生機，扼殺人類的藝文創意。

與此同時，AI市場商業化的腳步則持續加快，此從近期資本市場中，輝達（NVIDIA）、超微（AMD）、安謀（ARM）、「台積電」、東京威力科創、軟銀等AI概念股表現亮眼，反映現階段AI對於重量級科技廠商的業績貢獻動能之強大。在AI人工智慧浪潮下，有不少人都擔憂工作將會被AI給取代，而此波熱潮下，不少公司開始人事精簡化。

令人始料未及的是，AI時代來臨，不少企業大動作進行裁員，科技業竟是首當其衝。美國人力資源公司Challenger, Gray & Christmas公布最新數據分析，裁員的人數中能歸類出九大產業，第一是科技業，第二是娛樂休閒業，第三是教育業，第四是運輸業，第五是工業製造業，第六是媒體業，第七是公用事業，第八是能源業，第九是服飾業。不少人都擔憂自己的職業是否會是這波AI浪潮下的犧牲者。

獨裁：AI企業更加獲利　政權更加穩定

進入21世紀，AI已變成獨裁政府執行社會控制、鞏固自身政權的最佳利器。4位經濟學家（Martin Beraja、Andrew Kao、David Yang及Noam Yuchtman）2023年發表在《經濟學季刊》一篇題為〈AI專制〉（AI-tocracy）的文章指出，此文從2010年起，蒐集AI廠商從中國大陸政府獲得的政府契約完整內容及大陸社會抗爭的資料。研究發現，專制政權善於利用AI，當地方抗爭愈多，政府採購契約就愈包含如臉部辨識等AI項目；反之，地方政府的AI採購增加後，人民的抗爭也就減少了。

另一方面，AI公司也因為協助政府發展政治控制技術而獲利。接了政府標案後，這些公司可以掌握更多隱私資料，以及更廣泛的運用場景，大幅提升技術能力。因此，執行政府契約的公司不但在商業市場的競爭力跟著提高，也更容易打進國外市場。以中國大陸為例，AI創新增強政治控制力，增加政權的穩定性；而政府的投資，也讓AI公司擁有更多資金，資料與場景兩者互相強化，雙方互蒙其利，形成牢不可破的利益共同體。

共識：歐盟嚴管AI侵權　英美讓市場調節

科技專家們達成共識就「必須監管AI」，避免AI技術失控，各國對AI監管作法不一，例如歐盟的《人工智慧法》強調以法律和規範指導AI發展，突顯對保護個人隱私、資料安全和基本人權的重視；美國的AI監管策略依賴市場驅動和自我調節機制，鼓勵企業和行業組織制定規範和標準。

美國總統川普曾揚言上任第一天，就要推翻拜登政府有關AI安全監管的行政命令，以加速矽谷的AI發展。川普任命矽谷科技公司高管海爾伯格（Jacob Helberg）為副國務卿，為美國制定和實施與科技有關的國際政策；又任命矽谷創投家、前PayPal營運長薩克斯（David Sacks）擔任白宮的「人工智慧沙皇」角色，協助美國鞏固在創新領域的領先地位。

此外，美國國會所屬美中經濟與安全審查委員會（USCC）2024年底公布年度報告提議，美國有必要啟動一個類似「曼哈頓計畫」（Manhattan Project）的AI研發計畫，加速通用人工智慧（AGI）的研發，確保與中國大陸競爭中取得領先地位。「曼哈頓計畫」是第二次世界大戰期間，美國政府與私部門的大規模合作，最終製造出首枚原子彈。

英國首相施凱爾（Keir Starmer）上任時宣布將英國定位為「AI全球領導者」，並同意50項《AI機會行動計畫》，企圖打造媲美OpenAI的本土AI，目標包括2030年擁有10萬個GPU。歐洲幾乎沒有AI或加密貨幣公司，但歐盟卻認為可以監管全球科技產業，如此造成了歐盟與其他國家的分歧。可以預見，脫歐後的英國，將有別於歐盟的監管制度，即使英國會對AI進行監管，方式將會較歐盟更具彈性。

人類分兩群　誰來監管AI？

《人類大歷史》作者、以色列歷史學家哈拉瑞（Yuval Noah Harari）指出，AI興起後，人類內部的區分不只是富人和窮人，人類會分成兩群：一小群的超人類，以及絕大多數位於下層且毫無用途的智人。到了2100年，最富有的1％可能不僅擁有全世界大部分的財富，他們會運用優秀的能力強化自己，更擁有全世界大部分的美麗、創意與健康。

哈拉瑞指出，AI與過往工具有一個根本上的不同，「是歷史上第一項能夠自主做出決策的技術」。即便AI本身無害，仍有可能因為指令偏誤，危害、奴役甚至消滅人類。他指出，現代科幻小說最糟糕的問題，在於混淆「智能」與「意識」的概念。這些小說過度擔憂機器人與人類可能開戰；但事實上我們真正該擔心的，是有一小群人類菁英，靠著演算法帶來力量，而與大量低下階層、手無權力的智人，發生衝突。

潘朵拉的盒子已經大開，全人類當務之急，便是制訂更完善的國際監管規範，避免AI技術失控，各國對AI監管各有策略。如同《權力與進步》一書指出，AI的全面影響才剛起步，科技的發展也非全然悲觀，只要政府、企業和公民攜手合作，一定能把這艘船，開往更民主包容的方向前進。