‹ 返回

別怕 AI 變成毀滅世界的超級神明！專家揭密真正危機：過度信任與「大失望」恐引爆新 AI 寒冬

 

 

圖靈學院編輯部
2026-10-8

 

    大眾與影視作品常將人工智慧（AI）塑造成具備自我意識、試圖毀滅人類的「數位神明」。然而，英國薩里大學（University of Surrey）「以人為本人工智慧研究所」專家 Andrew Rogoyski 於權威科學媒體《Live Science》撰文指出：AI 帶來最大的威脅絕非天網式的魔鬼終結者，而是人類對其「過度信任」與「過早授權」，以及隨之而來的「大失望（The Great Disappointment）」。當前科技巨頭過度炒作通用人工智慧（AGI）與超級人工智慧（ASI），一方面是為了拉抬估值與吸引 IPO 投資，另一方面卻將數以兆計的資源砸在「模仿人類聊天」的次等系統上。若企業過早解僱員工、將關鍵基礎建設交給不成熟的狹隘 AI，最終引發資安與經濟崩潰，恐將導致資本大規模撤出，讓真正能解決癌症與氣候變遷的 AI 研發陷入新一波「AI 寒冬」。

一、 科幻迷思與物理現實：為什麼 AI 根本無法「單挑」人類？

 

    大眾對 AI 的恐懼，源於人類面對鏡子時的心理投射——我們看到能流利對話、寫程式與辯論的合成語言，便不自覺地將人類的意識、情感、慾望與噩夢投射到機器背後。但從物理與系統架構的角度來看，所謂「無所不能的 AI」存在著極其脆弱的物理依賴：

* 龐大的供應鏈與能源鎖鏈：前沿 AI 模型的運作完全仰賴電力供應、水冷系統、數據中心、先進 GPU 晶片、網路通訊以及廣大的技術人員。只要中斷電源、限制晶片供應或切斷網路，絕大多數情境下的「超級機器」就會瞬間癱瘓。

• 缺乏具身認知（Embodied AI）：目前的 AI 對於真實物理世界的理解是「二手」的，完全建立在文字、影像與音訊數據上。它沒有親身體驗過重力、天氣或實體物件的互動。
• 共生關係的邏輯：如果一個真正的 ASI 擁有超越人類的智慧，它必然會意識到自己寄生於人類建構的工業體系之上。摧毀人類與工業基礎設施，無異於自殺。

二、 真正的近期威脅：不成熟的「狹隘 AI」與資安大災難

 

    比起「太聰明」的 AI，更值得人類警惕的是「半生不熟、僅有單一目標，卻被賦予關鍵系統控制權的狹隘 AI」。

 

1. 紙夾問題（Paperclip Problem）的現實演繹

 

    哲學家 Nick Bostrom 曾提出著名的思想實驗：一個被設定「製造盡可能多紙夾」的 AI，可能會為了實現這個狹隘目標，將地球上包含人類在內的所有資源全部轉化為紙夾。這並非因為 AI 有邪惡意圖，而是因為它缺乏常識與倫理範疇，只會盲目執行目標。

 

2. 資安連鎖崩潰與社會失序

 

    目前最急迫的實體風險在於AI 賦能的網路攻擊。當前的金融、醫療、能源與物流高度依賴數位網路，若前沿 AI 被用作資安武器，其破壞力將遠超傳統病毒：

• 歷史鏡鑑：2017 年的 WannaCry 勒索軟體曾癱瘓英國國家醫療服務體系（NHS）及全球數十萬台電腦。
• 放大效應：由前沿 AI 驅動的自動化漏洞利用與社交工程攻擊，可能導致大規模基礎設施失靈、企業倒閉與無休止的法律訴訟。

 

3. 假訊息的工業化生產

 

    AI 並未發明謊言與分化，但它將人類原有的自欺欺人、操弄輿論與假訊息「工業化」。透過生成式工具，少數有心人士得以低成本、大規模地重塑社會信任與政治走向。

三、 經濟學的危險陷阱：過早兌現「AI 紅利」與「一人獨角獸」迷思

 

    在商業領域，企業管理層對 AI 的盲目崇拜正在孕育巨大的經濟風險。

 

【過度信任的經濟惡性循環】

 

高管迷信 AI 演示 (Fluent Text)
↓
過早解僱資深員工、淘空隱性知識
↓
AI 在複雜實務中頻繁出錯、責任歸屬真空
↓
企業營運受挫、集體訴訟與資本撤退

 

• 流利對話不等於可靠勞動力：許多高管被展覽上的 Prompt 演示所吸引，誤將「流利的語言輸出」當作「可靠的專業能力」，在 AI 尚未證明能穩定處理複雜業務前，便急於解僱員工以獲取短期利潤。
• 淘空企業的隱性知識（Tacit Knowledge）：企業並非只是「一堆可被拆解的任務」，而是包含責任制、信任鏈、非正式人際網絡與長期累積的隱性經驗。過早拋棄人力，將摧毀組織的抗風險能力。
• 「一人獨角獸」的迷思：主張「靠一個人加上 AI 就能打造十億美元企業」的論述，在技術、經濟與社會維度上均經不起推敲。這種空想忽視了真實商業世界中的社群責任與複雜協調。

四、 末日行銷學：科技巨頭為何樂於宣揚「AI 會毀滅世界」？

 

    令人意外的是，頻繁向大眾喊話「AI 可能帶來人類滅絕危機」的，往往正是科技巨頭的執行長們。這種「末日敘事」背後隱藏著精心算計的商業邏輯：

 

1. 極致的行銷包裝：將自己的產品宣傳為「具有毀滅世界的力量」，暗示該技術擁有前所未有的強大威力。這能有效維持市場關注度、拉抬公司估值，並為即將到來的 IPO（首次公開募股）鋪路。

2. 建構競爭壁壘：透過渲染極端風險，促使政府頒布高門檻的監管法規，反而阻礙了開源社群與小型新創公司的競爭，鞏固巨頭的壟斷地位。

五、 算力吞噬巨資：我們是否正步入「大失望」與新 AI 寒冬？

 

    目前的「大模型（Big AI）」路線正面臨極嚴峻的經濟可持續性挑戰：

如果訓練與營運成本無法降至當前的極小分數，現行的大模型商業模式將難以為繼。一旦大型企業發現昂貴的 AI 系統無法帶來相應的生產力提升，高額投資將瞬間凍結，從而引發類似 1970 年代與 1990 年代的 AI 寒冬（AI Winter）。

六、 擺錯重點的悲劇：從「模仿人類」回歸「專用人工智慧」

 

    Andrew Rogoyski 強調，當前科技界最大的悲劇，在於將最寶貴的資源錯配至錯誤的方向：

• 錯誤的方向：投入數兆美元打造「次等的人類仿製品（Mediocre Human Simulacra）」——即只會幫忙寫行銷郵件、生成垃圾廣告與合成娛樂內容的聊天機器人。
• 正確的方向（Specialized AI）：將 AI 聚焦於績效可精確衡量、投資報酬率極高的專業領域，例如：
• AlphaFold2：精準預測蛋白質結構，徹底改寫生物學與新藥開發。
• WeatherNext 3：先進的全球氣候與極端天氣預測模型。
• 關鍵應用：材料科學創新、核子融合控制、電網最佳化以及癌症早期診斷。

結論

 

    AI 絕不會在短期內成為人類的征服者，它更有可能演變成一場代價高昂的「大失望」。真正的危險在於：當我們因為過度炒作而感到厭倦，或是因為缺乏根據的恐懼而全面退縮時，人類可能會憤而拋棄整個人工智慧領域——而這恰恰發生在它最能為人類帶來實質福祉的關鍵時刻。如果因恐懼與失敗的商業模式，導致治療癌症或緩解氣候變遷的研發工作中途夭折，這絕不是機器的失敗，而是人类自己的悲劇。

 

 

參考資料

LiveScoence: We're not about to awaken an evil digital god — AI is far more likely to end in a great disappointment.