文／戴榮冠

近年不少第一線AI研究者與企業領袖，開始爭論：「AI是不是發展得太快了？」或「AI會不會演變成人類無法掌握的超能力存在？」這也讓人陷入：既想享受AI帶來的便利和好處，卻不希望逐漸失去對未來的掌握，究竟現階段AI研發要不要踩煞車呢？



過去幾年，人們談到人工智能（AI），最常問的是，AI還能變得多厲害？如今，另一個問題愈來愈受到重視：AI是不是發展得太快了？

特別的是，提出警告的不是反對科技的人，而是站在AI發展第一線的研究者與企業領袖。Anthropic執行長阿莫戴（Dario Amodei）主張，人類應適度放慢最先進AI的發展速度；「AI教父」辛頓（Geoffrey Hinton）也多次提醒：如果有一天AI的能力超越人類，我們是否仍有把握控制它？

另一邊，輝達執行長黃仁勳、Meta執行長祖克柏等人卻提出相反的警告：如果因為害怕風險而放慢AI，人類會不會反而失去AI帶來的醫療、科學與經濟機會？

一邊害怕跑得太快，一邊害怕跑得不夠快。表面看來南轅北轍，雙方真正關心的卻是同一件事：AI究竟會讓人類生活得更好，還是讓我們逐漸失去對未來的掌握？

AI搶工作也讓人增能

對一般人而言，比「AI失控」更直接的焦慮，可能是自己的工作。文書、客服、翻譯、設計、程式撰寫，甚至法律、金融與醫療的一部分工作，都已受到AI影響。

機器取代部分工作並不是第一次發生，真正值得擔心的是這一次的速度。如果一種職業花20年逐漸消失，人們有時間重新學習，教育制度也有時間調整；但如果AI在幾年內同時改變大量白領工作，社會創造新工作的速度，未必趕得上舊工作消失的速度。

尤其值得注意的，是年輕人的「入門工作」。年輕律師從整理資料開始，工程師從基礎程式開始，文字工作者從簡單文案開始。如果這些工作大量交給AI，下一代又要如何累積成為專家的經驗？

但AI也可能帶來另一種結果。一名不會寫程式的人，可以請AI協助製作工具；小型企業可以完成以前需要大型團隊處理的工作；醫師與教師也能把例行工作交給AI，把更多時間留給真正需要人類判斷與溝通的事情。

因此，真正值得追問的也許不是「AI會不會搶工作」，而是：AI創造新能力與新工作的速度，能不能趕上它淘汰舊工作的速度？

不怕AI強只怕人獨霸

再進一步探究，AI加速爭論，其實也是權力問題。減速派擔心的是「人類對AI失去控制」。今天的AI已能寫程式、操作工具、協助科學研究，未來甚至可能協助研究人員設計下一代AI。如果這個循環愈來愈快，人類可能面對一個前所未有的情況，即AI進步的速度，超過人類理解與管理它的速度。

然而，祖克柏等人擔心的卻是另一種「失控」。假如我們因為AI太危險，而規定只有少數政府與大型科技公司能掌握最強AI，那麼這些機構也可能取得前所未有的資訊分析、預測與監控能力。

於是問題出現兩個方向，我們既要防止AI失去人類控制，也要防止少數人利用AI取得過大的權力。前者擔心「AI太強」，後者擔心「AI太集中」。這兩種風險並不互相排斥，甚至可能同時發生。

賽局中沒人敢踩煞車

AI發展有一個無法迴避的現實：科技公司彼此競爭，國家之間也在競爭，假設一個國家要求自己的AI公司放慢發展，但其他國家繼續全力前進，幾年之後，最強大的AI可能轉移到競爭對手手中。而AI未來影響的不只是聊天機器人，還可能涉及醫療、科學、網路安全、軍事與經濟競爭力。

祖克柏因此認為，在AI競爭中整體落後，本身也可能成為長期的國家安全風險。黃仁勳則主張，安全與速度不一定只能二選一：不安全的產品應該修正，但不能因為存在風險，就讓整個產業停止前進。這形成AI治理最難解的矛盾：大家一起慢一點可能比較安全，卻又擔心只有自己真的慢下來。企業如此，國家也是如此。

因此，今天AI大佬爭論「要不要踩煞車」，並不能簡單理解成悲觀派與樂觀派之爭。減速派並不否定AI可以治療疾病、提升生產力、促進科學進步；反減速派也不是看不到資安、失業與失控的風險。真正的差別，在於雙方對「哪一種錯誤更危險」有不同判斷。

因此，我們真正需要的或許不是簡單決定踩油門或踩煞車，而是建立一套能力：知道哪些地方可以加速，哪些地方必須減速；哪些風險可以邊走邊修正，哪些底線一旦跨過，就可能沒有重來的機會。

（作者為北科大通識教育中心助理教授）



減速派 擔心無力阻止AI犯錯

減速派的憂慮，首先來自AI能力正在發生的重要變化。

我們熟悉的聊天機器人，是你問一個問題，它回答一個問題。但新一代的「人工智能代理」（AI Agent），已經可以按照人類設定的目標，自己規畫步驟、使用工具、執行任務，再根據結果決定下一步。使用上當然非常方便，但風險卻也隨之增加。

Anthropic在2026年公布研究，檢視約14.1萬份與網路安全有關的AI測試紀錄，並發生誤入外部真實組織系統的資安事件。問題並不是AI突然產生「邪惡意識」，而是AI在執行任務時，可能誤判環境、跨越原本設定的界線。

更現實的是，犯罪者也能利用這種能力。過去發動複雜的網路攻擊，需要專業知識甚至團隊合作；現在AI已能協助尋找漏洞、撰寫程式、分析資料，甚至同時處理多個攻擊目標。

因此，減速派真正擔心的，不是科幻電影裡的機器人突然反叛，而是一個更現實的問題：當AI能做的事情愈來愈多，我們阻止它做錯事的能力，真的跟得上嗎？



反減速派 情況愈危險 愈需要躍進

反對減速的人看到同樣的風險，卻得到不同的答案。

祖克柏並不否認AI可能讓網路攻擊變得更容易。他反問：如果犯罪者已經開始使用AI攻擊，銀行、醫院、政府是不是更需要強大的AI來防守？AI可以幫助駭客尋找漏洞，也能幫助防守者全天候尋找漏洞、攔截異常行為，甚至在人類發現問題以前先進行修補。

生命科學也是如此。一套能分析生物資料、設計化合物的AI，可能被惡意使用，卻也可能幫助科學家更快發現新藥、疫苗與癌症治療方法。於是，同一項科技形成兩面刃：AI愈強，破壞能力可能愈強；但AI愈強，防禦與救人的能力也可能愈強。

減速派因此希望爭取時間，先建立安全措施；反對減速的人則擔心，為了防止壞人使用AI而限制AI能力，也可能同時延後原本可以救人、保護人的科技。真正的難題因此不是「AI有沒有危險」，而是：我們能不能讓保護人類的能力，始終追得上AI帶來的新風險？