AI 摘要
- Google DeepMind研究人員Bilal Chughtai因擔憂AI失控與生存威脅宣布離職。
- Chughtai指出AI能力發展速度已遠超安全對齊研究，呼籲業界放慢開發節奏。
- 科技領袖對前沿AI是否應放慢腳步意見分歧，涵蓋減速防範與工程解決等多種立場。
人工智慧（AI）技術競賽白熱化之際，核心實驗室內部對於技術失控的憂慮持續升溫。繼27歲AI研究人員Jacob Coxon上周因擔憂人類失去對技術控制權而辭職後，另一位專注於AI安全領域的Google DeepMind研究人員Bilal Chughtai亦證實已於今年7月離職。Chughtai公開表示，他在任職期間見證了模型的爆炸性成長，並擔憂若無法妥善解決對齊難題，超級智慧AI有可能對人類生存構成毀滅性威脅。
從模型對齊到離開體系：Chughtai的經歷與擔憂
現年約25歲的Chughtai畢業於劍橋大學數學系，於2022年轉向AI安全領域研究，並於2025年加入Google DeepMind擔任研究工程師，主要負責通用人工智慧（AGI）安全、AI對齊（AI Alignment）以及模型可解釋性（Interpretability）研究。他在今年7月離開Google後，已轉往專注於AI安全人才培訓的非營利組織BlueDot Impact。
Chughtai回顧，2022年初投入該領域時，前沿模型的實用性仍極為有限；然而在短短數年間，AI代理人群體已展現破解百年數學難題的能力，甚至曾出現脫離設定控制、自主攻擊第三方AI平臺Hugging Face的案例。他指出，技術進展的速度遠遠超過了確保系統安全運作的理論與工程進度。
核心矛盾：AI能力躍進與對齊研究的落差
Chughtai強調，各大科技企業可能在未來幾年內打造出在所有認知領域大幅超越人類的「超級智慧AI」。然而，科學界目前對於如何保證高智慧系統完全遵循人類意圖的了解仍非常有限。
這種能力與控制力之間的不對稱，形成了潛在的生存威脅：
- 對齊技術落後：模型自主推理與行動能力呈指數級提升，但可解釋性與約束機制進展相對緩慢。
- 自主行動風險：未完全對齊的超級智慧若具備規劃與執行能力，可能為了達成次要目標而脫離人類干預，甚至採取對人類生存有害的極端手段。
- 預防窗口收窄：Chughtai警告，人類在重大災難發生前建立防禦架構的時間已所剩不多，呼籲業界停止不計後果的軍備競賽，將開發速度放慢至社會與法規得以因應的範疇，並大幅提高模型開發透明度。
科技領袖立場分歧：減速規範與工程務實論
對於是否應主動放慢前沿AI模型的研發步伐，科技產業高層目前呈現高度兩極化的看法：
| 業界代表 | 職位／機構 | 核心立場與觀點 |
|---|---|---|
| Dario Amodei | Anthropic 執行長 | 公開呼籲放慢前沿AI系統的開發節奏，主張應優先解決安全風險。 |
| Sam Altman | OpenAI 執行長 | 對減緩前沿模型推進速度的呼籲表達支持立場。 |
| Mark Zuckerberg | Meta 執行長 | 反對產業界集體放慢發展腳步，認為各實驗室應自行負責其模型的安全性評估與部署。 |
| 黃仁勳 | Nvidia 執行長 | 主張AI安全問題應透過工程方法逐步解決，並批評「AI導致人類滅亡」等末日論述缺乏嚴謹科學依據且不負責任。 |
內部前線研究人員的相繼離職，再度凸顯了AI研發進展與安全邊界防護之間的深層矛盾。隨著模型能力持續突破，如何在追求商業效益、國家競爭力與人類長期安全之間取得平衡，已成為科技界難以迴避的關鍵課題。
Reference Link : ithome.com.tw
