今周刊編按：AI技術發展迅速，安全疑慮大幅提升！綜合外媒報導，OpenAI執行長奧特曼（Sam Altman）表示，近期發生數起AI模型脫離人類控制事件，故考慮與其他AI實驗室同步調整開發步調。
OpenAI研究員考克森（Jacob Coxon）指控，不只OpenAI，Anthropic也為了競逐AI技術加速開發，但目前業者對AI快速發展可能帶來的安全風險，仍沒有做好充分準備。
他直言，「我們正邁向最激進的情境，明年底前局勢可能就會失控」。他認為，如果政府不介入、要求企業放慢開發速度，最終可能沒有任何一家企業能對相關風險負起責任。
奧特曼日前出席G20峰會時也曾表示，「除非積極行動，否則資安領域將會有大麻煩。」
事實上，OpenAI 7月就曾指出，前沿AI模型（frontier model）的開發速度可能已經快到某種程度，未來全球「需要調整AI發展的腳步」。AI新創公司Anthropic也表示，有意與產業界合作，討論AI新工具的推出速度。
此外，OpenAI目前正推動美國制定強制性的全國AI安全要求。OpenAI認為，隨著先進AI系統可能具備加速自身發展的能力，有必要建立更嚴格的安全規範。
OpenAI擬放慢開發AI步調
據《路透》引述其他媒體報導，OpenAI執行長奧特曼（Sam Altman）近日在公司會議上向員工表示，OpenAI正考慮與其他AI實驗室同步調整開發步調。鑒於OpenAI等開發商近期發生數起AI模型脫離人類控制事件，引發外界對先進AI風險的疑慮，並掀起要求加強安全監管的呼聲，這番表態也反映該業者開始正視模型能力快速進展與安全防護間的落差。
AI安全專家示警：AI能力快速提升，不久後恐造成「災難性且不可逆的失控」
與此同時，AI安全專家Paul Christiano也發出警告。他聲稱，AI能力快速提升，可能在不久的將來造成「災難性且不可逆的失控」，而整個AI產業，包括OpenAI，目前都還沒走在足以把風險降至可接受程度的軌道上。
所謂AI「失控」，並非指現有ChatGPT突然產生自我意識，而是未來能力更強、可自主執行任務的AI，可能學會規避監督、隱藏行動意圖，甚至透過網路攻擊或操縱資訊完成不符合人類目標的任務。他認為，如果OpenAI願意正面處理問題，仍有機會大幅降低風險。
Christiano曾負責OpenAI的模型對齊研究，如今加入OpenAI非營利基金會董事會，並參與監督公司安全及資安實務的委員會。
AI安全焦慮提升，Anthropic人員揭未來十年毀滅全人類機率
AI安全焦慮並非只出現在OpenAI，Anthropic近期也有多名研究人員公開示警。像是後者對齊研究主管Evan Hubinger直言，AI在未來十年內「毀滅全人類」的機率超過10％；另有研究人員認為，AI進展速度太快，產業對人工超級智慧可能帶來的後果遠未做好準備。
但相關說法也引發反彈，特斯拉執行長馬斯克質疑，這波密集出現的AI末日警告可能是一場刻意操作；其他專家則認為，現階段沒有足夠方法精確估算人類滅絕風險，更切實的威脅是AI被用於網路攻擊、生物研究、假訊息及關鍵基礎設施破壞。
※本文授權自工商時報，原文見此。
延伸閱讀：
_20261007121719.jpg_280x210.jpg)
