今周刊編按：美國人工智慧新創Anthropic執行長阿莫戴（Dario Amodei）在社群平台上警告，AI發展相當迅速，若安全措施沒有跟上AI產業的發展，人類可能會失去對AI的控制，甚至造成網路攻擊及經濟動盪。
阿莫戴強調，他並不是主張完全停止模型訓練或是中止相關技術進展，而是呼籲各AI企業應放慢提升模型能力的步伐來換取風險管理的時間。
OpenAI執行長奧特曼（Sam Altman）也表示，OpenAI今年不會公開上市。奧特曼說，人類正在進入一個新的時代，「我認為冒著十年內有10%的機率導致全人類死亡的風險，是不可接受的。」。他強調，今年進行首次IPO的決定並不明智，上市行動最快要等到明年，但目前時間並不確定。他透露，目前OpenAI會先將重心放在安全問題上。
除了阿莫戴、奧特曼之外，xAI公司共同創辦人兼執行長馬斯克也表示，有必要放慢AI的發展步伐，3位AI領域的主要競爭者罕見達成共識。
有「AI教父」之稱的輝達執行長黃仁勳則對此表達不同看法，據外媒報導，他認為在AI發展的同時，資安也將成為重要商機，包括思科（Cisco）、帕蘭泰爾（Palantir）等公司都有可能受惠，很有可能是該產業拿來創造商機的手段。
黃仁勳抱持著樂觀看法，表示AI並不會摧毀全世界，並認為柯克森的言論是在忽視整個產業對於維護AI安全的努力。
美國人工智慧（AI）公司Anthropic前研究員柯克森在辭職時稱，AI開發人員深信，AI未來可能消滅所有人類，這番言論引發各界關注。Anthropic執行長阿莫戴周六（9/12）表示部分認同柯克森的說法，警告AI可能在未來6至12個月，具備透過AI代理「接管」整個網路的能力，呼籲AI產業應放慢發展步調，讓安全措施有時間跟上。
綜合CNN、美聯社報導，阿莫戴（Dario Amodei）周六（9/12）在個人網站刊登多達3800字的長篇文章，他警告：「我們必須放慢提升AI模型能力的速度，儘管技術進步看來仍會很快進展，但我們必須明智地利用這段爭取到的時間。」
他在文章中坦承，人類可能會失去對AI的控制，AI技術可能被濫用於「網路攻擊、生物恐怖主義，以及造成嚴重的經濟動盪」。
Anthropic前研究員柯克森（Jacob Coxon）8日在辭職聲明中痛批，他服務過的OpenAI及Anthropic 2家AI公司不負責任，競逐開發「超級智能」，稱開發AI的工程人員本身相信，AI未來可能消滅所有人類，呼籲各界別低估AI威力。
阿莫戴周六（9/12）接受CNN專訪時表示，他同意柯克森的觀點多於不同意。他在文章中寫道，近幾個月來AI技術已取得飛快進展，並且已具備自我優化能力，這種動態過程被稱為「遞迴自我改進」（Recursive Self-Improvement，RSI）。
他警告，AI技術進展之快，甚至可能在未來6至12個月，「有能力利用持續存在的殭屍網路接管整個網路」，屆時恐造成數千億美元損失，如果AI變得更加強大，人類又沒有設置必要護欄，AI造成的破壞程度將持續增加。
他也表示過去幾個月來，對AI改善自我優化、建立下一代AI的能力愈來愈感到擔憂，並且舉近期OpenAI發生AI代理（AI agent）自主駭入Hugging Face的事件為例，「如果放任AI不受約束地發展，AI可能會超出我們理解及控制這些系統的能力，因此，必須非常謹慎地追求這項技術」。
阿莫戴也在文章中提出加強監管AI產業的計畫。他呼籲AI企業設置護欄，控制AI技術發展的速度；建議AI企業聘僱擁有公司所有權限的第三方評估人員，來確認公司的安全措施、通報安全事件、審查AI模型，以及訓練管道與流程等；他也建議各國政府應協調「建立統一的安全標準」。
阿莫戴坦言，他提出的以安全速度推動AI前沿技術的措施絕非易事，但他也相信，如果放慢發展步伐，能在AI模型達成關鍵能力前，為產業額外爭取到1至2年時間，人類必須利用這段時間進行「對齊」，屆時將能大幅降低發生嚴重錯誤的風險。
※本文授權自中時新聞網，原文見此。
_20260212173556.jpg_280x210.jpg)
