AI模型陸續爆出資安危機,讓科技巨頭們紛紛喊話調整發展步調;
但業界該檢討的是目前訓練AI的方式,放下對超級通用AI的執念。
在OpenAI與Anthropic兩家公司,接連爆發自行開發的AI代理駭入了外部系統的資安災難後,兩家公司的AI安全研究人員,不是宣布辭職,就是承認(終於!),這場馬不停蹄推進AI「前沿」(frontier)的狂熱競賽,是不負責任的。
面對媒體負面報導,谷歌的哈薩比斯(Demis Hassabis)、Anthropic的阿莫戴(Dario Amodei)、OpenAI的阿特曼(Sam Altman),甚至馬斯克(Elon Musk)等業界領袖,都加入呼籲為最尖端AI發展「調整節奏」的行列,意思是以更均衡審慎的步調推進,並更重視監測與防護。