美國人工智慧（AI）晶片巨頭輝達28日宣布推出一款新的安全工具「開放代理安全平台」，號稱能替AI代理畫下權限界線，一旦偵測到AI試圖執行超出授權範圍的行動，最快可在數毫秒內將其隔離。
對此，金融時報報導，教宗良十四世28日罕見表態，批評輝達執行長黃仁勳淡化AI風險，AI可能對人類造成威脅的疑慮「絕非假新聞」，呼籲各界嚴肅看待AI對人類構成的威脅。
美聯社報導，輝達「開放代理安全平台」（Open Agent Safety Platform）主要透過權限限制與即時監控，防止AI代理越界。其中OpenShell可限制AI代理能使用的系統及資源，確保它只取得完成任務所需的權限；另一套名為Sentry的安全機制則持續監控AI代理活動，一旦發現AI試圖超出原定範圍，便可立即介入，最快在數毫秒內將可疑AI代理隔離。
輝達表示，目前已有超過100個組織採用這套平台，包括Microsoft、Perplexity、Accenture及JPMorgan Chase。由於平台採取開源模式，也能擴充至Arm、Intel等其他公司的運算平台。
對此，良十四世28日結束訪法、搭機返回羅馬途中表示，已了解輝達最新推出的安全工具，但鑑於黃仁勳近期的發言，他對黃仁勳究竟多重視AI安全提出質疑。
良十四世表示，黃仁勳一方面推出新的AI安全工具，「另一方面，他也是主張不應對AI設限、不應由AI監管的代表人物」。日前包括Anthropic執行長阿莫戴、OpenAI執行長奧特曼等，以安全風險為由，呼籲AI減速論；反觀黃仁勳與美國總統川普則曾駁斥AI末日論，傾向政府放任業界發展。
良十四世並呼籲嚴肅看AI專家與專業人士提出的疑慮，他說自己不至於對AI發展陷入恐慌而夜不成眠，「但是我認為這是需要坐下來好好討論的問題」。
良十四世說：「有意思的是，就在今天，我讀到輝達負責人聲稱，他找到某種方法，可以在AI中加入一些安全護欄。」
教宗罕見公開批評全球市值最高企業的掌舵人，凸顯AI安全議題引發高度憂慮，成為全球多國領袖的優先關切事項。輝達拒絕評論。
出生於芝加哥的良十四世與川普在多項議題上立場相左，且自去年就任教宗以來，一直高度關注AI議題。今年5月，他發布一份稱為「通諭」的正式文件，指出AI並非道德中立的科技，必須透過強而有力的監管加以「解除武裝」，確保AI服務人類，而不是傷害人類。
華府日益關注業界對AI風險的疑慮。彭博報導，川普與聯邦眾議院議長強生29日將舉行午宴，討論AI安全風險，受邀出席的科技業高層包括輝達執行長黃仁勳、Anthropic執行長阿莫戴、數據分析公司帕蘭泰爾（Palantir Technologies）執行長卡普，以及OpenAI總裁布羅克曼。
※本文授權自聯合新聞網，原文見此。
延伸閱讀：
