當傳統科技的「確定性」碰撞AI時代的「機率性」，全球軟硬體整合正迎來前所未有的動態衝擊。《今周刊》主辦「台灣大未來」論壇上，工業技術研究院資深專家陳維超以「AI時代的系統工程挑戰」為題，揭秘從高階處理器因微程式碼（microcode）設計瑕疵導致硬體受損，到自駕車突然煞車，皆凸顯軟硬體高度交織下的不穩定風險。他透過「開發左移」、「硬體在環」等思維，在不可預測的AI核心外包覆一層穩定外殼，為實體AI與機器人產業築起兼具創新與安全的系統防線。
許多民眾或許記憶猶新，幾年前購買知名大廠的高階處理器時，常遇到硬體用了一陣子就越來越慢、最後甚至壞掉狀況，眾人直覺責怪作業系統，殊不知硬體中的微程式碼才是調高電壓、導致半導體降速損壞的元兇。陳維超指出，這證明軟體也能把硬體搞壞，特別是當硬體與更具不確定性的AI綁在一起時，如何維持穩定成為整合的重要門檻。
從波音與SpaceX看數位模擬機遇與陷阱
「科學家最擔心的，就是 拉普拉斯決定論（Laplace's Determinism） 變成了充滿機率的量子力學世界。」陳維超表示，多數人在使用生成式AI，或許還能接受答案變來變去，但當AI被放進自駕車或機器人等實體系統時，自駕車無預警煞車、AI因概念改變（如十年前靠按鍵辨識手機、現在認方塊型螢幕）所導致的誤判，或是影像辨識系統誤把非洲人當成黑猩猩，引發歧視爭議後的過度修正，這些機器幽靈皆大幅提升系統的不穩定性。
如何馴服幽靈，陳維超建議可從歷史汲取智慧。他舉30年前波音777計畫為例，在數位環境模擬出全部的維修工序，讓第一台原型機一上天就不需太多修改，這也是當今輝達（NVIDIA）Omniverse元宇宙模擬技術的始祖。
然而數位模擬也存在「過度自信」的陷阱，後來的波音737 MAX正是因過於信任數位世界，在未做好感應器失敗時的模擬情況下，導致飛機錯誤抬頭、失速墜毀。相反地，SpaceX則將硬體開發軟體化，在火箭真正發射前，先在數位世界裡進行嚴密測試，透過縮短數位與實體的落差來加速演進。
敏捷紀律兼具SELM架構降伏不確定幽靈
台灣半導體實力強勁，陳維超分享過去開發CUDA晶片時，也是透過軟硬體同步並進，「畢竟驅動程式實在太難寫，開發團隊不可能等晶片做好才動工，必須先用數位版、簡單版的晶片來跑軟體，這種將開發、整合與測試往左移的思維，用軟體的快速行動來搞硬體。」
他也特別提到，在軟硬體測試手法上，「硬體在環（Hardware in the Loop）」扮演著關鍵角色，以SpaceX工程師為例，礙於天天測試實體火箭引擎成本過高，選擇在系統中只接上一顆真實引擎，其餘的推力與火箭參數全部交由軟體模擬，藉此實現低成本的單項硬體測試，確保最終整合時能精準運作。
面對AI帶來的隨機性，陳維超指出，系統工程最簡單也最核心的解方，就是在不穩定的機率系統外面「包一個穩定的殼」，這個安全閥由工程師用傳統程式碼好好撰寫、嚴格測試，將安規與風險防護鎖在外層，當AI因為幻覺（Hallucination）或環境改變而出現異常時，外層的穩定防護機制（GuardRail）會立刻介入，像是強制在固定距離啟動煞車，確保在危險情況下啟動救命機制。
「把最危險、最需要照顧的規格包在外面，把具備創意卻不穩定的AI包在裡面的邏輯，正是AI時代落地不可或缺的關鍵。」陳維超強調， AI 時代的系統工程需將傳統追蹤修漏洞的工具，升級為「系統工程生命周期管理（SELM, System Engineering Life Cycle Management）」 ，「SELM 類似製造業的產品生命週期管理（PLM），能將軟硬體與ISO 26262等汽車安全最高規格更緊密地結合。」
陳維超特別提醒，安規、硬體模組、AI模型權重（training weight）以及外包殼，都必須在開發階段就合在一起做動態測試，確保整體效能。他也坦言，實體AI要真正落地仍面臨高度挑戰，過去其團隊在開發機器狗時，即便自己寫程式、訓練了百次，最終仍可能遇到真假環境無法融合的瓶頸，這也是為何邊緣運算的感應器、關節與馬達都必須放進AI與感應器，並實施多層控管，才能確保機器人不會突然失控。
