在今天看見明天

23條未來鐵律 打造不失控的AI世界

23條未來鐵律 打造不失控的AI世界

鍾張涵

科技線上

shutterstock

1054期

2017-03-02 15:24

為保護人類存亡、保障未來工作,全球兩千多位跨領域領袖在今年一月,用前所未有的認真態度聯合簽署二十三條AI發展原則,也呼籲政府做些事情。

站在美國加州阿西羅瑪(Asilomar)市,放眼望去,有著粗獷岩岸與遼闊大海。這個城市名稱源於西班牙文,具有「海上避難所」之意。今年一月,這裡聚集了全球兩百多位精英,他們用極端嚴肅的態度積極討論,並與其他未到場的一千八百位各界領袖,共同簽署一份跨世紀合約,名為「阿西羅瑪人工智慧原則」。


他們討論AI技術、人類威脅,更重要的是,探討政府應做好哪些規範,才能讓人類避免被AI的科技反噬、讓AI的發展能夠確保安全。

這天到場的,包括臉書AI負責人勒丘恩(Yann LeCun)、谷歌研究主管諾米格(Peter Norvig)、蘋果共同創辦人兼Siri首席技術長葛魯伯(Tom Gruber)、特斯拉創辦人馬斯克及因製造出「AI棋靈王AlphaGo」而暴紅的DeepMind執行長哈薩比斯(Demis Hassabis),共超過兩百位AI專家。

 

AI

▲特斯拉創辦人馬斯克(左一):「假以時日,AI可能會比人類更聰明。」在阿西羅瑪會議上,他不斷重申AI管制的重要性。(圖片取自Future of Life Institute影片)
 

霍金:須確保AI設計 符合倫理


這些人橫跨科學、經濟學、法律、倫理、哲學領域,象徵著人類智慧的巔峰,但全都聚集起來,耗費兩天兩夜時間,在「海上避難所」開會,並聯合簽署二十三條AI發展原則。聲明指出,「全球相關領域必須嚴格遵守這些規定來發展AI,才能保障人類未來安全。」

席間,多數科學家認為,政府應率先針對AI背後的研發者進行限制,加拿大蒙特婁大學教授本迪戈(Yoshua Bengio)就在會議上強調,AI訓練師、開發者、政府應共同思考,如何納入「價值觀」共識,「我們應該承擔更多責任,將正確的原則列入AI行動。」

事實上,參與簽署的物理學家霍金(Stephen Hawking)也曾表示,AI可能進化得比人類更快,且人類無法預測它們目標是否與人類相同,因此,政府必須確保AI的設計符合倫理規範。

於是,「慎始」成了「阿西羅瑪人工智慧原則」的第一個重點。關於AI技術的研發目標,條文是這麼寫的:「AI的研發不能沒有目標方向,它只能有一個目的,對人類有益。」

不只如此,條文也規定,任何對於AI的投資計畫,都應該在同一時間另行提撥資金用於「解決衍生問題」的研究,例如經濟、法律、道德問題等。

簡單來說,這二十三條法則,就是要先確定「人」的心態必須正確。「很多人是看了科幻電影才會害怕AI,事實上,真正問題在於人心。」雖然沒有參與這場會議,但微軟全球資深副總裁洪小文認同「從人心開始管理」的企圖。

「真正決定其用途的,是背後的使用者。」洪小文強調,「面對AI威脅,政府應該要有的思考方向,是如何立法限制人類,不能利用AI做非法事情。」

他並舉例,若有人製造了無人駕駛車,但這個無人車卻刻意衝撞某人,「要管束的,是背後製造這種車的人。」這樣的概念,也可在「阿西羅瑪原則」第九條看見:AI技術的設計者、製造者,是這項技術各種應用的利害關係人,也要負起相應責任。

 

馬斯克:人類落後AI 恐摧毀文明


不過,自駕車所衍生的問題聯想還沒結束,IBM華生認知解決方案業務協理許堯睿就舉例,「假設自駕車被設定『以保護車主性命為第一優先』,但會不會有某個情況,自駕車經判斷發現,保住車主性命的方法是衝向人行道,而忽略了可能撞傷無辜路人?這樣的AI判斷就涉及倫理問題。」

這些問題,在阿西羅瑪AI原則中暫以概略性的「人類價值」涵蓋,條文中規定,「必須確認自動化系統的所有行為能夠符合人類價值」、「AI系統的運作須相容於人權、自由與文化差異」。

另一方面,「透明度」也是法則的重點之一。SAS台灣創新中心資深顧問林輝倫就說,當AI能知曉你所有生活習性,「這樣的個資若落到有心人士手上,就可能濫用AI的預測能力引發犯罪。」

「人們有權力去介入、管理、控制他們所生成的資料數據,並決定是否讓AI系統進行分析。」第十二條法則這麼寫到,藉此確保個人隱私不致遭到濫用。另有一條則指出:AI對個資的運用,不得在不合理的情況下造成人身自由的減損。

二十三條原則中,對於透明度的規範不僅於此,也包括AI系統本身的透明度必須要能受到檢驗。例如第七條就規定,「如果系統造成任何傷害,必須確保能夠查明運作失當的根本原因」。

「假以時日,AI可能比人類還聰明。AI持續進步的同時,人類文明若非跟著進步,否則就會被摧毀。」這是馬斯克在論壇中一段語重心長的警語。跟隨這段發言,二十三條原則裡,對AI的發展、甚至是「自我進化」,提出了一些避免失控的控管想法。

舉例來說,要求「團隊必須確保AI系統『終其一生』都能安全運作」,再者,「必須杜絕出現『AI致命武器發展競賽』的任何可能」。

不過,真正精準回應馬斯克憂慮的一條原則,出現在第二十二條:「AI系統,如果被設計具有自我進化、或自我複製的行為能力,很可能會在短期內造成人工智慧『質與量』的大幅提升,因此,這類功能必須被嚴格控制。」

AI真有那麼狂?竟讓全球兩千顆頂尖大腦早一步限制它的自我進化!這或許仍是個答案眾說紛紜的問題。但無論如何,當愈來愈多專家對人工智慧的發展從興奮轉為「有點害怕」,當美國白宮在去年底連發三份報告提醒世人AI入侵,對於人工智慧將如何衝擊社會、文化與經濟,的確已是必須未雨綢繆、提早思考的世紀課題了。

 

AI

 

AI

▲點擊圖片放大

延伸閱讀

當機器人學會欺騙 AI主宰地球的時代要來了?

2017-03-02

史丹佛報告:人工智慧入侵八大領域

2016-09-08

4千個鋼鐵小王子變家人 家庭機器人元年來了!

2015-10-29

我們在CES看到了什麼

2018-01-25

打造新傳奇 庫克開闢網路服務兩大戰場

2019-03-20