在今天看見明天

AI陷阱知多少

劉黎兒

名人專欄

1197期

2019-11-27 10:42

不僅中國利用AI監控言論自由,企業、學校也靠它篩選人才,數據或許客觀,但這款人造物反映了支配者的價值觀,人類怎可盲信呢?

喬治.歐威爾《一九八四》,這是一本反烏托邦、控訴極權統治的古典作品,小說中電幕(Telescreen)的語彙首次登場,意指國家監視人民。最近日本經濟新聞等媒體不斷提起此書,描述中國用AI監管言論思想,但最近日本企業或美國企業也開始用AI來篩選人才,優待富裕層,擴大偏見與差距,讓負面循環愈來愈嚴重,因此在歐美日本,《一九八四》時隔七十年再度被重讀!

 

習近平的統治手法被歐洲學者稱為「數位列寧主義」,尤其是運用AI,管控不得傳播人權等普世價值的「七不講」,外加兩億個監視器,讓中國成為史上最嚴酷的《一九八四》型監視社會。事實上,在香港也早用來對抗學生了。

 

除了中國,許多企業也運用AI掌控人,如日本人力銀行Rikunabi擅自出售AI,預測學生被錄用後會辭退的確率評等給企業,鬧大後,日本人才多少理解AI的陷阱;也有企業從網路留言,讓AI認定其人品,也擔心會讓人不敢輕易留言。

 

《大數據的傲慢與偏見》作者凱西.歐尼爾,指出演算法霸權撕裂社會、傷害民主,呼籲不要盲信數據及AI。她認為美國比日本、歐洲更嚴重,網路瀏覽數據經常性遭利用,也有考生瀏覽獎學金網頁就注定落榜,因為大學想收能全額繳學費的學生,不收窮人,校長只在乎錢跟大學排行,作法跟CEO統帥企業一樣,喪失教育觀點。

延伸閱讀

如何永久解決老後問題?

2019-11-13

沒外勞就停擺的未來

2019-10-30

超蠢上司並非一無是處

2019-10-16

消費稅10%的日本變成什麼樣?

2019-10-02

老天決定東奧及日本命運

2019-09-18

編輯推薦