如果這世界有一個系統比你更了解你,民主還有意義嗎?

 

(photo via cc Flickr user Thomas Leuthard)

 

政治數據公司「劍橋分析公司」濫用5000萬面書用戶個人資料一事,似乎越炒越熱。中文報章就說,面書因為這事股價下挫,究竟是什麼事呢?

紐約時報報導,這事發生於2014年。當時劍橋分析公司透過公司外的一名研究員,付給用戶一筆小錢,讓用戶做一項性格測驗且下載一個App。那個app,除了收集你的答案,還會收集你的朋友網絡中,like過什麼的數據。

劍橋分析用這個方法,從用戶及用戶朋友的概況中,挖出了一些個人資料,這是當時面書允許的行為。

這種資料搜集的辦法,是根據劍橋大學數據科學家研發出的一項技術,科學家宣稱它可透露一個人的許多資訊。系統可以比這個人的父母、戀人或配偶知道更多。

當時,劍橋分析公司的研究員高簡(Alexandr Kogan)告訴面書及那個App的使用者,說他收集用戶的資料是要做學術研究用途,而非為了一個「政治數據」公司而收集。面書亦沒有做過任何事,去確認用戶資料是如何被人運用。

及後,美國保守派富豪Robert Mercer就資助成立「劍橋分析」,他們與特朗普的競選顧問,前白宮策略長巴農(Steve Bannon)相約在劍橋進行密談,請在倫敦上班的員工過去劍橋假裝辦公,並聲稱它們是個長久以來跟劍橋大學合作的數據分析公司,以獲取信任感。

接著,他們便向一間偽裝為學術研究的數據公司買下至少五千萬個面書用戶資料,濫用包括這些用戶的好友資訊、照片、私人訊息等等,之後進行大量數據分析,篩選出可能為中間選民(Swing voters),最後再針對這些用戶投放各式各樣的假新聞、博客文章,動搖他們的思想,使他們最後能對特朗普投下一票。

「劍橋分析」這套「心理變數模型」技術,後來成為美國總統2016年競選的選舉宣傳的基礎。

即是什麼?

簡言之,即是當你使用面書的時候,他們會知道你對什麼新聞「有興趣」,從而估算,你的投票取向是什麼。比方說:

張部長:點呀?
健:你最近有冇睇到方國珊d泳衣相呀?
張:有呀。
健:你又有冇睇到民主黨收林鄭三萬蚊單新聞呢?
張:都有呀。
健:咁你覺得佢地應唔應該收呢?
張:唔……我覺得佢地收左,之後畀人講,就好蠢囉。

說到這兒,如果這段對話是在面書進行,那面書就可以收集這些數據,給分析公司,研究究竟你的取向如何。你開始對方國珊有興趣,你又開始覺得民主黨蠢。那麼,你就是有游離心了。只要多加幾筆,你就會動搖,從而令你的一票,由民主黨挖到方國珊那邊了。

如果,面書未有通知用戶,說用戶的數據被人採集,在英國及美國多數州份,都屬違法。如果有人提告,面書可能會面對上以兆元的賠償。

但面書副總裁Andrew Bosworth甚至在推特發文說「這很明顯地不是資料外洩」(This is unequivocally not a data breach.),那是謊言。面書老闆朱克伯格,於星期四(3月22日)就事件道歉,表示Facebook有責任保障用戶資料。他形容今次事件違反了面書與用戶之間的信任。並表示,將推出改善措施,令第三方的應用程式更難取得用戶資料。

一些獨立研究者說,可能還有許多其他公司都有類似的濫用面書數據情形。

果然,整個社交網路產業賣錢的方法,都只是販賣大數據,建立「心理變數模型」,從而尋找「游離選民」。

華盛頓郵報就報道,原來2012年,奧巴馬都曾經在交友手機應用程式 Tinder 以及遊戲 FarmVille中做data mining。因此,劍橋分析,都只是冰山一角。

你試想像一下,當美國是用大數據尋找有機會投票給你的人,而香港的政工作者,卻覺得在街站見多一點人,上網做多點圖,呃多點like就可以當選,你可以理解,香港真的是一個漁村社會。

而更可怕的是,當面書更改演算法,我們的生活,又好像變了一變,翻了一翻。以前,KOL 只要做好內容,就可以有很多人去follow。但現在,就似乎不是這樣子。

這個世界的人工智能系統及生物科技系統結合,製造了一個系統,這個系統比你更了解你,又如何呢?

《人類大歷史》(Sapiens)和《神人》(Homo Deus)作者哈拉瑞(Yuval Noah Harari)出席由《紐約時報》主辦的活動,談及他對「人類未來」的看法。他說,自由民主必須因應科技時代而進步演化,否則就會崩潰。

哈拉瑞認為,民主自由之所以有價值,「是因為我們相信沒有人比我們更了解自己的想法和感受,如果出現一個比你或你母親更了解你的演算法,而你完全不明白這是什麼一回事時,所謂的自由民主,其實只不過是一場訴諸情感的木偶戲。」

試想一下,如果我們的腦袋原來會被演算法控制,不是為我們的主體意識服務,而是會聽命於「人」。那個「人」能夠完全掌控我們的心思、操弄我們的情緒,知道如何激怒我們、如何令我們變得勇武、如何令我們開心。那民主還有沒有意義?

哈拉瑞說,這不是預言,今時今日已經看到這個危機,選舉與公投就是很好的例子。

例如,如何令大家會投「同情票」呢?陳水扁當選的時候,用上了魔法的子彈。蔡英文當選,就用上了周子瑜道歉事件,這些「政治爆彈」,都是那麼可預計。如果這個世界真的有一種演算法,給你資訊,給你意見,給你想法,從而令你「自動」的覺得自己「很相信」一件事,一些「大勢力」想你相信的事,那麼,民主制度,還有什麼意義呢?

所以,繼早前Tesla創辦人馬斯克(Elon Musk)指人工智能(AI)會對人類構成危機後,剛離世的英國物理學大師霍金( Stephen Hawking)表示,AI的出現可能是「人類文明史上最糟糕的事」,並有可能會終結人類文明。

霍金表示人類無法知道會否得到AI的幫助,還是被忽略、邊緣化,甚至破壞。霍金認為,AI可能會嚴重破壞經濟。而人類需要學習如何準備、避免潛在的風險。

當可控制AI的人,可以控制我們的「決定」,那民主,還有什麼意義呢?給你「真普選」,又如何呢?

 

 

作者:健吾

健吾
專欄作家、記者、編輯……商業電台節目《903國民教育》、《光明頂》主持,香港中文大學日本研究學系講師。著書超過40本。email:[email protected] |Facebook: facebook.com/kengopage |微博:t.sina.com.cn/kengowrites

閱讀後覺得好,請多多讚好及分享~:)

其他熱門文章

歡迎讚好我們的facebook page,免費資訊源源送上。

文章資訊

ID: 178139
Date: 2018-03-23 05:36:42
Generated at: 2022-01-19 07:38:44
Permalink: https://www.vjmedia.com.hk/articles/2018/03/23/178139/如果這世界有一個系統比你更了解你,民主還有意