文摘

算法管理或成為網絡監管新思路(文:王若冰) (09:00)

網絡世界,在不知不覺中改變了很多我們熟悉的生活狀態。一些看似平常的事情,進入網絡就愈演愈烈,走了樣子。比如近年負面新聞頻爆的「粉絲文化」,雖然瘋狂追星歷來有之,本是見怪不怪的事,但是隨着互聯網的興起,「粉絲文化」已經今非昔比。大量未成年粉絲開始在網絡上受到誘導,為偶像應援集資和高額消費,或是在網絡上有組織的對偶像的競爭對手大規模造謠攻擊,甚至在前一段時間,因為吳亦凡涉嫌犯罪,其粉絲還計劃組織劫獄等違法行動等等。雖然這些亂象已經對社會,特別是未成年人造成了一定程度的損害,但是由於粉絲行為本身屬於個人自由,很難通過法律個別直接地干預。

而面對這個社會難題,內地相關機構提出了一個新的解決思路。8月初,中央宣傳部、文化和旅遊部等5個部門聯合印發了《關於加強新時代文藝評論工作的指導意見》,其中強調「健全完善基於大數據的評價方式,加強網絡算法研究和引導,開展網絡算法推薦綜合治理,不給錯誤內容提供傳播渠道」。另外,在8月底,國家互聯網資訊辦公室也開始就《互聯網信息服務算法推薦管理規定(徵求意見稿)》向社會公開徵求意見。所謂算法(algorithm)就是計算機/電腦解決問題的方法、步驟。也就是說,內地期望通過對「算法」,也就是網絡平台如何設計處理信息的過程,來管理、整頓網絡環境的秩序,減少網絡世界帶給用戶的不良影響和潛在危害。

為什麼是算法

很多社會學家認為,「網絡時代」相較於「舊媒體時代」的一個新特點,就是打破了原來有限表達渠道。在「舊媒體」時代,有限的幾個公開表達途徑,像是一個個「守門人」,在過濾日常產生的眾多資訊。而在網絡時代,所有的資訊都可以更加通暢地發聲。但是也正因此,大家都在發聲,會導致資訊爆炸,網絡用戶面對浩如煙海的聲音,不知如何取捨,或者在上網時本來就沒有明確要看的資訊,更容易感到無所適從。而因此,算法推薦技術孕育而生,可以根據後台的程序計算,從眾多資訊中過濾出適當的資訊,甚至可以挑選到用戶最感興趣的資訊。比如,通過用戶所關注的帳號類型,來幫助用戶在成百萬的帳號中,找到其會同樣感興趣的帳號;或者根據用戶最近點看過的新聞,來從不同傾向不同渠道的報道中,找到其最想聽的新聞等等。

而也正是因為如此,雖然在網絡上可以比之前時代有更多表達空間,但是事實上,這種自由「表達」卻並不等於眾人「被聽見」。算法代替了過去「舊媒體」時代的過濾器,決定了網絡上什麼資訊可以被更多人看到,什麼被深埋。但是與舊媒體不同的是,算法推薦不僅作為網絡平台企業的一項隱含「服務」,對社會公共利益的考量極其缺乏,而且其針對每一個用戶都有特殊的推薦,會令其受資訊的誘導更加容易。

例如,網絡平台從用戶獲得最大利益的方式,就是用戶盡可能多的時間留在該平台,因此對於算法推薦來說,最直接的方式就是通過用戶數據的蒐集,用算法推測出該用戶還會喜歡哪些資訊,並把這些資訊源源不斷推薦過去,並讓其接觸不到任何與其傾向相悖或不快的資訊。但是這很容易會導致讀者進入資訊的「回音壁」中,無法兼聽則明,因而逐漸走向認知的極端,或是沉迷,乃至引導高額消費以及其他不理智的行為。

另外,由於存在算法推薦的鼓勵,關注度愈高,網絡平台資訊上傳者(比如YouTuber)也會有更高的收益,因此,這種系統也會令很多資訊發布者更傾向於在內容上極盡渲染,以迎合某一固定群體的讀者,並以此吸引大量有類似觀點的讀者一起在網絡上相聚討論。而已有實驗證明,當同一觀點的人大量的集聚討論時,每個人的觀點都會變得更加極端不理性。比如前文提到的「走偏」的粉絲文化,跟當今網絡世界中的很多愈發「偏激」的思想潮流一樣,都可能跟網絡平台算法並不兼顧社會利益,有着密不可分的聯繫。

算法管制逐漸被國際重視

實際上,世界各國一直逐漸開始管控網絡平台的資訊推薦。比如,法國要求美國網絡平台公司在網上售賣納粹紀念品時,必須屏蔽來自法國地區的域名;《歐盟版權指令》要求facebook、YouTube等平台積極監測其用戶的內容,加強版權審核;美國在「劍橋醜聞」後,facebook也按照政策導向展開了內容的審核等等。

除了內容上的過濾之外,算法本身的結構也開始愈來愈被相關研究和立法機構重視。比如,麻省理工學院著名的制度經濟學家Daron Acemoglu使用博弈論的推演發現,如果法律要求平台推送的資訊中,對觀點相似的資訊推送只固定在一定比例,就能打破網絡平台造成的「資訊回音壁」,降低民眾觀點的極化程度。

而到了近年,全球範圍內對人工智能的監管更是走向了明確立法和執法的階段,比如歐盟提出了《歐洲議會和理事會關於制定人工智能統一規則(《人工智能法》)和修正某些歐盟立法的條例》的提案。而內地也開始對算法管理公開徵求意見,計劃禁止設置誘導用戶沉迷或者高額消費的算法模型,以及不得向未成年人推送可能引發未成年人模仿不安全行為和違反社會公德,或者誘導未成年人不良嗜好等可能影響身心健康的內容等等。

總的來說,當我們邁入了一個互聯網的新時代,雖然大家還是在看新聞,討論時事,但是從線下換到線上,我們接收和發表資訊的渠道、行為和觀點的變化,乃至言論事態的演變發展等,都在無形中和過去的模式有着質的差別。我們每個人和政府都要重新對這個新世界加以認識。網絡平台並非傳統媒體,其藏在背後的不為大眾所知的算法,一直在隱形地影響着我們的生活和社會的發展。現實世界中,所有法律受到憲法約束,而網絡世界的「規則」或許也需要被有關的法律所節制,才能更好承載一個更安定的社會。

參考資料:

Daron Acemoglu, Asuman Ozdaglar & James Siderius (2021). Misinformation: Strategic Sharing, Homophily, and Endogenous Echo Chambers. NBER Working Paper No. 28884.

作者是香港中文大學香港亞太研究所博士後研究員

相關字詞﹕編輯推介 文摘

上 / 下一篇新聞