算法、人工終究比不過利潤，Facebook想來劑“后悔藥”

億歐網 ? 5年前掃碼分享

我是創始人李巖：很抱歉！給自己產品做個廣告，點擊進來看看。

關于互聯網注意力經濟，Twitter、Medium和Blogger的聯合創始人Evan Williams有一個非常尖銳的比喻，他將注意力比作一場“車禍”。2017年，在接受《紐約時報》采訪時，他認為用戶的喜愛和分享使其一步步走向極端，而那些經受訓練的算法看似善解人意，其實卻是冷酷無情。

他說，瀏覽網頁，就像是在公路上開車，“你無意中目睹了一場車禍，然后你關注了這則事故”。不同的是，當你在網頁上這樣看完一場車禍后，算法將為你提供更多的車禍新聞。他們這樣做的最主要目標就是，“吸引和保持你的注意力”。

當我們關注那些互聯網大平臺時，能很容易地看到這些“車禍”留下的累累殘骸：YouTube的推薦算法，危害了兒童的身心健康；谷歌搜索亞馬遜森林大火的相關報道，比資訊內容排序更靠前的是電商Amazon的推銷廣告；那些因為Facebook和Instagram的推薦算法而進行病毒傳播的應用，則給我們的數據安全帶來了灰暗。

考慮到上述種種，現在，很多依賴廉價算法替代人工勞動進行內容分類和推薦的平臺，正在開始引入一種解決方案：人工。

事實上，Spotify、Google Play 、YouTube Kids、LinkedIn、HBO和Apple News都已經開始強調“人”的參與，將其作為一種營銷策略。最近，Facebook也加入了這一陣營。

被重新引入的“人工”

在今年8月，Facebook宣布將重新引入人工編輯來管理新聞標簽。

Facebook非常明確地強調和區別了人類編輯和算法的不同職責和分工：人工編輯將負責審核和選擇平臺精選文章、突發新聞，除此之外，其余大部分內容將由算法根據已有用戶數據進行推薦和分發。

對人工編輯的重新引入，被視為Facebook重新嘗試啟動新聞項目的新機會。據了解，該公司目前正在尋求與媒體建立合作伙伴關系，從而有權推廣《紐約時報》、《華爾街日報》、《華盛頓郵報》等媒體的文章。根據《華爾街日報》的消息，該談判仍在進行中。

引入“人”的視角，由人工進行新聞標簽的管理，對內容進行平衡，被視作Facebook對長久以來飽受指責的平臺把關和追求注意力經濟的一種補償策略。

Facebook發布這一消息之際，恰好是FB公布自身保守偏見審計結果報告之時。該報告調查了133位保守派立法者和利益集團人士對FB的評價，該人群曾對Facebook應對平臺右翼內容的舉措表示過擔憂。

在2016年，Gizmodo的一份報告披露，Facebook要求熱門話題團隊（Trending Topics Team）的人工編輯對保守派的新聞進行壓制。針對這一指責，Facebook回應稱，自身將認真對待“偏見指控”，并堅持稱，其編輯原則不允許將一種政治觀點凌駕于另一種觀點之上。

類似這樣的“偏見指控”，使得Facebook多年來面臨著艱難的輿論處境。多年以來，扎克伯格一直標榜算法是阻止仇恨和虛假新聞的有效手段。這一觀點背后的關鍵信息是，Facebook認為，人本身具有偏見和主觀性，因此在過濾仇恨言論等工作中，需要較少的人力參與。

“這表明，我們需要更完善、復雜的人工智能來幫助我們標記特定內容。”在去年的某次國會聽證會議上，面對委員會指出的十幾條保守派內容被錯誤刪除的例子，扎克伯格說道，Facebook將更多地依賴人工智能來提供解決方案，他請求委員會注意到，“在人類發現之前，人工智能就已經檢查出并且標記了ISIS相關內容”。

后來，扎克伯格似乎對這一看法有所改變，他強調人類在調節、補充算法中有著獨特作用。

Facebook最近提出的新聞標簽項目，強調了人的作用，認為人類可以制止未經證實的內容廣為傳播。但是在討論內容審核時，扎克伯格也強調了人工智能的巨大作用。有觀點認為，這可能是為了減輕公眾對于人類內容審核工作的批評（參見全媒派往期編譯《那些為機器打工的Facebook神秘審核員》）。

算法&人工，都只是“稻草人”

多年以來，為了發揮自身的優勢，Facebook有選擇地強調或者不強調“人”在其算法系統中的作用。

當非盈利新聞機構ProPublica指責Facebook允許廣告主購買針對“猶太仇恨者”的廣告時，Facebook表示，自身的算法沒有過濾仇恨言論的編程設置；當算法推薦帶來了冰桶挑戰而不是“黑人的命也是命”（Black Lives Matter）抗議活動獲得病毒式傳播時，Facebook又重新引入了人的視角來判斷新聞的“相關性”……

“Black Lives Matter”是美國近來因為一連串警察針對性執法過當而造成平民死亡的事件所卷動出來的運動，最初源起于2012年2月佛羅里達的17歲非裔青少年被警察槍擊死亡。

人類或者算法，似乎只是被平臺根據情勢，被推出或者被忽略。

從前，在Facebook解雇人類編輯之后，算法接管了人類的工作，直到假新聞、群體極化等現象受到關注后，作為一劑解藥，人類角色又被再次引入和強調。但需要注意的是，人類和算法的簡單二分法是錯誤的，人類和算法并非全然割裂。因為算法必須基于人的數據，在這個意義上，可以說人類在訓練著算法，算法在學習著人類。哪怕是強調“人”的主體作用的新聞標簽項目，其實也體現了這種互動。

Facebook告訴《紐約時報》，它希望算法最終能夠了解人們到底如何“處理”新聞。盡管又強調了人類的作用，但其實背后隱藏的仍是算法統治的決心，只不過它沒有向媒體公開這一點罷了。

熱門話題（Trending Topics）從反面說明了，如果我們希望通過人工克服算法之弊，其實過于天真。從表面來看，的確是人類編輯決定了哪些是所謂的熱門話題，但其實，它們是從數條熱門新聞中被挑選出來的。而這些備選新聞的產生，本質上依然仰賴著算法分發或推薦。

每當發生一次丑聞，人類或者算法就會成為眾矢之的，他們其實都是稻草人——虛假的攻擊對象。對于所有人而言，強調算法而不是人類應當為互聯網的負面負責，是非常有用的掩護。在著作《如果……那么》中，研究人員Taina Bucher認為，將系統表述為完全由人類或算法控制的，都是一種“知識托辭（Knowledge Alibi）”，在這種偏差下，技術被描述為獨立的、復雜的，而人類則是懶惰的、不顧后果的。

為了推卸責任，公司將批評者的注意力從算法所擁有的代理權限轉移到了人類在其中的作用上，在這一過程中，公司制造了“算法巨人”和“人類弱小”的形象。（但這種人的弱小、無力，何嘗不是這些技術公司制造出來的呢？）對算法的偏見并不能通過加深這種人與算法的對立得到解決。當人們擔心算法可能存在的偏見時，他們實際上應該擔心的，是在其中暗藏著的人類偏見。

Facebook本質仍是追求利潤的企業

當我們看到Facebook仍然在使用各種“策略”，通過突出或者淡化算法、人工的角色來幫助自己更好地運行整個系統時，也許會感到一些失望。在成立15年之后，Facebook經歷了一系列丑聞、喧囂、作證和道歉，人們可能會認為，Facebook的用戶將對該公司的業務運作有相當的了解。

但是，事實上并沒有。皮尤一項新的研究表明，經過這么長時間，大多數用戶仍然不知道Facebook采集了自己的哪類信息。

在研究中，皮尤研究中心的工作人員給近1000名美國人打了電話，詢問他們是否知道Facebook為幾乎所有活躍用戶保留了“特征和興趣”數據列表。74%的受訪者說他們不知道這個列表的存在。

在飽受假新聞、謠言傳播機的指責后，Facebook曾向外界表現出了進行事實核查的決心。在2016年大選后，FB與眾多第三方機構就打擊虛假消息建立了合作關系。今年2月，事實核查機構Snopes宣布結束了與Facebook的事實核查合作關系。據Snopes網站稱，Facebook在2017年為它的事實核查工作支付了10萬美元。當時，美聯社也向媒體表示，它正在和Facebook進行談判，并期待在2019年可以為Facebook進行事實核查。

截至2019年2月，Facebook發言人透露，當前有34家合作伙伴參與了Facebook的事實核查合作計劃。Poynter的一份報告指出，像Snopes一樣，每家機構每年從Facebook獲得的事實核查費用也是10萬美元。而據哥倫比亞大學Tow數字新聞中心披露，部分合作伙伴拒絕了這筆來自平臺的費用，它們認為，如果接受了這一報酬，將破壞自身獨立性。

Facebook支付的金額在增加，但也變得更加多變。每進行一次事實核查，事實核查機構就會得到報酬，但每月只能得到一定數額的報酬。流向Facebook所有34名事實核查機構的資金總額可能仍是幾百萬美元。

也就是說，Facebook愿意在事實核查上花更多的錢，但不會花太多。

目前，Facebook監管著可能是全球最大的人類注意力市場。一次又一次，它在不斷地給這個市場修改、增添了新的規則，卻似乎沒有考慮玩家該如何應對、適應這種變化。

在Facebook致力于發展視頻內容時，它曾通過改變算法推薦和流量引導的方式，刺激諸多媒體紛紛入局，投入大量的人力和金錢為平臺內容增加供給。許多公司跟隨著“轉向視頻”的步伐，一大批記者和編輯被解雇。但是隨著視頻瀏覽量的下降，Facebook又一次做出了調整，很多媒體又隨之解雇了大量的視頻制作者。諸如此類因為Facebook算法調整，媒體患得患失的案例還有很多。

在過去，我們傾向于認為，Facebook忽視了其巨大的體量和隨之而來的責任，因為疏忽大意而產生了意外的系統性后果。在今天，我們似乎應該明確，不管Facebook承載著多少期待和祝愿，但它本質上，仍是一個追求利潤的企業。

算法、人工終究比不過利潤，Facebook想來劑“后悔藥”