淘寶抖音上線算法「關(guān)閉鍵」!315之后,隱私、技術(shù)、監(jiān)管上演「三國殺」
一年一度的打假晚會如期舉行,“隱私數(shù)據(jù)”成為核心關(guān)鍵詞。
不論是免費Wi-Fi盜取位置信息,還是兒童智能手表成為竊聽工具,都在揭露一個事實:
技術(shù)的進一步擴張,正在壓縮人們的隱私邊界。
晚會又舉了一個例子:用戶只需要瀏覽網(wǎng)頁,技術(shù)公司便可抓取MAC地址,然后匹配到手機號,方便營銷公司精準營銷。
受利益驅(qū)動,技術(shù)成了灰色產(chǎn)業(yè)鏈的掘金鏟,用戶所瀏覽的商品信息、瀏覽時長、興趣愛好等非生物特征信息都是該技術(shù)的“原料”,成為另一個隱私泄露重災(zāi)區(qū)。
這實際上是去年「人臉識別」話題的延續(xù),只不過隱私數(shù)據(jù)從人臉這類生物特征信息,變成了非生物特征信息,但本質(zhì)上是對技術(shù)侵犯隱私的又一次曝光。
長久以來,圍繞技術(shù)和隱私的討論不勝枚舉,人們對二者何為第一性并未達成共識,但基本上都承認,兩者之間并非零和博弈, 關(guān)鍵在于如何劃分技術(shù)、隱私數(shù)據(jù)和商業(yè)行為的「邊界」。
失控的數(shù)據(jù)
2021年的3·15晚會上,央視披露了多家企業(yè)非法抓取人臉數(shù)據(jù),寶馬、科勒衛(wèi)浴等品牌被點名批評。
半年之后,便利蜂鋪設(shè)攝像頭采集數(shù)據(jù)事件再將數(shù)據(jù)隱私推上輿論高地。
兩起事件不過是諸多企業(yè)收集數(shù)據(jù)的縮影,而在人們的生產(chǎn)生活中,這樣的例子比比皆是:
上下班要刷臉打卡,進入小區(qū)要刷臉解鎖,商場購物則少不了攝像頭的“監(jiān)控”。
這些只是線下場景收集的數(shù)據(jù)。在線上,用戶的個人資料、興趣愛好等數(shù)據(jù)同樣會被抓取,用以推薦更為合適的商品、文章、圖片、視頻等內(nèi)容。
在由大數(shù)據(jù)和互聯(lián)網(wǎng)技術(shù)構(gòu)成的數(shù)字化時代,人們已經(jīng)無法避免被收集個人數(shù)據(jù)的情況,只不過線下收集的數(shù)據(jù)以個人生物特征信息(人臉、指紋等)居多,更容易引起人們的關(guān)注,而線上收集的個人數(shù)據(jù),則尚未引起足夠的重視。
但殊途同歸,收集數(shù)據(jù)不是目的,讓數(shù)據(jù)產(chǎn)生價值才是企業(yè)的追求。 不論線上線下,圍繞數(shù)據(jù)所產(chǎn)生的利益鏈條,已經(jīng)深入到諸多企業(yè)的血管之中。
在這利益鏈條中,有的被稱之為灰色交易,比如直接倒賣隱私數(shù)據(jù),有的卻又在法律監(jiān)管之外,比如收集數(shù)據(jù)優(yōu)化推薦算法,通過推送個性化商品和廣告來達成交易。
“有效數(shù)據(jù)越多,價值量越大。”一位數(shù)據(jù)公司數(shù)據(jù)中心VP告訴掘金志,現(xiàn)在很多算法都需要大量數(shù)據(jù)來訓(xùn)練、優(yōu)化,從而實現(xiàn)更加智能化的推送。
這也是諸多公司冒著風(fēng)險去收集包括人臉在內(nèi)的數(shù)據(jù)的原因: 利用數(shù)據(jù)來調(diào)整營銷策略,去觸及更多有效用戶,達成交易、產(chǎn)生收益。
簡單舉個例子:商戶開業(yè)初期,數(shù)據(jù)分析發(fā)現(xiàn)女性消費者偏多,那么在隨后的供貨清單里,其產(chǎn)品也會傾向于女性。
另一個比較有趣的現(xiàn)象是,此前有很多APP,不給個人信息就無法用。
在眾多APP的解釋中,收取個人信息數(shù)據(jù)是為了更好地推薦內(nèi)容,但“不給就無法用”實際上暴露了其真實目的: 嘴里都是誠意,實際上干的都是生意。
“一方面,更好地推薦內(nèi)容利于增強用戶黏性;另一方面,APP要通過收集用戶數(shù)據(jù)來構(gòu)建用戶畫像,方便與廣告主進行協(xié)商談判,來談合作。”
一名負責(zé)廣告投放業(yè)務(wù)的員工表示,在結(jié)算方式一樣的情況下,合適的投放平臺,可以帶來三方共贏的局面:
“廣告主能降低有效用戶的獲客成本,APP所有方獲得廣告投放收益,而用戶則得到了更多優(yōu)質(zhì)好看的內(nèi)容。”
但這種“贏”實際建立在用戶數(shù)據(jù)的基礎(chǔ)上,換言之,這場數(shù)據(jù)交易,實則獲益者只有兩個:廣告主獲得精準曝光,獲客成本進一步降低,并能從其他商品上進行轉(zhuǎn)化;APP方則獲得廣告收益。至于用戶,除了要被販賣數(shù)據(jù)之外,還可能通過廣告進行商品消費。雖然用戶也可能不會花錢買產(chǎn)品,也不會產(chǎn)生任何直接經(jīng)濟損失,但通過其數(shù)據(jù)交易,其他兩方獲益,己方也會承擔(dān) 「交易成本」 ,即便這種成本不可見。
這正如紀錄片《監(jiān)視資本主義:智能陷阱》所言: “如果你沒有花錢買產(chǎn)品,那么你就是待價而沽的商品。”
某行業(yè)人士告訴掘金志,由于相關(guān)方以提供服務(wù)為借口采集數(shù)據(jù), 消費者實際上處于弱勢地位 ,即便消費者具備一定的警惕性和保護意識,在拒絕采集數(shù)據(jù)就無法享受基本服務(wù)的情況下,也不得不捏著鼻子簽下這類“不平等條約”。
在這種不對等的關(guān)系中,生產(chǎn)者的強勢與消費者的弱勢,使得數(shù)據(jù)交易越來越泛濫,加上缺乏有效的監(jiān)管措施,收集個人隱私數(shù)據(jù)的行為也愈發(fā)猖獗,逐漸走向失控。
膨脹的「信息繭房」
對于許多人而言,生物特征信息比非生物特征信息的隱私保護層級更高。
通常情況下,生物特征信息(人臉、指紋等)與資金賬戶、社交關(guān)系等密切相關(guān),一旦發(fā)生泄漏, 所產(chǎn)生的風(fēng)險損失在某種程度上是「可預(yù)知」的,損失也是相對「可控」的。
以人臉數(shù)據(jù)為例,發(fā)生數(shù)據(jù)泄露之后,用戶首當(dāng)其沖可預(yù)知到賬戶安全,然后通過各種手段凍結(jié)賬戶。
而非生物特征信息(興趣、愛好等)由于風(fēng)險損失的「不可預(yù)估」,普通用戶很難有一個直觀的認識。
例如,在注冊APP時,用戶被要求填寫基礎(chǔ)資料、個人愛好等信息。這個過程中,用戶只需要支付時間成本,而不會產(chǎn)生直接利益損失,就能夠獲得更精準的信息推送服務(wù)。
但命運贈送的禮物,早已暗中標好了價格。
這些數(shù)據(jù)雖然不會直接帶來損失,但危害或許更大。在這些數(shù)據(jù)的加持下, 各種推薦算法橫空出世,構(gòu)建了一張張封閉的「信息繭房」,繭房里的用戶們,成為一茬茬被收割的對象。
大數(shù)據(jù)殺熟可以說是比較明顯的一類收割方式。
系統(tǒng)通過抓取用戶在線時長、消費記錄等特征值,將用戶按標簽分組,然后推送不同的折扣,給新用戶優(yōu)惠,老用戶高貴。
人們常說的消費主義也與之相關(guān),許多用戶在購物平臺上購買商品,系統(tǒng)會根據(jù)用戶的瀏覽記錄、時長、輸入標簽、好友等等,推送其可能喜歡的商品,并且一發(fā)不可收拾。最后用戶可能買了一大堆并不實用的商品。
這兩種都比較常見,但商家只是為了賺取更多利潤,雖然面黑,卻也至少在法律監(jiān)管之內(nèi)。
但從另一個角度看,基于數(shù)據(jù)產(chǎn)生的推薦算法,如果沒有得到有效引導(dǎo),那么將會帶來「社會性災(zāi)難」。
品牌傳播有一種常用技巧,叫培養(yǎng)用戶心智。最典型的莫過于“鉆石恒久遠,一顆永流傳”這句廣告,把鉆石和愛情畫上等號,成為結(jié)婚不可或缺之物。實際上,鉆石本身價值不如黃金,但仍有無數(shù)男女為之傾倒。
羅馬的建成并非一朝一夕,培養(yǎng)用戶心智,也不可能一蹴而就,而是潛移默化、春風(fēng)化雨。
以最近被討論得較多的豆瓣為例:
豆瓣曾于2012年上線了“豆瓣猜”功能,根據(jù)官方定義,該功能如下:
“你的個人推薦是根據(jù)你的收藏和評價自動得出的,每個人的推薦清單都不同。你的收藏和評價越多,豆瓣給你的推薦會越準確和豐富。每天推薦的內(nèi)容可能會有變化。隨著豆瓣的長大,給你推薦的內(nèi)容也會越來越準。”
毫無疑問,該功能的初心是為了給用戶提供更優(yōu)質(zhì)內(nèi)容,包括現(xiàn)在許多短視頻APP,在使用推薦算法的時候,直接目的是增強用戶黏性,然后通過廣告投放變現(xiàn)。
但這類推薦實際上會形成一個「信息繭房」,即用戶在某一類別的內(nèi)容下熏陶太久,很難再接收到其他跨行業(yè)的內(nèi)容,從而造成信息阻塞。 在這個「繭房」里面的用戶,每天都受到同質(zhì)化內(nèi)容的沖擊,思維也會受到影響,趨于單一甚至極端。
一份對豆瓣的研究表明,豆瓣由于是小組機制,以組為單位的信息交流較為封閉,受推薦算法影響,組內(nèi)成員接收到的內(nèi)容更為單一(精準)。整個小組就是一間房屋,只接受來自推薦算法的投喂,而拒絕跨行業(yè)交流,所以不難理解豆瓣出現(xiàn)的一些極端言論。
如果這種推薦算法被用于輿論戰(zhàn),比如在俄烏事件中,F(xiàn)acebook允許用戶發(fā)表任何關(guān)于俄烏領(lǐng)導(dǎo)人的仇恨言論,那么許多人可能都會接收到更多類似言論,從而帶來嚴重的社會問題。
所以,看起來沒那么重要的數(shù)據(jù),在推薦算法的放大下,影響也會被放大無數(shù)倍。即便一開始,推薦算法是出于好意,但若缺少有效監(jiān)督,最終會釀成惡果。
技術(shù)、監(jiān)管與商業(yè)行為
“技術(shù)僅是一種手段,它本身并無善惡,一切取決于人從中造出什么,它為什么目的而服務(wù)于人,人將置于什么條件下。”
德國存在主義哲學(xué)家雅斯貝爾斯如是說。
互聯(lián)網(wǎng)、大數(shù)據(jù)、AI等新技術(shù)確實帶來了生產(chǎn)生活的改變,同時重鑄了商業(yè)模式,但技術(shù)與人之間的關(guān)系卻產(chǎn)生了 「滯后效應(yīng)」。
所謂滯后效應(yīng)是指,法律監(jiān)管、民眾意識的覺醒,落后于新技術(shù)的演變,這種時間差所導(dǎo)致的認知差異很容易引起爭議,而這種爭議又因利益主體而有著截然不同的態(tài)度。
以人臉識別為例,該技術(shù)已經(jīng)廣泛應(yīng)用到視頻監(jiān)控、消費電子等場景,但不同的采集主體,人們卻表達了不同意見。
比如,疫情防控需要采集人臉信息,幾乎沒有人表示反對,但對于商店收集人臉,卻有百般不愿。
“對公權(quán)力的信服,使人們相信公權(quán)力收集人臉信息是為了大眾安全與福祉。”
一位法律行業(yè)人士表示,這種信任在商業(yè)層面卻恰好相反: 當(dāng)人臉識別技術(shù)被用于發(fā)展商業(yè)時,人們對生物特征信息相當(dāng)敏感,甚至可以說抵觸。
因為前者屬于利益共享,并且有政府背書,人們相信前者有能力來保護個人數(shù)據(jù)安全。但后者是純商業(yè)行為,消費者從中無法獲得利益,并且存在很大的信任危機。
在這段時間差里,由于缺乏針對性的法律加以監(jiān)管,隱私、技術(shù)、商業(yè)、監(jiān)管四者之間存在一片 模糊地帶 ,成為灰色產(chǎn)業(yè)鏈的沃土。
《個人信息保護法》和《數(shù)據(jù)安全法》的出臺,一定程度上規(guī)范了行業(yè),但從監(jiān)管層面來看,隱私與技術(shù)、商業(yè)行為之間的界限仍然不夠明晰。
以生物特征信息為例,哪些信息可以采集、哪些信息不可以采集,什么時候能用,什么時候不能用,尚未有國家層面的正式法律依據(jù)做支撐。
舉個例子,現(xiàn)在很多技術(shù)公司在做 「智能商業(yè)」 ,也就是通過采集數(shù)據(jù)來給商戶營銷服務(wù)。人臉信息在《個人信息保護法》有明確規(guī)定,企業(yè)私自采集人臉并商用屬于違法行為。
技術(shù)公司已經(jīng)可以通過技術(shù)手段,比如數(shù)據(jù)脫敏,來規(guī)避掉人臉信息,而采集性別、年齡、穿著、用戶行為等其他信息,這部分數(shù)據(jù)實際上處于上述提及的灰色地帶之中。
這些數(shù)據(jù)能不能采?是一個問題。
另一個問題是,針對線上用戶的推薦算法,其采集的數(shù)據(jù)范圍、類型等要不要加以限制?
一位數(shù)據(jù)公司VP告訴掘金志,現(xiàn)在的大數(shù)據(jù)實際上處于線上線下融合發(fā)展的階段,任何一端的監(jiān)管缺失,都會帶來很嚴重的問題。
雖然2022年1月出臺了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,對推薦算法進行規(guī)制,但在數(shù)據(jù)采集方面仍然缺少約束。
比如,今年315之后,淘寶、抖音、微博等APP上線了算法關(guān)閉鍵, 用戶可關(guān)閉“個性化推薦”,不過實際影響可能有限。
某行業(yè)人士表示,關(guān)閉“個性化推薦”存在彈性:其一,只是降低了內(nèi)容的相關(guān)度;其二,仍然可以通過別的算法(如近鄰算法)來感知消費者的喜好;其三,APP仍然可以采集隱私數(shù)據(jù)。
當(dāng)然,這并不意味著該功能無用。在他看來,數(shù)據(jù)已經(jīng)成為現(xiàn)代商業(yè)不可缺少的一部分,是發(fā)展數(shù)字經(jīng)濟的基礎(chǔ)“資源”,幾乎不太可能割裂數(shù)據(jù)與商業(yè)之間的聯(lián)系。
“如果要劃分隱私數(shù)據(jù)、技術(shù)與商業(yè)行為之間的邊界,需要企業(yè)、消費者、監(jiān)管方、媒體等多方參與。”
而這又將是一場持久的「利益博弈」。 雷峰網(wǎng) (公眾號:雷峰網(wǎng)) 雷峰網(wǎng)
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見。