廣州熱線

濫用行為導(dǎo)致名譽(yù)崩塌，F(xiàn)acebook 還能洗干凈自己?jiǎn)幔?/H2>作者：編輯 ? 時(shí)間：2018-07-19 ? 瀏覽：人次

編者按：在剛剛過(guò)去的一年，社交媒體巨頭 Facebook 可以說(shuō)是經(jīng)歷了最大的挑戰(zhàn)，遭到了“幫助假消息傳播、操縱美國(guó)大選以及加速極端主義”等多項(xiàng)指控。為此，這家社交媒體巨頭組建了一個(gè)專(zhuān)家團(tuán)隊(duì)來(lái)應(yīng)對(duì)濫用行為，保護(hù)公司聲譽(yù)，力求在問(wèn)題出現(xiàn)之前發(fā)現(xiàn)問(wèn)題。對(duì)此，安全專(zhuān)家們又有何看法呢？

科技公司一直津津樂(lè)道于自己的產(chǎn)品將會(huì)帶來(lái)怎樣積極的巨變，像 Facebook 以“賦予人創(chuàng)建社區(qū)的權(quán)力，讓世界聯(lián)系更加緊密”為使命，Google 則是“將全世界的信息組織起來(lái)，使其能被普遍獲得和使用”，微軟則希望“賦予地球每一人、每一組織做出更大成就的權(quán)力”。即便是 Snapchat 這家以“Snap Inc 是一家相機(jī)公司”謙遜的形象作為自我介紹語(yǔ)的公司，也不禁自夸道：“我們的產(chǎn)品能夠讓人們更好地表達(dá)自我、活在當(dāng)下、進(jìn)一步了解這個(gè)世界并且共同享受這其中的樂(lè)趣，從而推動(dòng)人類(lèi)進(jìn)步?！?/p>

通過(guò)以上這些說(shuō)法，足看見(jiàn)其中的雄心壯志，而這也是科技領(lǐng)域大型企業(yè)的常態(tài)。但是，卻很少見(jiàn)這些企業(yè)投入時(shí)間或精力去應(yīng)對(duì)這些世界一流的新技術(shù)所產(chǎn)生的預(yù)料之外的后果。

當(dāng)然，這其中也有例外。Google 在 2014 年收購(gòu)總部位于倫敦的人工智能公司 DeepMind 之時(shí)，DeepMind 創(chuàng)始人的要求之一就是由 Google 成立一個(gè)道德委員會(huì)，以確保未來(lái)對(duì)該技術(shù)的任何使用方式與途徑都會(huì)受到嚴(yán)格道德準(zhǔn)則的約束。一年后，埃隆·馬斯克帶頭成立了人工智能研究小組 OpenAI，以“通過(guò)最有可能令整個(gè)人類(lèi)受益的方式推進(jìn)數(shù)字智能技術(shù)的發(fā)展，而不受財(cái)務(wù)回報(bào)的約束”為目標(biāo)。

但有些時(shí)候，一些本意并非是想改變世界性事件發(fā)展進(jìn)程的產(chǎn)品和功能，卻可能引發(fā)巨大的社會(huì)動(dòng)蕩。2017 年，F(xiàn)acebook 決定測(cè)試一下將新聞報(bào)道放在一個(gè)單獨(dú)的部分，與 News Feed 分開(kāi)是否會(huì)增加用戶(hù)參與度。在這過(guò)程中，F(xiàn)acebook 可能對(duì)一些包括Cambodia等在內(nèi)的發(fā)展中民主國(guó)家的獨(dú)立生態(tài)媒體系統(tǒng)造成了嚴(yán)重的損害。

但要是拿這與 Facebook 所受到的“可能無(wú)意中造成了緬甸羅興亞少數(shù)民族種族清洗”的指責(zé)相比可以說(shuō)就不算什么了。在 Facebook 平臺(tái)上，我們可以看到各種“假新聞”以及極度擁護(hù)各自所屬黨派的各種社區(qū)，這種情況下，如果該國(guó)的社會(huì)狀況不夠穩(wěn)定，無(wú)法抵御這種言論和分歧，那就會(huì)爆發(fā)暴力事件。

現(xiàn)在，F(xiàn)acebook 正努力避免此類(lèi)事件的再次發(fā)生，并且希望能夠通過(guò)創(chuàng)建“調(diào)查行動(dòng)團(tuán)隊(duì)”（IOT）從公司合作商--Cambridge Analytica 用戶(hù)隱私丑聞一事的負(fù)面新聞報(bào)道中走出來(lái)，旨在防患濫用行為于發(fā)生之前。Facebook 商業(yè)誠(chéng)信總監(jiān) LyndaTalgo 兩周前在接受 Buzzfeed 采訪時(shí)表示，由廣告人員、研究人員以及之前從事過(guò)偵查工作的人員組成的一個(gè)團(tuán)隊(duì)正與公司進(jìn)行合作“向前看，關(guān)注并找出即將發(fā)生怎樣的事情”。

但其實(shí)，即便你不是 Facebook 的內(nèi)部工作人員，即便你并非身處其位于門(mén)洛帕克的辦公區(qū)內(nèi)，你也能感受到 Facebook 在不久的將來(lái)必須要打一場(chǎng)硬仗。因此，我也組建了自己的“調(diào)查運(yùn)營(yíng)團(tuán)隊(duì)”，團(tuán)隊(duì)成員都是那些一直在遠(yuǎn)遠(yuǎn)觀察這個(gè)行業(yè)的人，他們也就硅谷當(dāng)前所出現(xiàn)的問(wèn)題給出了自己的警示意見(jiàn)。

來(lái)自比利時(shí)的道德黑客、安全研究員 Inti De Ceukelaire 發(fā)現(xiàn)了 Facebook 存在的多個(gè)疏忽和漏洞。上個(gè)月，他曾披露一款名為 NameTests 的第三方測(cè)驗(yàn)應(yīng)用令 1.2 億 Facebook 用戶(hù)面臨數(shù)據(jù)泄露風(fēng)險(xiǎn)，只要用戶(hù)注冊(cè) Nametests.com 網(wǎng)站中的任何一款智力競(jìng)賽應(yīng)用，他們?cè)?Facebook上 的個(gè)人數(shù)據(jù)就會(huì)被泄露。他表示這樣的問(wèn)題在 Facebook 網(wǎng)站上其實(shí)很常見(jiàn)，雖然 Facebook 急于打擊各種不良及濫用行為，但在合作伙伴選擇方面似乎太過(guò)漫不經(jīng)心。

Ceukelaire 說(shuō)道：“整個(gè)問(wèn)題的解決大約用了兩個(gè)月的時(shí)間，而在問(wèn)題最終解決之前，F(xiàn)acebook 甚至從未阻止過(guò) NameTests 這一應(yīng)用，哪怕只是短期的停用也沒(méi)有。但是，當(dāng)我創(chuàng)建了一款類(lèi)似的工具之后，幾個(gè)小時(shí)之內(nèi)就被停用了，之后與我相關(guān)的所有域名都被 Facebook 攔截了。”他補(bǔ)充道，同樣，這些合作伙伴“也擁有特殊的數(shù)據(jù)訪問(wèn)權(quán)限，能夠幫助 Facebook 形成更多的壟斷?！?/p>

Forrester 的首席分析師 Thomas Husson 認(rèn)為這其中并不僅僅存在安全問(wèn)題。他指出，雖然整個(gè)行業(yè)對(duì)于人工智能問(wèn)題表現(xiàn)出了足夠的關(guān)注度，但它仍然存在風(fēng)險(xiǎn)。“人工智能的使用和自動(dòng)化流程的能力將會(huì)引發(fā)更多的道德問(wèn)題，像 Facebook 或 Google 等在內(nèi)的數(shù)字平臺(tái)必須確保自己能夠規(guī)避有害的偏見(jiàn)和歧視行為的發(fā)生。包括面部識(shí)別和生物特征識(shí)別等在內(nèi)的人工智能技術(shù)將進(jìn)一步增加消費(fèi)者對(duì)于隱私問(wèn)題的擔(dān)憂。”

來(lái)自非營(yíng)利機(jī)構(gòu) Privacy International 的數(shù)據(jù)項(xiàng)目負(fù)責(zé)人 Frederike Kaltheuner 也同樣表達(dá)了對(duì)于面部識(shí)別技術(shù)的擔(dān)憂情緒，他提醒道，即便這些公司對(duì)于技術(shù)所帶來(lái)的負(fù)面結(jié)果有所擔(dān)憂，他們也往往會(huì)不當(dāng)回事。“系統(tǒng)能夠反映出數(shù)據(jù)和社會(huì)中所存在的偏見(jiàn)，無(wú)處不在的面部識(shí)別技術(shù)將導(dǎo)致大規(guī)模的街道級(jí)別監(jiān)控行為，而這對(duì)于那些本來(lái)就要面對(duì)各種日常歧視的人來(lái)說(shuō)會(huì)造成很大的傷害。對(duì)于在閉路電視攝像機(jī)內(nèi)部署大規(guī)模面部識(shí)別系統(tǒng)的行為，社會(huì)各群體必須繼續(xù)采取行動(dòng)，與之抗?fàn)??！?/p>

Kaltheuner 認(rèn)為，這個(gè)由于太過(guò)麻煩所以大家都不愿去解決的問(wèn)題其實(shí)出在該行業(yè)的商業(yè)模式身上?！皢?wèn)題就在于數(shù)據(jù)利用本身成為了一種商業(yè)模式。要注意，我所說(shuō)的并不是產(chǎn)品和服務(wù)需要數(shù)據(jù)來(lái)發(fā)揮作用這一事實(shí)，問(wèn)題在于他們打著產(chǎn)品和服務(wù)的名義來(lái)進(jìn)行數(shù)據(jù)挖掘。”

然而，該行業(yè)面臨的最大的一個(gè)風(fēng)險(xiǎn)可能就是讓 Facebook 當(dāng)下不得不進(jìn)行反省的那個(gè)問(wèn)題：信任。De Ceukelaire 指出：“如果一家企業(yè)未能保護(hù)數(shù)百萬(wàn)數(shù)據(jù)的數(shù)據(jù)隱私，那你就無(wú)法信任他們的公關(guān)團(tuán)隊(duì)。我們現(xiàn)在正在朝著正確的方向前進(jìn)，但我們的整體步調(diào)已經(jīng)落后了。我們需要更快地行動(dòng)起來(lái)、采取更透明的保護(hù)措施、省去那些冠冕堂皇的廢話。這不僅僅適用于 Facebook，也適用于該行業(yè)的每一家大型科技公司。”

Forrester 首席分析師 Husson 同樣表達(dá)了這一觀點(diǎn)，只是言辭相對(duì)平和一些。他說(shuō)道：“Facebook 和Google 都是連接消費(fèi)者和品牌的數(shù)字平臺(tái)，能否得到客戶(hù)的信任是決定他們未來(lái)命運(yùn)的關(guān)鍵所在。他們?cè)谶@方面所面臨的挑戰(zhàn)將會(huì)變得日益嚴(yán)峻，這不僅僅是因?yàn)橄瘛锻ㄓ脭?shù)據(jù)保護(hù)條例》（GDPR）這樣更為復(fù)雜的法律條例不斷涌現(xiàn)，而且也是因?yàn)橄M(fèi)者會(huì)越來(lái)越多地要求品牌依照價(jià)值觀來(lái)行事?！?/p>

對(duì)于 Facebook 和 Google 來(lái)說(shuō)，信任是一個(gè)尤其重要的資源，因?yàn)樗麄兣c真實(shí)客戶(hù)—占其收入絕大部分的廣告客戶(hù)之間的關(guān)系同樣缺乏信任。Facebook 不得不一再由于報(bào)告給廣告商的指標(biāo)存在過(guò)度夸大的問(wèn)題而一再道歉，Google 旗下的 YouTube 也由于品牌安全問(wèn)題（例如，臭名昭著的將客戶(hù)付費(fèi)廣告投放到極端組織相關(guān)內(nèi)容頻道之中）受到廣告商的攻擊。Husson 指出：“毫無(wú)疑問(wèn)，亞馬遜在這方面做的比 Google 和 Facebook 都要好?！?/p>

成立一個(gè)調(diào)查團(tuán)隊(duì)顯然是贏回信任的一個(gè)好方法，但也許是會(huì)引起別人猜疑的一個(gè)好方法。隱私維權(quán)者Aral Balkan 就表示根本不相信 Facebook 目前正在推行的“損失控制和公關(guān)行動(dòng)”。他說(shuō)道：“這就像是一個(gè)人類(lèi)養(yǎng)殖場(chǎng)，之前曾因?qū)Υ蟮姆绞蕉艿焦_(kāi)羞辱，現(xiàn)在正通過(guò)內(nèi)部審計(jì)方式來(lái)規(guī)避未來(lái)的公關(guān)災(zāi)難性事件?！碑?dāng)被問(wèn)到如果他發(fā)現(xiàn)自己也身處類(lèi)似的團(tuán)隊(duì)會(huì)怎么做時(shí)，Balkan 表示：“首先我絕對(duì)不會(huì)讓自己身處這樣的一個(gè)團(tuán)隊(duì)，因?yàn)槲腋緹o(wú)意幫助這些監(jiān)控資本家去改善他們的公共關(guān)系。我只是想確保他們的濫用行為得到有效的監(jiān)管，并幫助他們找到符合道德要求的替代解決方案?！?/p>

對(duì)于 IOT 團(tuán)隊(duì)，我們真正的衡量標(biāo)準(zhǔn)并不在于他們能否發(fā)現(xiàn)問(wèn)題，而是在于他們?cè)谥苯痈乜赡苁亲钣欣蓤D的行動(dòng)方案這一前提下，能否依然改變公司計(jì)劃來(lái)避開(kāi)那些雷區(qū)。如果 IOT 能夠很好地完成他們的工作，那以后我們應(yīng)該就不會(huì)再聽(tīng)到這個(gè)名字了。對(duì)于 Facebook 來(lái)說(shuō)，這可能是最好的結(jié)果。

原文鏈接：https://www.theguardian.com/technology/2018/jul/07/facebook-notes-from-a-scandal-investigative-operations-team-iot-rohingya-myanmar-cambodia-press

編譯組出品。編輯：郝鵬程

轉(zhuǎn)載請(qǐng)保留原文鏈接:http://parkingblocks4less.com/a/guona/20180719/9450.html上一篇：上一篇：阿里領(lǐng)投，美妝零售管理平臺(tái)「?上海秉坤」完成9000萬(wàn)元B輪融資
下一篇：下一篇：沒(méi)有了