Search

《監控資本主義時代》:讓我們將門關上,並確定我們關上的是對的門 - The News Lens 關鍵評論網

文:肖莎娜.祖博夫(Shoshana Zuboff)

第一章:數位化的未來,是異地還是故里?

我目睹他在卡呂普索的島上,在寢殿中哭泣、淚流成河。

卡呂普索限制他的行動,使他無法歸鄉。

——荷馬(Homer),《奧德賽》(The Odyssey)

何謂監控資本主義?

監控資本主義單方面宣稱,人類經驗是能轉化為行為數據的免費原物料。雖然部分資料用來改善產品或服務品質,但其他數據則被業主據為己有,並將其稱為「行為剩餘」(behavioral surplus)。他們將這些資料投入下階段的生產過程,也就是所謂的「機器智慧」(machine intelligence),將資料製造成「預測產品」,對你當下、下一秒以及未來的行為進行預測。最後,這些預測產品會放在全新的市場上交易,而這種專門流通行為預測產品的市場,就是我所謂的「行為未來市場」(behavioral futures markets)。許多企業都迫不及待想在人類未來行為上下注,使提供此類商品交易的監控資本家得以迅速致富。

在接下來的章節中,我們會談到此新興市場的競爭之激烈,讓監控資本家持續開發更具預測力的行為剩餘來源,例如我們的聲音、個性以及情緒。最後,監控資本家發現如欲取得預測能力最強的行為數據,就必須介入現況,刺激、哄騙、調整並聚集民眾的行為,藉此導出有利可圖的結果。市場競爭壓力讓業者改變策略,他們提供的自動化機器裝置,不僅能預測我們的行為,更能大幅調整我們的行為。業者將重心從知識轉移到力量上,發現只讓群眾個人資訊自動流入還不夠,他們的新目標是讓群眾自動化

在監控資本演進過程的這個階段,生產方式必須配合日漸複雜的全面「行為修正手段」(means of behavioral modification)。基於這個目標,監控資本主義催生出一種前所未有的力量,我將其稱為「機器控制主義」(instrumentarianism)。機器控制力量不僅了解人類的行為模式,更能加以修正,使人做出滿足他者需求的行為。這種力量不需要借助武器或軍隊的武力,只要透過由「智慧」網路裝置、物件與空間連結而成,愈來愈普及的運算結構,就能利用這種結構產生的自動化媒介來達成目的。

在接下來的章節中,我們會探討這種操作模式的擴張,並深入分析維繫這種網絡的機器控制力量。想掙脫貪婪市場計畫的魔掌,確實愈來愈困難。店家只要願意付費,成為行為未來市場中的一員,那些計畫就能伸出觸手,溫柔地將《精靈寶可夢GO》(Pokémon Go)手遊玩家,趕到特定餐廳、酒吧、速食連鎖店或商店消費。

在更貪婪的情況下,他們還能利用臉書(Facebook)上過剩的個人資訊,形塑你的行為模式,例如誘使你在週五下午五點四十五分購買痘痘藥膏;在你週日晨跑結束,腦內啡在腦中極速流竄時,使你點下「同意下單」的按鍵,購入一雙新的慢跑鞋;甚至,他們還能影響你下週投票時的選擇。工業資本主義持續強化發展各種生產手段;而監控資本家與其他市場參與者,則一股腦地發展各種行為修正手法,讓機器控制的力量愈來愈穩固、強大。

監控資本主義的發展方向,與最初的數位化美夢背道而馳,讓智慧居家成為古老的歷史。一直以來,大家都幻想這種相互連結的形態,其中必然帶有某種道德思維,因為「連結」本身就有利社會、兼容並蓄的特質,也讓知識的分配和運用更加民主。但監控資本主義澈底推翻這種幻想,數位連結現在已是他人用來滿足商業利益的手段。其實,監控資本主義具有寄生與自我指涉的特質。在馬克思(Karl Marx)的舊有想像中,資本主義就像一隻以勞工為食的吸血鬼。監控資本主義不僅展現了這種想像,還出現令人意想不到的轉折。監控資本主義吞噬的並非勞工,而是各式各樣的人類經驗。

一世紀以前,通用汽車(General Motors)發明經營資本主義,使其架構更完善、穩健;如今,谷歌循著類似足跡開創出監控資本主義,不斷將其推向高峰。無論是在概念上還是實踐上,谷歌都是監控資本主義的先驅。他們擁有鉅額資金,能不斷進行研究與發展,也是實驗與應用領域的拓荒者。但在監控資本主義的發展道路上,谷歌已經不是孤單一人。監控資本主義迅速蔓延至臉書,現在也正式進入微軟(Microsoft)。證據顯示亞馬遜(Amazon)早已改變方針,以監控資本主義為發展目標。而對蘋果(Apple)來說,監控資本主義不斷帶來挑戰,它不僅是外部威脅,也是內部衝突與爭執的起因。

身為監控資本主義的先驅,谷歌在那未開化的網路空間中,推動前所未見的市場營運操作,完全不受法律或競爭對手的阻撓,如同侵略性強大的物種,進入一個完全沒有天然掠食者的生態系那樣。谷歌的主管高速推動其業務的系統連貫性,公家單位與個人用戶怎麼追也趕不上。谷歌也從歷史事件中獲益。九一一恐攻後,被激怒的國家安全機器開始採取行動。他們開始培養、模仿、庇護並挪用監控資本主義的新興能力,因為此能力能帶來全然的知識,更能保證知識正確無誤。

監控資本家很快就發現自己能為所欲為,而他們也真的這麼做了。他們打著提倡與解放的口號,大肆利用當代社會的焦慮感,同時在檯面下採取真正的行動。在他們的花言巧語形容下,群眾彷彿能從網路獲得力量,而這些資本家的反應速度極為敏銳,更有信心能創造龐大的收益流。此外,他們準備要占領攻陷的那片領地,又是一片未開發、毫無防備的空間。上述因素就像一張隱形斗篷般,隱匿他們的真實操作。資本家主導的自動化流程,本身就複雜到令人難以理解,民眾都被搞得一頭霧水,而他們還不斷宣稱這是必然發展,種種因素都讓監控資本家得以不受侵擾。

起初,大型網路公司競爭激烈,紛紛將行為未來市場的重心擺在網路行銷上。但在現今,監控資本主義不只侷限於這波濤洶湧的競爭場域裡。幾乎所有以網路為基礎的商業模式,全都將監控資本主義的機制和經濟指令視為營運的預設模型。最後,這些競爭壓力,迫使監控資本主義滲入網路外的離線世界。那套從網頁瀏覽、按讚和點擊紀錄汲取數據的基礎機制,也從你在公園中慢跑、邊吃早餐邊跟朋友聊天,或是尋找車位時,汲取養分和資訊,持續成長擴張。

現在,預測產品在行為未來市場上交易、流通,而此市場的範圍已從網路行銷廣告拓展至其他領域,例如保險、零售、金融以及不斷擴張的商品與服務企業。這些公司都想從這個有利可圖的新興市場中海撈一筆。無論是「智慧」居家配備,還是保險公司所謂的「行為承保」(behavioral underwriting),或是數以千計的其他交易,現在大家都在掏錢購買自己的主導權。

監控資本主義的商品或服務並非價值交換的實物。業者與用戶之間,也未建立起生產者與消費者之間的正向互惠關係。業者提供的商品或服務,反而像「鉤子」那樣,誘使用戶掉入他們的單方面抽取運作中:剝奪用戶的個人經驗,將這些經驗包裝處理後,拿去滿足他者的需求。我們並非監控資本主義的「顧客」。

雖然有句話說:「如果都不用付錢的話,那你本身就是商品。」但這個說法同樣不正確。對監控資本主義而言,身為消費者的我們是相當重要的「剩餘」來源:在以高科技建構而成、無可遁逃的原料萃取過程中,我們是被榨取的對象。監控資本主義的顧客,其實是那些在市場上交易未來行為的企業。

這種邏輯讓日常生活成了每日重複續約的二十一世紀浮士德契約。之所以說是「浮士德」契約,是因為就算我們知道自己必須跟魔鬼交換的事物,終有一日會反過來破壞原有的生活,我們仍然無法從這種狀態中抽離。網路已經成為社會參與的重要媒介,而網路中充斥著數也數不盡的商業活動,這些商業活動如今都依循著監控資本主義的規範。那些商業監控計畫,就是看準人類的依賴心理。

我們一方面希望能借助這些監控計畫來改善生活,同時又對其明目張膽的侵略姿態感到抗拒。這種衝突思維使人麻木,讓我們逐漸習慣這種被監控、分析、挖掘以及調整的現況。我們不再反抗,以犬儒主義思維來合理化這種現象,並提出近似於防衛機制的藉口,例如:「我又沒什麼好隱藏的。」或是找其他辦法把頭埋在沙堆裡,以無知來應付沮喪和無助的心情。透過這種方式,監控資本主義提出完全不合法的選擇,迫使根本沒有義務做決定的二十一世紀人類表態。隨著現況正常化,民眾也只能戴著鐐銬,一邊高聲歌唱。

監控資本家累積極為龐大的知識,知識也帶來無比強大的力量,監控資本主義就是在這種不對等的狀態下運行。監控資本家知道關於我們的一切,但他們的運作模式經過精心設計,使我們一無所知。他們從我們身上累積大量的全新知識,但這些知識並不是為我們而收集。他們之所以想預測我們的未來,完全不是為了我們著想,而是想增加他者利益。監控資本主義與行為未來市場若得以繼續發展,新興的行為修正手段就會取代傳統生產方式,成為二十一世紀資本家的財富與力量來源。

關於監控資本主義的現況和後果,及其對個體生活、整體社會、民主制度,還有新興的資訊文明會帶來何種影響,都會在接下來的章節中深入探討。書中提到的證據和推論,都顯示監控資本主義這種異常的力量,是由新形態的經濟指令所驅動。這些經濟指令將社會規範視為無物,抹去基本人權的價值。然而基本權利與個體自主權緊密相關,更是建立、維繫民主社會的核心要素。

工業資本主義蓬勃發展後,自然環境受到損害,地球的生態也面臨威脅。而由監控資本主義與新興機器控制力量所建構的資訊文明,則會損及我們身為人類的本質,更有可能使人性蕩然無存。工業化發展使氣候混亂異常,人類感到沮喪、懊悔甚至是恐懼。在我們所處的時代,監控資本主義若成為資訊資本主義的主導形態,會對整個世界帶來哪些新的傷害?下個世代的年輕人心中又會懷抱怎麼樣的悔恨?

愈來愈多部門、公司、新創企業、應用程式開發商和投資者,都追著光鮮亮麗的資訊資本主義跑,因此當你讀到這段文字時,這種新形態的資本主義也已再度擴張。大規模擁抱監控資本主義的現象,及其催生的反抗推力,這兩者之間的拉鋸戰至關重要。在嶄新的權力邊疆,人類的未來會是什麼模樣,就由這一戰而定。

史無前例

監控資本主義之所以能以勢如破竹之姿迅速發展,最關鍵的原因是:這是史無前例的新現象。史無前例的新事物出現時,民眾必然無法看清其全貌。碰到前所未見的新發明時,我們都習慣用熟悉的分類法來詮釋或解讀新事物,因而忽略這些事物前所未見的特點。最經典的例子,就是民眾初次接觸汽車這種新發明時,自動將其解釋為是一種「無馬馬車」。另一個悲傷的案例,則是原住民與首批西班牙征服者初次接觸時的場景。

在前哥倫布時期,加勒比島嶼上的泰諾(Taíno)族人,首次碰上滿身大汗、蓄鬍的西班牙士兵,看見身穿錦緞與盔甲的他們橫越沙地時,怎麼可能在當下立刻警覺到大難將臨?這群原住民無法預見族人的毀滅,還將這群前所未見的士兵視為神祇,以繁瑣複雜的迎賓儀式來接待他們。這些案例清楚顯示前所未有的事物會干擾我們的理解。腦中現有的濾鏡,會放大我們原本就熟悉的特點,讓前所未見的事物成為過往事物的延伸,讓人忽略其獨有的特質。這麼一來,異常的事物也會正常化,想與前所未見的新發明相抗衡就更困難了。

多年前,在某個狂風暴雨的夜裡,我家不幸遭到雷擊。在那次經驗中,我發現前所未見的事物具有抗拒「被理解」的推力,也因此學到寶貴的一課。屋子被雷擊中後,烏黑的濃煙迅速從樓下竄上樓梯間,並往客廳蔓延。我們準備逃出屋外,同時撥電話呼叫消防隊。那時我相信自己來得及在幾分鐘內做些有用的事,隨後再衝到外頭找家人。首先,我衝上樓把所有臥室的門關上,以免濃煙將房間燻得漆黑。接著我跑下樓回到客廳,盡可能把所有家人的照片蒐集起來,搬到外頭有遮雨棚的陽臺安放。濃煙已快將我淹沒,這時消防員正好抵達,他猛力抓住我的肩膀,將我拉出門外。我們站在強勁的暴雨中,完全沒料想到房子竟突然在烈火中爆炸。

我從這場大火學到很多,其中最重要的一課,是前所未見的事物具有無法辨識的本質。樓下開始竄出濃煙時,我頂多只能想像牆壁被煙燻黑,完全沒想到房子會燒個精光。我透過由過往經驗形成的濾鏡來解讀這場災難,以為這只是一個令人難過,但最終還是在掌控範圍內的小插曲。在我的想像中,一切還是能回到原點。由於無法認清前所未見的緊急狀況,我才會奮力把臥室的門關上,努力把照片搬到自以為安全的陽臺上。但房門注定燒成灰燼,陽臺也逃不過被火吞噬的命運。因為未曾經歷過火災,我無法在當下認清意外的嚴重性。

早在二○○六年,我就開始研究監控資本主義,但當時我還未替這個新興的現象命名。我採訪許多英美科技公司的創辦人和員工。在那幾年間,我以為自己記錄的這些令人感到不安、出乎意料的手段,只是主要幹道旁的岔路,有可能是管理疏忽或判斷失誤所致,或者是理解背景脈絡的手段。

我得來的實地資料全被那晚的大火吞噬。到了二○一一年初,我再度對此市場操作進行研究時才明白,原來腦中的舊有經驗濾鏡,根本無法解釋正在成形的新形態資本主義,也找不到任何藉口為其開脫。雖然早年研究的細節已經化為灰燼,但事態的全貌卻更清晰可辨:資訊資本主義的發展出現關鍵大轉向,建構出新的資本累積邏輯,並發展出獨有的運作機制、經濟指令與市場。我發現這種新形態的資本主義,已掙脫歷來資本主義的規範與操作。經過一路以來的發展與演變,前所未見、令人不敢置信的新式資本主義儼然誕生。

話說回來,拿房屋失火跟經濟史上前所未見的新事物相比,顯然不是那麼恰當。雖然我先前未曾經歷過房屋失火,但失火對人類來說並非新鮮事。相較之下,監控資本主義卻是歷史上的新角色,不僅前所未有,而且自成一格。監控資本主義沒有同伴,與其他事物也截然不同,它就像個擁有獨特時空物理的新星球。在這個星球上,一天有六十七小時,天空呈現翠綠色,山脈的輪廓上下顛倒,而且水還是乾燥的。

儘管如此,在面對監控資本主義時,群眾還是會像我當初那樣,試圖將注定燒個精光的房門給關上。監控資本主義的特質前所未見,社會大眾無法適切地用現有概念來洞悉其本質,因此使監控資本主義得以躲過層層檢視。我們只能仰賴「獨占」或「隱私」等概念,來檢視監控資本家的行動。雖然這兩大議題也很重要,而監控資本家的行徑亦確實符合獨占的標準,更對隱私構成威脅,但這種新形態政權最前所未見、最與眾不同的特點,還是無法以現有議題範疇來明確探討或檢視。

監控資本主義會繼續走在現階段發展軌跡上,成為當代最主流的資本累積手段嗎?還是我們遲早會發現,原來監控資本主義不過是隻長了牙的鳥:雖然令人畏懼,但卻是漫長資本主義歷史的死路。如果監控資本主義注定失敗,那是什麼因素使其無法繼續發展?一劑有效的抵抗疫苗,必須涵蓋哪些要素?

製作每一劑疫苗之前,都得對欲消滅的疾病有全面的了解。這本書會帶大家深入探索,看看監控資本主義有哪些奇特、前所未有,甚至是令人無法想像的特點。我堅信在有效挑戰監控資本主義之前,必須對其有全面的了解,因此我們必須時時刻刻觀察其動態,並加以分析、賦予其新的名稱。書中所有的論述,都是基於以上信念所寫成。

在接下來的章節中,我們會共同檢視是在哪些特定條件下,監控資本主義得以扎根並蓬勃發展。另外,我們也會探討促使這種市場形態運作、擴張的「運動定律」,像是基本機制、經濟指令、供給經濟、權力建構以及社會秩序原則。讓我們將門關上,並確定我們關上的是對的門。

相關書摘 ►《監控資本主義時代》:數位未來應該存有人性,讓「到此為止」的怒吼成為我們的聲明

書籍介紹

本文摘錄自《監控資本主義時代(上卷:基礎與演進;下卷:機器控制力量)》,時報出版

作者:肖莎娜.祖博夫(Shoshana Zuboff)
譯者:溫澤元、林怡婷、陳思穎

  • TAAZE讀冊生活
  • 透過以上連結購書,《關鍵評論網》將由此獲得分潤收益。

「如果有什麼東西免費,那真正的商品其實是你」這句話已經過時了,
你才不是商品,你是被捨棄的屍塊,
真正的「商品」源於從你人生奪取的剩餘。

「這本書反對的不是科技,是不受監管、吃人不吐骨頭的資本主義。本書堪稱這個世代的《資本論》。」——莎娣.史密斯(Zadie Smith)(知名作家)

「翻開本書第一頁,我就迫不及待地想大聲呼告:為了在數位化時代自我防衛,大家都得讀一讀這本書。」——娜歐蜜.克萊恩(Naomi Klein)(《天翻地覆》〔This Changes Everything〕、《NO LOGO》作者)

繼《二十一世紀資本論》後,又一結合政治、經濟、社會巨型經典!

前所未有的權力結構已然成形、人性正在被數位化
在「監控資本主義」下的科技寡頭,愈來愈能準確預測並控制人類的行為
哈佛大學商學院網路心理學教授肖莎娜.祖博夫奠定大師地位之作

祖博夫擁有跨學科領域知識的廣度與深度,使她能夠透過社會、政治、商業和科技等不同面向掌握我們時代所正在發生的變化。在這部巨作經典中,對於當前蔓延的全球現象,祖博夫精闢、細緻地提出了「監控資本主義」這個令人為之一亮的原創概念與研究:人類在數位化時代面對的監控大挑戰,正處於一個急迫的關鍵時刻,夾身於高科技產業公司與政府的巨大力量,並受制於監控資本主義的隱藏型經濟邏輯,透過機器學習取得的知識,嘗試塑造並控制人類的生活。

她抽絲剝繭地檢視「監控資本主義」這種前所未見的力量形態,剖析大型企業預測與控制人類行為的企圖。這也表示巨大的危險已經降臨:工業資本主義才剛在二十世紀毀了自然世界;到了二十一世紀,跨國性的行為改變技術與設施正在威脅人性。

監控資本主義:意指經濟史上的新階段,私營企業與政府為了預測並控制人類的行為,追蹤我們的一舉一動。在監控資本主義的籠罩下,人類不是顧客,甚至不是產品——而是原料。

這些早已處於進行式的發展,將改寫人類經濟運作的基本原理,財富不再來自商品服務的交換、不來自勞工被剝削的生產勞動剩餘價值;在監控資本主義世代中,價值來自於隨著理解人類所有行為,讓企業得以建立模型,預測並引導人類的行為而獲利。這種方式是否會威脅到個人自治與民主權利,並造成新的社會不平等模式?數位化時代是否可以承諾個人賦權和民主化?

在祖博夫生動的描繪下,人類看到監控資本主義從矽谷成長,逐漸進入各個經濟領域。大量財富與權力都集中在讓人不安的「行為未來市場」。許多專家預測人類的行為,把數據拿來買賣,再透過新的行為控制技術,生產各種商品與服務。

過去人類的威脅來自於極權主義的老大哥國家,但現在轉移到無孔不入的數位設施:「大他者」操作著監控資本的龐大利益。現在,人類看到前所未有的權力大熔爐,網路知識完全只集中在少數人手上,且完全避過民主的監督。祖博夫在這本書裡全面分析,揭開二十一世紀社會的威脅:全面連結、高控管的「蜂巢系統」,它承諾、保證絕對可以帶來最大利益――只要犧牲民主、自由與人類的未來。

如果人類忽視不管,監控資本主義就會繼續遊走法律邊緣、挑戰社會,進而掌控社會秩序,形塑人類的數位未來生活。往後面對的挑戰,是在數位化更加普及之後,國際企業將有能力預測並控制人類的行為,這種前所未有的權力形式稱為「監控資本主義」。科技公司在網路上蒐集人類的資料,賣給出價最高的買家,管他是政府抑或零售商;他們的利潤不僅來自預測人類的行為,更來自調整人類的行為。資本主義與數位科技的結合,將如何形塑人類的價值觀,定義我們的未來?

祖博夫指出,人類正身處交叉口。但我們仍有力量決定自己想活在什麼樣的世界,此刻的抉擇也將決定往後數十年的生活。人類可以選擇縱容科技令少數人致富、令多數人貧窮,也可以選擇掌握科技,善加分配科技帶來的好處。

本書論述縝密,探討這份不受民主監督、前所未有的權力引發了什麼威脅,剖析新型資本主義對社會、政治、商業與科技的影響,直指這場鬥爭將決定資本主義的走向,以及資訊文明的意義。更重要的是,本書說明人類應該如何保護自己和社群,確保自己是數位科技的主人,而非奴隸。

《監控資本主義時代》套書-立體書封
Photo Credit: 時報出版

責任編輯:翁世航
核稿編輯:潘柏翰


曾經下單購買商品的消費者,都是品牌電商未來的潛在忠誠顧客。為了把握與潛在消費者的連結,並持續創造銷售可能,全家電商平台「好店+」提供完整的會員經營功能,讓賣家可以穩固忠誠顧客、奠定銷售基礎。

會員經營心法一:主動創造連結,善用Email電子報、簡訊行銷
【0710】初版_全家電商_X_TNL_圖解#7_5_batch
Photo Credit:TNL Brand Studio

在全家電商平台「好店+」購物,消費者必須註冊帳號、登入後結帳,賣家也可以在後台看到完整的顧客資訊,並以此進行會員行銷。

而會員經營的第一步,就是主動創造連結,像是透過Email發送電子報,提供最新的產品資訊或品牌訊息,或利用簡訊發送促銷活動等,都是很好的方式。

另外,賣家也可以善用會員管理的功能,除了更新最新的消費者個人資料,也可以備註該名消費者的偏好、注意事項等,讓電商內部團隊可以隨時掌握資訊,提供最優質的銷售服務。

會員經營心法二:會員分級制,創造客人的購物目標
【0710】初版_全家電商_X_TNL_圖解#7_2_batch
Photo Credit:TNL Brand Studio
【0710】初版_全家電商_X_TNL_圖解#7_3_batch
Photo Credit:TNL Brand Studio
【0710】初版_全家電商_X_TNL_圖解#7_4_batch
Photo Credit:TNL Brand Studio

在好店+的會員管理後台,還有一個很棒的管理功能。賣家不只能進行單一會員的資料管理,也可以將會員分群、批次管理;只要在「會員群組設定」一欄,點選新增會員群組,即可將會員分級。

會員分級對賣家來說有什麼好處?藉由分級制度,賣家可以設定每個會員群組的權限,而權限則可基於會員的消費金額大小決定。例如:

  • 一般會員:每消費100元即可回饋1點紅利,每1點紅利可折抵2元。
  • 黃金會員:每消費50元即可回饋1點紅利,每1點紅利可折抵2元。
  • 鑽石會員:每消費50元即可回饋1點紅利,每1點紅利可折抵4元。

上述的「消費金額轉紅利的比例」以及「紅利與折抵金的比例」,都能在會員群組管理後台設定,賣家可以訂定屬於自己的遊戲規則。

最重要的是透過價格門檻設計會員分級,創造消費者的購物目標,讓銷售機率再度提升,並增加消費者的黏著度。

會員的輪廓,就是電商的輪廓

什麼樣的店家,吸引什麼樣的客人;什麼樣的客人,造就什麼樣的店。換言之,從會員的輪廓去推敲,品牌電商也可以藉此看出自己的優勢與特色,並持續優化服務。想穩固忠誠消費者,圈住這群品牌鐵粉,電商經營者不妨嘗試善用「好店+」工具來完成目標。


Let's block ads! (Why?)



"對的" - Google 新聞
July 27, 2020 at 09:00PM
https://ift.tt/3jKjUNC

《監控資本主義時代》:讓我們將門關上,並確定我們關上的是對的門 - The News Lens 關鍵評論網
"對的" - Google 新聞
https://ift.tt/33jzojV
Shoes Man Tutorial
Pos News Update
Meme Update
Korean Entertainment News
Japan News Update

Bagikan Berita Ini

0 Response to "《監控資本主義時代》:讓我們將門關上,並確定我們關上的是對的門 - The News Lens 關鍵評論網"

Post a Comment

Powered by Blogger.