【編者按】近日，Facebook數據泄露事件（亦稱臉書事件）持續發酵。當以大數據技術為基礎的社交媒體逐漸成為當代社會的重要結構性元素，當人類社會從對一般工具的依賴開始走向對指紋解鎖、人臉識別等智慧生活的依賴，當普通民眾讓渡了“識別性”所獲得的“便捷性”和“安全性”的生活軌跡本身構成大數據的一部分，當傳統的農業秩序和工業秩序全面轉向信息時代的數據秩序，智慧生活的革命意味著社會變遷的拐點，秩序切換的混沌也不可避免導致了智慧生活的焦慮，特別有一種焦慮揮之不去，那就是大數據時代的隱私問題，深層次的問題是數據巨機器的形成和人的自由的喪失。我們如何在個體自主性與公共秩序性之間找到新的平衡？我們如何在數據權力與倫理權利之間實現新的制衡？我們如何在算法暗箱與隱私通貨之間搭建新的規則？我們如何在數據暴力與多元社會之間達成新的共識？為此，《探索與爭鳴》編輯部與華東理工大學社會科學高等研究院、華東理工大學社會與公共管理學院特邀相關領域的專家學者，聯合召開了以“智慧生活與技術治理”為主題的圓桌會議，希冀在對Facebook數據泄露事件背后數據監控模式和新型風險社會深度反思的基礎上，探求全球的對數據監控之規制的技術治理新政。

人與技術的自由關系是技術倫理學探尋的核心命題。在不同的技術時代，人與技術的自由關系問題匯聚在不同的焦點上。在機器大工業時代，它聚焦于人與機器的自由關系，在當今大數據和普適計算時代，它聚焦于人與數據的自由關系。技術異化常常與技術增進人的自由相伴而行，如何促成人與技術的自由關系，就成了技術倫理學探尋的終極目標。

Facebook數據泄露門的曝光和持續發酵，使隱私問題再度成為人們熱議的話題。隱私一直是計算機倫理四大經典問題之一，自從有了普適計算、大數據和人工智能等技術，這一經典的計算機倫理問題便激發了關于更為基礎的倫理問題的討論，即人與技術的自由關系問題。對這些事件而言，隱私問題是公眾關注的焦點，但隱私問題僅是冰山一角，深層的問題是數據濫用和數據侵權的問題，是人的自由的問題。隱私問題的極化可能導致數據巨機器的出現，進而導致人與數據關系的破裂、人的自由的喪失。隱私問題只是數據濫用的后果之一，數據巨機器的形成和人的自由的喪失才是數據濫用最嚴重的后果。

人與數據的關系是數據倫理學的核心議題，人與數據的自由關系是數據倫理的價值追求。事件的曝光使人們對這個問題有了前所未有的緊迫感，意味著我們應當加大力度治理數據隱私問題，同時應當積極建構人與技術、人與數據的自由關系。

楚門效應：數據巨機器與人的自由

大數據的倫理問題與計算時代密切相關。計算時代經歷了從巨型計算到個人計算、網絡計算，再到普適計算。伴隨計算時代的更替，數據收集和使用經歷了三階段。數據庫階段：數據的收集和存儲是離散的。網絡階段：離散存儲的數據互相關聯起來。大數據階段：收集和存儲的數據的類型和數量急劇增加。更重要的是，大數據便于挖掘和定位，易于對個體進行數據畫像，建構關于個體的完整形象，從而使全方位全程監控個體成為可能。數據濫用等正是依托這樣的計算平臺和環境得以實現。因此，通過數據和算法可以輕而易舉地監控和控制個體，人機關系、人-數據關系發生了逆轉。

大數據殺熟現象表明，消費者自以為是的自主決定其實是被操縱的決定，而消費者對此全然不知。我們不妨將這種現象稱為“楚門效應”。楚門效應的實質是，消費者在毫不知情的情況下其自主權遭到侵犯。在具體的網絡購物場景中，消費者通過貨比三家，自以為作出了最佳選擇，殊不知消費者看到的價格是購物網站通過對個人數據的收集和挖掘，針對消費者進行個性化定制的價格。當消費者通過所謂的貨比三家或長時間的比價，以為自己得了便宜沾沾自喜時，商家可能在暗暗發笑，因為一切都在商家的掌控之中，根本不存在消費者的自主選擇。

前人有言“人類一思考，上帝就發笑”，如今我們可言“消費者一思考，馬云就發笑”。“馬云”似乎成了大數據時代的上帝——數據上帝。在數據上帝面前，消費者的自由意志則成了笑料。以前，消費者討價還價的能力大有用武之地，到了大數據精準營銷時代，這種自主判斷和選擇的能力已派不上用場，甚至可以說連這種能力都可能喪失，而問題的要害在于消費者被操縱、被決定而不自知。

Facebook用戶信息泄露事件表明，選民的自由選舉權都可以被精準操縱。與消費者的自主權相比，選民的政治權利被操縱更為可怕。據報道，劍橋分析公司收集了超過5000萬Facebook用戶的資料，通過分析用戶的性格特征、價值取向、行為模式和人生經歷等方面的數據，對左派、右派和搖擺不定的人群進行精準的信息推送，使他們支持公司預定的總統候選人。不難想象當選民自以為自主行使了自己神圣的選舉權時，劍橋分析公司及其雇主一定在暗暗發笑。以上我們僅從目前熱議的消費和選舉兩個場景，探討人的自由權利被侵犯的問題。大數據和普適計算催生了新的人機關系、人-數據關系，數據和算法不再只發揮工具的作用，它們會改變人們的生活習慣和行為方式，與人共同組成一個人機、人-數據融合的新世界。人類稍有不慎，這個新世界就可能成為數據巨機器。

在一般意義上來講，現代社會是一個基于技術的空間，在這個空間中人與技術的非自由關系一直是技術哲學家和倫理學家關注的問題。美國技術哲學家劉易斯·芒福德在《技術與文明》《機器的神話》等著作中，探討了人類在機械文明中的自由問題。芒福德認為，現代技術尤其是單一技術造就了一種高度權力化的復雜的大型機器——“巨機器”。在這個巨機器中，人無異于一顆顆螺絲釘，服從機械的鐵律。

大數據技術是現代單一技術的典范，如果不對大數據技術的使用進行合理的規范，人類就可能面臨“數據巨機器”的災難性后果。大數據技術和普適計算成了數據巨機器出現的物質基礎。數據巨機器由數據和算法鑄成。數據是原材料，算法是加工廠。數據來源于離散的個體，算法由具有單一性的機構決定。數據通過算法的加工，鑄成了數據巨機器。數據巨機器猶如“楚門的世界”。

在楚門世界，除了楚門，人人都是演員；在數據巨機器里，人人都是楚門，人人都是演員，無人是自己。這意味著楚門世界不過是數據巨機器的雛形，數據巨機器是楚門世界的升級版。楚門世界已足以警示人類，倘若數據巨機器真的全面實現，人類集體憂慮的程度可想而知。顯然，人類的任務就是要阻止數據巨機器的出現，而要阻止這種巨機器的出現，還需要深挖促使它形成的精神因素，并建立新的世界觀和倫理觀。

數據主義與基于權利的數據倫理

如果說大數據技術和普適計算是數據巨機器形成的物質基礎，那么數據主義則是數據巨機器形成的精神基礎。數據主義造就了數據巨機器，數據巨機器信奉數據主義，數據主義成了數據巨機器的意識形態。

數據主義推崇數據自由至上，這集中體現在它的兩條律令上。數據主義第一條律令：要連接越來越多的媒介，產生和使用越來越多的信息，讓數據流最大化。數據主義第二條律令：要把一切連接到系統，連那些不想連入的異端也不能例外。不難看出，數據主義追求數據流最大化和連接最大化，要實現這兩個最大化，數據自由是必要前提，正如尤瓦爾·赫拉利分析指出的，“數據主義相信一切的善（包括經濟增長）都來自信息自由。……如果想要創造一個更美好的世界，關鍵就是要釋放數據，給它們自由。”這里的自由是針對數據的，而非針對人的。

數據獲得了自由，人失去了自由，自由似乎遵循守恒定律，這也暗示自由與善存在某種沖突。數據主義有助于社會運行效率的提高，但可能對個人隱私造成傷害，導致人的齊一性、個人自由的喪失。在自由與善之間，數據主義極端地選擇了所謂的善，忽略了人的自由。或者說，數據主義僅在數據這一點上統一了善和自由，因為“對數據主義來說，信息自由就是最高的善”。

數據主義推崇算法至上，推崇算法暗箱，以實現數據自由的最大價值。人文主義呼吁“聆聽自己內心的聲音”，數據主義呼吁“聆聽算法的意見”。隨著大數據和普適計算時代的到來，人類正在將權力交給算法。“各種事情的決定權已經完全從人類手中轉移到具備高度智能的算法。”數據主義實際上是技術至上主義在大數據時代的當前形態。數據主義主張算法至上，為實現算法至上，算法暗箱是必要的前提。算法暗箱顯現了用戶數據權利與機構數據權力的失衡現象。數據是用戶的，算法是機構的。數據的收集和使用，對消費者而言是被動的，對機構而言則是主動的。沒有算法，數據也許沒有價值，算法賦予機構巨大的數據權力，主動權總是掌握在機構手中。

數據權利和數據權力的不對稱，使消費者淪為數據巨機器的原材料。對機構而言，數據是透明的，哪里有數據，如何收集和挖掘數據，機構都知道。對用戶而言，數據是暗的，數據是用戶的，但用戶并不知道自己有多少數據在外面，這些數據在哪里，如何被使用？對機構而言，算法是透明的，算法是機構設計的，是機構意志的模型化。對用戶而言，算法是暗的，用戶不知道算法為何物，算法對用戶意味著什么。

數據和算法厚此薄彼的灰度（暗和透明），生動地呈現了數據權利與數據權力的失衡現象，這種失衡不可避免導致數據巨機器，導致算法歧視或暴政。若想走出大數據之困，就必須維護數據權利與數據權力的平衡。基于目前數據權力遠勝于數據權利的現狀，我們應當提倡基于權利的數據倫理。

基于權利的數據倫理主張有規范的數據共享。數據主義主張絕對的數據共享，基于權利的數據倫理是對這種數據主義的反對。基于權利的數據倫理并不一味地反對數據共享，相反它支持數據共享，反對無序無度的數據共享，反對不顧個人權利的數據共享，反對算法暗箱。目前，國際組織、各國政府、行業協會和企業等正在致力于推進數據共享，同時也制訂了諸多保護個人數據權利的政策。

基于權利的數據倫理要求尊重用戶的數據權利和隱私權。數據的收集和使用需征得用戶的知情同意，并實行最少原則（必要原則），用戶應當有權知曉個人數據的收集范圍和用途。目前，絕大多數機構或網站都制訂了自己的隱私條款，但這些條款的內容和實施過程出現了諸多問題，如違背最少原則、擴大個人數據收集范圍、違反知情同意原則、未經用戶同意二次或多次使用用戶數據等。因此，應當對這些隱私條款進行必要的內容審核和過程監督。

基于權利的數據倫理要求算法具有透明性。對用戶而言，暗是算法的技術架構特征，透明則是算法的規范性要求。只要算法是暗的，數據共享就是無序的、無度的，就會導致數據濫用和權利侵害。透明至少包含開放和可理解兩個方面。算法若是封閉的，不被外人知悉，便是暗的，是不透明的。算法即使是開放的，如不可理解，仍是暗的，是不透明的。只有做到了算法的開放性和可理解性，才能確保算法的透明性，使用戶和機構在算法灰度上達到平衡，確保用戶的數據權利。

基于權利的數據倫理主張以人為本。數據主義和數據巨機器遵循機械論和機器法則。正如芒福德所指出的，以單一技術為特征的現代技術的意識形態基礎是一種機械化的世界觀，這種機械化的世界觀已經深入到現代人類的心靈，變成一種基本的價值觀念和思維方式。這種機械論導致人類智能最高表現的巨機器的出現，機器法則猶如升級版的叢林法則，使人成了數據巨機器統治的對象。這種機械論遵循決定論，與自由律背道而馳。技術意志替代了人的意志，人過著機械化的生活。數據巨機器是具有自由意志的人設計的，但數據巨機器服從機械論，人作為具有自由意志的設計者成了數據巨機器的奴隸。要擺脫巨機器的控制，需要用一種新的世界觀來代替這種機械世界觀，這種新的世界觀提倡基于權利的數據倫理。

基于權利的數據倫理是對數據主義的反對，提倡以人的權利為本，而不是以數據的權力為本；以人的自由為中心，而不是以數據的自由為中心。芒福德通過對技術與文明發展歷史的總結，認為科技具有人文傳統，這一傳統建立在“以塵世為中心的接近自然符合人性的模型”之上，但是這一傳統因單一技術的出現式微了，要想避免“巨機器”的災難性進程，西方文明必須回歸這一傳統。

總的來說，基于權利的數據倫理，旨在消除數據主義對數據自由的崇拜，提倡有規范的數據共享；旨在促進數據共享，消除數據孤島，防止數據濫用；旨在消除機械論世界觀的不良影響，提倡尊重人的權利，重建人在大數據時代的主體地位，建構人與技術、人與數據的自由關系。芒福德曾大聲疾呼“：人類要獲得救贖，需要經歷一場類似自發皈依宗教的歷程：以有機生命世界觀替代機械論世界觀，將現在給予機器和電腦的最高地位賦予人。”基于權利的數據倫理，正是強調平衡數據權利與數據權力的關系，平衡數據領域自由與善的關系，促進數據共享，增進人類福祉，維護人類的自由。

本文原載《探索與爭鳴》2018年第5期，本文原題為《“楚門效應”：數據巨機器的“意識形態”——數據主義與基于權利的數據倫理》，澎湃新聞（www.usamodel.cn）獲授權轉載。