從科幻和未來圖景回到現實，人工智能當下發展的主要特征是數據智能興起與解析社會的來臨。當前的人工智能熱主要得益于數據智能即數據驅動的智能發展，各種人工智能應用方興未艾的基礎是對數據的認知計算和機器學習。所謂數據就是一切可以以電子化形式對人和世界的記錄。

隨著移動智能終端、監控與傳感技術、普適計算、身體與生物信息采集、大型科學裝置與數據密集型科學等方面的發展，各種類型的數據呈指數級增長，數據對人的狀態和行為的記錄無處不在，不管是主動還是被動，每個人和各種事物都是數據的貢獻者。由此，數據與存在如影隨形，甚至可以說“數據就是存在”“世界等同于數據”。

數據智能的實質就是透過對數據的自動化、智能化認知分析人的行為，建立在數據智能分析之上的人類社會可以稱之為解析社會。就像17世紀，笛卡爾提出解析幾何這一精確地分析運動軌跡的方法一樣，數據智能可以對人的行為軌跡加以記錄和解析并實施相應的引導和調控。一切都將被記錄，一切都將被分析，建立在數據智能之上的社會正在走向解析社會。

數據智能對人類社會的洞察如同透鏡對自然界的透視，可以稱之為數據透鏡。13世紀時，人們發明了透鏡，后來又用它制造出了望遠鏡和顯微鏡，從微觀到宇觀天體系統，整個世界的自然圖景得以呈現和改變。

17世紀時，統計學的早期倡導者威廉?配蒂（William Petty） 寫了本名為《政治算術》（Political Arithmetic）的小冊子，將數據的價值提升到了統治基礎的高度。如今，人們開始運用數據智能這一數據透鏡從各種可量化的層面，對個體和群體進行社會計算，在記錄、解析、引導和調控人的行為的基礎上，對個人和社會進行管理和治理。

基于數據智能的計算社會學和新社會物理學認為，通過數據智能的解析，甚至可以站在“上帝的視角”來看整個社會和組織是怎樣來發展的。在城市管理中，數據智能的發展使網格化管理向“城市大腦”的方向發展。在組織管理中，對包括微表情在內的人的行為數據的記錄，可以監測并建議人們在講堂或會議中如何更加集中注意力，如何互動，而這種調控對人的控制力應該是很強的。換句話說，借助數據透鏡可以對人的行為進行智能化的調節。

在數據智能的應用中，數據成為計算、分析、評價、預測人的行為的素材與資源。雖然各種數據在采集時本來只有單一的目的，而一旦記錄下來以后，根據需要就可以有多重目的與各種各樣的用途。不同的數據整合后會帶來意想不到的效果。比如，把一個人的醫療數據和他的犯罪數據結合在一起，可以判斷這個人可能是真的因為有某種精神疾患才去犯罪。有人在一些網站點擊了某些商品，馬上就會有推銷的電話打過來，對方知道某人的電話可能是因為某人在注冊時登記的，也可能由網絡服務商或第三方的不當個人數據泄露所致。

通過對不同的數據整合與分析，就使得它們成為反映和折射事實的素材，用于評價人的狀況和行為。因此，數據智能所帶來的解析社會首先表現為每個人的行為都會得到量化的評價。

在基于數據智能的評價型社會中，人類所產生的各種數據被當作事件和過程加以分析和調控，即數據智能通過對人的行為的評價來調節人類自身的行為。在網絡購物和網約車的使用中，各種應用軟件會對使用者進行評分，如果頻繁取消“滴滴”的叫車服務，軟件會“記仇”———因為評分下降，在特別需要叫車時，可能會得不到派車。軟件還可以根據某人是否愿意在著急的情況下加價支付以及每次加多少，評價某人的性格特征，甚至難免用于對某人的算計。

由于各種數據都可以從不同側面反映人的人格與行為特征，信貸、保險等行業已經開始使用行業之外的大數據評價客戶。假如一個人有不當的路怒行為或在某些場所與他人發生過沖突，保險公司有可能獲得這些事件的記錄數據并對其加以分析，某人很可能就要交數額較高的保費。其實，這種評分體系一直就有，只不過是在數據智能出現以后，使用的大數據資源更廣，分析與評價的自動化和智能化程度更高，其應用越來越朝著規模化的方向發展。

美國的一些法院已經在使用一些特定的算法預測犯人再次犯罪的概率，并據此決定是否假釋。隨著各種大數據集的建構以及數據智能的普遍應用，這種預測犯罪概率的算法將更為智能化和普及，甚至用于對潛在的嫌疑對象沒有實施的犯罪的預測、控制和打擊，而這種治未罪的做法顯然不同于一般對嫌疑犯無罪推定的做法。

但問題是，實行這些評價的數據模型和智能算法一般被當作行業和部門的機密，被評價者往往不知道它們的存在，對于非專業人員來說它們如同黑盒，對其一無所知。評價一旦出現偏差，不僅很難加以糾正，而且會被視為一種合理的結論，使偏差持續強化而造成惡性循環，甚至會通過數據的跨領域運用導致附加傷害。

近年來，基于數據智能的智能化生活已經初現端倪。其一是量化自我，在可穿戴技術的推動下，量化自我運動的實踐者運用運動手環等各種可穿戴設備，對人們的健康狀態和運動情況進行量化評價和管理，并在微信等社交軟件上展示。但這在一定程度上也是人屈從于機器的一種表現，而實際上有很多東西是不可量化的。

其二是智能陪伴，隨著人工智能和機器人技術的發展，各種陪伴機器人、智能音箱、記憶管家將得到普遍應用。由于這些技術還在發展之中，難免出現體驗不佳、言行誤導和成癮等負面后果。尤其值得關注的是，智能陪伴將使個人的所有活動數據得到全面的采集，這些數據的采集與使用無疑將在法律和倫理層面帶來巨大的挑戰。

從信息化向智能化發展的維度來看，正在興起的智能化社會可以視為控制革命的2.0版。20世紀80年代，信息社會的研究者、美國傳播學學者詹姆斯?貝尼格（James Beniger）寫過一本《控制革命：信息社會的技術與經濟起源》（ The Control Revolution：Technological and Economic Origins of the Information Society）的書。該書指出，19世紀以來，城市化帶來的陌生人社會和現代工業化大生產導致了一系列的控制的危機，信息技術的發展就是對它們的回應，由此從電報、無線電到計算機和互聯網等信息技術的發展，導致了一系列控制革命。智能化的解析社會中，通過數據智能可以對社會和人進行最大限度的解析，形成觀測、監視、預測、評價、誘導等全新的智能化控制手段。一個典型的反面案例是智能化賭場，通過對人的表情和行為精細的數據洞察設計，完全可以設計出一種智能化的上癮機制使賭徒無法自拔。

透過對數據智能和解析社會的描述，已經可以清晰地看到巨大的力量。這種力量的實質不僅僅意味著工具理性或某種自主性的技術力量，與掌控這種力量主體和被這種力量所掌控的主體休戚相關，更多地關涉尼采意味的權力意志與葛蘭西式（Gramscian）霸權，故而應從主體能動性的維度，對作為數據智能和解析社會基礎的智能算法展開必要的價值追問與倫理審度。

-----

本文節選自作者刊于《當代美國評論》2019年第1期的論文“面向人工智能時代的倫理策略”。作者段偉文系中國社會科學院哲學所研究員，中國社會科學院科學技術和社會研究中心主任。“澎湃”經授權選編。