原創(chuàng) 郭草莓 新周刊

事實(shí)上，人工智能猶如人類社會(huì)的鏡子。世界呈現(xiàn)什么樣子，算法都會(huì)如實(shí)反映。更令人擔(dān)憂的是，受人類偏見(jiàn)影響的AI，很可能會(huì)繼續(xù)強(qiáng)化這些偏見(jiàn)。

作者 | 郭草莓

編輯 | 晏非

早在23年前，導(dǎo)演史蒂文·斯皮爾伯格憑借名為《少數(shù)派報(bào)告》的科幻電影，“神預(yù)言”了我們今天的世界，以及人工智能時(shí)代的倫理困境。

影片中，人類憑借三個(gè)“先知”機(jī)器人預(yù)知未來(lái)的能力，建立了一套犯罪預(yù)防系統(tǒng)。但作為執(zhí)法者的約翰·安德頓，卻被系統(tǒng)預(yù)判為“即將行兇的殺人犯”而被迫逃亡。直到他發(fā)現(xiàn)所謂“系統(tǒng)”的致命漏洞——三個(gè)“先知”看到的未來(lái)并非每次都相同，當(dāng)出現(xiàn)分歧時(shí)，就會(huì)按少數(shù)服從多數(shù)原則定案，同時(shí)秘密保存一份“少數(shù)派報(bào)告”。

斯皮爾伯格借電影提出了超脫于時(shí)代的拷問(wèn)：系統(tǒng)雖以“公正”之名運(yùn)行，但其預(yù)測(cè)結(jié)果是否等同于事實(shí)？少數(shù)派的抗?fàn)幨欠裉烊诲e(cuò)誤，而主流判斷是否必然意味著真理？這些問(wèn)題，在今天顯得越發(fā)尖銳。

（圖/《少數(shù)派報(bào)告》）

如今，人類社會(huì)越來(lái)越依賴于用“系統(tǒng)”進(jìn)行決策。

在大洋彼岸的美國(guó)，AI算法決定哪些街區(qū)會(huì)被安排更多巡邏的警察，哪些無(wú)家可歸的人會(huì)更快獲得政府的公共房屋，哪些社會(huì)群體可以優(yōu)先注射疫苗……《少數(shù)派報(bào)告》中的預(yù)防犯罪系統(tǒng)也已不再只是科幻設(shè)定。AI廣泛應(yīng)用于預(yù)測(cè)性警務(wù)，分析犯罪熱點(diǎn)、評(píng)估嫌疑人的再犯風(fēng)險(xiǎn)，甚至在某些情況下給出是否應(yīng)提前干預(yù)的警示。

可當(dāng)越來(lái)越多的算法決策取代人工判斷時(shí)，人們卻發(fā)現(xiàn)與《少數(shù)派報(bào)告》高度相似的另一層現(xiàn)實(shí)——“先知”并非總是正確，人工智能也不會(huì)永遠(yuǎn)保持客觀和公平。

美國(guó)法院借助“再犯風(fēng)險(xiǎn)評(píng)分系統(tǒng)”量刑，對(duì)黑人被告的誤判率是白人的2倍；號(hào)稱5秒匹配求職者的AI招聘系統(tǒng)，卻會(huì)自動(dòng)拒絕55歲以上女性和60歲以上男性的求職申請(qǐng)；谷歌圖像識(shí)別系統(tǒng)曾將黑人程序員標(biāo)注為“大猩猩”，算法歷經(jīng)8年迭代，仍無(wú)法消除種族識(shí)別偏差……

（圖/《我，機(jī)器人》）

甚至，一次源于偏見(jiàn)的算法失誤，足以引發(fā)災(zāi)難級(jí)事故——數(shù)年前，荷蘭稅務(wù)系統(tǒng)使用算法識(shí)別可能涉及福利欺詐的對(duì)象時(shí)，錯(cuò)誤地將少數(shù)族裔低收入群體標(biāo)記為“高風(fēng)險(xiǎn)”，導(dǎo)致數(shù)千人收到錯(cuò)誤罰單，部分受害者因此破產(chǎn)甚至自殺。

這一切都源于AI的偏見(jiàn)。當(dāng)AI開(kāi)始決定誰(shuí)該被監(jiān)視、誰(shuí)配獲得資源、誰(shuí)應(yīng)接受懲罰，普通人該如何直面這個(gè)“數(shù)字利維坦”？

AI的傲慢與偏見(jiàn)

2016年，英國(guó)某智能系統(tǒng)接受測(cè)試，當(dāng)面對(duì)“男性是程序員，女性是×××”的句子時(shí)，系統(tǒng)暴露出算法偏見(jiàn)的冰山一角，填空答案上赫然顯示“家庭主婦”。

八年過(guò)去，類似問(wèn)題并未消退，反而在技術(shù)迭代下構(gòu)筑出更為龐大的系統(tǒng)性偏見(jiàn)。2024年，加州大學(xué)伯克利分校哈斯商學(xué)院的一項(xiàng)研究結(jié)果令人心驚：在被分析的133個(gè)行業(yè)AI系統(tǒng)中，存在性別刻板印象的占44%，兼具性別與種族雙重偏見(jiàn)的占25%。

“人類決策尚有四人對(duì)辯的可能，（但）AI不具備（基于）情境（進(jìn)行）判斷的彈性，一旦習(xí)得偏見(jiàn)，就會(huì)在所有場(chǎng)景中機(jī)械化執(zhí)行，系統(tǒng)性地放大歧視。”清華大學(xué)新聞與傳播學(xué)院教授陳昌鳳向《新周刊》闡釋道。

AI偏見(jiàn)對(duì)人類社會(huì)的侵襲，并不難發(fā)現(xiàn)。當(dāng)你要求AI生成“醫(yī)生與護(hù)士”的故事時(shí)，算法往往默認(rèn)醫(yī)生為男性；讓AI繪制“家長(zhǎng)做家務(wù)”的場(chǎng)景時(shí)，畫(huà)面上大概率會(huì)呈現(xiàn)女性形象。如果認(rèn)為這只是偶然，就恰恰低估了機(jī)器偏見(jiàn)對(duì)現(xiàn)實(shí)生活的影響。

（圖/《銀翼殺手2049》）

它們潛藏在你所能接觸到的任何角落，同時(shí)破壞了社會(huì)公平性——亞馬遜研發(fā)的AI招聘工具在篩選簡(jiǎn)歷時(shí)，將應(yīng)聘者的“女子學(xué)院”經(jīng)歷視為負(fù)面指標(biāo)，以至于曾在女校工作的男性申請(qǐng)者也被誤判；國(guó)外的一些保險(xiǎn)公司或銀行用AI去做理賠或者貸款評(píng)估時(shí)，判斷過(guò)審與否的標(biāo)準(zhǔn)僅僅是“姓氏”“種族”本身……

追根溯源，AI偏見(jiàn)之所以會(huì)產(chǎn)生，還是因?yàn)檎鎸?shí)世界里的數(shù)據(jù)“原罪”。

“你喂給AI什么數(shù)據(jù)，它就產(chǎn)出什么，其認(rèn)知邊界取決于被投喂數(shù)據(jù)的廣度、精度與深度。”中科聞歌董事長(zhǎng)王磊向《新周刊》舉例稱，當(dāng)語(yǔ)料庫(kù)中的中文數(shù)據(jù)不足，模型會(huì)產(chǎn)生語(yǔ)種偏見(jiàn)；當(dāng)投向大模型的特定國(guó)家人文社科內(nèi)容匱乏，文化偏見(jiàn)則滋生。數(shù)據(jù)局限迫使AI將局部“現(xiàn)實(shí)”固化為普世標(biāo)準(zhǔn)，從而導(dǎo)致了機(jī)器認(rèn)知的缺陷。

（圖/《我，機(jī)器人》）

更深層的AI偏見(jiàn)還源于人類自身。

復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授張軍平在接受《新周刊》采訪時(shí)表示：“從數(shù)據(jù)采集的片面性到算法設(shè)計(jì)者的潛意識(shí)傾向，每個(gè)環(huán)節(jié)都有可能為AI注入偏見(jiàn)基因。”Facebook前工程師就曾承認(rèn)，其自由派立場(chǎng)導(dǎo)致算法會(huì)對(duì)保守派信息進(jìn)行系統(tǒng)性壓制。“只要編寫算法程序的是人，就會(huì)存在風(fēng)格偏好，哪怕只是一點(diǎn)點(diǎn)的投入都會(huì)導(dǎo)致算法出現(xiàn)偏差。”張軍平說(shuō)道。

如今，AI技術(shù)倫理問(wèn)題，正在制造一個(gè)個(gè)算法繭房。正如美國(guó)機(jī)會(huì)與正義法律咨詢公司主任韋弗所擔(dān)心的，人們可能會(huì)陷入一個(gè)惡性循環(huán)：人類自身偏見(jiàn)影響AI，而AI又反過(guò)來(lái)強(qiáng)化這些偏見(jiàn)。

算法偏見(jiàn)是人類社會(huì)的投射

人工智能的偏見(jiàn)可以被徹底消除嗎？

當(dāng)前，行業(yè)內(nèi)外正通過(guò)數(shù)據(jù)平衡與清洗等手段應(yīng)對(duì)這個(gè)問(wèn)題。歐盟《人工智能法案》強(qiáng)制要求高風(fēng)險(xiǎn)系統(tǒng)植入倫理審查模塊；OpenAI通過(guò)安全護(hù)欄對(duì)自殺傾向等敏感話題實(shí)施正向引導(dǎo)、動(dòng)態(tài)數(shù)據(jù)清洗；密歇根大學(xué)的研究人員開(kāi)發(fā)了一種算法來(lái)糾正醫(yī)療數(shù)據(jù)中的種族偏見(jiàn)……

“應(yīng)對(duì)AI偏見(jiàn)的路徑主要集中在三大方向：盡可能全面地覆蓋數(shù)據(jù)；借助指令模板和人類反饋，實(shí)現(xiàn)AI和人類價(jià)值觀的對(duì)齊；采用AI對(duì)抗AI策略，通過(guò)攻擊性提問(wèn)主動(dòng)暴露系統(tǒng)漏洞。”王磊指出，目前修正AI偏見(jiàn)最好的方式，仍是從數(shù)據(jù)源頭上入手。

然而，數(shù)據(jù)清洗和多樣覆蓋并不能根治算法偏見(jiàn)問(wèn)題。張軍平向《新周刊》解釋：“當(dāng)前大模型的TB級(jí)訓(xùn)練數(shù)據(jù)如同信息海洋，徹底清除偏見(jiàn)猶如大海撈針。絕對(duì)的‘?dāng)?shù)據(jù)均衡’也只是理論理想，實(shí)踐中只能追求動(dòng)態(tài)平衡——消除AI偏見(jiàn)（最有效）的方式既粗暴又低效，（那就是）看見(jiàn)一例消除一例。”

（圖/《銀翼殺手2049》）

但這種“頭痛醫(yī)頭”的修正方式，難以撼動(dòng)系統(tǒng)深層的認(rèn)知偏差。人工智能系統(tǒng)常被比作“黑箱”，其決策機(jī)制因算法的復(fù)雜性而難以溯源——可能就連設(shè)計(jì)者自己都很難解釋，AI究竟如何通過(guò)對(duì)多種數(shù)據(jù)的計(jì)算，得出最終決策結(jié)果。

專家們坦言：“算法黑箱的不可解讀性，正是攻克AI偏見(jiàn)的最大技術(shù)瓶頸。”清華大學(xué)調(diào)研團(tuán)隊(duì)曾在采訪夸克AI算法工程師時(shí)提到這個(gè)問(wèn)題，對(duì)方發(fā)出靈魂反問(wèn)：“難道你要我們憑空創(chuàng)造完美世界？一個(gè)不存在人類缺陷的烏托邦？”

“如何完全消除AI偏見(jiàn)，無(wú)異于在問(wèn)我們?nèi)绾蝿?chuàng)造一個(gè)絕對(duì)真空的世界。” 陳昌鳳以物理學(xué)類比，“人工智能猶如人類社會(huì)的鏡子，其偏見(jiàn)是價(jià)值觀的數(shù)字化投射——世界是怎樣的，算法反映出來(lái)就是怎樣的，它幾乎無(wú)可避免地沾染和承載了人類的歷史、仇恨、歧視。”

（圖/《我，機(jī)器人》）

還記得2016年微軟聊天機(jī)器人Tay的失控事件嗎？這個(gè)最初滿屏“人類真酷”的“數(shù)字嬰兒”，在推特用戶的集體教唆下，僅16小時(shí)便淪為充滿性別歧視、散布納粹言論的“數(shù)字暴徒”，最終被迫緊急下架。

當(dāng)數(shù)萬(wàn)名用戶用惡意數(shù)據(jù)重塑Tay的神經(jīng)網(wǎng)絡(luò)時(shí)，那些充滿偏見(jiàn)的數(shù)據(jù)集恰似“照妖鏡”，讓人類靈魂深處的幽暗纖毫畢現(xiàn)。

“人工智能既可以鏡像（呈現(xiàn)）人類的善意，也可能將惡意幾何級(jí)放大。”陳昌鳳指出。從現(xiàn)實(shí)語(yǔ)料到工程師的認(rèn)知局限，AI始終如實(shí)映射著真實(shí)社會(huì)，在現(xiàn)有技術(shù)框架下，人工智能的偏見(jiàn)注定如影隨形。

誰(shuí)該為AI偏見(jiàn)買單？

2020年，一場(chǎng)由AI圖像修復(fù)工具引發(fā)的推特論戰(zhàn)，揭開(kāi)了技術(shù)界長(zhǎng)久以來(lái)的隱痛，也將“AI偏見(jiàn)”議題推至風(fēng)口浪尖。該事件的導(dǎo)火索是杜克大學(xué)的研究團(tuán)隊(duì)研發(fā)的PULSE算法——這款能將模糊照片高清化的工具，竟將奧巴馬的像素化照片“修復(fù)”成白人面容。

Facebook首席AI科學(xué)家楊立昆將問(wèn)題歸咎于訓(xùn)練數(shù)據(jù)中白人樣本占比過(guò)高，提出“若使用非洲數(shù)據(jù)集訓(xùn)練，結(jié)果會(huì)不同”。時(shí)為Google AI倫理研究員的蒂姆尼特·格布魯則犀利反駁：“數(shù)據(jù)偏見(jiàn)只是表象，系統(tǒng)設(shè)計(jì)者的責(zé)任同樣不可推卸。”

這場(chǎng)持續(xù)27小時(shí)的辯論最終以楊立昆注銷賬號(hào)落幕，卻為科技界留下了哲學(xué)詰問(wèn)：當(dāng)人工智能的偏見(jiàn)成為必然，將責(zé)任簡(jiǎn)單歸因于“數(shù)據(jù)”而非“系統(tǒng)”本身，是否構(gòu)成對(duì)設(shè)計(jì)者責(zé)任的逃避？如果僅有數(shù)據(jù)存在偏見(jiàn)，是否只需追究數(shù)據(jù)采集者的責(zé)任？

2025年2月21日，瑞典斯德哥爾摩。Copy Lab創(chuàng)始人在公司辦公室記錄一張用于AI訓(xùn)練的人臉。（圖/視覺(jué)中國(guó)）

陳昌鳳指出，當(dāng)前AI法律責(zé)任框架仍陷于互聯(lián)網(wǎng)時(shí)代的治理邏輯——當(dāng)人被菜刀所傷，追責(zé)對(duì)象應(yīng)是持刀者而非刀具商。但AI系統(tǒng)的責(zé)任判定須從雙重維度出發(fā)：既要明確“誰(shuí)在使用”，更要追溯“誰(shuí)在控制”。

以醫(yī)療AI為例。當(dāng)患者按照AI開(kāi)具的致害處方服藥，法律不會(huì)要求患者自擔(dān)風(fēng)險(xiǎn)；若醫(yī)院采用認(rèn)證AI輔助診療，責(zé)任主體將轉(zhuǎn)移至應(yīng)用端機(jī)構(gòu)；當(dāng)個(gè)人擅自使用AI未認(rèn)證的藥物，則適用“風(fēng)險(xiǎn)自擔(dān)”原則。這恰恰也說(shuō)明了AI倫理安全的治理來(lái)自全鏈條——最終如果機(jī)器做了壞事，任何一個(gè)人都難逃其責(zé)。

面對(duì)AI偏見(jiàn)，普通公民并非無(wú)能為力。細(xì)微處的發(fā)聲與行動(dòng)尤為重要：分享父親輔導(dǎo)作業(yè)的家庭影像、上傳女機(jī)械師的車間工作記錄，甚至點(diǎn)贊社區(qū)阿姨維修無(wú)人機(jī)的視頻……“投喂”打破刻板印象的真實(shí)數(shù)據(jù)樣本，就是在為算法世界校準(zhǔn)坐標(biāo)，這終將重塑AI認(rèn)知。

2025年2月20日，美國(guó)紐約。佳士得舉辦的“增強(qiáng)智能”媒體預(yù)覽會(huì)上，一位觀眾在觀看AI藝術(shù)作品。（圖/視覺(jué)中國(guó)）

另一方面，保留作為人的深度思考能力同樣重要。“AI并非教條，而是能與人互動(dòng)的對(duì)象。”陳昌鳳說(shuō)，學(xué)會(huì)辨別、驗(yàn)證信息將會(huì)是 AI原住民的基本能力。業(yè)內(nèi)也認(rèn)識(shí)到思考能力的重要性，包括Deepseek、夸克AI在內(nèi)的大模型，正掀起一波“推理熱”——“不會(huì)深度思考的 AI搜索已經(jīng)不合格了”。

當(dāng)黑人面容被算法“漂白”，當(dāng)女性形象被AI固化，我們面對(duì)的不僅是技術(shù)漏洞，更是文明進(jìn)程中的身份焦慮與權(quán)力重構(gòu)。唯有將對(duì)歷史的反思編入代碼，讓多元的聲音參與設(shè)計(jì)，才能阻止算法淪為“偏見(jiàn)放大器”。

正如普林斯頓大學(xué)教授、社會(huì)學(xué)家魯哈·本杰明在深度學(xué)習(xí)大會(huì)ICLR 2020上說(shuō)的那句警世恒言——“缺乏社會(huì)歷史縱深的‘深度學(xué)習(xí)’終將淪為‘淺薄學(xué)習(xí)’。”以真實(shí)世界為鏡，公平的AI不會(huì)從“完美數(shù)據(jù)”中自動(dòng)誕生。

（《新周刊》記者羅隱對(duì)本文亦有貢獻(xiàn)）

運(yùn)營(yíng)：鹿子芮；排版：餅餅

原標(biāo)題：《比胡說(shuō)八道更危險(xiǎn)，算法正在放大社會(huì)偏見(jiàn)》

679期雜志《守住工位：人類與AI共生指南》已上市

原標(biāo)題：《剛學(xué)會(huì)歧視的AI，就開(kāi)始PUA我了》

閱讀原文