- +1
AI社會(huì)學(xué)|平臺(tái)拒止:該用戶不在服務(wù)區(qū)
四年前,電商巨頭亞馬遜在全美各大城市推出了雄心勃勃的“當(dāng)日送達(dá)”計(jì)劃 (Prime Free Same-Day Delivery)。只要會(huì)員在亞馬遜上下單,平臺(tái)上超過(guò)100萬(wàn)種商品都可在當(dāng)日內(nèi)免費(fèi)送達(dá)。“計(jì)劃”鋪開(kāi)11個(gè)月,即覆蓋了全美27個(gè)大都市圈。然而,彭博社(Bloomberg)的記者很快發(fā)現(xiàn),在一些主要城市——從南方亞特蘭大、達(dá)拉斯到中部的芝加哥,再到東邊的華盛頓、紐約,黑人聚居區(qū)被莫名其妙地被排除在外。下圖顯示的“空白”叫做羅克斯伯里(Roxbury),是波士頓的一個(gè)黑人社區(qū),在“當(dāng)日送達(dá)”茫茫藍(lán)海里,它仿佛一座觸目驚心的孤島。

圖片來(lái)源:Bloomberg
彭博社的報(bào)道毫無(wú)意外地引起了軒然大波。亞馬遜回應(yīng)說(shuō),他們從未將種族因素作為是否提供“當(dāng)日送達(dá)”服務(wù)的考量——工程師們收集了數(shù)據(jù)庫(kù)里的種種變量,如郵政編碼、當(dāng)?shù)貢?huì)員的數(shù)量、與亞馬遜倉(cāng)庫(kù)的距離、當(dāng)值快遞員的數(shù)量,以及當(dāng)?shù)胤缸锫实鹊龋靡杂?jì)算“當(dāng)日送達(dá)”應(yīng)該涵蓋的范疇;可以確定的是,消費(fèi)者的種族屬性不在這些變量之內(nèi)。
耐人尋味之處也正在于此:盡管嚴(yán)防死守了種族這條線,并且綜合了各個(gè)方面的諸多變量,算法給出服務(wù)范疇仍然與美國(guó)歷史上種族紅線(redlining)劃分的區(qū)域驚人的一致——白人和黑人獲得的待遇和服務(wù)截然不同。歷史,再一次,偷偷溜進(jìn)了現(xiàn)代AI系統(tǒng)的算法里。
然而,故事在這里并沒(méi)有結(jié)束。一場(chǎng)靈魂拷問(wèn)才剛剛開(kāi)始:作為一家私營(yíng)企業(yè),亞馬遜是否有權(quán)將“盈利”作為提供服務(wù)的首要考量呢?在購(gòu)買力相對(duì)較低的黑人社區(qū),它是否有權(quán)暫緩?fù)菩小爱?dāng)日送達(dá)”?輿論如果因此將它釘上 “種族歧視”的恥辱柱,是不是有點(diǎn)過(guò)分了?一言以蔽之:亞馬遜需要考慮顧客的種族嗎?需要嗎?不需要嗎?
思考這個(gè)問(wèn)題之前,我們要兩個(gè)概念有所了解:一個(gè)是基礎(chǔ)設(shè)施(infrastructures),另一個(gè)是平臺(tái)企業(yè)(platforms)。倫敦政治經(jīng)濟(jì)學(xué)院的助理教授讓―克里斯托夫·普蘭汀(Jean-Christophe Plantin)認(rèn)為,在數(shù)字經(jīng)濟(jì)中,私有的“平臺(tái)企業(yè)”正在逐步成為當(dāng)代生活的“基礎(chǔ)設(shè)施”。在2018年那篇頗有影響力的論文中,他舉了谷歌和臉書的例子。比如谷歌,作為壟斷性的搜索引擎,它控制了幾乎整個(gè)西方互聯(lián)網(wǎng)的入口,一段信息在谷歌上消失了,幾乎就等同于在整個(gè)社會(huì)知識(shí)譜系里消亡了。
當(dāng)年谷歌還有一個(gè)非常有爭(zhēng)議性的項(xiàng)目,叫做“谷歌圖書”。它打算與全美各大圖書館合作,掃描所有館藏圖書,放在自己的網(wǎng)頁(yè)上。除卻版權(quán)爭(zhēng)議,最大的反對(duì)意見(jiàn)來(lái)自對(duì)于私營(yíng)平臺(tái)一手掌控公共知識(shí)的擔(dān)憂:過(guò)去,作為書籍存在的知識(shí),是由公共圖書館對(duì)全民免費(fèi)提供的,并受到嚴(yán)格的政策監(jiān)管;現(xiàn)在,私有平臺(tái)藉由圖書電子化逐漸“控制”了知識(shí),這是否意味著它們也應(yīng)該承擔(dān)起公共圖書館的職責(zé),免費(fèi)、公平地向公眾開(kāi)放?對(duì)公共基礎(chǔ)設(shè)施的政策監(jiān)管,是否也可以用來(lái)約束私營(yíng)平臺(tái)企業(yè)?
公共性和私有性之間的張力,是基礎(chǔ)設(shè)施和平臺(tái)企業(yè)在數(shù)字經(jīng)濟(jì)時(shí)代的首要沖突。普蘭汀指出,傳統(tǒng)的基礎(chǔ)設(shè)施,如電力和郵政系統(tǒng),被認(rèn)為具有公共性,應(yīng)該對(duì)公眾提供無(wú)差別的平等服務(wù),要將社會(huì)平等,而非利潤(rùn)追求,放在其決策的首位。即使再偏僻的鄉(xiāng)村,只要有一個(gè)人居住,作為基礎(chǔ)設(shè)施的公共郵政系統(tǒng)也應(yīng)該對(duì)其進(jìn)行無(wú)差別覆蓋。而現(xiàn)代私有電子平臺(tái)的崛起,以及其對(duì)于利潤(rùn)的狂熱追求,打破了這一“傳統(tǒng)”。隨著平臺(tái)企業(yè)逐步取代傳統(tǒng)的基礎(chǔ)公共設(shè)施,一系列的沖突也接踵而至。
同樣的沖突出現(xiàn)在亞馬遜的故事里。雖然購(gòu)買力相對(duì)不足,但生活在黑人社區(qū)的人們卻是最需要“當(dāng)日送達(dá)”服務(wù)的——較之白人社會(huì),黑人社區(qū)缺乏有機(jī)食品商店、優(yōu)質(zhì)商場(chǎng)和日常采購(gòu)設(shè)施;由于缺少代步車輛,黑人們也更加依賴于快遞服務(wù)。長(zhǎng)期以來(lái),這方面的服務(wù)由美國(guó)公共郵政系統(tǒng)向全美人群無(wú)差別提供,但自上世紀(jì)70年代以來(lái),隨著“新自由主義”政策施行,公共機(jī)構(gòu)的資金預(yù)算不斷縮減,郵政系統(tǒng)的服務(wù)能力每況愈下。與此同時(shí),私營(yíng)遞送業(yè)務(wù)快速崛起,亞馬遜成為真實(shí)的“萬(wàn)貨商店”(“the everything store”),龐大的快遞網(wǎng)無(wú)所不達(dá),和谷歌一樣具有壓倒性的市場(chǎng)地位。但是,我們可以用平等和無(wú)差別的服務(wù)來(lái)要求它嗎?我們可以讓它“照顧”一下那些游離在AI系統(tǒng)邊緣的人嗎?
去年,我們團(tuán)隊(duì)做過(guò)一個(gè)小項(xiàng)目,從“基礎(chǔ)設(shè)施”的角度,考察我國(guó)移動(dòng)支付系統(tǒng)的邊界。在科技社會(huì)學(xué)里,“基礎(chǔ)設(shè)施”研究有一個(gè)很重要的技巧,叫做“infrastructure inversion”(基礎(chǔ)設(shè)施的倒置)。學(xué)者們認(rèn)為,當(dāng)一個(gè)科技系統(tǒng)成為基礎(chǔ)設(shè)施,其本身會(huì)與各種現(xiàn)存設(shè)施和社會(huì)規(guī)范融合從而變得“透明”與“不可見(jiàn)”。所以與其研究科技系統(tǒng)本身的運(yùn)行,不如關(guān)注它的故障和修理。簡(jiǎn)單說(shuō),我們是在找支付寶和微信支付的“故障點(diǎn)”。
通過(guò)訪談和問(wèn)卷調(diào)查,移動(dòng)支付幾乎無(wú)所不包的場(chǎng)域漸漸清晰起來(lái);這些年,從護(hù)照換發(fā)到醫(yī)院掛號(hào),從公共交通到健康碼,各種不可或缺的公共服務(wù)和日常生活設(shè)施,一步一步地都折疊進(jìn)了支付寶和微信里。
同時(shí),受訪者會(huì)向我們追述在過(guò)去的一個(gè)月里,無(wú)法使用支付寶或微信支付的情境。在一個(gè)個(gè)小小的故事里,那些游離在中國(guó)移動(dòng)支付邊界的人群慢慢浮現(xiàn)出來(lái):他們是居住在偏遠(yuǎn)山區(qū),有銀行賬戶和網(wǎng)絡(luò)覆蓋所以無(wú)法移動(dòng)支付的村民們,是城市里不會(huì)用智能手機(jī)所以沒(méi)法掃碼的爺爺奶奶們,是擔(dān)心隱私問(wèn)題不愿意注冊(cè)移動(dòng)支付的用戶們,是因?yàn)殒i定單個(gè)移動(dòng)支付服務(wù)所以無(wú)法使用其他服務(wù)的消費(fèi)者們,是擔(dān)心資金安全的大爺大媽們,是有視力障礙的殘疾人群......
如果僅僅把阿里和騰訊當(dāng)作私營(yíng)企業(yè),也許這些人群并不重要,畢竟每個(gè)公司都有自己的首要目標(biāo)客戶,有利潤(rùn)要求,有年報(bào)月報(bào)周報(bào)和KPI。可是,如果將整個(gè)移動(dòng)支付系統(tǒng)視為正在逐步替代傳統(tǒng)金融服務(wù)的基礎(chǔ)設(shè)施,那么我們是否可以對(duì)它們提出類似于問(wèn)詢亞馬遜的問(wèn)題——
當(dāng)支付寶和微信支付成為無(wú)所不包、無(wú)處不在、無(wú)所不能的基礎(chǔ)設(shè)施,并逐漸將人們?nèi)粘I畈豢苫蛉钡囊幌盗泄卜?wù)收入旗下,如何確保所有人都能被無(wú)差別地接入系統(tǒng),享受到同等質(zhì)量的服務(wù)?既然任何科技系統(tǒng)都有其固有的邊界和局限,那么決策者是否應(yīng)該及時(shí)“找補(bǔ)”,以確保有足夠的可替代性選擇,譬如在移動(dòng)支付之外強(qiáng)制現(xiàn)金的使用,或者為不會(huì)使用智能手機(jī)的老人提供必需的人工服務(wù)?
如果說(shuō)亞馬遜們的死穴在于“種族”,那么中國(guó)企業(yè)平臺(tái)的命門又在哪里?
亞馬遜種族歧視的故事在美國(guó)流傳之后的幾年之后,一則小小的故事也在中國(guó)互聯(lián)網(wǎng)上流傳:一位來(lái)自安徽亳州的老人,因?yàn)闆](méi)有智能手機(jī)和健康碼,無(wú)法使用公共交通系統(tǒng),必須步行走到浙江。雖然之后故事的真實(shí)性受到質(zhì)疑,但其在中國(guó)互聯(lián)網(wǎng)引起的巨大回響恰恰顯形了現(xiàn)代科技平臺(tái)的界限和邊緣。這些界限和邊緣,從來(lái)沒(méi)有像這一刻一樣無(wú)所遁形。與居住在羅克斯伯里、無(wú)法被亞馬遜當(dāng)日投遞服務(wù)覆蓋的黑人們一樣,在我國(guó)貌似全能全知的移動(dòng)支付系統(tǒng)的邊緣,也游離著許多幢幢黑影和血肉之軀。
【參考資料】
[1] David Ingold and Spencer Soper, Amazon Doesn’t Consider the Race of Its Customers. Should It?, Bloomberg, April 1, 2016.
[2] Bowker, Geoffrey C., C. Geoffrey, and W. Bernard Carlson. Science on the run: Information management and industrial geophysics at Schlumberger, 1920-1940. MIT press, 1994.
[3] Plantin, Jean-Christophe, Carl Lagoze, Paul N. Edwards, and Christian Sandvig. "Infrastructure studies meet platform studies in the age of Google and Facebook." New Media & Society 20, no. 1 (2018): 293-310.
[4] Hong Shen, Cori Faklaris, Haojian Jin, Laura Dabbish, and Jason I. Hong. 2020. ‘I Can’t Even Buy Apples If IDon’t Use Mobile Pay?’: When Mobile Payments Become Infrastructural in China.Proc. ACM Hum.-Comput.Interact.4, CSCW2, Article 170 (October 2020): 1-26.
-----
作者沈虹,畢業(yè)于美國(guó)伊利諾伊大學(xué)香檳分校傳播學(xué)系,現(xiàn)任職于美國(guó)卡內(nèi)基梅隆大學(xué)。她用社會(huì)學(xué)的方法研究新興科技。





- 澎湃新聞微博
- 澎湃新聞公眾號(hào)
- 澎湃新聞抖音號(hào)
- IP SHANGHAI
- SIXTH TONE
- 報(bào)料熱線: 021-962866
- 報(bào)料郵箱: news@thepaper.cn
滬公網(wǎng)安備31010602000299號(hào)
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證:滬B2-2017116
? 2014-2025 上海東方報(bào)業(yè)有限公司