作為第四次科技革命的開創(chuàng)性技術(shù)，人工智能對人類社會(huì)的發(fā)展與轉(zhuǎn)型產(chǎn)生了深遠(yuǎn)影響。其中，以算法和大數(shù)據(jù)驅(qū)動(dòng)的人工智能自動(dòng)化決策正不斷滲透至政治、經(jīng)濟(jì)、社會(huì)等治理領(lǐng)域的各層面，并逐步取代許多長期以來由人類決策或組織執(zhí)行的工作。如今，自動(dòng)化決策不僅在私人部門和商業(yè)活動(dòng)中被廣泛使用，還深度參與到公共部門的政策制定之中。人們每天瀏覽的資訊、看到的推送廣告、申請到的貸款額度、獲取的醫(yī)療健康建議等等，很大一部分都是電腦程序通過特定算法對收集到的個(gè)人行為習(xí)慣、興趣愛好以及經(jīng)濟(jì)、健康、信用狀況等信息數(shù)據(jù)進(jìn)行自動(dòng)化分析和評估，并進(jìn)行判斷與決策的結(jié)果。

鑒于人工智能在純技術(shù)層面是價(jià)值中立的，基于算法的自動(dòng)化決策具有相對客觀、公正、高效的優(yōu)勢。然而，在實(shí)際應(yīng)用上，歷史數(shù)據(jù)存在偏差、設(shè)計(jì)者個(gè)人偏見嵌入系統(tǒng)，以及技術(shù)本身不完善等因素又會(huì)導(dǎo)致人工智能系統(tǒng)不時(shí)做出錯(cuò)誤或歧視性的自動(dòng)決策。除了擔(dān)心“大數(shù)據(jù)殺熟”等消費(fèi)者權(quán)益被侵害的問題，人們更為憂慮的是透明度缺乏、監(jiān)管不足的自動(dòng)化決策可能令社會(huì)陷入“算法暴政”和“數(shù)據(jù)霸權(quán)”的泥沼之中。構(gòu)筑健全的人工智能倫理體系，引導(dǎo)算法向善，防范濫用之惡，成為當(dāng)前亟需解決的重大治理問題。

為解析人工智能自動(dòng)決策中偏見和錯(cuò)誤的成因，消弭治理鴻溝，今年7月，美國海軍研究生院計(jì)算機(jī)系助理教授約書華·A·克羅爾（Joshua A. Kroll）在美國布魯金斯學(xué)會(huì)官網(wǎng)發(fā)表了研究文章《為何目前的人工智能還只是自動(dòng)化應(yīng)用而已？》（Why AI is just automation？），探討了自動(dòng)化決策過程中準(zhǔn)確性、公平性和透明度不足的問題，并提出了社會(huì)與技術(shù)深度協(xié)同的治理思路。

約書華·A·克羅爾（Joshua A. Kroll）指出，算法偏見造成決策謬誤和歧視性結(jié)果的主要原因可以從技術(shù)和實(shí)務(wù)兩個(gè)層面進(jìn)行分析。首先，從技術(shù)層面來看，現(xiàn)有的人工智能治理機(jī)制大多還不具備應(yīng)對自動(dòng)化決策系統(tǒng)的規(guī)模、速度和復(fù)雜性的足夠能力。當(dāng)前機(jī)器學(xué)習(xí)的主流技術(shù)普遍呈現(xiàn)“黑箱”特征，個(gè)人用戶很難充分了解數(shù)據(jù)訓(xùn)練的過程和自動(dòng)決策的機(jī)理，難免令人們對算法的公正性產(chǎn)生懷疑。在醫(yī)療、金融、司法等重要領(lǐng)域，“黑箱”容易使自主決策的算法欠缺透明度和可解釋性，進(jìn)而威脅到人們的基本權(quán)利，但現(xiàn)實(shí)中法律救濟(jì)和糾正錯(cuò)誤的有效途徑又不足。同時(shí)，由于算法本身就是規(guī)則制定者和系統(tǒng)設(shè)計(jì)者個(gè)人意志與偏好的投射，且隨著算法對數(shù)據(jù)的不斷學(xué)習(xí)，又會(huì)在人工智能系統(tǒng)中逐漸固化這些選擇傾向，從而導(dǎo)致決策偏差的形成。

其次，從實(shí)務(wù)層面來看，大多數(shù)用于公共事務(wù)管理的自動(dòng)化決策系統(tǒng)，其運(yùn)行規(guī)則實(shí)際是由官僚行政機(jī)構(gòu)負(fù)責(zé)制定。然而，官僚行政機(jī)構(gòu)在忙于擁抱新技術(shù)、部署新系統(tǒng)時(shí)，常常會(huì)疏忽新的決策產(chǎn)生方式對所有利益相關(guān)者的影響，并且對如何將新決策工具有效融合到現(xiàn)實(shí)的行政管理功能之中考慮不足。這就容易導(dǎo)致唯技術(shù)論，簡單地將“應(yīng)用人工智能”或“以數(shù)據(jù)驅(qū)動(dòng)決策”設(shè)定為目標(biāo)，卻不重視解決實(shí)際問題。一但出現(xiàn)自動(dòng)化決策錯(cuò)誤，則又會(huì)歸咎于系統(tǒng)遵循的規(guī)則本身，回避當(dāng)中的人為因素。由于人為設(shè)定的規(guī)則不可能完美適用于每一種情況，服務(wù)于公共事業(yè)的自動(dòng)決策系統(tǒng)除了要重視通過預(yù)設(shè)合理的規(guī)則來明確處理具體場景的標(biāo)準(zhǔn)，大幅提升決策的規(guī)模和速度之外，還必須認(rèn)真探索如何實(shí)現(xiàn)規(guī)則的有效性和規(guī)則應(yīng)用的透明度；規(guī)則對優(yōu)勢群體和弱勢群體影響的相對公平性；規(guī)則遭遇例外情況時(shí)的協(xié)調(diào)辦法；當(dāng)規(guī)則出現(xiàn)整體性失敗時(shí)的監(jiān)督和問責(zé)機(jī)制等目標(biāo)，以避免人工智能系統(tǒng)陷入機(jī)械依照既定規(guī)則行事，忽略識(shí)別新問題并及時(shí)糾錯(cuò)的治理困境。

當(dāng)前，改善人工智能自動(dòng)化決策治理模式的需求已迫在眉睫。約書華·A·克羅爾（Joshua A. Kroll）因此提出了三個(gè)治理的關(guān)鍵點(diǎn)：首先，要以解決具體問題為導(dǎo)向，重視自動(dòng)化決策結(jié)果的實(shí)效，而不是局限于制定技術(shù)解決方案本身，將制定決策的責(zé)任簡單推給技術(shù)專家。只有當(dāng)系統(tǒng)應(yīng)用是由問題而不是技術(shù)解決方案驅(qū)動(dòng)時(shí)，才最有可能取得成功。其次，將事前制定合理、公平的規(guī)則和建立事后監(jiān)管與救濟(jì)機(jī)制同時(shí)并重，使治理體系的功能更加完善、透明。自動(dòng)決策發(fā)生錯(cuò)誤后必須有能夠升級(jí)處理的渠道和酌情處置的補(bǔ)救途徑。相關(guān)系統(tǒng)記錄要完整保存，以備審計(jì)和監(jiān)管。第三，為了推動(dòng)人工智能自動(dòng)化決策系統(tǒng)與應(yīng)用的可持續(xù)發(fā)展，尤其需要大力創(chuàng)建包括政府、企業(yè)、社會(huì)、用戶等在內(nèi)的多方共同開發(fā)、協(xié)同共治的良性生態(tài)，以形成應(yīng)對人工智能近期、遠(yuǎn)期問題的建設(shè)性共識(shí)，彌合靈活變動(dòng)的實(shí)際需求和僵化遵循規(guī)則的技術(shù)工具之間的斷層。在此過程中，人類應(yīng)作為有遠(yuǎn)見的參與者來積極介入系統(tǒng)的運(yùn)行和治理，而不僅僅是技術(shù)的被動(dòng)接受者。唯有如此，才有可能超越部門職能和學(xué)科藩籬，突破現(xiàn)有范式，重塑整個(gè)系統(tǒng)，而這還有賴于長期的能力建設(shè)和人才培養(yǎng)。

約書華·A·克羅爾（Joshua A. Kroll）強(qiáng)調(diào)，在大數(shù)據(jù)時(shí)代，人工智能自動(dòng)化決策過程中出現(xiàn)算法偏見的情況幾乎是無可避免的。尚未解決這一問題的人工智能系統(tǒng)暫時(shí)還只能算是一種自動(dòng)化應(yīng)用而已。但是，否定或禁用該項(xiàng)技術(shù)并非明智之舉，關(guān)鍵在于如何矯正和規(guī)制。應(yīng)當(dāng)看到，由規(guī)則驅(qū)動(dòng)的自動(dòng)化系統(tǒng)的優(yōu)勢在于能夠以可預(yù)測的方式將具體的事實(shí)置入算法模型，進(jìn)而轉(zhuǎn)化為特定的結(jié)論。輸入系統(tǒng)的事實(shí)模式、決策規(guī)則與系統(tǒng)計(jì)算輸出的結(jié)果間的關(guān)系和過程可以被完整記錄，供日后審查和監(jiān)管。這為將來實(shí)現(xiàn)完善的監(jiān)督與透明的執(zhí)行，消除偏見和歧視提供了可能性。當(dāng)然，成就這一愿景目前最亟需的是社會(huì)各界力量深度協(xié)同，構(gòu)建向善的社會(huì)技術(shù)治理機(jī)制，而不是將視野局限于令機(jī)器學(xué)習(xí)各種規(guī)則并自動(dòng)做出決策的技術(shù)過程之上。