編者按：百年未有之大變局，全球風(fēng)險(xiǎn)急劇上升。各個國家和地區(qū)如何求生存，謀發(fā)展，搞競合，爭未來？誰來指南找北？2021年，中國提出全球發(fā)展倡議，聚焦減貧、糧食安全、抗疫和疫苗、發(fā)展籌資、氣候變化和綠色發(fā)展、工業(yè)化、數(shù)字經(jīng)濟(jì)、互聯(lián)互通等八大領(lǐng)域國際合作，是對上述問題提出的“中國答案”。在八大領(lǐng)域內(nèi)，世界各國智庫各顯神通，仰觀俯察，深思熟慮，出謀劃策。北京大學(xué)區(qū)域與國別研究院特開辟全球智點(diǎn)·全球發(fā)展倡議卡片專欄，以極簡方式提煉要點(diǎn)，為促進(jìn)全球發(fā)展倡議下各領(lǐng)域國際合作提供智力支持。同時(shí)，也歡迎讀者循例投稿，形成全球智點(diǎn)·全球發(fā)展倡議的爆炸式擴(kuò)散效應(yīng)。

標(biāo)簽：#人工智能/政治選舉

觀點(diǎn)：2024年印度尼西亞大選表明人工智能可能會破壞政治選舉的公正性，各國應(yīng)在信息供應(yīng)鏈的每一環(huán)節(jié)中規(guī)范人工智能生成的政治內(nèi)容，并制定打擊虛假信息的有效策略。

背景：印度尼西亞2024年大選凸顯人工智能對民主進(jìn)程日益增長的影響力。

2010年，人工智能被初次應(yīng)用于競選活動，臉書等社交媒體平臺采用人工智能驅(qū)動的算法來構(gòu)建用戶社群并精準(zhǔn)投放政治廣告。隨著第二代生成式人工智能技術(shù)的迅速發(fā)展，其在民主政治選舉中的應(yīng)用方式發(fā)生了重大變化。印度尼西亞2024年2月的選舉展現(xiàn)出人工智能改變選舉規(guī)則、選民行為及重塑選舉格局的潛力，引發(fā)了人們對未來選舉公正性和社會兩極分化的擔(dān)憂。

內(nèi)容：利用人工智能生成的高度個性化的政治內(nèi)容操縱選民心理和行為，深刻改變了印度尼西亞的政治選舉格局。具體而言：

1. 深度偽造視頻展現(xiàn)人工智能影響政治敘事的潛力。競選期間，印度尼西亞兩位總統(tǒng)候選人的深度偽造視頻在網(wǎng)上傳播，分別為普拉博沃用阿拉伯語發(fā)表演講和納斯民主黨主席蘇里亞·帕洛斥責(zé)阿尼斯的視頻。研究發(fā)現(xiàn)18%的人相信視頻是真實(shí)的，揭示了人工智能傳播虛假信息、誤導(dǎo)公眾對政治事件認(rèn)知的可能性。

2. 人工智能通過創(chuàng)造漫畫圖像重塑候選人的政治形象。在此次競選中，人工智能為普拉博沃量身設(shè)計(jì)了一個胖乎乎的卡通形象，將他原本威嚴(yán)且?guī)в锌謬樕实那败娛聦㈩I(lǐng)形象轉(zhuǎn)變?yōu)橐粋€可愛、極具親和力的Z世代偶像，從而幫助其獲得選民的喜愛和支持。

3. 人工智能賦能的網(wǎng)站和應(yīng)用程序可以增強(qiáng)候選人與選民之間的情感連結(jié)。在競選期間，普拉博沃?jǐn)?shù)字團(tuán)隊(duì)開發(fā)了人工智能平臺和媒體應(yīng)用程序，支持者可以輕松生成自己與候選人的虛擬合影，拉近了雙方距離，營造出一種親密感和歸屬感。然而實(shí)現(xiàn)該操作需要獲取用戶的個人信息，引發(fā)了對數(shù)據(jù)濫用和隱私保護(hù)問題的討論。

圖源：新加坡尤索夫·伊薩東南亞研究所（Fulcrum）
https://fulcrum.sg/election-integrity-in-the-age-of-artificial-intelligence-lessons-from-indonesia/

建議：需盡可能確保人工智能的公正性。

1. 強(qiáng)制要求對人工智能生成的政治內(nèi)容和廣告進(jìn)行明確標(biāo)注。此舉有利于加強(qiáng)對社交媒體公司的問責(zé)，可以有效增強(qiáng)透明度及公眾的辨識能力，讓選民能夠在準(zhǔn)確辨別和充分知情的基礎(chǔ)上做出明智的決策。

2. 制定相關(guān)法規(guī)，強(qiáng)化對信息從創(chuàng)建、傳播到接收這一全鏈條的監(jiān)管。其中，需要特別關(guān)注信息鏈上游虛假信息的傳播，并針對加速此類內(nèi)容擴(kuò)散的生成式人工智能技術(shù)制定嚴(yán)格的指導(dǎo)規(guī)范。

3. 研究人員亟需獲取更多來自社交媒體公司的數(shù)據(jù)和算法資源。這將幫助研究者更好了解虛假信息對選舉的影響，從而制定有效的打擊策略。

來源：Nuurrianti Jalli & Maria Monica Wihardja, 《人工智能時(shí)代的選舉誠信：印度尼西亞的經(jīng)驗(yàn)教訓(xùn)》，新加坡尤索夫·伊薩東南亞研究所（Fulcrum），2024年6月25日，https://fulcrum.sg/election-integrity-in-the-age-of-artificial-intelligence-lessons-from-indonesia/

整理者：劉烜弟，北京大學(xué)區(qū)域與國別研究院全球智多星團(tuán)隊(duì)成員。