在信息時代，生成式AI技術(shù)快速發(fā)展，以其驚人的創(chuàng)造力和效率，重塑了我們的信息生態(tài)。然而，正如一枚硬幣的兩面，這項技術(shù)的雙刃劍效應(yīng)在近期的事件中顯露無遺。

2025年1月7日，西藏日喀則市定日縣發(fā)生6.8級地震，地震災(zāi)情牽動人心，社會各界紛紛伸出援手，人們持續(xù)關(guān)注著互聯(lián)網(wǎng)上發(fā)布的圖文視頻新聞。與此同時，一些由AI生成的虛假圖片卻在社交平臺上悄然流傳，它們以假亂真，誤導(dǎo)公眾，甚至引發(fā)了不必要的恐慌和誤解。這些虛假信息的傳播，不僅對災(zāi)區(qū)的救援工作造成了干擾，也對社會秩序構(gòu)成了挑戰(zhàn)。

AI生成的假圖片配上煽情文字，騙取了許多網(wǎng)友的眼淚和流量

生成式人工智能技術(shù)中的文本到圖像生成模型（Text-to-Image Models）是此類AI生成圖片的關(guān)鍵。它通過解讀用戶提供的文字描述，將語義內(nèi)容轉(zhuǎn)化為視覺效果逼真的圖像。

短短幾秒，AI便可根據(jù)要求生成圖片或視頻。圖/智譜清言

AI技術(shù)污染新聞內(nèi)容的現(xiàn)象，早在幾年前就顯露苗頭。“甘肅一火車撞上修路工人，致9人死亡 ”“五角大樓發(fā)生爆炸”“廣東省五華縣華陽鎮(zhèn)一70多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個月”……如果留意，會發(fā)現(xiàn)這些肉眼難辨的AI假新聞經(jīng)常集中于城鄉(xiāng)發(fā)展、階層矛盾、性別對立、國際局勢等備受關(guān)注的議題。——引用自公眾號：新周刊，標(biāo)題：AI假新聞，霸占我的家族群，作者張文曦。

有網(wǎng)友輸入特朗普在被捕過程中摔倒_新聞報道畫面字樣，AI便生成了這一合成畫面。（圖/推特）

在信息爆炸的時代，確保圖像的真實性對于防止虛假新聞和誤導(dǎo)性內(nèi)容的傳播至關(guān)重要。在《生成式AI的革命：人類應(yīng)如何直面“新知識”》一書中，除了大眾所熟知的版權(quán)問題外，作者西田宗千佳對生成式AI技術(shù)中的防偽措施也進(jìn)行了一番科普——

防偽措施中所必要的“歷史記錄”

生成式AI所面臨的另一個風(fēng)險是“虛假信息的生成”。如今，社交媒體上存在著大量的虛假圖像。實際上，有人會使用這些圖像來引導(dǎo)輿論，有時甚至?xí)仙絿覍用妗＝刂?023年7月，俄烏沖突的未來走向尚不清楚，但有專家批評俄羅斯頻繁傳播虛假新聞，試圖引導(dǎo)民意。

生成式 AI使用門檻低，有些人因此擔(dān)憂生成式AI會推動虛假新聞的傳播。然而，實際上，這一問題早在生成式AI誕生之前就已存在。

可以說，自 Photoshop 這樣的圖像編輯工具出現(xiàn)并被廣泛使用后，類似的擔(dān)憂就一直存在。而且，在一個世紀(jì)之前，利用加工修改后的照片進(jìn)行政治宣傳早已是司空見慣的手段。雖然這個世界上確實充斥著大量的虛假新聞和謠言，但生成式 AI以及其他優(yōu)秀工具的出現(xiàn)并不是問題根源所在，需要關(guān)注的是這些便利的工具可能會讓問題變得更加嚴(yán)重。

對此，有一點尤為值得關(guān)注。那就是 Adobe 等各個平臺正在積極研究的“歷史記錄”問題。

Adobe等一眾IT公司正在共同推進(jìn)名為“內(nèi)容真實性倡議”( Content Authenticity Initiative，CAI）的技術(shù)，并且已將其集成到 Adobe 的主要服務(wù)。

什么是內(nèi)容真實性倡議？簡單地說，據(jù)此可以讓用戶了解“這項數(shù)據(jù)經(jīng)由哪個工具處理，以及進(jìn)行了何種編輯操作”。由于數(shù)據(jù)中包含了制作者和編輯工具的信息，經(jīng)過讀取分析后便可以得知其歷史記錄。此外，這些歷史記錄都會被上傳到網(wǎng)絡(luò)，因此用戶可以確認(rèn)“當(dāng)前查看的照片是否有歷史記錄”。

假設(shè)有一張?zhí)摷賵D片，其中一部分是由其他圖片合成的，并降低其分辨率。如果能查詢到這張圖片的原始數(shù)據(jù)的歷史記錄，軟件就可以顯示出原圖。此項倡議，最初是在2019年到2020年間由 Adobe 和微軟等大型公司、《紐約時報》等新聞媒體、推特（現(xiàn)改名X）等社交媒體共同提出，旨在提高照片等內(nèi)容的可信度。幾經(jīng)波折，最終形成了如今的“內(nèi)容真實性倡議”。Adobe 和微軟等IT公司自不必說，尼康、佳能、徠卡這樣的相機(jī)制造商，以及法新社、美聯(lián)社、英國廣播公司等新聞機(jī)構(gòu)，甚至連美國蓋帝圖像這樣的大型圖庫公司都參與其中。蓋帝圖像(Getty Images)，美國圖像公司，1995 年成立于西雅圖，作為全球數(shù)字媒體的締造者首創(chuàng)并引領(lǐng)了獨特的在線授權(quán)模式——在線提供數(shù)字媒體管理工具以及創(chuàng)意類圖片、編輯類圖片、影視素材和音樂產(chǎn)品。

圖：contentauthenticity.org

Adobe還打算對生成式 AI（例如Firefly等）使用歷史記錄技術(shù)，判別圖像是否為 AI生成，但目前尚未實施。此外，Adobe和谷歌合作，將谷歌的生成式AI——Bard和 Firefly——聯(lián)動，同時采用內(nèi)容真實性倡議進(jìn)行技術(shù)驗真。

盡管谷歌還沒有明確表態(tài)是否采用內(nèi)容真實性倡議，但他們會對AI生成的圖像打上提示“AI生成”的電子水印。這樣一來，使用谷歌平臺搜索到的圖像，無論是人類創(chuàng)作的還是 AI生成的，都將一目了然。

什么是可信度高的圖片?

重要的是，包括內(nèi)容真實性倡議在內(nèi)的記錄“圖像來歷”的功能，絕不是辨別真?zhèn)蔚墓ぞ摺Ｏ嚓P(guān)技術(shù)只能提供創(chuàng)作人、編輯工具，及編輯內(nèi)容的信息。如有需要，相關(guān)數(shù)據(jù)也并非不可以被刪除。

即使如此，考慮到圖片歷史記錄的有無，也可以輕易判斷出何者更為可信。

有時，可以通過“細(xì)節(jié)”來判斷圖片的真實性。例如，我們可能會基于“生成式AI不擅長畫人手”的認(rèn)知標(biāo)準(zhǔn)來判斷一張圖片是否由生成式AI生成。

盡管這個方法確實有一定幫助，但是隨著技術(shù)進(jìn)步，想必不會再可靠。

再比如說“垃圾郵件”。目前，垃圾郵件的共同特點之一，就是其日語表達(dá)很不自然。但是，隨著翻譯AI和生成式AI的不斷發(fā)展，已經(jīng)很難通過內(nèi)容表達(dá)來加以分辨。

亂花漸欲迷人眼，眼見不一定為實。所以重要的是，當(dāng)懷疑存在虛假信息時，要查看其是否具有歷史記錄。如果附有歷史記錄，自然可以幫助我們判斷相關(guān)信息“進(jìn)行過什么編輯”。但要是沒有附帶歷史記錄，這就意味著“不能提供判斷標(biāo)準(zhǔn)”，其可信度恐怕要打上問號了。

正如本書反復(fù)強(qiáng)調(diào)的，制作的東西好壞由人來判定。對我們來說，能夠提供判斷的信息越多越好，“惡意者無痕，善意者有痕”，因此歷史記錄算得上非常重要的佐證要素之一。

此外，歷史記錄有助于檢測出照片的非法使用。如果從盜用的圖片中找到歷史記錄，則更容易舉證非法使用。在這方面來看，歷史記錄在將來會變得越來越重要，

目前，帶有歷史記錄的圖片為數(shù)不多，也很難確認(rèn)一幅圖片是否帶有歷史記錄。但是，隨著數(shù)碼相機(jī)和智能手機(jī)開始配備歷史記錄功能，想必生成式 AI也會增加這一功能，如此以后便能更容易地確認(rèn)歷史記錄了。

目前，社交媒體等平臺上尚未搭載歷史記錄功能。但是，若社交媒體想要打造“可信空間”，那么十分有必要增加歷史記錄功能。這就像谷歌會在搜索引擎中，對AI生成的圖片嵌入電子水印一樣，負(fù)起一定的社會責(zé)任。

正如剛才提到的，推特（現(xiàn)為X）曾發(fā)起內(nèi)容真實性倡議。然而，目前該公司似乎沒有任何與內(nèi)容真實性倡議相關(guān)的行動。真心希望包括推特在內(nèi)的各大社交媒體平臺都盡力推廣歷史記錄技術(shù)。

節(jié)選自《生成式AI的革命：人類應(yīng)如何直面“新知識”》第四章 “應(yīng)該”與“不應(yīng)該”讓生成式AI完成的任務(wù)。

---------

我們必須認(rèn)識到，生成式AI技術(shù)的發(fā)展必須伴隨著防偽技術(shù)的進(jìn)步，以確保信息的真實性和可靠性，維護(hù)社會的和諧穩(wěn)定。只有這樣，我們才能確保技術(shù)的紅利被正確利用，而不是成為制造混亂的工具。

《生成式AI的革命：人類應(yīng)如何直面“新知識”》

[日] 西田宗千佳 著

李立豐 譯

東方出版中心2024年9月

內(nèi)容簡介

這是一本面向所有人的生成式AI通識讀物。本書讓你不再局限于“怎么用AI”，而是帶你思考如何在新一輪技術(shù)革命的時代下生存和成長。無論你是否擁有技術(shù)背景，它都能幫你提升數(shù)字素養(yǎng)，在接下來的“全民AI”時代保持領(lǐng)先。

·通俗易懂的AI入門讀物

簡潔明了的語言，幫助你輕松理解生成式AI，無需任何技術(shù)背景，迅速上手。

·提升未來數(shù)字素養(yǎng)的通識課

不只是學(xué)習(xí)使用AI工具，而是全面提升你的數(shù)字素養(yǎng)，幫助你在AI時代中保持領(lǐng)先。

·解決面對AI時代的就業(yè)焦慮

深入探討生成式AI對未來就業(yè)市場的影響，幫你提前準(zhǔn)備，抓住未來的機(jī)會，避免被技術(shù)淘汰。

·適合忙碌上班族的快讀指南

緊湊且富有洞察的內(nèi)容，適合快節(jié)奏的生活方式，讓你在短時間內(nèi)掌握未來必備技能。

作者簡介

作者西田宗千佳，1971年出生于日本福井縣，記者，主要關(guān)注計算機(jī)、數(shù)字影音等領(lǐng)域，以及電子或數(shù)據(jù)產(chǎn)品，包括網(wǎng)絡(luò)相關(guān)產(chǎn)品，為《朝日新聞》《讀賣新聞》《日本經(jīng)濟(jì)新聞》《日本商業(yè)內(nèi)參》等媒體撰稿，著有《元宇宙×商業(yè)革命》（軟銀創(chuàng)意）、《網(wǎng)飛時代》（講談社現(xiàn)代新書）、《云計算》（朝日新書）等多部作品。

譯者李立豐，吉林大學(xué)匡亞明學(xué)者，吉林大學(xué)理論法學(xué)研究中心、法學(xué)院教授，博士生導(dǎo)師，日本早稻田大學(xué)訪問學(xué)者、日本關(guān)西學(xué)院大學(xué)客員教授。

校者宋婷，吉林大學(xué)外國語學(xué)院副教授，博士生導(dǎo)師，日本關(guān)西學(xué)院大學(xué)訪問學(xué)者、日本西南學(xué)院大學(xué)研修學(xué)者。

目錄

前 言

第一章 生成式AI為何擁有足以改變社會的影響力

第二章 生成式AI何以誕生

第三章 作為“副手”的生成式AI

第四章 “應(yīng)該”與“不應(yīng)該”讓生成式AI完成的任務(wù)

第五章 生成式AI所預(yù)設(shè)的未來

結(jié) 語

參考資料