人工智能技術（AI）能不能用來制造武器殺害人類呢？

在輿論的重重壓力，以及員工的“離職潮”的威脅之下，6月7日，谷歌公司終于公開表態，公示了自己的AI指導原則：

谷歌宣示，AI的應用目標包括：對社會有益；避免制造或加劇偏見；提前測試以保證安全；由人類擔責等。以及，AI不能用于“武器或其他用于直接傷害人類的產品”；“收集使用信息，以實現違反國際規范的監控的技術”。

事件的起因是谷歌與美國軍方合作的一個項目，谷歌擬向美國國防部提供用于機器學習應用的Tensor Flow API接口，以幫助檢測圖像中的物體。這引發了公司內部和外部鋪天蓋地的質疑，認為這可能讓AI技術成為軍方的幫兇，與谷歌一直倡導的“不作惡”相悖，公司內部約有4000名員工寫了請愿信。谷歌的CEO黛安·格林向員工反復解釋了這只是一份僅900萬美元，且項目不是為了攻擊目的。從內部郵件看，谷歌云首席科學家、副總裁李飛飛也試圖打馬虎眼，堅持在合同中回避“AI”的字眼。

1920年，捷克作家Karel Capek在發表的科幻劇作《羅蘇姆的全能機器人》中，發明了機器人(robot)這一詞語，一開始它們只是在工廠里的生產工具，最后這些機器人因失控開始殺死人類。由此誕生了經久不息的科幻小說、電影題材：機器人殺人！從《終結者》到如今大紅的《西部世界》講述的是同一個母題。

然而，近幾年快速發展的AI將人工智能的現實倫理沖突直接放在人類面前。當《西部世界》曾經的傻白甜機器人小妞——梅芙，將子彈射向第一個人類（主人）時，曾經的世界秩序漸漸崩塌了：人類有沒有終極價值？人類是否高于“物”？當“物”有自由意志去殺人后，TA還是不是“物”？

關于AI武器化，已經有了現實的焦慮。2012年前后，美軍在戰場上使用高度自動化的無人機，就曾引發輿論的強烈反彈。當無人機越來越自動化，越來越有自主意識地去主動擊殺人類時，它便不是屬于某一國、某一軍事團體的武器，而是更像是一場機器對人類的屠殺，所以才會引發人類的焦慮。

著名科幻小說家艾薩克·阿西莫夫在小說《我，機器人》中定下了“機器人三法則”：

第一法則：機器人不得傷害人類，或坐視人類受到傷害；

第二法則：除非違背第一法則，機器人必須服從人類的命令；

第三法則：在不違背第一及第二法則下，機器人必須保護自己。

其實核心內容就是，機器人不能傷害人類。任何的逾越都是不可接受的。現在的現實問題是，所謂的“自動武器”殺人是體現的是人的意志，還是機器的意志？

在復旦大學哲學學院教授徐英瑾看來，是否要賦予軍用機器人以自主開火權，是一個“不著邊際的問題”。他認為，只要戰爭機器人具有全面的語義智能(它能夠理解所有指令與情報的語義)，在原則上我們就可以憑借語義智能對其進行“道德教化”，并指望它們像真正的人類戰士那樣。

但是，國際機器人武器控制委員會（ICRAC）顯然不認可對殺人機器的“道德教化”，它要求谷歌停止前述與軍方的合作，并承諾不去開發軍事科技。

在今年4月聯合國“致命性自主武器系統問題政府專家組”的會議上。ICRAC更明言：將“致命性自動武器”的討論擴大到人工智能或具有新興智慧的武器問題，將會引起混淆，“由于在AI的兔子洞中追逐‘致命性自動武器’的定義，我們擺脫了急需討論的關鍵問題”。事實上，ICRAC根本不認可對于武器機器人的“道德教化”，根本否認AI在自動化武器方面的應用，相反提出“人類實質控制武器的五個基本要件”，包括每一次攻擊擊發之前，必須由人類進行場景控制等等。

事實上，由于目前的深度學習還是一個典型的“黑箱”算法，傳統軟件的每一行代碼都由人類編寫；而深度神經網絡卻是經驗知識。連設計者可能都不知道它是如何決策，要在系統中發現是否存在歧視、能否判斷善惡，在技術上是困難的，更別說讓它掌握生死。

之前就有很多關于“機器歧視”的爭論，機器是不是只依據因為這個人有前科、這個人是黑人，就直接拒絕他的貸款信用卡申請？人類千百年來形成的堅如磐石的倫理和價值，在深度學習的“黑箱”面前顯得不堪一擊。

所以結論是：別把寶押在人工智能的“道德教化”上，而是根本就不應該讓人工智能去掌握武器。