數字時代正在改變我們的日常生活和經濟方式，人工智能、大數據分析、區塊鏈和云技術給我們的生活帶來了諸多便利，但同時，也帶來了新的脆弱性，大數據殺熟、不當索取個人信息、游戲沉迷、算法歧視、平臺算法控制等等。數字時代的倫理問題始終存在，我們應該怎么看待這些問題，又應該如何解決？

近日，中國社科院哲學所科技哲學研究室主任、研究員，科學技術和社會研究中心主任段偉文在RealAI主辦的人工智能產業治理論壇上作了《走向社會信任與多方共建的人工智能倫理治理》報告，討論數字時代的科技倫理和社會信任的危機與重建。

段偉文認為，數字時代帶來了很多便利，但其實際上又非常脆弱。當數字技術作為新事物出現時，操作便捷、門檻低、效率提升，因其帶來很多便利而使數字世代愿意嘗試，人們對短視頻、各種新的支付方式等沒有信任赤字。但便捷的另一面是風險沒有被充分認識。最后造成傷害時，就會嚴重破壞整個社會對科技的信任。

科技活動應該遵循哪些科技倫理原則？據科技部官網，7月28日，科學技術部科技監督與誠信建設司研究起草了《關于加強科技倫理治理的指導意見（征求意見稿）》，明確科技倫理的原則為增進人類福祉、尊重生命權利、堅持公平公正、合理控制風險、保持公開透明。

段偉文提出，如果希望這些倫理原則不成為倫理洗白工具而是真正落地，很重要的是一種工作假設，即科技創新的過程也是倫理創新的過程，也是倫理從0到1的過程。0就是原則，1就是落地，即技術創新要和價值創新同步。

段偉文認為，中國的數字產業的發展基本是奉行著鼓勵創新、包容審慎的立場，所以雖然前些年制定很多法律，但存在一個悖論——嚴格立法、普遍違法、選擇執法。在近幾年，從短視頻防沉迷再到應用軟件不當的索取個人的數據，都有專項的治理，還有金融科技的治理，包括中止上市，相關機構或企業成立金融科技倫理委員會等，還比如跨境數據治理導致應用軟件下架等等。

當下是快速變動的時代，有很多的創新便利，同時也有巨大風險，段偉文以沙漏做比喻，他提出，以前政府管理部門只是處在沙漏的上方，沒有感知到變化的迅速，但現在隨著社會輿論，國際政治，國內外的格局等變化，政府會感到沙漏的巨大風險。段偉文總結道，在這樣的情況下，政府的治理有兩個特點。

第一，先發制人，一旦察覺風險，就將其扼殺在搖籃中。

第二，當察覺一種技術的濫用造成社會整體治理架構不能接受的風險時，就會追溯既往，即以往犯的錯誤也是不可接受的。

在這樣的情況下，企業不僅僅需要根據合規不合規去思考問題，也需要思考對不對，去做出治理。段偉文認為，整個社會都有一個對科技活動的許可，這種許可不一定是有形的，但是存在的。

2014年，由于一家化工廠不斷排出“臭雞蛋”味，河南省新鄉市獲嘉縣居民聚集抗議要求將化工廠遷離。化工廠、垃圾焚燒廠、核電站等的建設過程中出現的大量公眾事件阻止這些科技的發展，段偉文將其解讀為社會許可證，即公眾答應與否。其提出，公眾當下對人臉識別的寬容態度來自于還沒有感知到重要風險，一旦出現重大惡性事件，公眾的許可就會消失。

“那么一個很重要的問題是，要直面社會許可的挑戰，不能只等到出現了惡性事件，再做治理，不能僅僅滿足于合規，”當下面對這樣一種既先發制人也追溯既往的治理格局，段偉文認為，企業應該更多考慮怎樣重塑科技的社會印象，這是非常關鍵的。

在措施方面，段偉文提出，一個是技術上改進，比如隱私計算等，另一個是倫理設計，比如游戲的防沉迷機制，在知曉用戶濫用技術時提醒其不要過度使用。更重要的是關懷倫理，即從用戶的角度去關心他，“說個不恰當的例子，在有些賭場現在實行關懷倫理，當你輸一百萬的時候他會告訴你你剩下了20萬，你別輸了，你今天手氣不好，坐下來喝喝茶等等。所以我們可以看到世界上的善和惡可能有各種各樣的標準，但唯一的一種智慧就是我們做什么事情都要有個度，這是最重要的，”段偉文說。

2021年1月5日，全國信息安全標準化技術委員會發布了《網絡安全標準實踐指南—人工智能倫理安全風險防范指引》也明確了四大責任主體，研究開發著、設計制造者、部署應用者、用戶。

“技術是價值中立的，但它是需要通過努力實現的，真正意義上的創新應該面向用戶，面向社會價值，是整體性的創新，而不只是增加財富，加強資本。”段偉文呼吁，“我們要超越技術解決主義，當下有很多手段能解決倫理問題，但更重要的是超越這些技術手段，用更廣泛的社會關懷進行補充。”段偉文進一步闡釋，從疫情防控期間可以看到，很多技術手段的應用需要人的關懷，比如手機的適老化，這些都是很有意義的。