·螞蟻集團啟動大模型倫理共建計劃，采用國家法律法規數據作為訓練資料，提供給大模型學習，已在前期共建了超過150個法律法規和司法解釋相關的語料庫。

人工智能在快速迭代和發展的同時，也給人類社會的倫理和治理帶來挑戰。

9月8日上午，外灘大會“AI科技倫理”見解論壇在上海舉行。眾多專家在會上提及近期引發熱議的“AI換臉”、人臉識別等問題。同時，螞蟻集團在論壇上宣布啟動大模型倫理共建計劃。

螞蟻集團研究院院長李振華在啟動儀式上表示，螞蟻大模型倫理共建計劃采用了國家法律法規數據作為訓練資料，提供給大模型學習。通過法律專家為大模型出考題，讓大模型了解倫理方面的問題，做出相應解答。

李振華稱，倫理共建計劃將持續收集用戶反饋和時事熱點信息，動態更新不斷優化大模型倫理知識體系，以提升大模型在處理實際問題方面的基本表現。在共建大模型倫理計劃時，可利用平臺優勢，讓用戶深度參與其中，為模型構建提供相關反饋和意見。

李振華透露，螞蟻集團在前期已經進行了一些嘗試，共建了超過150個法律法規和司法解釋相關的語料庫。

今年，“AI換臉孫燕姿”曾在B站等網絡平臺走紅，視頻上傳者通過使用AI音色替換技術生成了高度還原孫燕姿音色的翻唱歌曲；“AI換臉”也被不法分子利用，冒充領導干部行騙、詐騙等，為公安機關、檢察機關偵查案件增添不少難度。為限制人臉識別技術過度采集、濫用。8月8日，國家互聯網信息辦公室起草《人臉識別技術應用安全管理規定（試行）（征求意見稿）》，公開對外征求意見。

圍繞如何發展更安全、負責、可信的AI這一主題，論壇現場眾多專家展開討論。

在外灘大會“AI科技倫理”見解論壇上，圍繞如何發展更安全、負責、可信的AI這一主題，眾多專家展開討論。

關于AI科技倫理，中國信息通信研究院華東分院院長廖運發指出，大模型的發展進一步加大了人工智能的固有風險：一方面，隨著參數規模擴大，訓練數據的細節得以體現在參數中，多模態增加了模型的供給面。另一方面，隨著大模型訓練數據集的快速增長，難以對人工標注進行檢查，訓練數據侵權也構成了產業發展的隱憂；此外，大模型使人工智能訓練的算力成本急速提升，在導致碳排放問題的同時，也使得中小企業越來越難以參與其中。

中國科學院計算技術研究所研究員、副所長程學旗認為，人工智能目前已經走進日常生活，“我們的出行、調度、指揮系統，人工智能都發揮了很多作用，但同時也帶來了很大的安全風險。”常見的安全風險聚焦在：第一，個人數據、隱私被泄漏；第二，在某些特定的自動化交易場景中，某個線路出現故障會連帶后臺的調度系統，產生重大風險，這類AI模型算法出現的安全風險問題也需重視。

如何應對人工智能帶來的安全和倫理風險？程學旗認為，社會治理和技術治理應當同步推進，前者的目標是治理的自動化與常態化，后者則需要實現治理標準化與系統化。

多位專家也指出，隨著大模型應用場景與應用案例的積累，相關的倫理規則也將進一步豐富和完善，最終形成技術、社會、行業等不同層面的具體要求。