2024年3月23日，由教育部關(guān)心下一代工作委員會(huì)、國(guó)家衛(wèi)健委規(guī)劃發(fā)展與信息化司指導(dǎo)，北京師范大學(xué)互聯(lián)網(wǎng)發(fā)展研究院、中國(guó)社會(huì)管理研究院主辦的“人工智能與下一代健康成長(zhǎng)論壇”在京召開。來(lái)自教育部、國(guó)家衛(wèi)健委、全國(guó)婦聯(lián)等有關(guān)部門，北京大學(xué)、北京師范大學(xué)、中國(guó)教育科學(xué)研究院、中國(guó)移動(dòng)、科大訊飛、阿里云等單位的專家和企業(yè)代表參會(huì)。

論壇上，北京師范大學(xué)互聯(lián)網(wǎng)發(fā)展研究院重磅發(fā)布了《向善而“生”——生成式人工智能技術(shù)發(fā)展中的科技倫理框架研究報(bào)告》。該報(bào)告是當(dāng)前國(guó)內(nèi)從社會(huì)倫理和社會(huì)治理視角，對(duì)生成式人工智能技術(shù)發(fā)展與應(yīng)用開展全面深入研究的重要成果。報(bào)告梳理了生成式人工智能帶來(lái)的發(fā)展新機(jī)遇、主要應(yīng)用場(chǎng)景、技術(shù)運(yùn)行邏輯、內(nèi)在風(fēng)險(xiǎn)機(jī)理，分析了生成式人工智能可能帶來(lái)的社會(huì)風(fēng)險(xiǎn)與科技倫理挑戰(zhàn)，并對(duì)包容創(chuàng)新發(fā)展、引導(dǎo)科技向善提出了相應(yīng)的政策建議。 

《向善而“生”——生成式人工智能技術(shù)發(fā)展中的科技倫理框架研究報(bào)告》

北師大互聯(lián)網(wǎng)發(fā)展研究院團(tuán)隊(duì)介紹，在中華優(yōu)秀傳統(tǒng)文化中，就有“道生一，一生二，二生三，三生萬(wàn)物”的宇宙自然觀。“向善而‘生’”，不僅是指生成式人工智能應(yīng)秉持科技向善的原則，為人類服務(wù)，也包含了生成式人工智能將成為一種生生不息的力量，為人類社會(huì)發(fā)展注入源源不竭的動(dòng)力。

報(bào)告首先分析了生成式人工智能技術(shù)帶來(lái)的發(fā)展新機(jī)遇、主要應(yīng)用場(chǎng)景、技術(shù)運(yùn)行邏輯和內(nèi)在風(fēng)險(xiǎn)機(jī)理。從當(dāng)前來(lái)看，生成式人工智能將主要帶來(lái)內(nèi)容創(chuàng)新領(lǐng)域的飛躍、個(gè)性化服務(wù)的深化、效率提升與成本優(yōu)化、推進(jìn)行業(yè)融合與創(chuàng)新等新發(fā)展新機(jī)遇；主要應(yīng)用于知識(shí)問(wèn)答、編程反饋、協(xié)同創(chuàng)作等的場(chǎng)景；遵循提出問(wèn)題、分析需求、生成內(nèi)容、互動(dòng)反饋、校準(zhǔn)輸出的技術(shù)運(yùn)行邏輯。此外，生成式人工智能的語(yǔ)料數(shù)據(jù)庫(kù)存在真假雙重性與匿名性，人機(jī)互動(dòng)模式以消除用戶隱私性為基本前提，對(duì)算法與算力的依賴具有高度的技術(shù)單向性，結(jié)果輸出的高效便捷具有技術(shù)沉溺誘導(dǎo)性，工具理性逐漸凸顯造成理性天平失衡等內(nèi)在機(jī)理可能導(dǎo)致風(fēng)險(xiǎn)的產(chǎn)生。 

機(jī)遇·場(chǎng)景·邏輯·機(jī)理

報(bào)告認(rèn)為現(xiàn)代社會(huì)作為一種“風(fēng)險(xiǎn)社會(huì)”，具有一系列的不確定性。生成式人工智能由于技術(shù)應(yīng)用的不確定性，可能會(huì)帶來(lái)新型的風(fēng)險(xiǎn)社會(huì)，造成結(jié)構(gòu)性失業(yè)潮的到來(lái)、數(shù)字權(quán)力格局的改變、網(wǎng)絡(luò)內(nèi)容治理的挑戰(zhàn)、版權(quán)歸屬的法律困境、數(shù)字社會(huì)層級(jí)分化加劇、技術(shù)異化加速、環(huán)境可持續(xù)發(fā)展等問(wèn)題。 

一種新型風(fēng)險(xiǎn)社會(huì)

報(bào)告指出生成式人工智能可能帶來(lái)多種倫理風(fēng)險(xiǎn)，比如數(shù)據(jù)獲取侵害用戶隱私，內(nèi)置偏見強(qiáng)化社會(huì)歧視，深度偽造加劇信任危機(jī)，算法黑箱缺乏透明監(jiān)督，工具邏輯弱化價(jià)值判斷，類人特征引發(fā)交往困境，技術(shù)依賴降低人類自主。 

智能時(shí)代的倫理追問(wèn)

如何有效規(guī)避和應(yīng)對(duì)生成式人工智能帶來(lái)的風(fēng)險(xiǎn)和倫理問(wèn)題則成為關(guān)乎社會(huì)良序運(yùn)行與可持續(xù)發(fā)展的重大課題。為此，報(bào)告建議采取以下七類措施開展有效的技術(shù)規(guī)制與治理，確保AIGC真正向善而“生”：加強(qiáng)教育培訓(xùn)提升全民人工智能素養(yǎng)，構(gòu)建多元主體人工智能治理共同體，以大模型平臺(tái)為抓手建立數(shù)字安全監(jiān)管機(jī)制，強(qiáng)化人工智能技術(shù)的全過(guò)程治理，彌合智能鴻溝推進(jìn)數(shù)字社會(huì)團(tuán)結(jié)，建立人工智能風(fēng)險(xiǎn)預(yù)警與干預(yù)機(jī)制，推動(dòng)人工智能發(fā)展的綠色化轉(zhuǎn)型。 

ChatGPT類生成式人工智能的治理路徑

總之，立足當(dāng)下，報(bào)告認(rèn)為，安全是發(fā)展的保障，發(fā)展是安全的前提，不發(fā)展是最大的不安全。應(yīng)對(duì)生成式人工智能保持開放和包容的態(tài)度，積極擁抱智能時(shí)代，加強(qiáng)對(duì)技術(shù)發(fā)展的治理，強(qiáng)化對(duì)技術(shù)的倫理觀照，真正讓技術(shù)服務(wù)于人，助力人的自由全面發(fā)展。

（原題為《北京師范大學(xué)發(fā)布“生成式人工智能科技倫理報(bào)告”》）