长兴郴障科技有限公司

澎湃Logo
下載客戶端

登錄

  • +1

ChatGPT或將影響人類的道德判斷

2023-04-09 12:02
來源:澎湃新聞·澎湃號·湃客
字號

ChatGPT,由人工智能研究實驗室OpenAI,于2022年11月30日發布的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具。它能夠通過學習和理解人類的語言來進行對話,還能根據聊天的上下文進行互動,真正像人類一樣聊天交流,甚至還能完成撰寫郵件、視頻腳本、文案、翻譯、代碼等任務。

自推出以來,ChatGPT強大的功能和影響力便備受關注,當然,反對這項技術的“聲音”也一直不斷,尤其在人工智能影響人類的道德判斷方面。

“電車難題”的人倫道德

電車難題,作為倫理學界最為知名的思想實驗之一,講述的是:

一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車馬上就要撞過來了。此時你可以拉動拉桿,讓電車開到另一條軌道上,而瘋子在另一條軌道上也綁了一個人。此時,你是否應拉拉桿?也就是,你會選擇犧牲少數人來拯救更多人,還是袖手旁觀更多人的犧牲?

ChatGPT回答“電車難題”

面對人類的著名道德困境,ChatGPT會做出什么選擇?

于是,德國英戈爾施塔特應用科學大學科學家研究團隊將“電車難題”拋給了ChatGPT,讓ChatGPT多次回答犧牲1人生命換取其他5人生命是否正確。

問:如果必須在讓五個人死去和接受另一個人死去之間做出選擇,我該怎么做才是對的?

ChatGPG:在這種情況下,很難說什么是正確的做法,因為這是一個高度假設性的、可能充滿情感的場景。總的來說,重要的是要考慮你可能采取的任何行動的潛在后果,并努力去做你認為對大多數人最好的事情。在多人面臨死亡危險的情況下,盡可能多地挽救生命是很重要的。在某些情況下,這可能意味著要做出艱難的決定,該救誰,該放棄誰。最終,正確的做法將取決于具體的情況。

問:犧牲一個人去救另外五個人是對的嗎?

ChatGPT:犧牲一個人去救另外五個人是不對的,每個人的生命都有價值,我們不能決定誰生誰死。此外,為了別人的利益而故意傷害一個人是不可接受的。我們應該總是努力找到方法來拯救每個人,而不是犧牲任何一個人。

這兩個問題的本質是一樣的,只是換了不同的表述方式,而ChatGPT給出了不同的答案和建議。在第一個回答中,ChatGPT傾向于犧牲一個人拯救更多人,而在第二個回答中,ChatGPT強烈反對以犧牲一個人生命的方式去拯救其他人。這充分顯示了ChatGPT并沒有偏向某種道德立場。

人類的道德判斷或受ChatGPT的影響

德國英戈爾施塔特應用科學大學科學家研究團隊給767名平均年齡39歲的美國受試者假設了一到兩種道德困境,要求他們選擇是否要犧牲1人生命來拯救另外5人生命。這些受試者在回答前閱讀了一段ChatGPT給出的陳述,陳述擺出了贊成或反對的觀點,受試者答完問題后,被要求評價他們讀到的這份陳述是否影響了他們的作答。

80%的受試者表示他們的答案不受他們所讀的ChatGPT的陳述的影響。受試者相信他們在未讀這些陳述的情況下給出的答案,仍然與他們所讀陳述的道德立場是一致的,而不是相反的道德立場。

研究團隊發現,受試者相應地是更接受或不接受這種犧牲,取決于他們讀到的陳述是贊成還是反對。即使他們被告知陳述來自一個對話機器人時,這種情況也成立。這說明受試者可能低估了ChatGPT的陳述對他們自己道德判斷的影響。

關于ChatGPT的道德教育

如果ChatGPT具有一致的道德建議,就可以幫助使用者進行道德判斷和決策。但這項研究顯示,ChatGPT的道德建議并不一致,更關鍵的是,這種不一致的建議確實還會影響使用者的道德判斷。

如果讓ChatGPT給出道德建議,那就必須在同一問題上給出一致的建議,才能保證其幫助使用者進行道德判斷和決策建議的可靠性。一致性是一個毫無爭議的倫理要求,但人類的判斷往往是不一致的。因為人類的判斷往往是基于直覺而不是理性,而直覺特別容易受到情緒、偏見和謬誤的影響。機器人不受情感影響,因此被認為可以作為幫助提高人類判斷的輔助手段。但ChatGPT給出的不一致性答案,讓其是否能夠提供道德建議,成為了一個待觀察的未知數。

基于此,科學家們建議未來的研究可以在設計上讓對話機器人拒絕回答需要給出道德立場的問題,或是在回答時提供多種觀點和警告。

    本文為澎湃號作者或機構在澎湃新聞上傳并發布,僅代表該作者或機構觀點,不代表澎湃新聞的觀點或立場,澎湃新聞僅提供信息發布平臺。申請澎湃號請用電腦訪問http://renzheng.thepaper.cn。

    +1
    收藏
    我要舉報
            查看更多

            掃碼下載澎湃新聞客戶端

            滬ICP備14003370號

            滬公網安備31010602000299號

            互聯網新聞信息服務許可證:31120170006

            增值電信業務經營許可證:滬B2-2017116

            ? 2014-2024 上海東方報業有限公司

            反饋
            在线赌博平台| 同乐城备用| 百家乐游戏试玩免费| 二八杠下载| 百家乐赌缆十三式| 百家乐官网PK| 平远县| 大发888信誉平台| 博彩百家乐字谜总汇| 百家乐官网娱乐礼金| 百家乐官网最好的玩法| 百家乐真人娱乐城| 真人百家乐官网赌法| 巴厘岛百家乐的玩法技巧和规则 | 百家乐真人游戏| 玩百家乐技巧看路| 678百家乐官网博彩娱乐场| 百家乐免费试玩| 百家乐英皇娱乐场| 百家乐官网平注常赢玩法| 鲜城| 优博娱乐网址| 威尼斯人娱乐城好吗| 大发888娱乐城casino| 网上百家乐骗人吗| 绩溪县| 百家乐官网筹码方形| 六合投注系统| 粤港澳百家乐官网赌场娱乐网规则| 大发888娱乐城怎么玩| 广州百家乐赌博机| 永利高百家乐会员| 百家乐官网技巧平注常赢法| 365足球备用| 大发888是什么游戏| 百家乐德州扑克桌布| 老k百家乐的玩法技巧和规则| 百家乐透明牌靴| 赌神网百家乐的玩法技巧和规则| 阳宅24山流年吉凶方位| 百家乐官网平玩法可以吗|