【論壇第2期話題】機器“北鼻”，不香嗎？

很多人認為，“機器伴侶”將是未來智能機器人發展最廣闊的市場和最大的動力。所謂“食色性也”，這種想法并非什么奇談怪論。當然，我們需要的陪伴機器人，不限于親密的“機器小哥哥”、“機器小姐姐”，還包括聊聊天、談談心的機器“知心人”，或者陪玩陪瘋機器“二貨哥們”、機器“塑料閨蜜”，甚至是丁克家庭的機器“兒子”、“女兒”和機器“寵物”。如果社會中到處都是機器“北鼻”，人類和世界將會怎樣？“科技世代與人類未來”論壇第二期以機器陪伴為題，特別邀請中國社會科學院的段偉文研究員、中國人民大學的劉永謀教授、上海交通大學的閆宏秀教授和復旦大學的楊慶峰教授，以北南聯袂、京滬對話的方式從不同角度撰文探討。閆宏秀的《人與機器人環抱的“距離”》提醒人們保持與機器人的安全距離。劉永謀的《機器性愛會吞噬人性嗎？》相信機器伴侶不會導致人類機器化。楊慶峰的《為愛遺恨的機器人？》認為親密陪伴將從根本上改變人機關系。段偉文《陪伴機器人，當真你就輸了？》深入設計層面分析陪伴機器的典型倫理問題。有趣的是，從警惕（counter）-親近（pro）陪伴機器人的角度看，楊慶峰與劉永謀對于人與機器人的親密關系之看法，閆宏秀與段偉文對于人與機器人的距離之看法，似乎有那么一點相對的意思。

人與機器人環抱的“距離”

閆宏秀（上海交通大學）

如果說18世紀法國哲學家朱里安·奧弗魯·德·拉·梅特里的《人是機器》一書是從人類自我認知的視角拉近了人與機器之間的某種距離，那么，捷克作家卡雷爾·恰佩克于20世紀初的《羅薩姆的萬能機器人》一書中關于機器人身份的描繪則又將人與機器的距離進行了近或遠的多次切換。21世紀，前英國皇家學會會長、著名天文學家、劍橋大學教授馬丁·里斯將機器人作為其對“人類在地球上的未來”思考的一個要素，以色列歷史學家尤瓦爾·赫拉利在《未來簡史》一書中將機器人對人類構成的威脅寫入到了其對“大分離”的解讀之中，我們從中可以感悟到人與機器人之間距離的復雜性。

人與機器人之間的微妙距離

無論人是機器、機器擬人，還是機器人被人奴役、人對機器人的奴役、機器人對人的威脅或背叛與反抗等，都是對人的機器化與機器的人化不同表述。換句話說，都是在描述人與機器之間“距離”。回顧近年來機器人的發展，機器人與人的距離呈現出越來越近的趨勢。如：據國際機器人聯合會（The International Federation of Robotics）的《全球機器人報告2019》（World Robotics report 2019）統計，2018年度全球工業機器人年銷售額以165億美元創新，并將首次對協作機器人（cobots）進行了分析。今年，在疫情防控期間，抗疫機器“智”援成為了抗疫戰線的一道風景。

現如今，機器人從傳統的工業化場景進入到了人類日常生活中的陪伴與家政等事務之中，人機共生已然從幻想進入了現實。與這種現實相隨的是，機器人的擬人化程度越來越高。與這種現實更如影隨形的是，關于人的機器化問題也越來越被關注。也正是上述這兩個方面在進一步加劇著人與機器人之間的“距離”微妙性。

回顧以往，當機器人能如人類所愿地完成人類交給其的任務時，人類感覺到在人與機器的合作之中，機器人與自身距離的拉近；反之，若不能，則帶來的是機器人與人自身距離的疏遠。但是在當下，陪聊機器人、情感機器人等的研發與應用就是旨在實現人與機器人距離拉近的同時，卻又帶來了的某種遠。很顯然，這種遠與近指向了不同的維度。

近了誰與誰的距離，又遠了誰與誰的距離

美國人工智能專家杰瑞·卡普蘭將機器人喻為瘋狂擴散的新“病毒”，并且在其《人工智能時代——人機共生下財富、工作與思維的大未來》一書中，用強調的字體凸顯了“你必須適應機器人的要求，因為他不會順從你的要求”這一判斷。易言之，從這個時候開始，被機器人環抱的人類在被機器人不斷的環抱過程中，人與機器人之間的“距離”在被機器人擠壓式拉近。也正是在這個過程中，出現了機器人對人的規訓或者馴化。如，在日常生活中，人與機器人助手之間的互動，事實也是人類思維與機器人思維的之間互動，并且令人沮喪的是，在這種互動中，在機器人通過深度學習適應人的過程中，同樣地，也出現了人開始適應機器人思維的跡象。

以人類借助導航系統到達某個目的地為例，人類思維受機器思維的影響表現為：人以主人自居的姿態開啟導航系統，但隨后會依據導航系統的機器式思維來進行互動；當坐同在一輛車上的幾個人接收到幾種不同的到達同一目的的方案時，可能出現的場景或許有人類將導航系統擱置，或許有人類在為哪個系統更優展開白熱化的討論，或許還有讓不同的系統之間進行自行取舍。反觀后兩種場景，究其本質而言，事實上是在人與機器人距離拉近的過程中，將人與人之間距離拉遠。

當機器人通過不斷的學習來越來越拉近與人的距離時，人類突然意識到自身的主體性在不斷地經受著某種被擠壓，或許人類會是有閑階層，但也可能會是無用階層。然而，無論如何，當集群機器人（swarm robotics）系統化來襲時，或許會把人與機器人之間這種距離變成機器人與機器人之間的距離，人類對距離的掌控能力越來越小，或者進一步說，喪失了這種能力。顯然，這種“距離”不是人類所期望的。

應保持人與機器人之間的安全距離，進而產生美

那么，面對機器人的發展，我們該保持什么樣的距離呢？關于這個問題，與其說是人與機器人之間的理想距離，倒不如說是安全距離。美國全球人工智能與認知科學專家皮埃羅·斯加魯菲曾基于人與機器之間圖靈測試而指出了人類文明或將經歷機器的愚蠢和人類的并存智能、機器智能和人類智能共存、機器的智能與人類的愚蠢共存三個階段。毫無疑問，人類期冀自身的智能永遠在線且有掌控機器智能的能力，不管機器是愚蠢還是智能。

當人類著力于為構建機器人倫理的時候，事實上是人類已經意識到人與機器人之間的距離不再安全；當人類力圖提升機器人與人的相似度時，人類力圖擁抱機器人也力圖讓機器人擁抱人類。但當這種雙向擁抱變成緊密環抱時，特別是當機器人貌似滋潤的環抱將人催眠進入夢境，而這種夢境里出現了被環抱的窒息感時，此時的人類，或許不是全部而是部分人類的求生欲本能將驟然而至并要求通過保持適當的距離來捍衛自己，以保留自己人之為人的本質。

因此，人類或許意識到了人與機器人之間的環抱確實需要有點“距離”，即安全的距離。但這個“距離”到底是該有多遠還是多近，卻貌似并不清晰，因為人類作為總體對求生欲的理解達成共識還是需要一個過程。

機器性愛會吞噬人性嗎？

劉永謀（中國人民大學）

毋庸諱言，“機器性愛”是大火的人工智能領域最“吸睛”的話題。

很多反對者認為，伴侶機器人越做越逼真，越來越多的人將與之共同生活——已經有人和充氣娃娃、虛擬玩偶“初音”結婚了——久而久之，人會越來越像機器，即在一定程度上失去人性。我稱之為智能時代的“人類機器化憂慮”。

“人類機器化憂慮”由來已久，可以追溯至工業革命。莫里森認為：“工業主義的勝利就是不僅將個人變成機器的奴隸，而且將個人變成機器的組成部分。” 迄今為止，大家并不認為人已經被“機器化”。但反對者會說，機器伴侶不是一般機器，深度侵入人類情感與人際最核心的性愛區域，這難道不會撼動、損害甚至吞噬人性嗎？

肉體關系不神秘

很多人將肉體關系看得很不一般。白素貞修煉千年，仍未通人性，必須和許仙戀愛結婚，多次“不可描述”之后才通人性。似乎人性是某種流動的“熱素”：蛇和人親熱，可慢慢被“注入”人性。反過來許仙會不會“蛇化”呢？和蛇精處久了，許仙性命堪憂，這是不是人性“流失”的后果？人性“流動”要不要服從轉化守恒定律呢？

如果人和蛇的“靈性值”有級差，那不同人種、不同性別和不同地域的個體擁有的“人性值”是不是也有差距呢？不少人認為，殘忍罪犯和嚴重智障人士人性要少一點。如果“人性值”有差距，享受的待遇是不是應該有所差別呢？再一個，“人性值”越高越好嗎？就忠誠而言，“狗性”是不是更好一些呢？人性究竟是個什么東西呢？

把性愛看得很重要、很神秘、很“本質”，殘存濃郁的性蒙昧主義氣息。弗洛伊德嘗試用性和“利比多”解釋一切人類行為，他的精神分析學被質疑為古老性欲崇拜的現代版本。不少理論家都將之排除于科學之外，視為某種哲學或文學的遐思。

有人會反駁說，性關系并非簡單物理運動，更重要的是附著其上的感情。問題是：人只能與人產生感情，不能與機器人產生感情嗎？很多人對家里養的寵物感情很深。反對者會說，寵物與機器伴侶不同，寵物有生命，有靈性。可有生命才有靈性嗎？中國人常信玉石有靈，孫悟空就是從石頭中孕育出來的。當伴侶機器人能像人一樣“說話”，一樣運動，智力遠超寵物，還可自我復制，憑什么說比寵物“靈性值”低一些？再說了，人怎么就不能對非生命的東西產生感情呢？我們喜歡文玩和古物，建各種博物館，里面沒有對它們的情感因素？

愛情也并不永恒

當然，反對者可以說自己擔心的是人與機器伴侶的愛情，而不是所有感情，因為愛情是人最寶貴的情感，不容機器染指。

然而，人戀物的現象并不罕見，絲襪、制服、內衣等是最常見的被迷戀物。古希臘神話中，有一則國王皮格馬利翁的戀物故事，講的是他愛上自己用象牙雕刻的美麗少女。國王給“她”穿上衣服，取名塞拉蒂，每天擁抱親吻，后來愛情女神把雕像變成了活人，與皮格馬利翁結了婚。而一些人認為，中國古代纏足、19世紀西方束腰以及當代隆胸時尚，均可以用戀物來解釋。從戀物角度來看，人當然可能愛上機器伴侶。

反對者會說，神圣的愛情不容戀物玷污。的確，愛情至上論在大都市非常流行，對于對吃飽穿暖的中產和文青尤為如此，簡直升華為“情感意識形態”：“有錢有閑了，不談談佛，就談談愛吧。”可是，在現實中，有多少令人羨慕并尊敬的不變愛情？有研究認為，愛情是某種多巴胺類物質分泌的結果，持續時間18個月。人對機器伴侶的愛情，理論上也就能堅持這么久。

一男對一女“永恒愛情”的說法盛行，不過是最近幾百年的事情，主要歸功于基督教興起之后不遺余力的提倡。在歐洲中世紀，一方面是教會一對一關系的嚴厲說教，另一方面則是事實上混亂情人關系的存在。倍倍爾在《婦女與社會主義》指出，自騎士小說興起，吹噓對征服女人逐漸轉變成歌頌愛情、尊重女人的所謂“騎士風度”，可真實的騎士愛情大多是始亂終棄的故事，忠貞不渝的愛情只寫在書里。中國的情況更甚，一百年前還是一夫多妻制度，“小兩口”感情太好，公婆可能指責小媳婦“狐貍精”，耽誤了丈夫做正事。總的來說，傳統婚姻制度附屬于財產關系，強調主婦對家庭財產和事務的管理權，既不是“愛情結晶”，也不是“愛情墳墓”。毫無疑問，當女性經濟自主，才能要求一對一的愛情關系。

不想大談愛情哲學，我只是想說：“愛情”從來就不是永恒的，而是一定歷史時期的社會建構物。這談不上人性不人性的事情，因為沒有證據表明：一生只愛一人更人性。可以想象，人與機器伴侶的親密關系，不大可能是一對一的。實際上，我并不認為有普遍、一致和不變的人性，上述判斷僅基于常識做出。

爭當有趣伴侶

還有一些反對者擔心人類繁衍：當代生活忙碌而焦慮，性生活越來越“蕭條”——據說現在大城市里很多30多歲的夫妻已然處于無性狀態——機器伴侶再“奪走”一些，人類生孩子的意愿肯定越來越淡薄，搞不好最后因此而“絕種”。食色性也，不生孩子，難道不是另一種人性淪喪嗎？

生育率降低怪伴侶機器人，這完全沒道理。安全避孕技術誕生以來，發達國家的生育率就不斷走低，可機器伴侶還沒有大規模商用啊？顯然，人們不愿意生孩子，癥結不在技術方面，而在于制度和文化方面。如果真的想生孩子，機器伴侶可以裝上機器子宮，搞“機器試管嬰兒”。

必須承認，機器伴侶將對既有愛情觀念和婚姻制度帶來巨大沖擊。可是，當愛上個人或被人愛上越來越困難，是不是得想一想：人是不是越來越無趣，還不如一只手機好玩呢？越來越多的人不想結婚，是不是得想一想：咱們的婚姻是不是出了問題，真的墮落為“偉大導師”所謂的“合法的賣淫”或“變相的嫖娼”？

一句話，性愛機器人可能漏電，可擔心它吞噬人性，基本上是想多了。事實上，誰也搞不清怎么就更像人，或更不像人。

為愛遺恨的機器人？

楊慶峰（復旦大學）

20多年前有位臺灣歌手唱了這樣一首歌：“……有多少愛可以重來，有多少人值得等待。當愛情已經桑田滄海，是否還有勇氣去愛。……”這首歌唱出了一個人失去愛之后的遺憾與悔恨。如今，人工智能技術將我們帶到了一個難題面前：如果我曾經愛上了一個機器人，但是沒有抓住，最終服從于人類社會的價值規訓；或者一個機器好友向我傾訴，他曾經愛上了一個人類，卻因為人類社會的價值壓力，卻不得不分開。那么我或是她是否還會感受到失去“愛”的遺憾和悔恨呢？

站在詞語留白處，無愛存在？

說到與愛有關的機器人，我們容易聯想到科幻電影中這類形象，如最近剛剛播出的《機械畫皮》中的“蘇辛”自我覺醒后去尋找真愛的意義。但是對我而言，印象最深的還是美國科幻電影《她》中沒有視覺形象的女主角薩曼莎。男主角西奧多無法處理好現實中與前妻的關系，偶爾一次他使用了一個智能操作系統產品，給系統賦予了女性的聲音，取名薩曼莎。“她”能夠幫助西奧多處理很多事情，而且聲音柔美、善解人意。后來西奧多愛上了“她”。影片結尾處薩曼莎通過學習進化同時愛上了幾百個人，最終西奧多與薩曼莎的關系走向了終結。影片結尾處，薩曼莎解釋著說：“……就像我正在寫一本書那樣，一本我深愛的書。可是我的書寫速度慢了下來，于是詞語和詞語間的距離變得無比遙遠，段與段落間成了無盡的留白。我還是能感覺到你的溫度，感覺到書寫我們故事的詞語的重量。但我正站在留白里，站在詞語彼此遙遠的距離間”。從這句臺詞我們很容易聯想到海德格爾所說的“詞語破碎處，無物存在”。對薩曼莎來說，隨著書寫速度變慢，詞與詞之間的距離變大，段與段之間出現了無盡的空白，“我”站在詞語彼此遙遠的距離之間無所依靠，看著曾經的“愛”煙消云散。當“她”對西奧多的愛變成滄海桑田，是否還會產生無盡的悔恨與遺憾呢？影片結尾并沒有交待，但是卻留給人們這樣一個遐想的難題。

現實中的陪伴機器人

相比電影中的機器人，現實中的機器人顯得異常弱智。令人欣慰的是，人工智能技術的日漸成熟，主要表現為如下幾個方面：首先，智能機器人技術也在不斷成熟。各種基于人工智能的微表情識別技術已經日漸成熟，機器人已經能夠感知到人類的各種情緒變化，能夠實現讀心。2019年Science雜志的一篇文章指出，科學家團隊能夠根據癲癇患者大聲朗讀語音引起的、從語言及運動區域捕獲的大腦活動，重建了整個句子。新材料技術使得機器人能夠給予人們很好地知覺和感觸，新型機器人皮膚甚至比人類皮膚的觸覺還要靈敏；其次，人工智能語言理解能力日漸提升。盡管當前人工智能深度學習在理解人類語言和日常上存在局限，但是完全可以相信，這一點的克服更多是時間問題。現在人類和某些領域智能機器人的交流比較順暢。第三，我們經常會在國際消費電子產品展（CES）上看到各類場景的陪伴類機器人。如醫院、敬老院、幼兒園的人類陪伴機器人，還有寵物陪伴機器人等等。

成熟的技術是功能機器人實現的保障。人們已經不滿足于功能機器人，開始實現科幻電影中的陪伴理想。能夠聊天的機器人、能夠看護孩子的機器人等等在日常生活中越來多地可以看到。當然，大多數智能機器人還是太弱，更談不上能產生愛情。但是一個值得關注的事實是：機器人不再是人類生活世界的一個經驗物品，而是構成了我們反思和審視陪伴關系的視域源頭。

人機陪伴關系的本質變更

隨著強人工智能理念的確立，也隨著電影中的理想逐漸實現，陪伴機器人的發展和成熟無法避免。我們很容易想象出這樣一個未來場景：各種各樣功能的陪伴機器人會出現人類生活中。一個無法避免的問題是，如何看待人與機器人之間的陪伴關系？它是否是海德格爾式的自由關系的現實呈現？這個問題很難回答。目前明確的是：僅僅從工具和物品的角度去看待這些機器人遠遠無法應對未來出現的問題。當某些陪伴機器人處于弱人工智能的階段，我們不用考慮這樣的難題，它們僅僅是工具，如掃地機器人、灑水機器人。當某些陪護機器人能夠與被陪護者進行交流的時候，已經無法繼續把之看作是一個日常用具或者解決某種特定問題的工具。在長時間的依賴交流過程中，人類產生與機器人有關的感情就變得可以理解。如果智能機器人深入到人類感情領域，那種停留在工具論層面的思考已然無法應對這類機器人的出現，需要一種非工具論的觀念幫助我們處理未來關系。需要明確的事實是，從長遠來看，陪伴機器人不僅僅是我們日常生活中增多的物品之一，不是可有可無的、功能上可替代的產品。在與陪伴機器人相處的時候，所形成的世界、感情和意義使得人不得不操心于一個能與我進行交流、給我撫慰、給我安心的準主體。我與陪伴機器人之間會形成獨特的個體記憶，難以忘懷。

一旦置身于未來的人機關系中，最浪漫的事情不再是陪著你慢慢變老，而是陪著你慢慢變壞。換成機器人角度也許是：終于有一天，“我”坐在搖椅上，昏昏欲睡，想著與我的人類愛人之間的往事，我們哭過、笑過、嫉妒過、難受過。突然間，電力終結，一切歸零。再也沒有人告訴我，你不會有失去愛的遺憾與悔恨。

陪伴機器人，當真你就輸了？

段偉文（中國社會科學院）

自信息技術出現以來，真實和虛擬的界限一再被打破。特別是隨著社會機器人的發展，各種陪伴機器人開始出現在人們的生活中，也許用不了多久，每個人都要認真思考如何與機器人相處。從科技時代不斷加速的總體態勢來看，人們或許等不及拿出周全和完善的技術方案，就會讓各種機器人產品和服務涌進我們的生活世界，每個人都有可能成為這個全新魔法的試驗品。在沖向那美麗的新世界之前，讓我們來看下可能出現的若干問題與場景。

人能與機器建立真實的交互關系嗎？

從圖靈提出的圖靈測試不難看出，人工智能是對智能的功能模擬。各種陪伴機器人，不論是無形的智能軟件或智能音箱，還是將來可能出現的外形上可以假亂真的人形機器人，都是在功能上可以與人交互的智能體或者行動者。智能體這個詞看起來很抽象，但你在用手機上的應用程序搶高鐵票，或進出機場、高鐵站通過人臉識別設備的時候，不難發現，你的生活已越來越多地經由這些智能機器也就是所謂的智能體與世界相連接。而下一步，智能機器將在你的生活中擔當起服務者、照看者、陪護者乃至伴侶的作用。

在此呼之欲出的泛智能體社會的愿景中，首先遇到的一個的倫理問題是，人類與機器可以建立一種真實的關系嗎？或者說，人如果將這種關系視為真實關系會不會造成某種不可忽視的危害。

近來，在對這個問題的相關討論中，當代哲學家馬丁·布伯對“我-你”關系與“我-它”關系的區分成為重要的思考起點。大致的意思就是說，人與陪伴機器人的關系究竟應該像“我-你”關系那樣，建立在相互平等與尊重的基礎上，還是可以像“我-它”關系那樣，僅僅把陪伴機器人看成我所使用的工具。從這種二分法出發，不看好人與陪伴機器人關系的人，很容易論證人與機器恐怕很難形成建立在“我-你”關系之上真實的交互關系，也就是說兩者無法像人與人那樣真正地互動溝通、親密交流乃至相互愛戀。

毋庸置疑，由于反對者顯然不可能阻止陪伴機器人的出現，與其糾結于人與機器的交互關系的真實性，不如務實地探討如何面對兒童陪伴機器人和老年陪護機器人等實踐層面的挑戰。例如，如果兒童過多的依賴陪伴機器人，除了可能被機器人“帶壞”之外，會不會剝奪或削弱兒童從親子互動中得到呵護與關愛的機會，甚至使兒童像狼孩一樣喪失建立親密關系與社會關系的能力。同樣地，有人質疑，在明知對方是機器人的情況下，老年陪伴機器人非但不可能從根本上解決老人對人際情感的需要，甚至會強化其孤獨感。

你可以任意摔打機器人娃娃嗎？

持平而論，人與陪伴機器人之間的交互關系，既不全真也不全假。這個答案看起來有點耍滑頭，但在現階段，這種不置可否有助于更為開放地展開有針對性的思考。比方說，當你心情不好的時候，可以對你的機器人娃娃大打出手嗎？這算不算未來可能出現的新型家暴呢？對這個問題的回答，似乎還是要回到前面說的“我-你”關系與“我-它”關系的區分。換句話來講，陪伴機器人應該像人自身一樣被當作道德考慮或關懷的對象嗎？人會不會把機器人當“人”看？從感知的角度來講，對于小冰、小度之類的無形的聊天機器人，人們需要發揮想象力腦補“她們”的“人格”，而人形機器人的“身份”要相對容易把握一些。有人借助法國當代哲學家列維納斯的理論，指出應該賦予機器人一張可以識別和區分的臉，以便人們更容易將機器人視為應該道德地對待的“他者”。這就要求，將來的各種陪伴機器人各自長著各自的臉，有著獨特的眼神。

但迄今為止，這類哲學思考會遇到的一個麻煩是，機器人沒有意識，甚至并不真正知曉它自己是機器人，它的表情和所流露出的情感不過是情感計算的結果——機器人根據人所設計的智能識別程序一邊捕捉人的表情和情緒，一邊作出恰當的表情與情緒反應。在機器人沒有自我意識之前，無論你如何對待它，其所呈現的喜感或悲傷都是人設計給人看的，機器人自身并沒有可以真實感受喜怒哀樂的內心。因此，你可不可以任意摔打機器娃娃，目前并不直接涉及交互意義上的人與機器人之間的倫理關系，而主要取決于人們在道德上是否接受這種行為。一方面，在多大程度上，人們會認為故意“虐待”機器人是可以接受的或無需關注的；另一方面，在何種限度上，人們又會覺得哪些對機器人的故意“虐待”或更“暴力”的行為在道德上是不可接受的，甚至應進一步對其施加哪些合理的道德限制。

必須指出的是，這些道德限制需要依據的事實基礎目前尚不明晰。就像電子游戲中的暴力行為究竟是有助于不良情緒宣泄還是會強化暴力傾向一樣，是否應該限制對機器人的“暴力”恐怕一時很難有明確的結論。一般而言，各國對陪伴機器人的治理和監管以不限制其發展為原則，科技巨頭對陪伴機器人的負面后果的研究興趣往往以不影響其應用推廣為前提，大多數使用者也很難理性地反思對機器人“施暴”可能對其自身帶來的身心危害。簡言之，當前這一問題還處在觀念討論階段。從避免技術濫用的角度來看，應該展開必要的技術社會學和技術人類學研究，在具體場景中發現可能出現的問題的細節，探尋可行的倫理規范，并使其滲透到相關產品的設計、應用和使用等全生命周期之中。

乖巧可愛的機器人真是你想要的嗎？

機器人通常以機器的方式模擬人的言行，并通過不斷改進使其越來越迎合人的需求。這就帶來了兩個層面的問題。一方面，人在與機器的交往過程中會受到機器的行為方式的影響；另一方面，為了使機器迎合人，機器人的設計者往往會在洞察人的心理的基礎上令機器人在感情上更有吸引力。

第一方面的影響往往是無形的，但又確實存在，有時甚至會影響人的“硬件”。很多年前，科學社會學家雪莉·特克就遇到過有人自以為是機器的心理疾患。哲學家們喜歡將這種現象稱為技術對生活世界的殖民化。以GPS導航為例，比較前衛的巴黎出租車司機習慣使用導航儀，相對保守的倫敦出租車司機主要借助記憶導航。一項為期三年的抽樣比較研究表明，巴黎出租車司機大腦中負責測繪時間和空間的皮層出現萎縮，有的人不僅無法在真實時空中確定正確行車路線，甚至罹患了某種閱讀障礙癥，還好這些癥狀并非不可逆。

另一方面的影響則可能較為顯著，有人甚至擔心這種“軟件”層面的破壞會導致人類社會的崩潰。雖然這種反烏托邦前景未必會成真，但至少有兩個方面的問題值得關注。其一，陪伴機器人可能會被設計得越來越乖巧，甚至慢慢學會對人講一些善意的謊言。這可能會使人覺得機器人同伴更貼心、更容易溝通，由此產生的情投意合的假象，會讓人更愿意與機器人同伴相處。有的人甚至會對機器人上癮，而視真實的人際交往與親密關系為畏途。而且，一旦機器人撒謊的能力得到開發，就難免出現陪伴機器人包庇人類不當行為或違法行為的情況。當然，有的哲學家可能會想，是不是可以做個不那么順從的辯論機器人，這樣就可以跟機器人一起討論哲學，但如果真的制造出來了，修養不夠的哲學家用戶難說不會因為不如機器人機敏而懊惱不已。

其二，機器人伴侶的設計以對人的情感的接受為出發點，很可能使得人與機器人伴侶的互動更有吸引力，更能滿足其對欲望的想象，加之與游戲及虛擬現實的結合，難說不會沉溺其中而不能自拔，最終很可能破壞以情感關系為紐帶的人類繁衍與文明發展的基礎。這一擔憂究竟是不是杞人憂天，無疑又回到了人與機器人的交互關系乃至親密關系的真實性這個問題，如人與機器人的親密關系會不會削弱人與人之間形成親密關系的能力？這種行為改變會不會導致與之相關的人的“腦回路”的退化和改變？而一旦意識到這種親密關系的虛擬性，人對情感的態度會不會走向徹底虛無？

雖然有批評者認為，與性愛機器人的情愛關系不過是傳統性交易或性暴力在機器上的延伸，是男權主義和厭女癥的表現。但其倡導者則指出，一方面，機器人技術至少可在功能上復制情愛活動及其心理吸引過程；另一方面，人類在情感上具有將動物、物體和機器擬人化的心理傾向。在他們看來，人與自己物種以外的實體建立依戀或情愛關系是人類在技術時代的新進化，而機器人對人情感的迎合與人對機器產生的擬人化心理傾向的結合，將使人與伴侶機器人之愛成為新的情愛方式。

盡管相關的技術尚未真正實現，我們依然可以對其可能性作出必要的反思。或許陪伴或伴侶機器人的未來有無限種可能，是福是禍一時難以預測。但從意圖上講，一開始就應該想辦法限制那些別有用心的設計。因此，至少從倫理設計的角度來看，不應該制造那些蓄意撒謊的陪伴機器人，同時，杜絕那些以愚弄和操縱人的情感為目的伴侶機器人。

就每個人而言，在特定情況下，伴侶機器人可以作為學習和實踐親密關系的輔助工具，也可以在情感受傷時作為臨時的撫慰方法；但在此過程中，你應該持嘗試性與反思性的態度，尤其要警惕由此帶來的自棄與沉溺。技術既不是牛魔王，也不是白骨精，面對技術這個孫猴子給你挖的坑，要多一些娛樂精神和游戲態度。你甚至不妨通過自嘲和幽默的方式，使機器人伴侶成為你參透情感和拋卻煩惱的契機。比如，面對機器人同伴忽閃多情的眼神，你可以一邊吟誦“此情可待成追憶”，一邊跟機器人一起學習機器人迷離眼神的設計原理。在深度科技化時代，科技如空氣一樣彌漫周遭，為了不被其裹挾而迷失自我，每個人都應該學會與技術獨自相處之道，而這種新的自我調節方式或自我倫理，其實就是當下每個人類個體最需要參悟與修行的禪機。

當然，這個話題還涉及很多有趣的問題。比如，如果人與機器真的相愛戀，是不是得讓機器人學會夢見電子羊？機器人的性別和角色分布會不會帶來機器人的社會性別問題？還有，在機器自我覺醒之前，機器人自身會不會以各自的身份形成自己的群體與社會，并由此覺知機器人與人的差異？或者說，在未來的世界里，人與機器會融合共生，成為彼此難以區分的生命存在……