长兴郴障科技有限公司

澎湃Logo
下载客户端

登录

  • 160
  • +1

你追的大明星,可能是假滴

关注
2024-05-14 14:06
湖南
来源:澎湃新聞·澎湃號·湃客
字号

活躍在巴黎時尚秀場上的明星居然也開始帶貨了……

楊冪、劉亦菲竟然賣起了減肥茶……

媒體報道,3月末日晚上9點,點進電商直播間,“楊冪”和“劉亦菲”竟然賣起了減肥茶,不久后“迪麗熱巴”也加入到直播帶貨中。

在短短4個小時的時間里,依靠著“明星同款”“頂流力薦”的標簽,直播間內的商品銷量已達上千件。

消費者在直播間里看得一頭霧水,但卻因“眼見為實”屢屢瘋狂下單,被騙了還渾然不知。

但只要直播時間一長,仔細觀察就不難發現,該直播間內的“女明星”如果動作稍大,就會暴露“面具”之下的本來樣貌,或者出現“面具”出畫的現象。

很顯然,這是AI換臉出來的“假人”。

事實上,活躍在直播短視頻上的許多“歪果仁”,也可能是“假人”。

來自瑞典的網紅拉納布萊克利的臉,也被移花接木到了中國人臉上。

在視頻里,“她”大談中國人的勤勞善良,并且嫁給中國老公,余生在中國定居。

中國新聞網則報道稱,不久前,烏克蘭網紅Olga Loiek發視頻控訴她的面孔被非法盜用,例如在國內社交平臺上活躍的卡塔琳娜。

在社交平臺上,卡塔琳娜是一位在中國生活了5年的俄羅斯女孩,今年1月開始發布視頻,多數附帶著商品鏈接。

她擁有超過10萬粉絲,看起來只是眾多帶貨網紅中的一個。

但如果留意就會發現,和她“共用一張臉”的賬號有許多,有的叫娜塔莎,有的又叫琳娜、波娃.....

AI換臉,也開始變成了一個產業,除了“假人”直播,還有培訓教程。

有從業者打出“包教包會”的旗號當起了職業培訓師。

“培訓費用”從29.9元到上萬元,涵蓋工具、承諾包教包會,消費者繳費后才知道所謂的包教包會,是“只售出無售后”。

從“AI換臉”到“Sora”,當消費者們還沉浸在科技對世界的重塑力上時,有這樣一些商家早已經構建起了一條低成本牟暴利的灰色產業鏈。

此外,此前AI復活親人異變到復活明星,引發巨大社會爭議,也讓這一問題被大眾所關注。

AI“假人”現象集中爆發,到底是怎么回事?

其中存在的隱患問題?

對此,中國新聞網記者邵萌和書樂進行了一番交流,本猴以為:

技術無罪,但運用者動了歪腦筋。

目前的數字人技術,確實可以提供高度神似真人形象的虛擬復制,但本質上也僅僅只是形象和語音語氣上的復刻。

AI“假人”作為一個新的細分產業,有其存在的合理性,例如AI復活親人。

但無論是復活親人還是明星,又或者克隆健在之人,都有一個大前提,即如果是復活親人,必須直系親屬確有需求,并主動要求。

而復活明星或克隆活人,則要取得相關版權方、當事人的許可。

以后隨著大模型的成熟,確實可以給逝者,包括我們自己定制一個高仿的虛擬數字人。

同時,這一領域,如果只是看定制生意,市場規模不會大。

但如果延伸來看,在取得相應授權之后,來打造一個數字永生的IP,這可能帶來各種可能。

如真人底色的虛擬歌手演唱新的歌曲、參與商演、代言或影視劇中,類似于現有的數字虛擬人如初音未來、洛天依那樣,則可以形成巨大的商業價值,這樣的方式,才是科技向善。

目前而言,此類AI“假人”生意有極大的隱患。

主要是內容生產方往往缺乏對需求方的資格審核,而讓所謂數字人定制可能完全沒有授權而侵權。

甚至可能導致“作品”被濫用,例如類似充氣娃娃式的虛擬形象、電信詐騙,以及用AI生產真人形象進行各種違法行為等。

不過,目前來說,AI數字人的技術門檻還是比較高,當下流入市場的技術其實是AI換臉和變音,即真人表演、換臉造假。

此外,AI“假人”的識別難度不是太大,如面臨可能的詐騙風險時,要求對方按下鼻子,能很快洞察。

    本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。

    +1
    0
    收藏
    我要举报
    评论(160)
    发表
    热评论
    五天处罚太轻了。
    2022-06-24 ∙ 山东
    回复
    举报
      偷拍牟利,还是自嗨!要不要送精神病医院检查检查
      2022-06-20 ∙ 未知
      1
      回复
      举报
        都是人才呀
        2022-06-20 ∙ 上海
        1
        回复
        举报
          这男的是地大的吗?地大不出来回应一下?@中国地质大学
          2022-06-20 ∙ 未知
          回复
          举报
            已经被开除了
            2022-06-20 ∙ 浙江
            回复
            举报
              5天。[开学季]出来又是一个好大儿呢!!就应该严惩。酒驾关3个月到半年,这个也可以
              2022-06-20 ∙ 湖北
              1
              回复
              举报
                湖工大是开除
                2022-06-20 ∙ 未知
                回复
                举报
                  @中国地质大学
                  2022-06-20 ∙ 湖南
                  回复
                  举报
                    @玫香葡萄奇亚籽
                    2022-06-20 ∙ 四川
                    回复
                    举报
                      天呐中国地质大学
                      2022-06-20 ∙ 湖北
                      回复
                      举报
                        ,5日
                        2022-06-20 ∙ 海南
                        回复
                        举报
                          有什么意思哦
                          2022-06-20 ∙ 浙江
                          回复
                          举报
                            保研不?
                            2022-06-20 ∙ 广东
                            回复
                            举报
                              又是本科
                              2022-06-20 ∙ 北京
                              回复
                              举报
                                学校不处理么
                                2022-06-20 ∙ 未知
                                回复
                                举报
                                  留案底吗
                                  2022-06-20 ∙ 四川
                                  回复
                                  举报
                                    这还不判刑
                                    2022-06-20 ∙ 未知
                                    1
                                    回复
                                    举报
                                      还是行政拘留!
                                      2022-06-20 ∙ 黑龙江
                                      回复
                                      举报
                                        ?行拘就完了?甚至没有刑拘
                                        2022-06-20 ∙ 广东
                                        1
                                        回复
                                        举报
                                          犯罪成本不是低,是等同于没有
                                          2022-06-20 ∙ 安徽
                                          1
                                          回复
                                          举报
                                            新评论
                                            五天处罚太轻了。
                                            2022-06-24 ∙ 山东
                                            回复
                                            举报
                                              偷拍牟利,还是自嗨!要不要送精神病医院检查检查
                                              2022-06-20 ∙ 未知
                                              1
                                              回复
                                              举报
                                                都是人才呀
                                                2022-06-20 ∙ 上海
                                                1
                                                回复
                                                举报
                                                  这男的是地大的吗?地大不出来回应一下?@中国地质大学
                                                  2022-06-20 ∙ 未知
                                                  回复
                                                  举报
                                                    已经被开除了
                                                    2022-06-20 ∙ 浙江
                                                    回复
                                                    举报
                                                      5天。[开学季]出来又是一个好大儿呢!!就应该严惩。酒驾关3个月到半年,这个也可以
                                                      2022-06-20 ∙ 湖北
                                                      1
                                                      回复
                                                      举报
                                                        湖工大是开除
                                                        2022-06-20 ∙ 未知
                                                        回复
                                                        举报
                                                          @中国地质大学
                                                          2022-06-20 ∙ 湖南
                                                          回复
                                                          举报
                                                            @玫香葡萄奇亚籽
                                                            2022-06-20 ∙ 四川
                                                            回复
                                                            举报
                                                              天呐中国地质大学
                                                              2022-06-20 ∙ 湖北
                                                              回复
                                                              举报
                                                                ,5日
                                                                2022-06-20 ∙ 海南
                                                                回复
                                                                举报
                                                                  有什么意思哦
                                                                  2022-06-20 ∙ 浙江
                                                                  回复
                                                                  举报
                                                                    保研不?
                                                                    2022-06-20 ∙ 广东
                                                                    回复
                                                                    举报
                                                                      又是本科
                                                                      2022-06-20 ∙ 北京
                                                                      回复
                                                                      举报
                                                                        学校不处理么
                                                                        2022-06-20 ∙ 未知
                                                                        回复
                                                                        举报
                                                                          留案底吗
                                                                          2022-06-20 ∙ 四川
                                                                          回复
                                                                          举报
                                                                            这还不判刑
                                                                            2022-06-20 ∙ 未知
                                                                            1
                                                                            回复
                                                                            举报
                                                                              还是行政拘留!
                                                                              2022-06-20 ∙ 黑龙江
                                                                              回复
                                                                              举报
                                                                                ?行拘就完了?甚至没有刑拘
                                                                                2022-06-20 ∙ 广东
                                                                                1
                                                                                回复
                                                                                举报
                                                                                  犯罪成本不是低,是等同于没有
                                                                                  2022-06-20 ∙ 安徽
                                                                                  1
                                                                                  回复
                                                                                  举报
                                                                                    加载中
                                                                                            查看更多

                                                                                            扫码下载澎湃新闻客户端

                                                                                            沪ICP备14003370号

                                                                                            沪公网安备31010602000299号

                                                                                            互联网新闻信息服务许可证:31120170006

                                                                                            增值电信业务经营许可证:沪B2-2017116

                                                                                            © 2014-2025 上海东方报业有限公司

                                                                                            反馈
                                                                                            博彩排名| 赌百家乐官网的方法| 国美百家乐官网的玩法技巧和规则 | 深水埗区| 破解百家乐官网打路单| 百家乐筹码方形筹码| 网上百家乐官网的赌博网站| 至尊百家乐娱乐场开户注册| 百家乐官网赢赌场百家乐官网| 百家乐扑克发牌器| 代理百家乐官网最多占成| 百家乐代理打| 圣安娜百家乐官网包杀合作| 一搏娱乐| 百家乐技巧-澳门百家乐官方网址| 清徐县| 百家乐高人玩法| 百家乐官网赢钱lv| 永利百家乐赌场娱乐网规则| 易博彩票网| 威尼斯人娱乐城真钱赌博| 网上百家乐官网乐代理| 百家乐官网看点打法| 安阳百家乐赌博| 网上百家乐官网是真是假天涯论坛| 百家乐官网最新套路| 贵族娱乐城| 百家乐套利| 风水24山那个排第一| 百家乐官网发牌的介绍| 明升| 百家乐官网怎么稳赚| 香港百家乐六合彩| 爱拼百家乐官网的玩法技巧和规则 | 全讯网高手论坛| 好运来百家乐现金网| 天博百家乐官网的玩法技巧和规则| 百家乐官网赌场现金网| 香港百家乐官网玩法| 百家乐官网筹码桌| 百家乐官网视频挖坑|