活躍在巴黎時尚秀場上的明星居然也開始帶貨了……

楊冪、劉亦菲竟然賣起了減肥茶……

媒體報道，3月末日晚上9點，點進電商直播間，“楊冪”和“劉亦菲”竟然賣起了減肥茶，不久後“迪麗熱巴”也加入到直播帶貨中。

在短短4個小時的時間裏，依靠著“明星同款”“頂流力薦”的標簽，直播間內的商品銷量已達上千件。

消費者在直播間裏看得一頭霧水，但卻因“眼見爲實”屢屢瘋狂下單，被騙了還渾然不知。

但只要直播時間一長，仔細觀察就不難發現，該直播間內的“女明星”如果動作稍大，就會暴露“面具”之下的本來樣貌，或者出現“面具”出畫的現象。

很顯然，這是AI換臉出來的“假人”。

事實上，活躍在直播短視頻上的許多“歪果仁”，也可能是“假人”。

來自瑞典的網紅拉納布萊克利的臉，也被移花接木到了中國人臉上。

在視頻裏，“她”大談中國人的勤勞善良，並且嫁給中國老公，余生在中國定居。

中國新聞網則報道稱，不久前，烏克蘭網紅Olga Loiek發視頻控訴她的面孔被非法盜用，例如在國內社交平台上活躍的卡塔琳娜。

在社交平台上，卡塔琳娜是一位在中國生活了5年的俄羅斯女孩，今年1月開始發布視頻，多數附帶著商品鏈接。

她擁有超過10萬粉絲，看起來只是衆多帶貨網紅中的一個。

但如果留意就會發現，和她“共用一張臉”的賬號有許多，有的叫娜塔莎，有的又叫琳娜、波娃.....

AI換臉，也開始變成了一個産業，除了“假人”直播，還有培訓教程。

有從業者打出“包教包會”的旗號當起了職業培訓師。

“培訓費用”從29.9元到上萬元，涵蓋工具、承諾包教包會，消費者繳費後才知道所謂的包教包會，是“只售出無售後”。

從“AI換臉”到“Sora”,當消費者們還沉浸在科技對世界的重塑力上時，有這樣一些商家早已經構建起了一條低成本牟暴利的灰色産業鏈。

此外，此前AI複活親人異變到複活明星，引發巨大社會爭議，也讓這一問題被大衆所關注。

AI“假人”現象集中爆發，到底是怎麽回事？

其中存在的隱患問題？

對此，中國新聞網記者邵萌和書樂進行了一番交流，本猴以爲：

技術無罪，但運用者動了歪腦筋。

目前的數字人技術，確實可以提供高度神似真人形象的虛擬複制，但本質上也僅僅只是形象和語音語氣上的複刻。

AI“假人”作爲一個新的細分産業，有其存在的合理性，例如AI複活親人。

但無論是複活親人還是明星，又或者克隆健在之人，都有一個大前提，即如果是複活親人，必須直系親屬確有需求，並主動要求。

而複活明星或克隆活人，則要取得相關版權方、當事人的許可。

以後隨著大模型的成熟，確實可以給逝者，包括我們自己定制一個高仿的虛擬數字人。

同時，這一領域，如果只是看定制生意，市場規模不會大。

但如果延伸來看，在取得相應授權之後，來打造一個數字永生的IP，這可能帶來各種可能。

如真人底色的虛擬歌手演唱新的歌曲、參與商演、代言或影視劇中，類似于現有的數字虛擬人如初音未來、洛天依那樣，則可以形成巨大的商業價值，這樣的方式，才是科技向善。

目前而言，此類AI“假人”生意有極大的隱患。

主要是內容生産方往往缺乏對需求方的資格審核，而讓所謂數字人定制可能完全沒有授權而侵權。

甚至可能導致“作品”被濫用，例如類似充氣娃娃式的虛擬形象、電信詐騙，以及用AI生産真人形象進行各種違法行爲等。

不過，目前來說，AI數字人的技術門檻還是比較高，當下流入市場的技術其實是AI換臉和變音，即真人表演、換臉造假。

此外，AI“假人”的識別難度不是太大，如面臨可能的詐騙風險時，要求對方按下鼻子，能很快洞察。

作者 張書樂，人民網、人民郵電報專欄作者，中經傳媒智庫專家，資深産業評論人