AI“複活”生意經調查:“複活”逝世明星引流,收徒賣課變現

新京報貝殼財經 2024-04-04 12:11:30

閑魚上,AI“複活”的一些産品和報價。圖/網絡截圖

“要做的話提前做,清明節忙不過來。”

近日,一位活躍在閑魚平台上的AI(人工智能)“複活”商家向新京報貝殼財經記者透露。

AI“複活”灰色産業已經起步,多位被AI“複活”的明星親屬紛紛發聲表示受到情感傷害,技術“潘多拉魔盒”已能窺見其中一角。與此同時,包小柏鑽研AI技術“複活”女兒,湯曉鷗教授再次“現身”商湯科技年會,這些場景也點燃了人們利用AI“複活”親人的技術希望。

“任何一種技術,特別是人工智能,我們必須假設它可能不被善意使用、出現失控的情況。”國內某家領先人工智能團隊高管告訴新京報貝殼財經記者。從現有技術條件和法律環境來看,數字生命走向現實還有很長的路。

記者體驗

電商平台AI“複活”存隱私暴露風險

隨著AI的持續發展,通過一張照片或一段視頻就能讓照片原主人“開口講話”的技術已經出現並逐漸普及,這讓一些人思念家人的情感得以找到宣泄的渠道,隨著清明節臨近,“數字永生”産品升溫。

3月28日,在AI“複活”領域創業的張澤偉透露,近20天的訂單數量是之前的兩倍,目前也在對接醫院、殡葬和養老等行業,“這些行業的客戶有一定需求”。

貝殼財經記者以AI“複活”爲關鍵詞在閑魚、淘寶平台進行搜索,發現市面上出現不少提供AI“複活”的商家。

記者以買家身份咨詢數位商家後發現,商家們主要提供三類産品,並且按時長進行梯度收費。

第一類是沒有聲音,只有嘴巴、眼睛等局部部位“動起來”的動態圖片,價格在10元-50元不等,持續時間在5秒-13秒之間;第二類是上述動態圖片搭配AI合成聲音的産品,價格從幾十元到幾百元的都有,持續時間大多在1分鍾以內;第三類是在動態圖片基礎上,用AI克隆親人聲音的産品,價格百元起步,時間也大多在1分鍾之內。

根據商品頁面說明及商家普遍說法,這三類産品只需要用戶提供一張五官全面、清晰的正臉照片即可。

淘寶商家提供的AI複活産品梯度收費價目表。

還有商家表示能夠提供具有交互功能的産品,售價1999元。該商家稱,此類産品通過手機應用實現交互,賬號僅限一人使用,制作周期需要一周左右,“快的話可能3天到5天”。

值得注意的是,這些商家的客戶隱私保護意識參差不齊。

當記者以買家身份詢問是否能夠提供産品示例時,這些商家大多向記者發送了自己的客單,有的商家甚至向記者提供文案參考時暴露了客單中的真實名字。在記者咨詢的商家中,只有一家表示頁面展示視頻是自家老人,並以“涉及隱私”的理由回絕了記者提供其他案例的要求。

在記者與商家溝通過程中,商家並未主動就素材和生成內容使用範圍與記者進行約定,商品頁面也無明顯相關說明,其中一家店鋪在商品頁面做了免責聲明。在記者提及對數據濫用擔憂時,一些商家才以口頭形式向記者保證不會泄露隱私。

對此,北京大成律師事務所肖飒律師團隊骨幹律師袁承鵬建議,購買此類服務的消費者要充分知悉AI“複活”服務的性質、可能風險,以及服務提供者的資質信息等,同時也要關注自己提供的隱私信息是否得到妥善處理。

“確定交易可信後,也要盡可能留存證據,以便在發生爭議時維護自己的權益。”中國信通院政策與經濟研究所高級工程師、人工智能産業發展聯盟政策法規工作組秘書長程瑩補充道。

AI“複活”變形

已不局限于逝者的親屬,逝世明星“複活”成引流工具

爲了賺錢,商家們已將AI“複活”的業務範圍擴展到了逝者的親屬之外,自诩“AI複活師”的小剛(化名)就是其中之一。

小剛告訴貝殼財經記者,有人在他這做“明星祝福視頻”,不過,在他發出的案例中,有不少是已逝世明星,包括李玟、姚貝娜等。而當記者表示自己要“複活”某一明星時,對方並沒有任何核實,立刻接受了要求,表示“照片或視頻發來”。

根據小剛發給記者的AI複活“價目表”,只提供一張照片,讓照片動起來的,只需要9.9元,照片加聲音是29.9元,照片加自定義聲音則是49.9元。而使用視頻素材制作更加精良AI複活視頻的,則要598元。

貝殼財經記者發現,發布“複活”明星的視頻成爲吸引流量的一種方式。3月15日,小剛的一則使用AI“複活”科比說話的視頻在B站獲得了14.9萬的播放量,後續他又陸續“複活”了黃家駒、張國榮、吳孟達、鄧麗君。

在B站,一則“AI複活coco李玟”的視頻獲得了12萬次播放和845個評論,評論區內“授權了嗎?”“等著收律師函吧”被頂到了前列。

3月28日,已故知名歌手李玟的母親委托廣東夢海律師事務所就部分網絡用戶制作、傳播“AI複活李玟”相關短視頻事宜,公開發布了一則律師聲明稱:嚴正警告涉嫌侵權責任人7日內下架、刪除含有上述侵權內容的相關圖片、視頻及文章,立即停止實施相應侵權行爲。

4月1日,新京報貝殼財經記者再次搜索上述李玟相關視頻發現,作者已經將其下架。

北京市中聞律師事務所合夥人趙虎在接受新京報貝殼財經記者采訪時表示,AI“複活”涉及多方面的法律問題,比較核心的是肖像權和涉及聲音的權益,“要‘複活’他人,就要使用他人的面貌,從而侵犯了他人的肖像權。但肖像權人去世後,肖像利益由他的親人、家屬享有,所以應該經過家屬的同意,沒有經過家屬同意就是一種侵權行爲。如果加上配音的話,就侵犯了其有關聲音的權益,與肖像權同理,這在《民法典》中有明確規定。

對于在未經逝者家屬授權的前提下,在網絡平台出于漲粉目的發布“複活”逝者視頻的行爲,趙虎認爲這屬于侵權行爲,如果逝者的親人認爲侵權並主張權益,視頻發布者就要承擔侵權責任,包括停止侵權(刪除視頻)、賠禮道歉、賠償損失。

“AI技術還可能引發額外的問題,比如使用AI模仿明星發表本不屬于其言論造謠,這就會擴展到名譽權的問題,還有可能構成違法犯罪。我認爲AI複活技術在使用時應該遵守法律規定,不能侵犯他人合法權益,更不能拿來違法犯罪,否則就要承擔相應的法律責任。”趙虎說。

程瑩表示,AI“複活”還受到相關行政法律法規的調整,企業未盡信息內容安全義務的,將被追究行政責任。

生意擴容

招代理、收徒、賣課

通過各種方式的引流,“AI複活師”小剛的業務多到“忙不過來”。

“今日接單,接不過來,急需收徒!”“有客戶的照片五官看不清晰,我花了做5單的時間去調試,因爲我和您一樣,希望最大限度幫助您圓夢。”小剛的朋友圈裏,經常能看到這樣的感慨。

商家AI“複活”生意擴容,包括招代理、收徒等。

“代理199元,半價拿貨;收徒399元,教授所有AI‘複活’、視頻剪輯以及短視頻運營,並且派單給你。技術指導是大廠的程序員和聲音工程師。”他表示。

除了親自帶徒弟,“AI複活師”也制作了教學視頻在網絡上發行。記者在閑魚和淘寶平台上發現不少AI“複活”視頻制作教學課程。在課程“講師”口中,AI“複活”視頻成了一門可以利用信息差和情緒營銷手段促成的生意。

AI“複活”教程實際操作演示。圖/AI“複活”教程視頻截圖

記者分別以3.99元、4.68元和9.9元在兩個平台向不同商家購買了三份教程,都收到了名稱相同的課程文件夾。記者分別查閱三份文件後發現,它們內容基本一致,都包含相同的教學視頻、對標自媒體賬號、對標AI“複活”短視頻、工具網址等。

在教學過程中,“講師”以“數字包容”(包小柏女兒)視頻效果爲例,聲稱要做出這類“AI畫面強”“自然的”視頻。但在操作演示時只使用一些人工智能生成或深度學習的開源網站、國內短視頻剪輯軟件作爲制作工具,最終通過一張照片呈現出簡單的動態圖片搭配AI配音的視聽效果。

“同行基本定價199元一個視頻,一個視頻時長在3分鍾以內,3分鍾199元,你一天接5單,一天接近1000塊”。

記者觀看課程內容時注意到,第一節課上,“講師”在介紹項目時多次強調“需求量大”,表示“現在競爭不那麽激烈,沒那麽多人會制作這類視頻”,還提到“這類視頻漲粉比較快”“目標人群消費能力強”。

“接商單、收徒,粉絲量達到一定程度還可以賣號。”她在課程中總結了上述變現方法,還從賬號名稱、頭像、簡介、更新頻率、經營粉絲群等方面傳授包裝平台賬號和獲取流量的經驗,實際上都是常見的情緒營銷和引流“套路”。

記者發現,實際上,AI“複活”只是此前不少“讓中國明星說英語”視頻的翻版,不少人生成視頻背後使用的工具是提供AI換聲服務的外國公司HeyGen。該公司自2023年 9 月7日上線視頻翻譯功能後,在國外社交平台上迅速走紅,其靠免費試用攬客,排隊人數衆多,想要跳過排隊或者享受更多的服務則需要充值。

實際上,不少進行AI“複活”生意的人在早期正是通過HeyGen來招攬顧客,只不過隨著相關技術的普及,越來越多國內公司也擁有了類似的技術,AI“複活”生意人找到了更便宜的接口,AI“複活”的價格也越來越低。

AI“複活”技術不是障礙 法律程序才是

AI“複活”市場熱度升溫之際,不同技術團隊也做出不同的選擇。

“國內面臨老齡化趨勢,年輕人工作繁忙,在物質條件基本滿足的條件下,人越來越趨近追求精神和情感層面的滿足,技術能夠解決這樣的需求”。去年3、4月開始涉足AI“複活”業務的張澤偉對貝殼財經表示,他的團隊目前已經完成了1000張左右的訂單。

3月28日,他透露,近20天的訂單數量是之前的兩倍,目前也在對接醫院、殡葬和養老等行業,“這些行業的客戶有一定需求”。

有的團隊認爲,技術擁有方在這一市場需求面前也得考慮其是否值得商業化。

國內某家領先人工智能團隊高管周天成(化名)表示,複生去世親人的商業價值並沒有那麽大,更多在于提供撫慰個人情感的作用。而“一旦把它納入商業化考量,團隊可能就會每年設定一個關于複生去世親人業務的收入預期,在營銷的時候可能就會壓貨,跟用戶強調‘還剩最後6單’,出現兜售焦慮的問題。”

他認爲把它作爲叠代技術的訓練機會是一種較爲合適的做法,AI“複活”親人是一個難度高、落地容忍度低的項目,“我們能夠在這樣的環節裏獲得所謂‘還原人的標准’到底是什麽”。

“我們早就可以實現AI‘複活’了,而且效果肯定比市面上其他家要好。”某國內頭部大模型公司的數字人銷售人員告訴貝殼財經記者,“技術上只要對方提供逝者生前視頻,我們就可以制作AI數字人,其效果和AI複活無異,但出于謹慎考慮我們一直沒有開展這項業務。”

該名銷售人員對記者表示,按照常規真人數字人的業務辦理流程,AI可以通過學習對方提供的真人視頻生成數字人,讓數字人說話的實現方式是找到類似其本人的唇形,再將唇形替換上去,“幾乎可以做到以假亂真”,但進行該業務的前提是要本人簽字,“對于AI複活,技術不是障礙,法律程序才是。”

曾完成AI“複活”包容(包小柏女兒)的小冰團隊表示,其相關複生技術研究迄今已有7年,2021年,其相關專利獲得批准。

事實上,在小冰團隊內部,該項技術研究也有三項倫理原則,包括:當本人在世時,AI複生項目應當僅由本人自由意志決定,而非任何其他相關第三方;本人不在世的,應當沿襲法律所判定的繼承人順序。具體實施中,應遵循訓練數據最小化原則,避免數據濫用;在上述前提下所産生的小冰AI複生克隆人,應接受全社會監督,以確保不被濫用。

在周天成看來,目前AI“複活”親人已經出現了技術濫用。他多次向貝殼財經記者描述這樣一種可能的場景。一位父親用AI克隆了自己的聲音給孩子念繪本故事,有一天這個聲音可能會對孩子說:明天爸爸沒有辦法去接你,幼兒園門口有一輛白色面包車,放學後你就跟著這輛車走。“這個孩子可能就信了。”

“這些濫用往往來自市場上的劣幣”。周天成說。而放任劣幣發展,“最終可能導致好貓壞貓一塊被打死,整個社會都不再相信人工智能,你做的這件事情(人工智能行業)也就不複存在。”

對此,受訪者大都認爲,法律法規對行業發展來說很重要。“若盲目爲了擴大規模、意圖非法牟利,AI‘複活’産業斷然不能長久。”袁承鵬說。

程瑩建議AI“複活”服務提供者定期做好風險評估、倫理審查、使用者賬戶處置等工作,監管部門做好監測預警、合規指導等監管工作。

在照顧到用戶利用新技術緬懷親人訴求的同時,她還建議私法層面能夠有效保護死者人格利益和近親屬權利,避免新技術應用違反公序良俗、沖擊倫理秩序,確保技術向善。

新京報貝殼財經記者 韋英姿 羅亦丹

編輯 嶽彩周

校對 薛京甯

0 阅读:271