法律分析 | 直播虛擬人快速擴張,這些合規問題不能忽視

來源:“Internet Law Review”(ID:Internet-law-review),作者:黃斌

原標題:《直播虛擬人快速擴張,法律專家分析其中被忽視的合規問題》

【編者按】艾媒諮詢最新相關研究報告顯示,2021年中國的“虛擬人”帶動的產業市場規模和核心市場規模分別達到1074.9億元和62.2億元,預計2025年將達到6402.7億元和480.6億元,呈現強勁增長態勢。

與此同時,虛擬主播成為抖音等短視頻平台上的新興力量,表現出強烈的商業盈利需求。面對監管部門快速推進的高質量監管,直播虛擬人將面臨怎樣的運營、合規風險?《互聯網法律評論》特約專家黃斌律師就此展開前瞻分析。

持續近三年的新冠疫情讓人們開始習慣於長時間的“線上工作和學習”,同時推動虛擬人大規模集中出現,以滿足人們的“線上工作和娛樂”。

2021年6月26日B站成立12周年之際,董事長陳睿表示,過去一年共有32412名虛擬主播在B站開播。虛擬人是連接現實、開啟元宇宙的重要角色,並且成為元宇宙中一條重要的交互賽道。

與此同時,商家的虛擬人直播如雨後春筍般出現在各大平台,“虛擬人+故事場景”直播顛覆了傳統的真人直播模式,刷新了用戶對平台、品牌的認識,構建起一種全新的營銷生態。為實現可持續運營,平台和直播虛擬人商家有必要高度關注其中的運營、合規風險。

一 直播虛擬人發展概況

虛擬人起源於20世紀80年代,近年來隨着建模、AI、動捕、渲染技術的發展進入高速成長期。

2021年10月20日,廣電總局發布《廣播電視和網絡視聽“十四五”科技發展規劃》,在虛擬主播方面提出“探索短視頻主播、數字網紅、直播帶貨等虛擬形象在節目互動環節中的應用,增加個性化和趣味性”,首次明確地鼓勵和支持虛擬人的發展。

“現在進入了一個時間點,已經不太需要去教育客戶,同他說為什麼要給你推虛擬人,很多品牌直接問有哪些虛擬人可以和他們合作,目的性非常強,這也和市場成熟度有關,”動圖宇宙創始人丁焱表示1。

法律分析 | 直播虛擬人快速擴張,這些合規問題不能忽視

▲圖片來源:ANYCOLOR官網

2022年6月8日,Anycolor於東京證券交易所上市,這是全球首家以虛擬人為主營業務的上市企業,其旗下有彩虹社,也有直播事業部。

現在,出現了一些品牌虛擬人深度定製,以及提供虛擬人IP代運營服務的公司,平台、商家都開始定製品牌虛擬人,或者與提供虛擬人IP代運營服務的公司合作,試圖以虛擬人形象的IP價值輸出打開在Z時代中的影響力,拓展新消費人群。

二 運營風險:直播虛擬人同樣會“塌房”

正在快速突進的直播虛擬人會面臨哪些運營風險?

虛擬人產業鏈分為基礎層、平台層、應用層。

  • 基礎層包括建模軟件、渲染引擎、芯片、傳感器、光學器件、顯示設備等軟硬件,並且通過三維建模、數據預處理、渲染模型等操作為虛擬人的製作提供軟硬件基礎,製作靜態虛擬人。
  • 平台層包括AI能力平台、建模系統、動捕系統、渲染系統等,從基礎層獲取數據信息后,平台層通過軟件算法提供交互技術能力,可以為虛擬人賦予“生命”。
  • 應用層打造及運營虛擬人人設,塑造人格,為虛擬人注入“靈魂”,並應用於各式各樣的場景。

從驅動方式來看,直播虛擬人又可分為非交互型、真人驅動型和人工智能驅動型。

  • 非交互型是指按照預先設置的內容做出回應,與用戶的交互性極弱。
  • 真人驅動型又稱“套皮虛擬人”,是指基於真人的動作、表情等通過動捕設備驅動虛擬人。
  • 人工智能驅動型是指利用人工智能(AI)技術,通過多模態技術和深度學習模型的運算結果,實時或離線驅動虛擬人的語音表達、面部表情、具體動作。‍‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍

目前,應用於直播領域的主要是真人驅動型虛擬人和人工智能驅動型虛擬人,它們均可實現與用戶之間的強交互。

業界普遍認為,真人主播有人設崩塌的風險,而直播虛擬人不存在人設崩塌的風險。不過筆者以為,虛擬人人設同樣也會崩塌。

“一個好的虛擬人,最重要的是‘真實感’。不僅僅是‘柳夜熙’那樣的形象真實感,更多體現在人格真實感上。他/她能夠真實切入現實生活,用自己的人格和消費者對話,”人類快樂螺螄粉品牌策略部負責人Jojo說道。2

法律分析 | 直播虛擬人快速擴張,這些合規問題不能忽視

▲ 圖片來源:柳夜熙抖音官方賬號

人工智能虛擬人是通過大量的預設人格相關數據進行機器學習,然後通過算法進行自動化決策,並與用戶實現交互。人工智能虛擬人的人格塑造可能貫徹了平台、商家的商業目的,該商業目的可能因為一些歧視和偏見導致人設崩塌。算法設計者固有的偏見和歧視也有可能導致人設崩塌,例如,某品牌智能音箱在回復用戶心動周期的相關問題時建議用戶自殺,某人工智能軟件將黑人識別成靈長類動物等。

2022年2月,國家衛生健康委和國家中醫藥局聯合發布的《互聯網診療監管細則(試行)》的第二十一條強調,“嚴禁使用人工智能等自動生成處方,嚴禁以商業目的進行統方”,其原因就是使用人工智能自動生成處方很難不體現平台和商家的商業目的。

套皮虛擬人首先需要打造一個虛擬形象,俗稱為“皮套”;隨後套皮虛擬人的“靈魂”注入是通過給虛擬人提供聲音和動作的真人(俗稱“中之人”)實現,因為“中之人”不僅僅負責聲音演出,同時還要將自己的個人情感、喜好代入其中,肩負着賦予角色“靈魂”的重任3。

很多人以為,只要不像現實偶像一樣因為負面新聞“塌房”,虛擬偶像的生命周期就是無限的。實際上,一旦虛擬偶像換作“中之人”,原先與粉絲之間的情感聯繫就會戛然而止,這時角色的生命周期也就走到盡頭4。

法律分析 | 直播虛擬人快速擴張,這些合規問題不能忽視

▲圖片來源:AIChannel Bilibili官方賬號

世界第一虛擬主播“絆愛”(Kizuna AI)的幕後公司為了增強絆愛的競爭力,增加了三個“中之人”,結果引發粉絲的極度不滿和人氣下滑,並最終進入休眠狀態。絆愛用實際行動證明了虛擬偶像也會“塌房”的事實,也證明了綁定的“中之人”對於知名VTuber而言,就是不可替代。5

但無論是 AI 直播,還是完全按照劇本設計的人設,都不是粉絲真正想要的。資本或許認為粉絲愛的是皮套,但是對很多粉絲來說,虛擬偶像提供的情緒價值比冰冷的皮套更重要。皮套和靈魂是相輔相成的,粉絲第一眼肯定是被皮套吸引,但有趣的靈魂才是維持人氣的關鍵6。

三 真人驅動型虛擬人面臨的合規問題

虛擬偶像雖然是技術產物,但目前還是得依靠人來驅動。

“粉絲把對虛擬偶像的喜愛移情於背後的“中之人”(虛擬偶像背後的人)身上,製造了虛擬和現實的混沌。A-SOUL成員休眠事件,實際便是這種混沌引發的混亂,其中正義的含量值得玩味。”7

人民網的上述評論很好地詮釋了套皮虛擬人的現狀。皮套是平台或者商家設定的虛擬人之完美劇本設計的人設,然而皮套後面的“中之人”即使完全按照完美劇本設計的人設進行演繹,不同的“中之人”還是會不自覺地在皮套上演繹出不同的風格,也就是體現出虛擬人不同的靈魂,就像同一電影劇本,不同演員演繹同一角色亦有不同的理解,最終體現不同的風格。

那麼,針對套皮虛擬人,平台和商家各自的合規風險及責任都是什麼?

法律分析 | 直播虛擬人快速擴張,這些合規問題不能忽視

▲ 圖片來源:A-SOUL新浪微博官方賬號

(一)平台

對於彙集大量直播虛擬人的平台而言,平台的善良管理者義務與其從虛擬人直播中直接獲得的經濟利益正相關(例如,在直播虛擬人獲得的打賞中分成),獲得的經濟利益越大,自然應對此負有較高的注意義務。

1.對直播虛擬人形象(皮套)的著作權方面做初步審查。平台不僅需要履行一般網絡服務提供者的責任,還應當建立一套知識產權審查機制,對平台上直播虛擬人形象的著作權方面做初步審查。這種審查應當採用“一般可能性”標準,例如,審查著作權底稿、原件、合法出版物、著作權登記證書、認證機構出具的證明等初步證據,證明其為著作權或與著作權有關權益的權利人。簡而言之,平台不能濫用“通知—刪除”規則。

2.平台要盡到必要的審核義務。在開通在線打賞功能時,平台應該要求商家提供相關身份證明,從事相關行業、產品或者服務的資質證明等文件,盡到自己的必要審核義務。平台在接到相關投訴后,應該及時核實查證,直播虛擬人確有問題的,應當採取凍結賬號等一系列措施,避免用戶的損失進一步擴大。

3.平台要高度防範商家可能存在的欺詐行為。例如,Vox Akuma類直播虛擬人號稱,“Vox是一個生活在400年前的日本惡魔,後為德川家族所滅,因為惡魔之血的作用,400年後Vox再次復活,希望通過網絡了解現代社會並重建族群”。Vox Akuma營造的“復活重建家族”在一個多小時的直播中獲得111萬元人民幣打賞,這種打賞不同於一般的單純欣賞而進行的打賞,還有可能是大家真心想幫助Vox重建族群,這筆資金的使用就需要慎重,避免涉嫌欺詐和詐騙,尤其在平台從中拿走一部分打賞收益的情況下,平台可能需要承擔較大的責任。

4.平台需要高度關注民事權益侵害連帶責任。《民法典》第一千一百九十七條規定了網絡服務提供者的連帶責任,當平台從打賞中拿走部分收益時,就很有可能構成“網絡服務提供者知道或者應當知道網絡用戶利用其網絡服務侵害他人民事權益”,在未採取必要措施的情況下,平台將與商家承擔連帶責任。

法律分析 | 直播虛擬人快速擴張,這些合規問題不能忽視

▲圖片來源:萌娘百科

(二)商家

1.知識產權侵權問題。商家定製直播虛擬人,首先應當獲得直播虛擬人形象(皮套)和完整人設構思的著作權。該版權鏈條應當清晰,至少應取得包括發行權、信息網絡傳播權、修改權、複製權、表演權、改編權等權利的授權,並不得侵犯他人在先權利。其次,在獲取聲音、動作、面部表情等數據前,應當取得“中之人”的同意,並應當與“中之人”簽訂相關保密協議,不得透露“中之人”的相關信息,以滿足直播虛擬人人設的完整與豐滿。

2.算法歧視問題。商家與提供虛擬人IP代運營服務的公司合作,必須明確雙方的權利和義務,不得將其商業價值觀貫徹在算法中,不得將歧視、偏見帶入算法,維護好直播虛擬人人設的完整與豐滿。

3.直播虛擬人的設定要符合科學倫理,保證科技向上向善。

四 人工智能虛擬人面臨的合規問題

智能虛擬人是指利用人工智能技術,通過多模態技術和深度學習模型的運算結果,實時或離線驅動虛擬人的語音表達、面部表情、具體動作,其通過人工智能技術打造直播虛擬人的完整人設,並賦予直播虛擬人“靈魂”。

人工智能的運用應符合可理解原則和公平原則,人工智能應該能夠為人類社會現有的道德所理解;人工智能的運行應當保持透明可見的原則,不讓特定個人或少數群體遭受偏見、侮辱和歧視;人工智能應當尊重人格尊嚴和個人隱私,保障人工智能參與者的知情權和選擇權;最後,人工智能的發展應當可控,人類不從屬於人工智能,也不應受到人工智能的脅迫,保障人類在人工智能中的決定作用,當人工智能失控時,應當有毀滅裝置。

法律分析 | 直播虛擬人快速擴張,這些合規問題不能忽視

針對智能虛擬人的直播運營,平台及商家需要關注的合規風險如下:

(一)平台

對於彙集大量直播虛擬人的平台而言,平台的善良管理者義務是與其從虛擬人直播中直接獲得的經濟利益正相關的(例如,在直播虛擬人獲得的打賞中分成),獲得的經濟利益越大,自然應對此負有較高的注意義務,其應當承擔的法律責任和注意義務與之前所述真人驅動型虛擬人基本一致。

(二)商家

1.在製作和運營直播虛擬人時,應當堅持科學倫理先行。

倫理是指在處理人與人、人與社會的相互關係時,應遵循的道理和準則,是指一系列指導行為的觀念,是從概念角度出發,對道德現象的哲學思考。它不僅包含處理人與人、人與社會、人與自然之間關係時的行為規範,而且也蘊涵著依照一定原則來規範行為的深刻道理。8

人工智能最大的弱點是,缺乏直接的感受能力,在價值判斷上存在弱點,而人工智能倫理準則所倡導的造福人類、避免傷害、公平正義等價值理念,為人工智能技術層面的開發和運用提供了價值判斷標準。9

人工智能的研發與應用的倫理觀應符合以下目標:

  • 應當為了共同利益和人類福祉,以促進人類向上向善為目的,保護人類在社會和工作中的尊嚴、誠信、自由、隱私和安全,推動全社會公平共享人工智能帶來的益處,不斷增強人民的獲得感、幸福感、安全感,促進人類社會和平發展和可持續發展;
  • 運行應符合可理解原則和公平原則,人工智能應該能夠為人類社會現有的道德所理解,切實保護各相關主體合法權益,促進社會公平正義和機會均等;
  • 人工智能的運行應當保持透明可見的原則,不讓特定個人或少數群體遭受偏見、侮辱和歧視;
  • 尊重生命權利,人工智能應最大限度避免對人的生命安全、身體健康、精神和心理健康造成傷害或潛在威脅,尊重人格尊嚴和個人隱私,保障人工智能參與者的知情權和選擇權;
  • 人工智能的發展應當可控,人類不從屬於人工智能,也不應受到人工智能的脅迫,保障人類在人工智能中的決定作用,當人工智能失控時,應當有毀滅裝置。

2.數據倫理

以機器學習為代表的人工智能技術需要大量數據,數據是機器學習的根基,數據的真實性、完整性,以及數據的規模和質量是人工智能進行分析與建模的關鍵。

人工智能公平性的核心基礎是數據,數據的不公平主要體現在:不同群體在數據中所佔比例不均衡,數據固有的歧視,數據固有的偏見,數據的包容性不夠,數據的通用性及數據的準確性等。

數據具有固有的歧視和偏見,是因為一些帶有歧視和偏見的價值觀映射在數據上。如果沒有對上述數據不公平現象進行調試和校驗,這種不公平將反饋到人工智能算法模型,並最終映射到人工智能的公平性上。

法律分析 | 直播虛擬人快速擴張,這些合規問題不能忽視

3.算法治理

算法是一種“數據處理活動”,包括收集和處理數據,挖掘數據價值,涵蓋數據的生成、採集、存儲、轉換、處理和輸出的全過程。

智能直播虛擬人需要通過算法實現自動化決策,以達到與用戶之間的強互動。

算法的出現和使用,是為了執行大規模重複的任務和計算,是為了實現商業上高效快速的交易,是為了實現公權力具有廣度、深度和效率的運行。

隨着算法的日益廣泛應用,算法成為促進政治、經濟、文化和社會發展的工具,應當遵循人類共同價值觀,遵守國家或地區的倫理道德;算法應當尊重人類主體地位,給用戶選擇權和決策權;算法應當抑制人類社會無處不在的歧視和偏見;算法應當保障用戶的人身權和財產權。

【腳註】

1.虎嗅網,共同虛擬,百萬身價虛擬人,https://www.huxiu.com/article/490478.html

2.編程客棧,出資2500億!資本沸騰!虛擬人直播帶貨一夜爆紅!品牌方因何買單?http://www.cppcns.com/news/roll/468379.html

3.新浪,櫻動漫,CCTV新科娘宣布更換中之人,這個官方虛擬主播又涼涼了,http://k.sina.com.cn/article_6438410494_17fc258fe00100lp02.html

4.百度,36氪,竇軒,焦點分析|虛擬偶像頂流A-SOUL塌房:一場失敗的商業實驗,https://baijiahao.baidu.com/s?id=1732947038731113203&wfr=spider&for=pc

5.百度,鈦媒體APP,第一虛擬主播「絆愛」的消失,https://baijiahao.baidu.com/s?id=1725874752790421125&wfr=spider&for=pc

6.澎湃,差評君,頂流虛擬偶像A-SOUL一夜塌房,背後的五個女孩真的就是工具人?https://m.thepaper.cn/baijiahao_18144210

7.百度,人民融媒體,人民網,人民藝起評:警惕“飯圈文化”席捲“虛擬偶像”,https://baijiahao.baidu.com/s?id=1733128935195419857&wfr=spider&for=pc

8.百度百科,倫理,https://baike.baidu.com/item/%E4%BC%A6%E7%90%86/2138438?fr=aladdin

9.中國網財經,人人皆可換臉 眼見不再為真:人工智能安全如何保障?http://finance.china.com.cn/roll/20210108/5472031.shtml

本文鏈接:https://www.8btc.com/article/6757586

轉載請註明文章出處

(0)
上一篇 2022-06-14 13:55
下一篇 2022-06-14 14:26

相关推荐