「AI情緒感測」增加 VR虛擬演唱會互動性
動力火車、壞特 ?te 打造元宇宙時代智慧展演
元宇宙科技為影視娛樂產業帶來全新的視聽體驗,國內外知名品牌、表演者相繼搭上元宇宙熱潮,舉辦 VR 虛擬演唱會、線上展覽等「智慧展演」活動。然而,將過往大眾習以為常的實體活動轉為線上舉辦或虛擬實境,常遇到哪些挑戰?
音樂製作人陳珊妮曾在文化內容策進院的元宇宙論壇分享,「疫情下有許多線上演唱會的出現,但效果、收視率不如預期,在於缺少『互動性』」。
緯謙科技看見此一機會,在國家發展委員會的智慧展演計畫指導下,與金曲歌手動力火車、壞特?te 合作舉辦 「VR360 度虛擬演唱會」,透過 5G 整合將演場會搬入VR 環境,再結合 AI 創新互動應用,讓觀眾享受沉浸式體驗的同時,表演者也能即時收到觀眾情緒反饋,彌補虛擬演唱會的互動性。
疫情改變消費型態,元宇宙演唱會、虛擬演唱會成新潮流
零售與服務業在疫情下催生零接觸、宅經濟商機,帶動許多消費從線下轉往線上,像是零售電商的蓬勃發展;餐飲外送平台的興起。相反地,卻可以發現影視娛樂產業下的演唱會、運動賽事因為疫情而紛紛取消,在於線上難以營造出線下如臨現場的沉浸式氛圍,以及互動體驗。
不過,近期在 AI 、VR 新科技逐漸成熟應用之下,不只將演唱會、表演搬到線上,更創造出 360 度沉浸式觀看與互動的體驗。像是 2021 年獨立樂團美秀集團舉辦全息演唱會,讓觀眾能自由選擇觀看視角;金曲歌后徐佳瑩也在 2022 年舉辦元宇宙演唱會,不只打造虛擬特效,更邀請觀眾觀參與表演。
不過,近期在 AI 、VR 新科技逐漸成熟應用之下,不只將演唱會、表演搬到線上,更創造出 360 度沉浸式觀看與互動的體驗。像是 2021 年獨立樂團美秀集團舉辦全息演唱會,讓觀眾能自由選擇觀看視角;金曲歌后徐佳瑩也在 2022 年舉辦元宇宙演唱會,不只打造虛擬特效,更邀請觀眾觀參與表演。
舉辦元宇宙演唱會、虛擬演唱會需要哪些關鍵技術?
不同於過往的實體演唱會,虛擬演唱會從舞台場景布置、視覺畫面設計、歌手互動安排,到網路連線環境的架設都需要重新規劃。尤其在 VR 演唱會中,如何將演出現場高畫質的畫面不失真、不卡頓的傳輸到觀眾的 VR 眼鏡中,就是虛擬演唱會首要需解決的關鍵技術之一。
緯謙科技多年來以雲端、AI、大數據一站式服務協助客戶解決數位轉型多階段的挑戰,這次在國發會智慧城鄉物聯網創新應用補助計畫下,與桃園市政府合作於桃園展演中心試辦「5G 智慧展演 VR 360 度虛擬演唱會」,聯手多家廠商整合以下 5 項關鍵技術,

緯謙科技多年來以雲端、AI、大數據一站式服務協助客戶解決數位轉型多階段的挑戰,這次在國發會智慧城鄉物聯網創新應用補助計畫下,與桃園市政府合作於桃園展演中心試辦「5G 智慧展演 VR 360 度虛擬演唱會」,聯手多家廠商整合以下 5 項關鍵技術,

- VR 軟硬體整合:針對 VR 眼鏡硬體設備,開發 VR 影音平台,透過軟體開發在視覺上堆疊 AR 特效,同時結合 AI 情緒感應分析,打造沉浸式的視聽感受。
- AI 互動應用:透過 VR 裝置上的感測器,結合 AI 語音、情緒辨識,將觀眾大笑、拍手等行為,以 Speech to Text 的方式即時傳送資訊給異地的表演者,讓表演者能得知觀眾的反應,達成互動的效果。
- 5G 通訊技術:高畫質影音、AI 情緒感測互動、多人欣賞直播,皆需要借重 5G 大寬頻、低延遲、多連結之特性,才得以讓觀眾和表演者之間的網路連接穩定且流暢,展現身歷其境的感受。
- 360 度環景拍攝:為使觀眾能感受沉浸式氛圍,在演唱會的拍攝上採用 360 度環景攝影,提供觀眾如臨現場、自由切換視角的體驗。
- 演唱會企劃:除上述技術之外,不同於過往實體演唱會的規劃,舞台呈現的設計、藝人演出形式的溝通,包含拍攝腳本、燈光設計、走位安排都需要提前與藝人及導演溝通討論。
動力火車、壞特 ?te VR 演唱會首唱!AI 互動即時掌握觀眾感受
這場在桃園試辦的 VR 360 度虛擬演唱會實際上如何進行?緯謙團隊邀請兩組金曲獎歌手動力火車與壞特 ?te,在現場無台下觀眾的環境中演出,利用多台攝影機及360 度環景攝影進行拍攝。
同一時間,觀眾則在遠端異地戴上 VR 眼鏡觀賞表演,影像畫面中除了藝人即時的歌曲演出,透過 AR 特效的疊加,更讓觀眾感受到元宇宙虛擬世界的視覺體驗。

(圖左)歌手動力火車與壞特,面對 360 度環景攝影表演。(圖右)緯謙團隊在表演畫面上疊加 AR 特效,讓遠端戴 VR 觀賞觀眾感受沉浸式氛圍。
同一時間,觀眾則在遠端異地戴上 VR 眼鏡觀賞表演,影像畫面中除了藝人即時的歌曲演出,透過 AR 特效的疊加,更讓觀眾感受到元宇宙虛擬世界的視覺體驗。

(圖左)歌手動力火車與壞特,面對 360 度環景攝影表演。(圖右)緯謙團隊在表演畫面上疊加 AR 特效,讓遠端戴 VR 觀賞觀眾感受沉浸式氛圍。
此外,「AI 互動應用」更是此次演唱會的一大亮點,緯謙團隊將過往觀眾在聽演唱會時會有拍手、大笑的反應轉換到虛擬演唱會上,當 VR 眼鏡上的 AI 感測器偵測到拍手、大笑的語音行為,就會直接以 emoji 的方式呈現在動力火車、壞特 ?te 舞台前的 Dashboard ,讓他們能即時掌握觀眾的情緒,給予相對應的回饋。

舞台 Dashboard 即時呈現觀眾反應,歌手壞特 ?te 分享虛擬演唱會初體驗心情「很難想像戴上這個裝置之後,我就會像在他們旁邊唱歌,距離感消失了,很酷!」
在未來, 虛擬演唱會的 VR 與 AI 應用上,加入群眾間的互動,以深化演唱的互動體驗。VR 內容的製作也將帶動整體產業鏈創新服務模式,如虛擬票券銷售、虛擬購物、虛擬藝廊等。同時,對於許多策展商、政府單位或藝術表演團體欲進入智慧展演領域,卻不知如何進入,或需要整合哪些技術者,緯謙科技提供一站式諮詢與技術整合的服務,加速 5G VR 智慧展演產業的發展。