香港商報
-- 天氣
算力需求暴漲數百倍 「妙鴨相機」擴容緩解排隊

算力需求暴漲數百倍 「妙鴨相機」擴容緩解排隊

責任編輯:程向明 2023-08-11 09:56:20 來源:深圳商報

 AI應用「妙鴨相機」已連續多日火爆出圈,上線不到一個月,算力需求暴漲數百倍。記者昨日獲悉,通過在阿里雲上緊急擴容後,因用戶暴增導致的排隊情況有所緩解,排隊時長已大幅減少,用戶體驗得到改善。目前「妙鴨相機」也在蘋果應用商店上線了App版本。

 自7月17日正式上線以來,「妙鴨相機」就以9塊9價格和高質量「寫真」照獲得了大量關注,成千上萬的用戶湧進應用中,高峰期一度有4000-5000人排隊,需要等待10多個小時才能出片。據相關負責人透露,「妙鴨相機」已在阿里雲上進行緊急擴容,應對暴漲數百倍的算力需求。雖然算力一邊加,另一邊用戶也在漲,但高峰期排隊現象已經有了緩解。

 據業內人士介紹,「妙鴨相機」的相片生成需要龐大的GPU算力進行計算,按上述高峰期的量級至少需要幾千台GPU服務器才能滿足,線下部署不切實際,雲上部署能為創業公司節省大量成本和時間,但目前僅有少數雲計算大廠具備這樣的算力儲備。

 「此前大家對大模型訓練需要的算力關注較多,尤其是GPT類的模型訓練,動輒需要上萬張顯卡。」上述專家稱,隨着Llama2等開源大模型的流行,大模型應用推理端的算力需求更值得關注,當AIGC進入生產力時代,推理算力需求可能遠高於訓練算力。 隨着各個行業的AIGC開發逐步完成,對業務開展階段使用的推理算力需求開始大幅增長,未來幾個月推理的算力需求總量可能遠高於訓練算力。

 以目前國內算力規模最大的阿里雲為例,提供最大十萬卡GPU規模集群的擴展性,同時可承載多個萬億參數大模型同時在線訓練和推理。此外,阿里雲還提供了AI加速套件AIACC,大幅提升計算效率,大模型Finetune的訓練效率可提升60%,推理效率可提升100%以上。(深圳商報記者  陳姝)

責任編輯:程向明 算力需求暴漲數百倍 「妙鴨相機」擴容緩解排隊
香港商報PDF
股市

友情鏈接

承印人、出版人:香港商報有限公司 香港商報有限公司版權所有,未經授權,不得複製或轉載。 Copyright © All Rights Reserved
聯絡我們

電話:(香港)852-2564 0768

(深圳)86-755-83518792 83517835 83518291

地址:香港九龍觀塘道332號香港商報大廈