趨勢七 大模型B端應用:專業數據與成本驅動行業模型百花齊放,打開廣闊應用空間 數據壁壘帶來企業端大模型百花齊放。通用大模型可以幫助用戶解決一般性問題,而當企業需要處理其特定行業的數據和任務時,往往需要針對其行業數據庫來對基本模型進行微調,垂直行業的特性和需求不盡相同,因此大模型的應用也呈現出多樣化的趨勢。 B端應用出于對模型的經濟性考量,未來將呈現階梯式、差異性需求。大模型在垂直領域的商業化落地對模型的運行成本更為敏感,模型的推理成本與模型的參數量多少密切相關,需要不同參數規模的大模型組成多層次的產品組合,從而在不同場景下實現最佳的經濟性,進一步提升大模型的豐富度。 (B端大模型多層級結構) 趨勢八 大模型輕量化:降低應用成本、帶動端側算力發展 隨著大模型小型化、場景化需求增加,同時出于對AI應用的經濟性、可靠性和安全性考量,部分場景的推理將逐步從云側擴展向端側,帶動端側算力需求的進一步提升。 目前多個大模型都已推出“小型化”和“場景化”版本。5月23日谷歌發布的PaLM-2大模型,其中最輕量版本“壁虎”可在移動端運行,運行速度快且支持離線操作,其他多個大模型也都有其對應的小參數版本。 大模型端側應用布局不斷加速。端側算力正在快速發展過程中,高通通過量化、編譯和硬件加速進行優化,使Stable Diffusion能在搭載第二代驍龍8移動平臺的手機上運行。高通在微軟Build2023開發者大會上展示了最新的端側AI能力以及在下一代Windows 11上開發生成式AI的工具,并表示未來幾個月大語言模型有望在端側運行。 我是一位愛學習的老人!本站主要是些學習體驗與分享(其中會引用一些作品的原話并結合我的一生體會與經驗加工整理而成!在此一并感謝!如有不妥之處敬請與我聯系,我會妥善處理,謝謝!)我寫的主要是中老年人各方面應注意的事兒!退休后我希望通過這個平臺廣交朋友,互助交流,共筑美好生活! |
|
來自: 趙站長的博客 > 《人工智能大數據云計算物聯網》