文 | 周鑫雨
(資料圖片僅供參考)
編輯 | 鄧詠儀
尚未推出自研模型基座的字節跳動,先和第一梯隊的模型廠商攢了個局。
6月28日,字節跳動云服務平臺火山引擎推出了大模型服務平臺“火山方舟”,面向企業提供包括精調、評測、推理等在內的模型服務。
這個時間點并不算早。此前,BTA、商湯、360等國內互聯網企業已經紛紛推出了MaaS(模型服務)平臺,搶占先發優勢。多數MaaS平臺的服務模式大同小異:以廠商自研的通用大模型或數個行業大模型為基座,再推出相應的模型服務。
姍姍來遲的字節走的是差異化路線。沒有自研模型基座,那就拉強者組局——火山方舟宛如國內第一梯隊模型廠商的“陳列柜”,集成了智譜AI、MiniMax、百川智能、出門問問、復旦大學MOSS、IDEA研究院、瀾舟科技七家科技公司及科研機構的大模型。
火山引擎總裁譚待
性價比、低成本是火山方舟強調的第一個特性。
隨著AI賽道從大煉模型的投入期,逐漸到了落地場景的應用期,愈來愈多做AI應用的廠商開始重視模型服務的“性價比”。火山引擎總裁譚待在采訪中指出:“一個企業未來一定會在多個場景應用多個模型,因為每個模型在不同場景性價比是不一樣的。”
與此同時,火山引擎智能算法負責人吳迪判斷,訓練大模型很昂貴,但是從長期來看,模型的推理開銷會超過訓練開銷。
譚待在訪談中打了個比方:大模型好比工資高的博士,不少應用場景則好比小學數學題,付費讓博士去解小學數學題顯然是不合理的——這也迫使不少廠商選擇精調后的中小模型,在獲得媲美大模型效果的同時,降低推理成本。
組團合作的亮點在于,可讓用戶像搭積木一樣選擇適應自身業務需求、且具高性價比的模型組合。與此同時,火山方舟還提供了模型精調和評測服務,客戶可同時對接多家大模型,并通過自動化和人工評估精調后的模型效果。
數據安全,則是火山方舟強調的第二個特點。
大模型私有化部署是目前最為安全的方案,也是國內客戶更容易接受的形式,但也意味著企業將承擔更高的部署成本。為此,火山方舟推出了大模型安全互信計算方案,用計算隔離、存儲隔離、網絡隔離、流量審計等方式保證模型的機密性、完整性和可用性——簡而言之,就是給不同企業的數據分別建了保險柜。
但相對地,企業也需要犧牲部分的訓練推理速度。吳迪指出,大模型安全互信計算方案適用于對訓練和推理延時要求較低的客戶;火山正在與英偉達合作,基于英偉達新一代硬件探索安全方案。
不過,賣模型彈藥的字節,最終仍會親自上大模型的戰場。強調火山引擎本身不訓練模型的同時,譚待表示:“字節內部其他團隊,如果做好了模型,大概也會上到方舟平臺上對外提供,它在方舟上就是眾多模型的一個。”
歡迎交流!
歡迎交流!
責任編輯:Rex_29