智東西
編譯 | 香草
編輯 | 李水青
(資料圖片)
智東西8月10日消息,據外媒報道,國內互聯網巨頭正在搶購高性能的英偉達(NVIDIA)芯片,用于構建生成式AI系統。
據知情人士透露,百度、字節跳動、騰訊和阿里已向英偉達訂購了價值10億美元的共約10萬張A800芯片,將于年內交付,另外價值40億美元的芯片將于2024年交付。
兩名了解此事的字節員工表示,其公司已儲備了至少1萬張英偉達芯片,并訂購了近7萬張A800芯片,將于明年交付,價值約7億美元。
A800芯片是英偉達用于數據中心的尖端芯片A100的“替代版”,為中國市場專供。由于華盛頓去年為遏制中國技術而實施的出口限制,國內科技公司只能購買數據傳輸速率低于A100的A800。
英偉達發言人稱,消費互聯網公司和云服務提供商每年都會在數據中心組件上投資數十億美元,往往提前好幾個月就下訂單。
隨著生成式AI的熱度高漲,許多科技公司都在開發自己的大語言模型。英偉達的芯片成為全球科技公司的熱門產品,為大語言模型的開發提供了強大的計算能力支撐。
據知情人士透露,字節跳動有許多小團隊正在開發各種生成式AI產品,其中包括一款代號為Grace的聊天機器人,目前正在進行內部測試。今年5月,字節跳動曾在其社交媒體應用TikTok上測試了聊天機器人Tako;又在6月推出了大模型B端業務“火山方舟”,供企業試用不同的大語言模型服務。
▲聊天機器人Tako測試截圖(圖源:Watchful)
騰訊云于4月發布了一個新的服務器集群,采用英偉達H800芯片,可以支持大語言模型訓練、自動駕駛和科學計算。阿里也囤積了數千塊H800芯片,計劃將其所有產品都納入大語言模型,包括淘寶和高德地圖等。百度也開發了自己的聊天機器人,名為文心一言。
然而,大語言模型訓練需求的增長也導致全球芯片庫存不足,從而導致芯片的成本也在增長。一位英偉達經銷商稱,其手中的A800芯片價格上漲了50%以上。
結語:大模型熱潮或引發芯片供應不足
阿里、字節等互聯網巨頭向英偉達下單訂購50億美元芯片,預計在今年和明年陸續交付。大量的芯片需求主要是出于AI產品開發的需要,其背后的大語言模型訓練需要強大的算力支撐。
在生成式AI這個科技熱潮下,大廠們都想交出一份令用戶滿意的答卷。然而,芯片的供需不平衡等也是不可忽視的問題。
來源:路透社等
責任編輯:Rex_11