(資料圖片僅供參考)
近日,商湯科技公布的一份紀要顯示,只有六家國內公司具備訓練像ChatGPT這樣的生成式AI所需的算力,需要至少1萬張NVIDIA A100加速卡的支持。
百度、騰訊、字節(jié)、阿里等互聯網巨頭,都可以承受這樣的硬件投入,同時他們也已經開始發(fā)布自己的AI產品,如百度的文心一言。然而,高性能加速顯卡現在是稀缺資源,國內購買NVIDIA高端顯卡更是不容易。
NVIDIA A100計算卡是2020年推出的首款安培架構產品,配備542億個晶體管、8196個流處理器和40GB HBM2顯存等強大配置,能夠提供高達19.5TFlops的單精度浮點性能,但功耗也高達250W。因此,能夠承受這樣高昂硬件投入的企業(yè),目前還較為有限。
(8152743)