6月10日上午,北京智源大會現場AI系統分論壇上,天數智芯產品總監宋煜發表了《國產GPU助力大模型的實踐》的演講,講述這家率先完成通用GPU量產的企業此次的新動作。
天數智芯的天垓、智鎧系列通用GPU產品具有高性能、廣通用、開發成本低的特點,廣泛支持DeepSpeed、Colossal、BM Train等各種大模型框架,基于天垓、智鎧加速卡的算力集群方案不僅能夠有效支持LLaMa、GPT-2、CPM、GLM等主流AIGC大模型的Pretrain和Finetune,為行業伙伴提供一站式的大模型算力及賦能服務。同時面向大模型推理側的一體機,性價比超過國內現有市場主流產品。據悉,僅用時19天時間,天數智芯就成功完成了北京智源人工智能研究院70億參數大模型全量訓練,收斂效果與英偉達A100集群相當。
免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據。
關鍵詞: