致力于為AI產(chǎn)業(yè)提供高性能算力基礎(chǔ)軟件平臺(tái),中科加禾完成數(shù)千萬元Pre-A1輪融資
近日,AI異構(gòu)算力軟件Infra供應(yīng)商中科加禾宣布完成數(shù)千萬元Pre-A1輪融資,由北京市人工智能產(chǎn)業(yè)投資基金領(lǐng)投。
中科加禾成立于2023年,聚焦編譯技術(shù),致力于跨越國產(chǎn)算力芯片與大模型落地之間存在的生態(tài)鴻溝,為我國AI大模型產(chǎn)業(yè)提供通用化、低成本、高性能的算力資源。公司產(chǎn)品為包含AI訓(xùn)練與推理工具、Fine-Tuning工具和算子實(shí)現(xiàn)等在內(nèi)的,跨品牌、跨型號(hào)的標(biāo)準(zhǔn)化AI軟件底座,以及連同硬件設(shè)備在內(nèi)的一體化AI算力解決方案。
2024年7月20日,中科加禾正式發(fā)布了異構(gòu)原生算力產(chǎn)品矩陣,其中包含異構(gòu)原生推理引擎「SigInfer」、異構(gòu)原生微調(diào)引擎「SigFT」、算子自動(dòng)生成\轉(zhuǎn)譯工具「SigTrans」三款產(chǎn)品。這套算力工具能夠兼容多種國產(chǎn)及海外AI芯片,為屏蔽芯片差異提供了高性能的統(tǒng)一接口,將大模型推理時(shí)延最高降低74倍,吞吐率最高提升3倍,能效比提升 1.46 倍,支持340B參數(shù)量的稠密大模型,以及640B的MoE大模型。
其中,「SigInfer」定位于跨平臺(tái)、高性能的異構(gòu)原生推理引擎。作為異構(gòu)計(jì)算的技術(shù)底座,可以做到調(diào)用接口統(tǒng)一,平滑遷移業(yè)務(wù)應(yīng)用,大幅降低企業(yè)使用成本。在調(diào)用多種不同算力的同時(shí)進(jìn)行多層次深度優(yōu)化,充分挖掘芯片算力的潛能。
截至目前,中科加禾已與數(shù)十家智算中心、芯片廠商、服務(wù)器廠商、運(yùn)營商及頭部互聯(lián)網(wǎng)公司達(dá)成深度合作及產(chǎn)品級(jí)融合,實(shí)現(xiàn)了AI產(chǎn)業(yè)鏈全鏈路覆蓋,打通產(chǎn)業(yè)固有的煙囪式的孤島體系生態(tài),建立了國產(chǎn)異構(gòu)「聯(lián)合體CUDA」的生態(tài)雛形。
自產(chǎn)品發(fā)布以來,中科加禾憑借行業(yè)頂尖的性能表現(xiàn)和極強(qiáng)的通用性,收獲數(shù)千萬元商業(yè)訂單及意向訂單,客戶包括國內(nèi)頭部芯片和服務(wù)器廠商、運(yùn)營商、互聯(lián)網(wǎng)大廠、智算中心等。
猜你喜歡
致力于為AI產(chǎn)業(yè)提供高性能算力基礎(chǔ)軟件平臺(tái),中科加禾完成數(shù)千萬元Pre-A1輪融資
由北京市人工智能產(chǎn)業(yè)投資基金領(lǐng)投。專注人工智能軟件基礎(chǔ)設(shè)施,中科加禾完成數(shù)千萬元天使輪
由元禾原點(diǎn)領(lǐng)投,新尚資本、中科院創(chuàng)投、晨山資本、BV百度風(fēng)投跟投。聚焦先進(jìn)編譯技術(shù),中科加禾完成數(shù)千萬元種子輪融資
公司的工具鏈方案將在降低模型落地成本和硬件應(yīng)用難度方面,顯現(xiàn)極高的稀缺價(jià)值。