7月23日,據(jù)中國(guó)信息通信研究院消息,為加速大模型軟硬件協(xié)同生態(tài)構(gòu)建,推動(dòng)不同尺寸、類型模型與芯片軟件棧、Triton等第三方中間件以及開(kāi)發(fā)框架等多路線兼容適配,中國(guó)信通院與人工智能關(guān)鍵技術(shù)和應(yīng)用評(píng)測(cè)工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室依托AISHPerf基準(zhǔn)體系,聯(lián)合業(yè)界伙伴共同開(kāi)展面向大模型的算子級(jí)適配生態(tài)構(gòu)建工作。第一批大模型算子級(jí)適配測(cè)試主要圍繞大語(yǔ)言模型算子的豐富度、功能、性能開(kāi)展,現(xiàn)已正式啟動(dòng)報(bào)名。后續(xù)將迭代更新算子列表,分類分批持續(xù)開(kāi)展。中國(guó)信通院在工作推進(jìn)過(guò)程中,將組織系列研討及工作會(huì),首期閉門工作會(huì)已于2024年7月17日召開(kāi)。會(huì)上,硬件芯片與Triton開(kāi)源算子適配測(cè)試工作啟動(dòng)。









