近日,昆仑芯与北京智源人工智能研究院(以下简称“智源”)面向多种ai硬件的一体化评测引擎flagperf完成阶段性适配。昆仑芯是flagperf首批生态伙伴,双方将强强联合,共同推进ai软硬件评测体系建设,赋能大模型技术创新能力提升,加速我国ai生态繁荣发展。
flagperf是智源联合各大ai软硬件厂商建立的开源、开放、灵活、公正、客观的面向多种ai硬件的一体化评测引擎,可快速高效地对ai软硬件进行适配和评测,解决当前ai软硬件所面临的兼容性差、技术栈异构程度高、应用场景复杂多变等挑战。目前flagperf已经适配了涵盖cv、nlp、语音、大模型等领域的近20个经典模型,支持评测ai硬件的训练和推理能力,未来还将持续拓展支持模型数量和评测领域,包括不限于ai服务器、图计算各个场景,期望全面、立体地刻画厂商的软硬件实力,并通过不断迭代评测体系,紧跟ai产业发展浪潮。
作为ai加速领域的领军企业,昆仑芯持续推进软硬协同技术创新,在短时间内高效完成了十数个模型的适配和调优工作,并在flagperf项目中全面开源。这批模型能非常高效地完成适配并发布,充分展现了昆仑芯优秀的泛化能力和软硬件兼容性,这主要得益于100%自研的昆仑芯xacc ai编译器(xpu ai compiler collection)。
昆仑芯xacc ai编译器
● 可自动帮助用户完成开源模型到xpu设备的迁移工作,并实现全自动性能优化,将xpu硬件算法发挥到极致;
● 具有零代码侵入、零环境侵入的特点,用户无需修改模型代码,无需修改部署环境,即可将模型迁移到xpu设备;
● 已全面支持megatron、deepspeed等大模型训练框架,用户可以零成本适配最流行的llm技术与模型。
智源研究院是国际知名的人工智能前沿研究机构,在中国最早引领开展大模型研究,并率先倡导建设大模型开源生态。「悟道」人工智能大模型项目,连创“中国首个+世界最大”纪录,“悟道3.0”进入全面开源阶段。flagopen大模型技术开源体系,由智源联合多家企业、高校和科研机构共建,旨在共建共享大模型时代的“新linux”开源开放生态。面向多种ai硬件的一体化评测引擎flagperf是flagopen的重要组成部分。
针对智源大模型,昆仑芯已在悟道·天鹰(aquila)语言大模型上完成了大规模推理性能验证,在悟道·视界eva-clip视觉大模型上也实现了适配。
此前,昆仑芯已正式加入智源flagopen(飞智)大模型技术开源体系,携手多家顶尖硬件企业与高校科研团队共建“北京国家新一代人工智能创新发展试验区ai开放生态实验室”,加速完善芯片软件生态建设。
此次昆仑芯与智源flagperf完成适配是双方生态共建的又一重要里程碑。智源和昆仑芯将充分发挥各自优势,共同携手产业链上下游合作伙伴,促进技术、资源、场景等多方主体的合作,助力企业更好应对大模型应用时面临的算力不足、场景不够开放等问题,进一步推动我国大模型的技术研发和应用落地。
(昆仑芯)
以上是网络信息转载,信息真实性自行斟酌。










