北电数智AI异构平台:赋能大模型,国产算力迎来最优解时代

   发布时间:2024-12-10 10:44 作者:杨凌霄

在当前科技日新月异的时代,生成式人工智能技术的飞速发展犹如一股强大的推动力,引领着新生产力的变革浪潮。这股浪潮不仅深刻改变了众多行业的面貌,也对算力供应提出了新的挑战与迫切需求。在这样的背景下,实现国产算力的自主可控,确保信息安全与经济稳定发展,成为了当前亟待攻克的重要课题。

针对这一挑战,北电数智推出了“前进·AI异构计算平台”,该平台具备对英伟达集群以及多款国产芯片的广泛管理能力,使用户能够轻松实现对不同品牌和类型AI加速卡的统一管理。这一特性确保了各类AI芯片的无缝集成和高效利用,同时,用户还可以根据实际需求灵活调整资源配置,从而优化算力供给,满足多样化的训练和推理任务。

“前进·AI异构计算平台”在算力调度方面同样表现出色,它提供了多种调度策略,能够精准匹配各类计算任务的不同需求。其中,“潮汐调度”是该平台的一大亮点,它根据计算任务的特性和资源需求的变化,动态分配和回收计算资源,特别适用于渲染应用等场景,能够最大化资源利用率并缩短执行时间。平台还提供了“训推混布”策略,使得同一算力集群既能支持在线推理服务部署任务,又能支持离线训练任务,从而显著提高算力资源的利用率,减少资源浪费,大幅降低运营成本。

北电数智基于“前进·AI异构计算平台”打造的国产算力PoC平台,已经在北京数字经济算力中心成功落地。该平台是全国首个在生产环境下可实现规模化测试的全栈迭代验证平台,目前已经完成了十余款芯片的评测支持和二十多款主流模型的适配。为了进一步提升国产芯片对模型的支持力度,北电数智还自主构建了完备的融合算子库,这些算子能够自动调优,在极短的时间内即可完成对各种平台的算子适配和优化,将延迟水平显著降低。

在推动国产算力与行业应用的深度融合方面,北电数智也取得了显著进展。公司正面向影视、金融、政务、工业等多个垂直领域开展测试验证服务,为不同行业的垂类模型落地树立了标杆案例。通过持续探寻国产算力和行业、模型、应用的最佳适配组合,北电数智正努力推动模型在更多领域的落地应用。

北电数智还在不断探索更多创新技术和解决方案,以进一步提升国产算力的性能和效率。通过持续的技术创新和优化,公司致力于推动国产算力在更多领域的广泛应用,为我国的数字经济发展贡献更多力量。

 
 
更多>同类内容
全站最新
热门内容
本栏最新
 
智快科技微信账号
微信群

微信扫一扫
加微信拉群
电动汽车群
科技数码群