曾号称碾压英伟达!壁仞科技:单个国产AI芯片不强但数量多、软件加持就不一样了

2024-07-10 09:49:04 爱科技 201观看
摘要 7月10日消息,近日,壁仞科技副总裁兼AI软件首席架构师丁云帆在谈及计算瓶颈时表示,解决算力瓶颈问题需要从三个维度考虑:硬件集群算力、软件有效算力、异构聚合算力。他认为,做好这三个维度的工作,即使

7月10日消息,近日,壁仞科技副总裁兼AI软件首席架构师丁云帆在谈及计算瓶颈时表示,解决算力瓶颈问题需要从三个维度考虑:硬件集群算力、软件有效算力、异构聚合算力。lGy壹木网-日常常见问题解答

他认为,做好这三个维度的工作,即使国产AI芯片单个算力不强,也能通过综合手段提升算力,满足国内大模型训练的需求。lGy壹木网-日常常见问题解答

“我们2020年设计的第一代产品里就做了chiplet架构,国外巨头在今年发布的产品如英伟达B100和英特尔Gaudi 3也采用了同样的思路,他们用先进的制程,但也需要chiplet来突破摩尔定律限制来提升单卡算力。”丁云帆说道。lGy壹木网-日常常见问题解答

据他介绍,壁仞科技用三级的异步checkpoint技术,结合GPU的显存和CPU内存,甚至是多节点内存的备份系统去达到一个平衡,目前已能够大幅降低故障恢复成本。lGy壹木网-日常常见问题解答

之前,壁仞科技发布首款通用GPU芯片BR100,创下全球算力纪录,16位浮点算力达到1000T以上、8位定点算力达到2000T以上,单芯片峰值算力达到PFLOPS级别。lGy壹木网-日常常见问题解答

当时,壁仞科技给出的数据显示,其首款旗舰产品BR100对比英伟达在售的旗舰GPU峰值算力在Int8、BF16、TF32/TF32+、FP32数据格式下少有3.3倍的峰值性能优势,在FP32数据格式下性能优势更是达到了13.1倍。lGy壹木网-日常常见问题解答

曾号称碾压英伟达!壁仞科技:单个国产AI芯片不强但数量多、软件加持就不一样了lGy壹木网-日常常见问题解答

展开全文
猜你感兴趣
全国充电桩已超1200万台 同比暴增近50%

全国充电桩已超1200万台 同比暴

1月23日消

01-23 阅读
2024 年 LPL 夏季赛组内赛赛程公布

2024 年 LPL 夏季赛组内赛赛程公

07-03 阅读
正式上线前后一次!《永劫无间》手游定胜终测6月19日开启

正式上线前后一次!《永劫无

6月14日消息,网易

06-16 阅读