立即注册 找回密码

合肥论坛

搜索
查看: 1355|回复: 29

中兴打造开放智算基座,帮助小厂解决算力难题

[复制链接]

22

主题

22

帖子

86

金币

注册会员

Rank: 2

积分
194
发表于 2025-3-24 19:00:24 | 显示全部楼层 |阅读模式
  最近在杭州某AI创业公司当牛马的朋友找我哭诉,他们刚融的500万还没捂热,转头就砸给某云厂商买了200张A100的算力卡。结果你猜怎么着?训练完百亿参数大模型后,发现推理成本比训练还烧钱,现在连电费都快付不起了。在这样的背景下,中兴打造的智算基座,很可能是个不错的解决方案。

  还记得今年初Deepseek的全球火爆吗?它的出现解决了一个核心问题。就是让智能算力的不足问题从高性能的训练算力延展到普惠型的推理算力。但同时,也带来了两个挑战,第一个挑战是,推理算力将爆发式增长,需要加快算力普及;第二个挑战是,训练算力仍需进一步强化,以支撑更大规模的模型训练,以及多模态大模型的新突破。

  现在业内疯抢高端GPU,却没人注意算力链条上的隐形损耗:GPU之间等数据、机房之间等传输、模型推理等调度...导致许多算力白白浪费。而中兴这套开放基座确实有点东西。这一基座不仅支持跨机房互联,在进行多模态模型训练时,还能够大幅度降低算力损耗,同时它还支持混搭不同品牌GPU,比如把某国产芯片和A800混用,大幅度提升调度效率。

  别人都在堆显卡,中兴在修“算力高速公路”。中兴通过芯片之间、GPU 卡之间、服务器之间以及数据中心之间的连接创新,包括大容量交换芯片、800G光互联等技术创新,构建的跨3个机房互联的智算集群,与单一机房部署相比,算力损失控制在5%以内。

  在AI 2.0时代,会造显卡不算本事,能让每焦耳电力都转化成有效智能,才是真·护城河。这样的背景下,中兴的未来发展潜力无限,未来可期。
  

回复

使用道具 举报

0

主题

61

帖子

68

金币

中级会员

Rank: 3Rank: 3

积分
207
发表于 2025-3-24 19:03:17 | 显示全部楼层
找到好贴不容易,我顶你了,谢了
回复

使用道具 举报

0

主题

59

帖子

45

金币

注册会员

Rank: 2

积分
176
发表于 2025-3-24 19:13:06 | 显示全部楼层
有道理。。。
回复

使用道具 举报

0

主题

23

帖子

23

金币

注册会员

Rank: 2

积分
89
发表于 2025-3-24 19:14:43 | 显示全部楼层
这是什么东东啊
回复

使用道具 举报

0

主题

26

帖子

24

金币

注册会员

Rank: 2

积分
94
发表于 2025-3-24 19:17:15 | 显示全部楼层
过来看看的
回复

使用道具 举报

0

主题

27

帖子

27

金币

注册会员

Rank: 2

积分
101
发表于 2025-3-24 19:19:32 | 显示全部楼层
支持一下
回复

使用道具 举报

0

主题

29

帖子

26

金币

注册会员

Rank: 2

积分
101
发表于 2025-3-24 19:30:37 | 显示全部楼层
相当不错,感谢无私分享精神!
回复

使用道具 举报

0

主题

62

帖子

56

金币

注册会员

Rank: 2

积分
184
发表于 2025-3-27 02:59:28 | 显示全部楼层
租房
回复

使用道具 举报

0

主题

56

帖子

51

金币

注册会员

Rank: 2

积分
178
发表于 2025-3-28 00:37:12 | 显示全部楼层
有房屋出租的房东吗?
回复

使用道具 举报

0

主题

30

帖子

29

金币

注册会员

Rank: 2

积分
110
发表于 2025-3-28 04:28:42 | 显示全部楼层
交个友
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

手机版|违法信息处理|合肥论坛 |网站地图|

GMT+8, 2025-4-25 22:32 , Processed in 0.070444 second(s), 28 queries .

友情提示:合肥论坛仅提供分享合肥及周边城市地区的招聘求职,合肥二手房,合肥租房,合肥旅游等信息,所有产品及信息均为网友用户自行发布。本社区不能保证信息的准确性和合法性,用户需谨慎,风险自理,责任自担 最终解释权 BY 合肥论坛

快速回复 返回顶部 返回列表