当前位置: 首页 > 资讯 > 科技 > Cerebras震撼发布革命性WSE-3晶圆级AI芯片:搭载台积电5nm工艺
  • 0
  • 0
  • 分享

Cerebras震撼发布革命性WSE-3晶圆级AI芯片:搭载台积电5nm工艺

Cerebras 2024-03-14 10:10:39 爱吃爆米花

Cerebras在3月14日揭晓了其第三代里程碑式晶圆级AI处理器WSE-3,声称在保持相同能耗水平的基础上,相较于前代产品WSE-2实现了性能的惊人倍增。

整理 WSE-3 参数如下:

台积电 5nm 制程

4 万亿个晶体管

900000 个 AI 核心

44GB 片上 SRAM 缓存

可选 1.5TB / 12TB / 1.2PB 三种片外内存容量

125 PFLOPS 的峰值 AI 算力

Cerebras 宣称基于 WSE-3 的 CS-3 系统凭借其至高 1.2PB 的内存容量,可训练比 GPT-4 和 Gemini 大 10 倍的下一代前沿模型。其可在单个逻辑内存空间中容纳 24000T 参数规模的模型,大大简化了开发人员的工作。

CS-3 适合超大规模 AI 需求,紧凑的四系统集群可以在一天内微调 70B 模型,而在使用最大规模的 2048 个 CS-3 系统集群时,可以在一天内完成 Llama 70B 模型的训练。

Cerebras 表示 CS-3 系统具有卓越的易用性,大模型训练中所需代码相较 GPU 减少 97%,仅需 565 行代码就可达成 GPT-3 大小模型的标准实现。

阿联酋 G42 财团已表示将打造基于 Cerebras CS-3 的 Condor Galaxy 3 超算,包含 64 个系统,可提供 8 exaFLOP 的 AI 算力。

来源:it之家
免责声明:本内容来自互联网,不代表本网站的观点和立场,如有侵犯你的权益请来信告知;如果你觉得好,欢迎分享给你的朋友,本文网址 https://wangzhidaquan.com/zixun/24880.html
文章标签
评论

文明上网,理性发言,共同做网络文明传播者

验证码
提交
热门游戏
换一换
热门软件
换一换