Cerebras发布第三代芯片WSE-3:性能翻倍,助力大模型训练
3月14日消息,晶圆级芯片领域的领军企业Cerebras,近日发布了其最新一代的芯片产品——WSE-3。据悉,这款芯片在保持与前代产品WSE-2相同功耗的同时,实现了性能的大幅提升,翻倍的表现令人瞩目。
WSE-3的详细参数显示,它采用了台积电先进的5nm制程技术,集成了高达4万亿个晶体管,拥有900,000个AI核心,以及44GB的片上SRAM缓存。此外,WSE-3还提供了1.5TB、12TB和1.2PB三种可选的片外内存容量,以满足不同场景下的需求。其峰值AI算力更是高达125 PFLOPS,展现了强大的计算能力。
据本站了解,Cerebras基于WSE-3推出了CS-3系统,该系统凭借其最高可达1.2PB的内存容量,能够训练比当前热门的GPT-4和Gemini模型大10倍的下一代前沿模型。这意味着CS-3可以在单个逻辑内存空间中容纳参数规模高达24,000T的模型,为开发人员提供了极大的便利,简化了他们的工作流程。
CS-3系统非常适合超大规模AI需求。一个紧凑的四系统集群就能够在一天内完成70B模型的微调。而当使用最大规模的2048个CS-3系统集群时,它甚至可以在一天内完成Llama 70B模型的训练,展现了惊人的训练速度。
Cerebras还强调CS-3系统的易用性。在大模型训练中,与GPU相比,所需代码减少了97%。开发人员仅需565行代码就可以实现与GPT-3大小模型相当的标准实现,这大大降低了开发门槛和复杂度。
阿联酋的G42财团已经表示将打造基于Cerebras CS-3的Condor Galaxy 3超级计算机。这台超级计算机将包含64个CS-3系统,提供高达8 exaFLOP的AI算力,为科研和工业领域的应用提供强大的支持。
相关文章
- 苹果“泰坦”汽车项目搁置,M2 Ultra芯片或转投他用
- 苹果计划3月底震撼发布:全新iPad Pro与iPad Air携M3/M2芯片亮相
- vivo X100S配置曝光:搭载天玑9300+芯片,直屏设计亮眼
- M3芯片加持!新款MacBook Air SSD速度飙升82%
- M3芯片助力!新款13英寸MacBook Air SSD速度大飞跃
- 华为P70系列手机发布延期,爆料称将搭载全新麒麟芯片和卫星通讯技术
- 苹果新款M3芯片MacBook Air跑分曝光,性能大幅提升
- Redmi K70 Ultra/Xiaomi 14T Pro手机曝光:预计8/9月亮相,搭载联发科旗舰芯片
- M3芯片版MacBook Air携手iPhone 15保护壳及Apple Watch新表带亮相
- 苹果新款MacBook Air发布:支持双5K外接显示,M3芯片加持
- 苹果本月将发布新品盛宴:iPad Pro 2024搭载OLED及M3芯片领衔
- 英伟达H100 GPU交货周期大减,AI芯片市场格局或迎新变化
- 性能大升级!苹果新款MacBook Air将内置M3芯片
- 联发科携手谷歌,天玑芯片优化支持Gemini Nano大语言模型
- Meta展示创新3D AR芯片:能效与性能大幅提升
- 品胜C3真无线蓝牙耳机通过FCC认证,搭载杰理蓝牙5.3芯片亮相
热门教程
Win11每次开机会检查tpm吗?Win11每次开机是否会检查tpm详情介绍
2Win11任务栏空白怎么办?Win11任务栏空白解决办法
3Win10 21H1更新KB5003637后任务栏不能在底部显示怎么办?
4系统之家装机大师怎么用?系统之家装机大师使用教程
5Win10家庭版笔记本电脑怎么关闭Windows defender功能?
6Win11正式版怎么安装安卓APK应用?Win11安装安卓APK文件方法
7Win11资源管理器的样式如何切换?Win11资源管理器样式切换方法
8Win11电脑下载的文件被自动删除怎么办?
9Win11蓝屏怎么修复?win11蓝屏修复教程
10Win11正式版如何固定“此电脑”到任务栏?
装机必备 更多+
重装教程
大家都在看
电脑教程专题 更多+