IPU云端和服务器解决方案提供商Graphcore今日正式发布全新IPU系统产品——Bow系列。Bow Pod系统产品采用了全球首款3D Wafer-on-Wafer处理器——Bow IPU。Bow IPU是新一代Bow Pod AI计算机系统的核心。

　　值得注意的是，与上代产品相比，Bow Pod可为真实世界的AI应用提供高达40%的性能提升和16%的电源效率提升，但价格和前代相比保持不变。同时，与前一代产品100%软件兼容，用户在进行部署时无需更改现有代码。

　　Bow Pod比前一代性能提升40% 能效提升16%

　　Bow Pod旨在为各种AI应用大规模提供真实世界的性能，从用于自然语言处理的GPT和BERT到用于计算机视觉的EfficientNet和ResNet，再到图神经网络和许多其他应用。

　　其中，Bow-2000 IPU Machine（以下简称Bow-2000）是整个Bow Pod系列的基础组成部分。

　　Bow-2000采用了与Graphcore第二代IPU-M2000 machine同样的系统架构，但配备的是四个Bow IPU处理器，可提供1.4 PetaFLOPS的AI计算。Bow-2000可以完全向后兼容现有的IPU-POD系统，其高速、低时延的IPU结构和灵活的1U外形尺寸保持不变。

　　Bow Pod系列

　　Bow-2000可安装在戴尔、Atos、Supermicro、浪潮和联想等领先品牌的主机服务器上，从而组成Bow Pod系统。整个Bow Pod系列包括Bow Pod16（4台Bow-2000和一台主机服务器）、Bow Pod32（8台Bow-2000和一台主机服务器）、Bow Pod64以及更大的旗舰系统Bow Pod256和Bow Pod1024。

　　以旗舰产品Bow Pod256为例，其提供超过89 PetaFLOPS的AI计算，而超大规模Bow Pod1024可提供350 PetaFLOPS的AI计算，支持机器学习工程师在AI模型规模呈指数增长的情况下仍可领先一步，在机器智能领域取得新的技术突破。

　　Graphcore提供的数据显示，在性能方面，在与配有Bow Pod系统的Mk2 IPU-Pod系统相同的峰值功率范围内，客户发现各种AI应用的性能提升高达40%。

　　在CNN网络、Vision Transformer的网络以及深层次的文本到图片的网络模型训练中，Bow Pod相比前一代产品性能都有30%多的提升，EfficientNet-B4网络下性能提升可以达到39%。

　　同时，Bow Pod系统还可以大幅提高电源效率。经过一系列实际应用测试表明，Bow Pod的每瓦性能最高可提升16%。

　　对于最先进的计算机视觉模型EfficientNet，Bow Pod16性能比同类Nvidia DGX A100系统提升5倍以上，而价格只有一半，总体拥有成本优势提升高达10倍。

　　Bow IPU处理器黑科技：Wafer-on-Wafer创新技术

　　为何此次推出的全新一代IPU产品Bow Pod系列能有如此优异的性能和能效表现呢？

　　Graphcore大中华区总裁兼全球首席营收官卢涛揭秘表示，作为Bow-2000、Bow Pod系统的核心，Bow IPU处理器采用了全球首项3D半导体技术，从而支持Bow Pod系统实现了巨大的性能提升和更高的电源效率。

　　据悉，Wafer-on-Wafer 3D技术由Graphcore与台积电合作开发，并首次应用在IPU处理器上。Wafer-on-Wafer技术有潜力在硅片之间提供更高的带宽，从而优化电源效率，在晶圆级别提升Colossus架构的功率。

　　Bow IPU中的Wafer-on-Wafer，两个晶圆结合在一起，产生一个新的3D裸片。其中一个晶圆用于AI处理，在架构上与GC200 IPU处理器兼容，拥有1472个独立的IPU-Core tile，能够运行超过8800个线程，具有900MB的处理器内存储，而第二个晶圆拥有供电裸片。

　　通过在供电裸片中添加深沟槽电容器，位置在处理内核和存储旁，我们能够更高效地供电，从而实现350 TeraFLOPS的AI计算，实现40%的性能提升。

　　通过与台积电紧密合作，Graphcore已充分验证了整套技术，包括背面硅通孔（BTSV）和Wafer-on-Wafer（WoW）混合键合中的多项突破性技术。

　　此外，Graphcore中国工程副总裁、AI算法科学家金琛补充表示，这些性能数据的提升，很大程度也归功于Graphcore整个软件栈Poplar SDK的生态系统。其中，自研的图编译器PopART等软件的加持使得IPU产品在不同应用的性能上能够得到广泛和通用的提升。

　　目前，最新Bow Pod系统现已上市，和上一代产品相比，价格不变，目前已开始在全球范围内发货。

　　卢涛强调，Bow Pod系统上市的同时，针对IPU-M2000订单的老用户会推出一些优惠方案，确保这些老客户也可以获得相似的每美元性能。

　　据悉，Graphcore的客户已涵盖实验室、医药健康、保险、云计算、气象分析预测、分子动力学、智慧城市、互联网等诸多行业。金山云星曜产品（裸金属服务器）系列的金山云IPU服务器就搭载了Graphcore IPU（智能处理器）及Poplar软件栈。

　　未来计划

　　Graphcore方面透露，正在开发一款可以用来超越人脑处理的超级智能机器，并将于2024年交付这台全球首台超级智能计算机——Good Computer（古德计算机）。

　　据介绍，这款超未来的智能计算机之所以被命名为Good，一方面是Graphcore致力于打造“好”的计算机，一方面是向计算机科学家先驱Jack Good（杰克·古德）致敬。

　　目前Graphcore正在开发新一代IPU技术，为这款Good Computer提供超过10 Exa-Flops的AI浮点计算；最高可达4PB的存储，带宽超过10PB/秒；支持超过500万亿参数的AI模型；3D Wafer-on-Wafer逻辑栈；同时获得Poplar SDK的完全支持。

　　售价方面，这款Good Computer预计价格在100万美元至1.5亿美元。