桥接芯片存在预期差

  超微电脑最近发布了最新款的AI人工智能服务器。超微电脑是一家服务器厂商，也是美股明星股，一年涨幅15倍的那个。

  该AI服务搭载的GPU是AMD的MI300X，名叫：GPU A+ Server AS -8125GS-TNMR2。咱们通过拆解它，来找出到底有哪类芯片才是AI半导体的主角？GPU咱们都能想到，但有一类芯片很要害却不被广知，存在极大预期差。

  为了探明终究，咱们先来看GPU A+ Server AS -8125GS-TNMR2的外部结构图，最新款AI服务器、具有典型代表性。

  如上，外部结构大约也能够看出来：8个AMDMI300X加速卡（GPU）、2个AMD EYPC4代处理器（CPU）、4个PCIe Switch、24根可插拔内存条、18个可插拔硬盘。

  能够明显地发现：除了几个要害的逻辑功能模块（GPU、CPU）、存储模块（NVMe）之外，剩余的根本都是桥接模块（xGMI Fabric、PCIeSwitch、DPU、NIC）。

  AMD家的xGMI Fabric相当于英伟达家的NV-Link。由于在单个服务器内有若干个GPU（一般是8个就像咱们这个比方，最多16个），他们之间要协同核算需求数据互通。这个互通数据率还蛮大，PCIe的协议达不到。由于是内部互联，所以爽性关起门来，自己定一个协议，自家芯片能辨认就行。所以不必兼容杂乱无章的玩意，也不必各种数据包的帧结构开支，传输的都是类型单一的数据，数据率天然就能够做很高。

  NVLink的传输数据率，也便是常常说的带宽，能够到达900GB/s，远超PCIe。此外，NVSwitch交流芯片还可用于衔接多个NVLink，进一步扩展NVIDIA GPU集群的规划。这种互联网络技能能够提高模型练习的规划和速度，并被认为是NVIDIA在AI浪潮中取得成功的重要柱石。

  所以，英伟达2023年单这一块收入据完成了130亿美元，同比增加4倍。这是一块快速地增加、却不会广知的范畴，值得注重!

  3月9日，博通公司承认其行将推出的PCIe Gen7交流芯片Atlas 4将对来自AMD的Accelerated Fabric Link（AFL）互连技能供给支撑。这一音讯意味着，在上一年年末的AMD Advancing AI发布会上，AMD向生态合作伙伴开放了Infinity Fabric（XGMI）IP后，博通也加入了这一阵营。博通作为全球数通芯片的龙头，他的意向要注重！

  Fabric、NVLink、PCIeSwitch这类桥接芯片，也能够称为网络芯片，他们的功能也很大程度决议了整台服务器的才能。

  现实便是如此，英伟达也好、AMD也罢，他们家的AI GPU体系不断迭代的进程，特别最新的几款卖点便是带宽晋级，包含内存带宽晋级和网络带宽晋级。

  Fabric、NVLink、PCIeSwitch首要构成的柱石便是PHY，他们底层的PHY其实都是相似的。PHY是啥？PHY是物理层，所谓物理层便是只关怀电气衔接的物理方法（电压、电流等），不关怀它是一个什么样的数据结构（4x4的像素块仍是一个语音包）。

  如下图，NVlinkSwitch结构，可不要小看这颗芯片哦。首要他有251亿颗晶体管，什么概念？苹果最新的iPhone15用的主芯片A17也才190亿颗晶体管罢了，差了他25%。这颗芯片面积有294平方毫米，挨近300平方毫米。什么概念？昨日（3月8日）博通成绩阐明会上，博通给meta、google定制的AI加速器也才800平方毫米。也便是说这颗芯片挨近GPU面积的一半。这颗芯片还有2645个输入输出端口（用的BGA封装方法），几千颗管脚封装超级杂乱，并且仍是高速信号BGA方法。

  3.2TB/s的双向带宽，是由于有32*4条PHY。由于资料的物理极限约束，单条PHY的带宽是到不了T等级的。每条PHY的I/O输出信号是以对方法呈现的差分信号，选用PAM4调制（便是这一对信号的电压差值组合有4个）。

  不仅仅是Fabric、NVLink、PCIe，包含以太网、SATA，HDMI，USB，DisplayPort，他们的PHY原理都是相似的，由于这些高速信号的输入输出根本都是串行差分方法。

  为什么是串行？由于数据率高了，单个baud（或许你理解为bit也行）的时长很短（纳秒等级）。假如选用并行，电路各种时延会导致本来并行的几队数据通过一段电路后，不再是齐头并进了，所谓的同步无法做了。因此要用串行方法。

  为什么是差分？仍是由于数据高，差分信号是成对呈现，一正一负没有直流成分，有着十分强的抗搅扰的才能，能有用按捺电磁搅扰。所谓的EMI/EMC（电磁兼容性）好做。

  或许是由于NV家的私有协议，我在网上找了好久也没找到NVlink的PHY协议文本。不论哪种高速接口，其实底层都是相似的。为了更好地为读者阐明，我找到PCIe的PHY协议。其发送端的结构框图如下，接纳端便是发送端的逆结构。

  2.在把一组数据编码（8b10b或128b130b），实际上的意思便是加几个校验位，当时面的数据犯错的时分能判别出来，犯错少还能够纠正出来。就像咱们身份证后边几位相同，都是校验位。

  4.bit序列调制变成一对对差分信号（比方网络双绞线），有的要调整，有的不必，比方NVlink便是PAM4调制，2bit变成一对差分电压信号。

  这儿面的sedes（Serial-DeSrial，串行解串）是要害才能，所以能做高速信号sedes的公司都值得注重。这一块本文作者是专家，十多年前便是全球抢先高速接口龙头芯片公司的首要负责人。全球应该有数亿人获益于我的作业，成就感满满。但力求融会贯通的大众号不能太专业的心情，否则会很单调。

  至于国内外有哪些需求咱们来重视的PHY公司，或许说具有高速sedes才能的公司有哪些？今日就不在这儿讲诉了，常识星球里面会逐个解说。

  回到主题：AI半导体除了GPU，还有一类特别要害却被忽视。这类便是NVlink、 Fabric、PCIe、DPU、NIC这种桥接芯片，价值量很大，门槛也很高。至于为什么价值量大、门槛高，我在上面现已做了部分解说了。

  对的，现在的科技不能脱离芯片，$芯片ETF(SZ159995)$长时间持有了。

  人工智能自从Sora横空出世，热度一波接一波，现在商场心情还在继续发酵，这儿面的底层逻辑便是算力和芯片了。