Най-новият превключвател на Broadcom – силиций – може да се похвали с вграден двигател за невронни мрежи, за който се казва, че може да бъде обучен за борба с претоварването на мрежата в движение, при линейни скорости, без да се компрометира латентността или пропускателната способност.
Изчислителната способност, която Broadcom нарича NetGNT — съкратено за мрежов анализатор на невронен мрежов трафик —, се превръща в новия чип на компанията Trident 5-X12.
Както обяснява Broadcom, типичният ви превключвател ASIC може да гледа само по един пакет на път в даден момент, докато преминава през портовете и буферите за чипове. С въвеждането на NetGNT, чипът може да бъде обучен да идентифицира различни модели на трафик, обхващащи целия чип.
Полупроводниковият гигант предполага, че чипът е особено добър при идентифицирането на моделите на трафика, свързани с натоварванията с AI, като инкаст, когато пакетите се събират в един порт и буфер, като въвеждат задръствания и го предотвратяват, преди да причини проблеми. Производителят на чипове отбелязва, че не се ограничава до управлението на трафика и може да се използва за подобряване на телеметрията и мрежовата сигурност.
Критично, производителят на чипове твърди, че това се прави изцяло в хардуер с пълна скорост на линията, така че не трябва да има въздействие върху производителността или латентността.
Що се отнася до силиция, Trident 5-X12 е сравнително бързо парче комплект, поне за Top of Rack (ToR) превключвател с висока степен на програмируемост. Копаейки в скоростите и емисиите, чипът е способен да избута около 16 Tbps честотна лента.
Тази честотна лента е разбита от стандартните 100G PAM4 Serializer/Deserializers, което позволява широк спектър от порт конфигурации. Като ToR превключвател, обаче, Broadcom очаква да види 5-X12, разположен като 1U кутия за пица с 48 200 Gbps QSFP-DD портове и осем 800 Gbps порта за агрегиране обратно към гръбначния стълб.
Тази конфигурация ни се струва като такава, която е съобразена с AI изчислителни клъстери. В тези среди ускорителите са толкова гладни за честотна лента, че работата в мрежа може бързо да се превърне в пречка. Поради това не е необичайно да се види всеки GPU, съчетан със специален NIC, навсякъде от 200-400 Gbps. Според нашата оценка, конфигурацията, описана от Broadcom, може да достави 200 Gbps до около шест GPU възела с осем ускорителя и NICs на парче.
В допълнение към по-високата пропускателна способност на превключвателя, която е два пъти по-голяма от по-старите части Trident 4-X9, Broadcom също говори за енергийната ефективност на чипа, което според него е с около 25 процента по-ниско на 400 Gbps порт от това поколение.
Новият чип в момента се доставя на „квалифицирани клиенти“, но вероятно ще мине известно време, преди да видим първите ключове, задвижвани от силиция, да го пуснат на пазара.
Състезанието за оръжия в AI мрежа
Докато мрежовите комутатори и ASICs може да не са толкова секси като ускорителите, като H100 на Nvidia, MI300A/X на AMD или предстоящия Habana Gaudi 3 на Intel, това все пак е жизненоважно парче от AI пъзела.
Мрежовите доставчици като Cisco, Broadcom, Nvidia бързо натискат AI оптимизирана мрежова предавка, включително, превключватели, DPU и сега superNICs, за да помогнат в борбата със задръстванията и латентността, което може да удължи времето за обучение, ако не бъде проверено.
Trident 4-X9 на Broadcom не е първият й чип, предназначен да се възползва от търсенето на AI. По-рано тази година разгледахме дейността на компанията Ерихон3 AI силиций. Този чип е предназначен да свързва масивни масиви от GPU. Според Broadcom силният акцент върху свързаността с платове позволява чипът да се мащабира, за да поддържа до 32 000 ускорителя през Ethernet плат.
Cisco има подобни твърдения за Ж200 превключете ASIC, която е предназначена да поддържа гладни за честотна лента уеб мащабни мрежи или както все повече се случва, големи AI/ML изчислителни клъстери. Чипът може също да се мащабира, за да поддържа клъстери до 32 000 GPU, но всъщност има повече общо с 51,2 Tbps Tomahawk 5 или превключвателите Spectrum-4 на Nvidia, които ние погледнах миналата година.
Говорейки за Ethernet комутаторите на Nvidia, компанията е енергичен нейната платформа Spectrum-X за компании, които не искат да се забъркват с нейния собствен мрежов комплект Infiniband.
Платформата съчетава своите 51.2 Tbps Spectrum-4 превключватели със своите BlueField-3 SuperNICS — име, което има едва наскоро приет — за активно смекчаване на задръстванията както на ниво превключвател, така и на ниво възел. Комбинираната компания казва, че е в състояние да постигне нива на латентност и задръствания, които са по-в синхрон с нейната патентована Infiniband връзка, използвайки индустриалния стандарт Ethernet. Дали това е нова идея обаче, зависи от това дебат. ®
