IBM Cloud kommer att driftsätta Intel Gaudi 3 AI Chips år 2026

IBM Cloud kommer att introducera Intel's Gaudí 3 AI acceleratorchips till sin plattform i början av nästa år, vilket markerar ett betydande samarbete som syftar till att förbättra AI kapacitet inom molntjänster. Detta partnerskap kommer vid en avgörande tidpunkt då företag i allt högre grad söker effektiva och kostnadseffektiva lösningar för sina behov av artificiell intelligens.

Ocuco-landskapet Gaudi 3 chip, presenterad i december 2023, representerar Intel's senaste framstegen inom AI teknik, designad för att konkurrera med ledande produkter från Nvidia och AMD. Detta chip är byggt på en banbrytande process på fem nanometer och har en unik arkitektur som inkluderar 64 Tensorbearbetningskärnor (TPC) och åtta Matrix multiplikationsmotorer (MME). Dessa komponenter är optimerade för en mängd olika AI uppgifter, vilket gör att chipet kan utföra upp till 1,835 XNUMX biljoner beräkningar per sekund (TFLOPS) vid bearbetning av BF16-data, ett format som vanligtvis används i AI tillämpningar.

Gaudi 3 vs Nvidia H100 GPU:er

Intel's Gaudi 3 och Nvidia's H100 är två av de mest den mäktigaste AI acceleratorer på marknaden, men de har några viktiga skillnader:

arkitektur

• Gaudi 3 är byggd på en 5nm-process och har 64 Tensor Processing Cores (TPC) och 8 Matrix Multiplication Engines (MME)
• H100 är byggd på en 4nm-process och har 16,896 528 skuggningsenheter, 528 tensorkärnor och XNUMX texturmappningsenheter

Prestanda

• Gaudi 3 levererar upp till 1,835 16 TFLOPS BFXNUMX-prestanda
• H100 SXM5 erbjuder 1,920 1,280 GB/s minnesbandbredd, medan PCIe-versionen erbjuder XNUMX XNUMX GB/s

Minne

• Gaudi 3 har 128 GB HBM2e minneskapacitet
• H100 SXM5 har 80 GB HBM3-minne

Kostnadseffektivitet

• Gaudi 3 är positionerat som ett mer kostnadseffektivt alternativ till H100
• Tidiga riktmärken tyder på att Gaudi 3 erbjuder imponerande prestanda per dollar

Interconnect

• H100 är parat med Grace-processorn med hjälp av Nvidia's Ultrasnabb chip-till-chip-sammankoppling, som levererar 900 GB/s bandbredd

Med IBM Cloud's Genom införandet av Gaudi 3 får kunderna tillgång till ett kraftfullt verktyg för både hybrid- och lokala miljöer. Denna integration förväntas förbättra funktionaliteten hos IBMs Watsonx AI och dataplattform, vilket ger företag de resurser som behövs för att utveckla och driftsätta avancerade lösningar AI modeller mer effektivt.

Intel's Gaudi 3 positioneras som ett kostnadseffektivt alternativ till Nvidia's H100 GPU, som har dominerat marknaden. Tidiga riktmärken tyder på att Gaudi 3 erbjuder imponerande prestanda per dollar, en kritisk faktor för företag som vill optimera sina AI investeringar.

Ocuco-landskapet Gaudi 3 marker kommer att vara tillgänglig genom IBM Cloud's Virtuella servrar för VPC, vilket gör det möjligt för företag att skala upp sina AI arbetsbelastningar flexibelt och effektivt. Integrationen av Gaudi 3 med IBM's befintlig infrastruktur är avsedd att förenkla hanteringen av AI applikationer, vilket ger förbättrad insyn och kontroll över datorresurser.

Som efterfrågan på AI lösningar fortsätter att öka, detta samarbete mellan IBM och Intel skulle kunna omforma landskapet för molnbaserade AI tjänster. Genom att erbjuda Gaudi 3, IBM Cloud förbättrar inte bara sin tjänsteportfölj utan positionerar sig också som en nyckelaktör i konkurrensen AI marknad som riktar sig till företag som söker innovativa och prisvärda datorlösningar.