
IBM Cloud kavatseb tutvustada Inteli's Gaudi 3 AI kiirendi kiibid oma platvormile järgmise aasta alguses, mis tähistab olulist koostööd, mille eesmärk on täiustada AI pilvandmetöötluse võimekust. See partnerlus tuleb otsustaval ajal, kuna ettevõtted otsivad üha enam oma tehisintellekti vajaduste rahuldamiseks tõhusaid ja kulutõhusaid lahendusi.
. Gaudi 3 kiip, mis avalikustati 2023. aasta detsembris, esindab Inteli's uusim edusamm AI tehnoloogia, mis on loodud konkureerima juhtivate toodetega alates Nvidia ja AMD. See kiip on ehitatud tipptasemel viie nanomeetri protsessile ja sellel on ainulaadne arhitektuur, mis hõlmab 64 tensori töötlemise südamikku (TPC-d) ja kaheksa Maatrikskorrutusmootorid (MME-d). Need komponendid on optimeeritud mitmesugusteks AI ülesandeid, mis võimaldavad kiibil täita kuni 1,835 triljonit arvutusi sekundis (TFLOPS) BF16 andmete töötlemisel, mis on tavaliselt kasutatav vorming AI rakendusi.
Gaudi 3 vs Nvidia H100 GPU-d
Intel's Gaudi 3 ja Nvidia's H100 on kaks kõige võimas AI kiirendid turul, kuid neil on mõned peamised erinevused:
Arhitektuur
- Gaudi 3 on üles ehitatud 5 nm protsessile ja sellel on 64 tensoritöötlussüdamikku (TPC) ja 8 maatrikskorrutusmootorit (MME)
- H100 on üles ehitatud 4 nm protsessile ja sellel on 16,896 528 varjutusüksust, 528 tensorituuma ja XNUMX tekstuuri kaardistamise ühikut
jõudlus
- Gaudi 3 tagab kuni 1,835 TFLOPSi BF16 jõudlust
- H100 SXM5 pakub 1,920 GB/s mälu ribalaiust, PCIe versioon aga 1,280 GB/s
Mälu
Kulutõhususe
- Gaudi 3 on H100-le kuluefektiivsem alternatiiv
- Varased võrdlusnäitajad näitavad, et Gaudi 3 pakub muljetavaldavat jõudlust dollari kohta
Ühendage
- H100 on ühendatud Grace protsessoriga, kasutades Nvidia's ülikiire kiipidevaheline ühendus, mis pakub 900 GB/s ribalaiust
IBM Cloudiga's Gaudi 3 kasutuselevõtuga saavad kliendid juurdepääsu võimsale tööriistale nii hübriid- kui ka kohapealsete keskkondade jaoks. See integratsioon peaks parandama IBM-i funktsionaalsust. Watsonx AI ja andmeplatvorm, pakkudes ettevõtetele ressursse, mida on vaja täiustatud rakenduste arendamiseks ja juurutamiseks AI mudeleid tõhusamalt.
Intel's Gaudi 3 on positsioneeritud kulutõhusa alternatiivina Nvidia's H100 GPU, mis on turgu valitsenud. Varased võrdlusnäitajad viitavad sellele, et Gaudi 3 pakub muljetavaldavat jõudlust dollari kohta, mis on kriitiline tegur ettevõtetele, kes soovivad oma optimeerida. AI investeeringud.
. Gaudi 3 kiipi kaudu saab kättesaadavaks IBM Cloud's Virtuaalsed serverid VPC jaoks, mis võimaldab ettevõtetel oma tegevust laiendada AI töökoormusi paindlikult ja tõhusalt. Gaudi 3 integreerimine IBM-iga's olemasoleva infrastruktuuri eesmärk on lihtsustada haldamist AI rakendused, pakkudes paremat nähtavust ja kontrolli arvutiressursside üle.
Kuna nõudlus AI lahenduste populaarsus kasvab jätkuvalt, see IBM-i ja Inteli koostöö võib pilvepõhiste lahenduste maastikku ümber kujundada. AI teenuseid. Pakkudes Gaudi 3-d, IBM Cloud mitte ainult ei laienda oma teenusteportfelli, vaid positsioneerib end ka konkurentsitihedana võtmeisikuna AI turg, mis teenindab ettevõtteid, kes otsivad uuenduslikke ja taskukohaseid arvutilahendusi.


