AMD presenterar nya Instinct MI350P PCIe Card – en GPU-accelerator utvecklad för att göra AI-inferens mer tillgänglig och kostnadseffektiv i befintliga datacentermiljöer.
Kortet har en dual-slot-design och kan installeras direkt i nuvarande infrastruktur utan omfattande uppgraderingar av strömförsörjning, kylning eller rack, vilket gör det enklare för företag att driftsätta AI lokalt (on-premises) i större skala.
Som den snabbaste vägen till GPU-driftsättning för företag utökar MI350P AMD:s heltäckande AI-portfölj med en smidig PCIe-lösning. Den hjälper kunder att maximera sin AI-investering (ROI) genom kostnadseffektiv prestanda, samtidigt som det öppna ROCm-ekosystemet förenklar implementeringen. Som en del av AMD:s Enterprise AI-portfölj erbjuder MI350P företag en skalbar väg att ta AI från pilotprojekt till produktion utan inlåsningseffekter, dyra omskrivningar av kod eller kompromisser med arkitekturen.
I takt med att organisationer anammar AI upptäcker många att deras infrastruktur har svårt att hänga med. Att köra AI i molnet är ett alternativ, men det kan medföra integritetsproblem och oförutsägbara kostnader. Att uppgradera den lokala infrastrukturen är ett annat alternativ, men att stödja stora plattformar för GPU-acceleratorer kan kräva dyra ombyggnationer av datacentrets strömförsörjning och kylning.
AMD:s nya Instinct MI350 PCIe-kort ger företag ett tredje alternativ: ledande AI-prestanda som är designad för att passa den datacenterinfrastruktur de redan äger.
Prestanda som passar direkt i befintliga rack
AMD Instinct MI350P PCIe-kort är designade för att hjälpa organisationer att förbereda sig för eran av agentisk AI och är “drop-in”-kort med dubbla kortplatser för standardiserade, luftkylda servrar. De är byggda för att driftsätta inferens lokalt inom organisationens nuvarande infrastruktur för ström, kylning och rack. AMD Instinct-GPU:er i kostnadseffektiva PCIe-kort kompletterar AMD:s portfölj för AI-beräkningar och ger företag en rad alternativ när de navigerar sin unika AI-resa.
PCIe-formfaktorn är ett utmärkt val för företag som behöver mer AI-beräkningskraft än vad processorer (CPU:er) kan erbjuda, men som ännu inte är redo att investera i dedikerade plattformar för GPU-acceleratorer. AMD Instinct MI350P PCIe-kort finns tillgängliga i luftkylda system med upp till åtta acceleratorkort och är idealiska för små, medelstora och stora AI-modeller för inferens och RAG-pipelines.
Skala upp ROI
AMD Instinct MI350P PCIe-kort är konstruerade för att leverera exceptionell AI-prestanda med utmärkt kostnadseffektivitet och ledande prestanda. Nyckelfunktioner hjälper till att öka prestandan, förenkla driftsättningen och minska kostnaderna så att organisationer kan gå från utvärdering till verkliga resultat:
- Inbyggt stöd för lägre precision med MXFP6 och MXFP4, vilket ger hög genomströmning.
- Acceleration genom stöd för gleshet (sparsity) för de flesta vanliga 8- och 16-bitars precisioner.
- Uppskattningsvis 2 299 teraflops (TFLOPS) och upp till 4 600 TFLOPS i topprestanda vid MXFP4, den högsta prestandan som för närvarande finns tillgänglig i ett PCIe-kort för företag.
- Uppskattningsvis 144 GB High Bandwidth Memory 3e (HBM3E) som körs i upp till 4 TB/s.
- Ett öppet ekosystem med kostnadsfria eller billiga alternativ för utvecklingsstackar förenklar driftsättningen och bidrar till lägre driftskostnader.
AMD Instinct MI350P PCIe-kort bygger på öppna standarder för interoperabilitet över plattformar. Tillskottet fortsätter AMD:s strategi att möjliggöra ett helt öppet AI-ekosystem och erbjuda kunderna valmöjligheter i företagsmiljöer. AMD Instinct MI350P PCIe-kort stöder det spektrum av precisionsnivåer som AI-modeller för företag förlitar sig mest på.
Med AMD Instinct MI350P PCIe-kort kan företag snabbt gå från bare-metal-infrastruktur till produktionsklara AI-system på en stark grund. De gör det möjligt för organisationer att migrera arbetsbelastningar utan att skriva om kod, integrera med befintliga AI-pipelines och skala upp i takt med att arbetsbelastningarna utvecklas.
Om AMD
AMD (NASDAQ: AMD) drives innovation in high-performance and AI computing to solve the world’s most important challenges. Today, AMD technology powers billions of experiences across cloud and AI infrastructure, embedded systems, AI PCs and gaming. With a broad portfolio of AI-optimized CPUs, GPUs, networking and software, AMD delivers full-stack AI solutions that provide the performance and scalability needed for a new era of intelligent computing. Learn more at www.amd.com.
