I takt med att AI-initiativen accelererar och skalas upp blir frågan om hur nästa generations datacenter ska utformas och drivas allt viktigare.
AI-infrastruktur skiljer sig i grunden från traditionell IT.
Den arbetar i större skala, med högre densitet och med betydligt större energibehov. Därför behöver man vid utformningen av nästa generations datacenter utforska tätt integrerade arkitekturer på racknivå, där beräkningsresurser, minne, nätverk och mjukvara utformas tillsammans som ett enhetligt system.
”Det går inte alltid att köra AI-arbetslaster effektivt i befintliga datacenterarkitekturer – det krävs en ny typ av infrastruktur som är utformad från grunden för att leverera prestanda, effektivitet och skalbarhet i lika hög grad. Traditionellt har datacenter byggts som samlingar av enskilda servrar, som optimeras var för sig och kopplas samman i kluster”, säger Joakim Stenberg, försäljningschef för norra Europa på AMD.
Ett enhetligt system behövs
För att möta kraven på att skala upp infrastruktur anpassad för AI utforskar branschen i allt högre grad tätt integrerade arkitekturer på racknivå, där beräkningsresurser, minne, nätverk och mjukvara utformas tillsammans som ett enhetligt system. Detta angreppssätt, som bland annat ligger till grund för AMD:s rackdesign Helios för AI, förenar högpresterande processorer (CPU:er), avancerade AI-acceleratorer, höghastighetsnätverk och en öppen mjukvarustack i en sammanhållen plattform som är utformad specifikt för AI-arbetslaster.
Denna integrationsnivå innebär att AI-prestanda inte längre begränsas enbart av beräkningskapaciteten. I allt högre grad ligger flaskhalsen i hur effektivt data kan flyttas genom systemet. När modellerna växer i storlek och komplexitet blir minnesbandbredd, effektiviteten i förbindelserna mellan systemets komponenter och orkestrering på systemnivå kritiska faktorer. Kort sagt kan dataförflyttningen kräva mer effekt än själva beräkningarna. Därför utformas lösningar på racknivå för att optimera prestanda per watt och prestanda per flyttad byte – snarare än enbart råprestanda. Dessa mått är avgörande för skalbar AI.
”Samtidigt ökar beräkningsdensiteten dramatiskt. För vissa AI-arbetslaster kan ett enda rack i dag leverera AI-prestanda som tidigare krävde flera serverkluster. Den här förändringen omvandlar själva datacentret, där racket blir den grundläggande byggstenen i AI-infrastrukturen. Genom att integrera CPU:er, grafikprocessorer (GPU:er), nätverk och mjukvara på racknivå gör rackarkitekturen det möjligt för organisationer att införa AI-infrastruktur mer effektivt, skala upp den mer förutsägbart och optimera prestandan i hela systemet. Detta angreppssätt tar också itu med en av de mest angelägna utmaningarna för AI i dag: energifrågan”, säger Joakim Stenberg.
Optimering av AI-arkitekturen
Tillgången till energi är snabbt på väg att bli en potentiell begränsning vid utbyggnaden av AI-datacenter. I takt med att anläggningarnas effektbehov når gigawattnivå genomförs digitala initiativ och byggs anläggningar parallellt med att den nationella energiinfrastrukturen optimeras. Samtidigt ökar beräkningsdensiteten dramatiskt, vilket kräver nya lösningar för kylning, strömförsörjning och systemarkitektur.
Det är här balansen i arkitekturen blir avgörande. AI-prestanda avgörs inte längre av en enskild komponent, som en GPU. I stället beror den på en sömlös integration av CPU:er, acceleratorer, nätverk, minne och mjukvara. Att uppfylla AI:s krav på effekt och prestanda förutsätter att rätt beräkningsresurs används för rätt uppgift – oavsett om det är en CPU, en GPU eller en kombination av båda som samverkar i ett balanserat system. GPU:er spelar en avgörande roll för att accelerera starkt parallella AI-arbetslaster, som träning av stora språkmodeller (LLM:er) och AI-inferens med hög genomströmning i stor skala. CPU:er är däremot fortsatt oumbärliga för att orkestrera dataförflyttning, hantera arbetsflöden och utföra generella och latenskänsliga uppgifter.
”Lika viktig är energieffektiviteten på komponentnivå. Som nämnts håller prestanda per watt och prestanda per flyttad byte på att bli centrala mått för effektoptimerade AI-lösningar. AMD har gjort energieffektivitet till en grundläggande designprincip i hela sin portfölj, från AMD EPYC-processorer till AMD Instinct-grafikprocessorer för datacenter. Dessa tekniker är utformade för att leverera marknadsledande prestanda samtidigt som effektförbrukningen optimeras, vilket hjälper organisationer att skala upp AI utan ohållbara ökningar av energibehovet”, säger Joakim Stenberg på AMD.
Om AMD
AMD (NASDAQ: AMD) drives innovation in high-performance and AI computing to solve the world’s most important challenges. Today, AMD technology powers billions of experiences across cloud and AI infrastructure, embedded systems, AI PCs and gaming. With a broad portfolio of AI-optimized CPUs, GPUs, networking and software, AMD delivers full-stack AI solutions that provide the performance and scalability needed for a new era of intelligent computing. Learn more at www.amd.com.
