Därför ska EPYC-processorer passa varje lager av agentisk AI

Därför ska EPYC-processorer passa varje lager av agentisk AI

Publicerat av: Redaktionen

AI-agenter förändrar vad datacenter behöver, och AMD menar att en enda typ av processor inte längre kan passa varje uppgift.

Deras svar är en portfölj av EPYC-processorfamiljer byggda på en gemensam mjukvarubas.

Sjätte generationens AMD EPYC 9006-serie serverprocessorer, med kodnamnet ”Venice”, positioneras som en plattform för agentisk AI: den typ av AI där en enda förfrågan kan utlösa en föränderlig kedja av beräkningsuppgifter.

Därför ska EPYC-processorer passa varje lager av agentisk AIEnligt AMD har planeringen av AI-infrastruktur gått igenom olika faser. För två år sedan handlade det till stor del om att dimensionera för träning. Därefter tog inferens täten i att forma kraven. Nu omvandlar agenter en enda förfrågan till en skiftande kedja av informationshämtning, verktygsanrop, kodexekvering och resultat.

Som ett resultat av detta menar AMD att flexibilitet är avgörande. Infrastruktur som byggs utifrån en enskild tidpunkt riskerar att vara fel utformad för det som kommer härnäst. Flexibilitet är numera ett krav i varje lager av stacken, inklusive de processorer (CPU:er) som stöder det agentiska arbetsflödet.

Fler profiler i ett och samma arbetsflöde

Arbetslaster har länge krävt olika systemprofiler. Databaser, virtualisering, analys, webbtjänster, tekniska beräkningar och AI ställer alla olika krav på hårdvaran. Enligt AMD samlar agentisk AI flera av dessa profiler i ett och samma arbetsflöde.

Stark prestanda per kärna under belastning kan snabba upp latenskänsliga uppgifter, medan ett högt antal kärnor kan hantera många uppgifter samtidigt och öka genomströmningen per rack. AMD säger att deras processorportfölj låter organisationer optimera för båda delarna, istället för att behöva acceptera samma kompromiss över alla sina servrar.

”Venice” är en av fyra processorfamiljer i den portföljen. Familjerna sträcker sig från edge-processorer med 8 kärnor till flaggskeppschip med 256 kärnor och AI-värdnoder i rackskala. Detta gör att varje roll i ett agentiskt flöde kan använda den processor som passar bäst utan att skapa en separat driftmiljö. AMD konstaterar att svaret på en mer varierad arbetsbelastning aldrig har varit färre valmöjligheter.

 

Om AMD

AMD (NASDAQ: AMD) drives innovation in high-performance and AI computing to solve the world’s most important challenges. Today, AMD technology powers billions of experiences across cloud and AI infrastructure, embedded systems, AI PCs and gaming. With a broad portfolio of AI-optimized CPUs, GPUs, networking and software, AMD delivers full-stack AI solutions that provide the performance and scalability needed for a new era of intelligent computing. Learn more at www.amd.com

Relaterade Artiklar

Vi använder cookies och andra identifierare för att förbättra din upplevelse. Detta gör att vi kan säkerställa din åtkomst, analysera ditt besök på vår webbplats. Det hjälper oss att erbjuda dig ett personligt anpassat innehåll och smidig åtkomst till användbar information. Klicka på ”Jag godkänner” för att acceptera vår användning av cookies och andra identifierare eller klicka ”Mer information” för att justera dina val. Jag Godkänner Mer Information >>

-
00:00
00:00
Update Required Flash plugin
-
00:00
00:00