Därför måste företag tänka om kring hur de skalar AI

Därför måste företag tänka om kring hur de skalar AI

Publicerat av: Redaktionen

Att börja använda AI är relativt enkelt, men att skala upp är svårare.

När organisationer går mot agentiska system handlar den stora förändringen om att göra AI till en viktig del verksamhetens drift.

För att lyckas behöver företag integrera AI i strategi, infrastruktur och beslutsfattande. AMD listar nu tre saker som organisationer bör göra annorlunda.

Trots det starka momentumet kring AI visar en rapport från IDC, beställd av AMD, att företagens infrastruktur har svårt att hålla jämna steg. Rapporten pekar också ut tre saker som organisationer bör göra annorlunda.

Enligt rapporten är användningen av AI utbredd, men skalningen är fortfarande under framväxt. Hela 83 % av företagen kör i dag färre än tio AI-användningsområden samtidigt, vilket tyder på att många befinner sig tidigt i sin transformationsresa.

Drygt två av tio (21,7 %) gör heltäckande ROI-analyser, och 22,2 % kontrollerar att deras AI-investeringar ligger i linje med de strategiska målen. Om fler organisationerna stärker detta kan de röra sig snabbare framåt och tydligare visa vilket värde AI skapar.

Gapet förstärks av att många saknar en tydlig bild av sin arkitektur. Mer än 75 % av organisationerna är osäkra på vilka användningsområde agentisk AI ska ha. Det skapar ett bra tillfälle att sätta standarder, sätta upp skyddsräcken och samordna med intressenter.

Säkerhet och styrning är prioriterade områden. Företagen uppger att de använder åtkomstkontroller, anonymisering och livscykelpolicyer. Många genomför också hottester och övningar i promptmanipulation för att göra modellerna mer motståndskraftiga.

Även kostnadsdisciplinen håller på att mogna. Ungefär två tredjedelar av organisationerna inleder sina GenAI-initiativ med omfattande kostnadsuppskattningar som täcker infrastruktur, licenser, arbetskraft och skalbarhet. Sammantaget visar detta ett ekosystem som lär sig snabbt och bygger upp rätt förmågor för att kunna skala hållbart.

Därför spelar processorn och systemarkitekturen roll

Därför måste företag tänka om kring hur de skalar AII takt med att AI-arbetslasterna ställer allt högre krav möter IT-ansvariga i företag tre kritiska begränsningar: gränser för effekt- och kyltäthet, stigande tokenkostnader och komplex styrning.

Den som vill skala agentisk AI behöver inse att AI-infrastruktur i grunden är en systemutmaning på datacenterskala och att det inte finns någon universallösning för AI-beräkningar. GPU:er är fortfarande avgörande för tunga matematiska beräkningar, men de är bara en del av helheten. Agentiska arbetsflöden är starkt beroende av agentsandlådor. Det är miljöer som kör logik, ställer frågor till vektordatabaser, kör orkestreringsramverk och samverkar med affärsapplikationer.

Därför har serverprocessorer med hög täthet återigen blivit en central fråga för datacenter. Det krävs servrar som är optimerade för maximal kärntäthet, låg latens och hög minnesbandbredd, så att de kan förse kontinuerliga inferensflöden med data. Framtidens AI i företag kommer att drivas av högpresterande CPU:er och GPU:er som arbetar tillsammans i ett gemensamt system i stället för i separata silor.

Samtidigt hamnar standardiserad och effektiv hårdvara allt högre upp på agendan. IDC:s forskning bekräftar att en majoritet (77 %) av företagen prioriterar hårdvara och mjukvara som är anpassade till varandra. Syftet är att förenkla driften, minska friktionen och göra det möjligt att flytta arbetslaster och förutse prestandan.

Tre saker som organisationer bör göra annorlunda

AI skalar inte enbart via experiment, utan också genom fokus. Organisationer kan lära sig tre saker av dem som har tagit sig förbi pilotstadiet:

  • De kopplar varje AI-initiativ till mätbara resultat och disciplinerad ROI.
  • De behandlar infrastruktur som strategi och bygger enhetliga, högpresterande miljöer i molnet, i datacentret och vid edge för att stödja nya agentiska system.
  • De bygger in styrning från dag ett, från datakontroller till modelltester.

 

Om AMD

AMD (NASDAQ: AMD) drives innovation in high-performance and AI computing to solve the world’s most important challenges. Today, AMD technology powers billions of experiences across cloud and AI infrastructure, embedded systems, AI PCs and gaming. With a broad portfolio of AI-optimized CPUs, GPUs, networking and software, AMD delivers full-stack AI solutions that provide the performance and scalability needed for a new era of intelligent computing. Learn more at www.amd.com

Relaterade Artiklar

Vi använder cookies och andra identifierare för att förbättra din upplevelse. Detta gör att vi kan säkerställa din åtkomst, analysera ditt besök på vår webbplats. Det hjälper oss att erbjuda dig ett personligt anpassat innehåll och smidig åtkomst till användbar information. Klicka på ”Jag godkänner” för att acceptera vår användning av cookies och andra identifierare eller klicka ”Mer information” för att justera dina val. Jag Godkänner Mer Information >>

-
00:00
00:00
Update Required Flash plugin
-
00:00
00:00