[Krönika] Modern IT drivs i dag lika mycket av ekonomiska beslut som av teknik.
Kostnader för hårdvara, molntjänster, lagring och mycket annat påverkar hur IT-chefer budgeterar och genomför sina strategier.
Med AI tillkommer nu ytterligare en faktor: tokenekonomin – det vill säga hur våra AI-strategier påverkas av de snabbt föränderliga kostnaderna för de underliggande AI-modellerna.
Chris Wright, CTO på Red Hat
I dag bygger de flesta AI-lösningar för företag på att anropa avancerade AI-modeller via API:er och betala för de tokens som används och genereras. Det är en enkel startpunkt, men kalkylen håller på att förändras. Tokenförbrukningen ökar kraftigt eftersom nya resonemangsmodeller ofta använder 10–20 gånger fler tokens än standardmodeller bara för att bearbeta ett problem.
I takt med att AI-agenter itererar, använder verktyg och kopplar samman uppgifter ökar denna förbrukning exponentiellt. Det innebär att organisationer i större utsträckning själva behöver kontrollera hur AI-kapaciteten tillhandahålls. Det innebär att äga sin inferensinfrastruktur, styra modellförfrågningar till den mest kostnadseffektiva miljön och i vissa fall köra egenhostade modeller som är optimerade för verksamhetens specifika behov.
På Red Hat anser vi att detta kräver en fullt integrerad och öppen teknikstack där varje lager – från de fysiska AI-acceleratorerna till själva agenterna – är sammankopplat och byggt med säkerhet i fokus från början.
Grunden måste stödja ett brett ekosystem av hårdvara och molnplattformar. Ovanpå detta ligger AI-infrastrukturen, med Linux- och Kubernetes-miljöer som levererar samma tillförlitlighet oavsett var arbetsbelastningen körs.
Hjärtat i ett AI-system är inferensen – den process där modellen genererar svar och drar slutsatser. Det är också den avgörande faktorn för att kunna skala AI-strategier. Erfarenheten visar att optimering av modellkörning och GPU-utnyttjande på mjukvarunivå kan ge betydande förbättringar i både svarstider och genomströmning. I praktiska tillämpningar har sådana optimeringar minskat tiden till första svar avsevärt och förbättrat genomströmningen flera gånger om. Utan kontroll över både prestanda och kostnader kommer organisationer förr eller senare att tvingas till kompromisser som varken ekonomiavdelningen eller kunderna accepterar.
AI-modeller känner dock inte till det som särskiljer din verksamhet om du inte lär dem det. Därför har RAG (Retrieval Augmented Generation) och finjustering blivit viktiga verktyg för att skapa verklig differentiering med AI. Genom att koppla modeller till unik intern dokumentation och kundhistorik kan företag skapa AI-lösningar som förstår verksamhetens specifika expertis och domänkunskap.
AI-agenter är inte längre experiment. De utgör kärnan i moderna företagsstrategier. Samtidigt uppstår en ny utmaning där utvecklare, datavetare och affärsteam använder olika verktyg och ramverk för att bygga sina egna AI-agenter.
En effektiv strategi måste stödja denna valfrihet samtidigt som IT behåller kontrollen. Det innebär att varje agent behöver en verifierad identitet, att hela livscykeln kan hanteras med versionering och återställning samt att framväxande standarder som MCP Services används för att koppla samman agenter med verktyg och data utan att skapa nya säkerhetsrisker.
Vi ser redan denna utveckling hos BNP Paribas, som har genererat närmare 600 miljoner dollar i värde genom att industrialisera över 1 000 AI-användningsfall på en gemensam plattform. Samtidigt har GPU-provisionering gått från att vara en flaskhals som tog veckor till att bli en tjänst som levereras på några minuter, vilket visar att hög utvecklingstakt och digital suveränitet kan gå hand i hand.
På samma sätt har NASA Marshall Space Flight Center använt dessa plattformar för att flytta tusentals äldre arbetsbelastningar till containeriserade miljöer och minskat driftsättningstiderna från dagar till minuter för att stödja verksamhetskritiska rymdrelaterade operationer.
Dessa organisationer visar hur AI-strategier utvecklas från att enbart handla om effektivisering och kostnadsbesparingar till att bli drivkrafter för tillväxt. Visst vill vi använda AI för att arbeta mer effektivt, men att enbart fokusera på det är att missa den större bilden. Nästa stora steg för AI handlar om att skapa tillväxt – inte bara genom att minska kostnader utan också genom att öka intäkter och skapa nya affärsmöjligheter.
I slutändan bör målet med en AI-strategi vara att äga den plattform som stödjer det som är viktigast för den egna verksamheten. När marknaden förändras ska organisationer inte behöva välja mellan tillgång till de mest avancerade modellerna och kraven på styrning, säkerhet och kontroll.
Genom att använda en öppen och integrerad teknikstack går det att kombinera båda delarna. Du kan ge verksamheten tillgång till de modeller som behövs samtidigt som du upprätthåller en säkerhetsnivå som IT-organisationen kan försvara.
Det är det enda sättet att bygga en strategi som fortsätter att skapa värde över tid och förvandlar den snabba förändringstakten till en långsiktig konkurrensfördel.
Av Chris Wright, CTO på Red Hat
