Red Hat, ledande leverantör av lösningar med öppen källkod, lanserar i dag Red Hat AI Factory med NVIDIA – en gemensamt utvecklad mjukvaruplattform som kombinerar Red Hat AI Enterprise och NVIDIA AI Enterprise.
Satsningen är det senaste steget i bolagens fördjupade samarbete och snabbar upp tillgången till de senaste AI-innovationerna för företagskunder samtidigt som lösningen erbjuder Day 0-stöd för NVIDIAs hårdvaruarkitekturer. Plattformen ger ett heltäckande AI-stöd för organisationer som vill driftsätta AI i stor skala.
I takt med att företagens AI-investeringar väntas överstiga 1 000 miljarder dollar till 2029, drivna av agentbaserade AI-lösningar, ökar kraven på infrastruktur och inferens. Red Hat AI Factory med NVIDIA hjälper IT-team att hantera både traditionell IT och den snabbt växande AI-stacken på ett mer effektivt sätt.
Red Hat AI Factory med NVIDIA snabbar upp vägen till produktionsklar AI och levererar en mjukvaruplattform för AI-fabriker, byggd för accelererad infrastruktur som ger högre prestanda för modellerna och de NVIDIA-GPU:er som driver inferenslagret. Plattformen stöds av AI Factory-infrastruktur från ledande systemtillverkare som Cisco, Dell Technologies, Lenovo och Supermicro, vilket gör det möjligt för IT- och driftteam att skala och förvalta AI-lösningar med samma förutsägbarhet och driftsäkerhet som andra affärskritiska system.
Lösningen bygger på Red Hats och NVIDIAs gemensamma open source-arbete och erbjuder en skalbar, säker och företagsanpassad grund för AI-drift on-prem, i molnet eller vid nätverkskanten. Den ger stöd för högpresterande inferens, modelljustering, anpassning samt driftsättning och hantering av AI-agenter, med fokus på säkerhet. Organisationer får därmed större kontroll över sin AI-arkitektur, från datacenter till publikt moln, med:
- Snabbare väg till AI i produktion: Färdiga arbetsflöden och tillgång till förkonfigurerade modeller, inklusive IBM Granite, NVIDIA Nemotron och NVIDIA Cosmos via NVIDIA NIM-mikrotjänster. Dessutom gör NVIDIA NeMo det möjligt att snabbare och mer kostnadseffektivt anpassa modeller till egen data.
- Optimerad prestanda och kostnad: Maximera nyttjandet av infrastrukturen och höj inferensprestandan med en enhetlig serving-stack med hög prestanda. Red Hat AI Factory med NVIDIA erbjuder inbyggd observabilitet och utnyttjar Red Hats AI-inferensfunktioner, baserade på vLLM, NVIDIA TensorRT-LLM, NVIDIA Dynamo och NVIDIA BlueField, för att möta högt ställda krav på prestanda och tillgänglighet i AI-tjänster (SLA:er). Detta hjälper organisationer att sänka den totala ägandekostnaden (TCO) för AI genom ett mer effektivt samspel mellan modeller och NVIDIA-GPU:er.
- Stärkt säkerhet för företag: Genom att bygga på den flexibla och stabila grunden i Red Hat Enterprise Linux får organisationer tillgång till avancerade säkerhets- och regelefterlevnadsfunktioner som är inbyggda från start, vilket minskar risker, sparar tid och minimerar driftstörningar. Det ger en säkerhetshärdad grund för affärskritiska AI-arbetslaster som kräver isolering och kontinuerlig verifiering.
– Övergången från AI-experiment till industriell produktion i hela verksamheten kräver en grundläggande förändring i hur AI-beräkningsstacken hanteras. Med Red Hat AI Factory med NVIDIA accelererar vi vägen till driftsatt AI och snabbare produktionssättning. Med en stabil och högpresterande grund, byggd på våra beprövade hybridmolnserbjudanden, gör vi det möjligt för våra kunder att ta ägarskap över sin AI-strategi och skala med samma stringens och driftsäkerhet som för sina affärskritiska IT-plattformar, säger Chris Wright, Chief Technology Officer och Senior Vice President, Global Engineering, Red Hat.
Red Hat AI Factory med NVIDIA finns nu tillgänglig.
