Red Hat, ledande leverantör av lösningar med öppen källkod, presenterar de senaste uppdateringarna av Red Hat AI, en portfölj av produkter och tjänster som påskyndar utveckling och implementering av AI-lösningar i hybridmolnet.
Red Hat AI är en företags-AI-plattform för modellträning och inferens med högre effektivitet, enklare användning och flexibel distribution.
Företag arbetar för att minska kostnaderna för att distribuera stora språkmodeller (LLM) i stor skala men står inför utmaningen att integrera dem med sin egen data. De måste också kunna komma åt datan, oavsett om den finns i ett datacenter, offentliga moln eller vid nätverkets kant.
Red Hat AI, som omfattar Red Hat OpenShift AI och Red Hat Enterprise Linux AI (RHEL AI), erbjuder en företags-AI-plattform som möjliggör effektiva, optimerade modeller anpassade till affärsdata. Dessa kan distribueras i hybridmolnet för träning och inferens på olika accelererade beräkningsarkitekturer.
Red Hat OpenShift AI
Red Hat OpenShift AI är en komplett AI-plattform för att hantera prediktiva och generativa AI-livscykler i hybridmolnet, inklusive MLOps och LLMOps. Plattformen stöder skapandet av prediktiva modeller, finjustering av GenAI-modeller samt verktyg för att förenkla AI-hantering, från datavetenskap och modellpipelines till övervakning och styrning.
Red Hat OpenShift AI 2.18, den senaste versionen, tillför nya funktioner för att optimera AI-modeller i hybridmolnet. Viktiga nyheter inkluderar:
- Distribuerad servering: Med vLLM-inferensservern kan IT-team fördela modellservering över flera GPU:er, vilket minskar belastning, snabbar upp träning och optimerar resursanvändning.
- Helhetslösning för modellfinjustering: InstructLab och OpenShift AI:s pipelines förenklar finjustering av LLM:er, vilket gör dem mer skalbara, effektiva och spårbara, med smidig hantering via Red Hat OpenShift AI-dashboarden.
- AI-skydd: Red Hat OpenShift AI 2.18 förbättrar LLM:s prestanda och transparens med AI Guardrails, som övervakar användardata och modellutdata samt hjälper IT-team att hantera olämpligt språk och känslig information.
- Modellevaluering: Med komponenten lm-eval kan utvecklare bedöma LLM-prestanda inom olika områden, från logiskt och matematiskt resonemang till avancerad språkförståelse. Detta hjälper till att skapa mer effektiva och anpassade AI-modeller.
RHEL AI
RHEL AI är en del av Red Hat AI-portföljen och en plattform för att utveckla, testa och köra stora språkmodeller (LLM) för företagsapplikationer. Den levereras som en startbar Red Hat Enterprise Linux-serveravbildning med Granite LLM:er och InstructLab-verktyg för modelljustering, och kan distribueras i hybridmoln. RHEL AI version 1.4 inkluderar flera nya förbättringar, som exempelvis:
- Stöd för Granite 3.1 8B-modellen, som erbjuder flerspråkig inferens, taxonomianpassning och ett 128k kontextfönster för bättre sammanfattning och RAG-uppgifter.
- Ett nytt grafiskt gränssnitt för enklare datahantering och modellanpassning (utvecklarförhandsvisning).
- Document Knowledge-bench (DK-bench) för att jämföra finjusterade AI-modeller med obearbetade grundmodeller.
Red Hat AI InstructLab på IBM Cloud
Företag söker allt oftare AI-lösningar som prioriterar noggrannhet och datasäkerhet till lägsta möjliga kostnad och komplexitet. Red Hat AI InstructLab, distribuerad som en tjänst på IBM Cloud, förenklar, skalar och stärker säkerheten vid AI-träning och implementering. Genom att effektivisera InstructLab-tuning kan organisationer skapa anpassade, effektiva modeller och behålla kontrollen över sin data.
AI Foundations för kostnadsfri träning för Red Hat-kunder
AI omdefinierar hur företag arbetar och konkurrerar. För att stödja organisationer i detta erbjuder Red Hat kostnadsfria AI Foundations-onlinekurser. Med två certifieringsvägar, anpassade för ledare respektive nybörjare, hjälper Red Hat användare att förstå hur AI kan effektivisera beslut, driva innovation och tillämpas i Red Hats AI-lösningar.
Tillgänglighet
Red Hat OpenShift AI 2.18 och Red Hat Enterprise Linux 1.4 är nu tillgängliga på marknaden. Mer information om nya funktioner, förbättringar, buggfixar och hur du uppgraderar till den senaste versionen av Red Hat OpenShift AI finns här. Den senaste versionen av RHEL AI finns här.
Red Hat AI InstructLab på IBM Cloud lanseras inom kort. Red Hats AI Foundations-utbildning är nu tillgänglig för kunder.
