Red Hat levererar tillgänglig generativ AI-innovation med öppen källkod i Red Hat Enterprise Linux AI

Red Hat, en ledande leverantör av lösningar med öppen källkod, lanserar Red Hat Enterprise Linux AI (RHEL AI), en plattform för utveckling, testning och distribution av generativa AI (GenAI)-modeller.

RHEL AI kombinerar öppen källkod-licensierad Granite LLM från IBM Research, InstructLab-modelljusteringsverktyg baserade på LAB-metoden och ett community-drivet tillvägagångssätt för modellutveckling genom InstructLab-projektet.

Hela lösningen finns som en optimerad, startklar RHEL-bild för enskilda server-implementeringar över hybridmolnet. Den är också integrerad i OpenShift AI, Red Hats hybrida MLOps-plattform, för att köra modeller och InstructLab i skala över distribuerade klustermiljöer.

ChatGPT:s lansering ökade markant intresset för GenAI och snabbade på innovationshastigheten. Företag går från tidiga utvärderingar av GenAI-tjänster till att bygga AI-baserade applikationer. Ett snabbväxande ekosystem av öppna modellalternativ har stimulerat AI-innovation och visat att en universell modell inte existerar. Kunder kan dra nytta av ett brett utbud av val för att möta specifika krav, drivna av ett öppet innovationsfokus.

Att genomföra en AI-strategi kräver mer än bara att välja en modell; teknikorganisationer behöver expertis för att anpassa modellen till sina specifika användningsfall och hantera de betydande kostnaderna för AI-implementering. Bristen på datakunskaper förstärks av betydande ekonomiska krav, inklusive:

• Anskaffande av AI-infrastruktur eller konsumtion av AI-tjänster
• Den komplexa processen att justera AI-modeller för specifika affärsbehov
• Integrering av AI i företagsapplikationer
• Hantering av både applikations- och modellivscykeln

För att sänka trösklarna för AI-innovation måste företag utöka antalet medarbetare som kan arbeta med AI-initiativ, samtidigt som de håller koll på kostnaderna. Med InstructLab-verktyg, Granite-modeller och RHEL AI siktar Red Hat på att tillämpa fördelarna med öppen källkod – att de är fritt tillgängliga, transparenta och öppna för bidrag – för att ta bort hinder för GenAI.

 Bygga AI öppet med InstructLab

IBM Research skapade LAB-tekniken – en metod för modellfokus som använder taxonomistyrda, syntetiska data och en flerfasig justeringsram. Denna metod gör AI-modellutveckling mer öppen och tillgänglig genom att minska beroendet av dyra mänskliga annoteringar och proprietära modeller. Genom att använda LAB-metoden kan modeller förbättras genom att specificera färdigheter och kunskaper knutna till en taxonomi, generera syntetiska data i stor skala och använda den för modellträning.

Efter att ha sett att LAB-metoden markant kunde förbättra modellprestanda, beslutade IBM och Red Hat att lansera InstructLab, en öppen källkodscommunity baserad på LAB-metoden och öppna källkodsmodeller från IBM. InstructLab-projektet syftar till att sätta LLM-utvecklingen i utvecklarnas händer genom att göra utformandet och bidraget till en LLM lika smidigt som att bidra till vilket annat öppet källkodsprojekt som helst.

I samband med InstructLab-lanseringen har IBM också släppt en familj av öppna Granite English språk- och kodmodeller. Dessa lanserades med en Apache-licens med full transparens av de använda dataseten. Språkmodellen Granite 7B English har integrerats i InstructLab-communityn, där användare kan bidra med färdigheter och kunskaper för att gemensamt förbättra modellen, liksom de skulle göra med andra projekt med öppen källkod.. Snart kommer liknande stöd för Granite-kodmodeller inom InstructLab att finnas tillgängligt.

Öppen källkods AI-innovation på en betrodd Linux-bas

RHEL AI använder detta öppna tillvägagångssätt för AI-innovation med en företagsanpassad version av InstructLab-projektet och Granite-språk- och kodmodeller, integrerade med den ledande företagsanpassade Linux-plattformen för enkel distribution över en hybrid infrastrukturmiljö. Det skapar en basplattform för att integrera öppen källkodslicensierade GenAI-modeller i företaget. RHEL AI inkluderar:

• Öppen källkods-licensierade Granite-språk- och kodmodeller som är fullt stödda och försäkrade av Red Hat.
• En stödd, livscykeldistribution av InstructLab som ger en skalbar, kostnadseffektiv lösning för att förbättra LLM-förmågan och göra kunskaps- och färdighetsmöjligheter tillgängliga för en mycket bredare användargrupp.
• Optimerade, startklara instanser för modellkörningar med Granite-modeller och InstructLab-verktygspaket, såsom startbara RHEL-bilder via RHEL-bildläge, inklusive Pytorch och nödvändiga körtidsbibliotek och hårdvaruacceleratorer för NVIDIA, Intel och AMD.
• Red Hats kompletta företagssupport och livscykellöfte som börjar med en betrodd företagsproduktfördelning, produktionsstöd dygnet runt, utökat modellivscykelsstöd och en modellintellektuell egendomsförsäkran.

När organisationer experimenterar och finjusterar nya AI-modeller på RHEL AI har de en färdig påfart för att skala dessa arbetsflöden med Red Hat OpenShift AI. De kommer att inkludera RHEL AI, därde kan dra nytta av OpenShifts Kubernetes-motor för att träna och betjäna AI-modeller i skala, samt av OpenShift AI:s integrerade MLOps-funktioner för modellens livscykelhantering. OpenShift AI och RHEL AI kommer också att integreras med IBM watsonx som ger ytterligare funktioner för företags AI-utveckling, datahantering och modellstyrning.

Molnet är hybrid. Det är AI också

I mer än 30 år har öppen källkodsteknik kombinerat snabb innovation med kraftigt sänkta IT-kostnader och minskade innovationshinder. Red Hat har lett denna utveckling nästan lika länge, från att ha levererat öppna företagsanpassade Linux-plattformar med RHEL i början av 2000-talet till att driva containrar och Kubernetes som grunden för öppna hybridmoln och molnbaserad databehandling med Red Hat OpenShift.

Denna drivkraft fortsätter med att Red Hat stöder AI/ML-strategier över det öppna hybridmolnet, vilket möjliggör för AI-arbetsbelastningar att köras där data finns, vare sig det är i datacentret, i flera offentliga moln eller vid kanten. Förutom arbetsbelastningarna så följer Red Hats vision för AI modellträning och justering i samma spår för att bättre hantera begränsningar kring datavernonitet, efterlevnad och operationell integritet. Konsekvensen som levereras av Red Hats plattformar över dessa miljöer, oavsett var de körs, är avgörande för att hålla AI-innovationen flytande.

RHEL AI och InstructLab-communityn levererar ytterligare på denna vision, bryter ned många av hindrena för att experimentera med och bygga AI-modeller, samtidigt som de tillhandahåller de verktyg, data och begrepp som behövs för att driva nästa våg av intelligenta arbetsbelastningar.

Tillgänglighet

Red Hat Enterprise Linux AI finns nu tillgänglig som testversion för utvecklare. Genom att bygga på GPU-infrastrukturen som finns tillgänglig på IBM Cloud, vilken används för att träna Granite-modeller och stödja InstructLab, kommer IBM Cloud nu att lägga till stöd för RHEL AI och OpenShift AI. Denna integration kommer att möjliggöra för företag att enklare implementera generativ AI i sina affärskritiska applikationer.

Stödjande citat

Ashesh Badani, senior vice president och chief product officer, Red Hat

“GenAI representerar ett revolutionerande steg framåt för företag, men bara om teknikorganisationer faktiskt kan distribuera och använda AI-modeller på ett sätt som motsvarar deras specifika affärsbehov. RHEL AI och InstructLab-projektet, tillsammans med Red Hat OpenShift AI i skala, är utformade för att sänka många av de hinder som GenAI står inför över hybridmolnet, från begränsade datakunskaper till de resurser som krävs, samtidigt som de stimulerar innovation både inom företagsimplementeringar och i uppströmssamhällen.”