[KANALPARTNER] Alla har numera hört talas om Chat GPT.
Nu är Fujitsu på väg ut med en privat AI-lösning som gör att företagsanvändaren kan chatta med sin egen information.
På så sätt ska användarna kunna dra nytta av de enorma fördelar de stora språkmodellerna medför, samtidigt som riskerna informationsläckage eliminieras.
Generativ AI har tagit världen med storm sedan Open AI lanserade Chat GPT i november 2022. Att använda de stora språkmodellerna i arbetslivet är dock förknippat med flera risker. Till exempel har det framkommit flera allvarliga fall med informationsläckage, där anställda delat med sig av konfidentiell information till modellerna som de dessa sedan tränats på och spridit vidare till helt andra användare.
Claes Carlstedt, senior lösningsarkitekt på Fujitsu
Nu är it-jätten Fujitsu på gång med en lansering som adresserar det här problemet. Det är en färdigpaketerad lösning som går under namnet Private GPT, och som skulle kunna beskrivas som en on premise-tjänst som gör att användaren kan chatta med sin egen information eller data.
Claes Carlstedt, senior lösningsarkitekt på Fujitsu, beskriver lösningen som en box som innehåller hårdvara, mjukvara och support. Det är en förtränad stor språkmodell som sedan använder sig av de data som användaren själv laddar upp för att skapa svar. Dessa data är därmed 100 procent säkra.
– Det är en dedikerad lösning som innebär att du som användare laddar upp den information som du vill att modellen ska bearbeta. Den behöver överhuvudtaget inte vara uppkopplad mot internet.
– Primärt handlar det om att analysera stora mängder text. Då får användaren jobba med sin egen information. Det kommer göra det enklare för anställda att vara konsekventa, fatta rätt beslut snabbare och prestera mer.
Fujitsu har utvecklat modellen tillsammans med två europeiska partners. Den är egentligen bara en liten del av Fujitsus totala AI-satsningar. Men den kan få stor betydelse eftersom den breda massan vet vad generativ AI innebär, i motsats till mycket annan AI som kommer ut på marknaden.
– Alla pratar om AI och alla vill göra någonting. Ingen vill bli lämnad på efterkälken. Dessutom finns det ofta pengar att investera. Men många vet inte riktigt vad de ska göra, säger Claes Carlstedt.
– Private GPT är en konkret produkt som skapar ett tydligt mervärde, fortsätter han.
Claes Carlstedt säger vidare att den här satsningen från Fujitsus sida kommer i ljuset av att AI är på väg att regleras allt hårdare. Sedan tidigare finns GDPR-lagstiftningen. Nu är EU på gång att implementera sin AI Act.
Det är lagstiftning som medför dryga böter för företag om man inte efterlever den.
– Det har varit en hel del incidenter med dataläckage. Många har förbjudit eller begränsat användningen av Chat GPT.
– De här modellerna bygger på att användarna delar med sig av sina data. Samtidigt finns det data som man inte vill dela med sig av. Det är detta vi adresserar.
Ytterligare en komponent i Private GPT som Carlstedt lyfter är en teknik som kallas Retrieval-Augmented Generation, RAG.
– Det innebär att vi kan säga till modellen att inte hallucinera. Om man skriver prompten på rätt sätt går det att säga till en GPT-modell i princip vad som helst. Då kan vi säga till den att det ska finnas en stark korrelation mellan den fråga jag ställer, de svar jag får och den information jag tillhandahållit till modellen.
– Då kan jag till exempel ta en upphandling med 20 dokument, ladda upp dem till modellen, be den sammanfatta den och peka ut de viktigaste punkterna. Då gör den det med sin språkmodellsförmåga tillsammans med den information den hämtar från de dokument jag gett den tillgång till.
På så sätt delas ingen information med internet och inga data hämtas heller från nätet. Det innebär att användarna inte heller behöver maskera eller byta ut namn eller platser, och att de inte behöver vara oroliga för att informationen läcker. Det blir ett sätt för verksamheter att skydda sina immateriella tillgångar.
Vad är det då för branscher Fujitsu riktar in sig på?
– Det är en ganska generisk lösning. Vi har tagit fram 24 vertikaler som vi tror är mest lämpade för att jobba med generativ AI och stora språkmodeller. I princip alla branscher kan dra nytta av det här.
Den lämpar sig för verksamheter från 30 användare (inte nödvändigtvis samtidiga) upp till 500 samtidiga användare.
Det exakta lanseringsdatumet för Private GPT är inte satt, men tjänsten kommer att släppas i närtid, under våren eller sommaren.
