[KRÖNIKA] Många företag har redan insett fördelarna med generativ AI för att få fram nya idéer och utöka produktiviteten bland såväl utvecklare som andra anställda.
För att använda och utveckla dessa behöver man dela med sig av sin egna information.
Men att sprida eventuellt känslig och proprietär data till stora offentligt hanterade språkmodeller (LLM:er) orsakar risker inom säkerhet, integritet och styrning. Företag behöver därför ett tillvägagångssätt som tar itu med dessa risker innan de kan börja se någon nytta av denna teknik.
IDC rapporterar att företag är oroliga över att LLM:er kan ”lära sig” av sina förfrågningar och avslöja denna information till andra företag som lägger in liknande förfrågningar. Företag oroar sig också för att all känslig information de delar kan lagras online och exponeras för hackare eller av misstag offentliggöras. Detta gör att inmatning av data och förfrågningar till offentliga LLM:er oftast inte är ett alternativ för de flesta företag, särskilt de som verkar i reglerade IT-miljöer. Så hur kan företag få ut värde från LLM:er samtidigt som de minimerar riskerna?
Arbeta inom ditt befintliga ramverk för säkerhet och styrning
I stället för att dela din data med en LLM, arbeta med privata LLM:er. Detta är den modell de flesta företag kommer att använda för att balansera behovet av innovation med vikten av att hålla kundernas personliga (PII) och annan känslig data säker. De flesta stora företag har redan strikta gränser som reglerar säkerheten för och hanteringen av sina data, och bör köra och distribuera LLM:er inom den skyddade miljön. Detta gör det möjligt för personalen som hanterar företagets data att vidareutveckla och anpassa LLM:erna. På så sätt kan verksamheten interagera och utveckla LLM:erna inom organisationens befintliga säkerhetspolicy och ramverk.
Du kan inte ha en stark AI-strategi utan att först ha en stark datastrategi. För att arbetet med LLM:er ska fungera på bästa sätt är det nämligen viktigt att stötta arbetet med såväl tillräckligt mycket som tillräckligt högkvalitativ data. Det innebär också att du måste få bort eventuella datasilos och tillämpa enkla, konsekventa policyer som gör det möjligt för personalen att få tillgång till den data de behöver, samtidigt som ramverken för säkerhet och datahantering upprätthålls.
Bygg domänspecifika LLM:er
LLM:er som är utbildade på information från hela webben innebär mer än bara utmaningar med integritet. De är benägna att ta in felaktig information och kan också reproducera fördomar och generera stötande svar. Dessutom har grundläggande LLM:er inte exponerats för din organisations interna system och data, vilket innebär att de inte kan svara på frågor som är specifika för ditt företag, dina kunder och kanske heller inte för din bransch.
Dan Öhlander
Lösningen på dessa utmaningar är att utveckla en modell speciellt anpassad efter just ditt företag och din bransch. Även om modeller som ChatGPT har fått mycket uppmärksamhet på sistone, finns det en lång och växande lista med LLM:er som företag kan ladda ner, anpassa och använda bakom sin brandvägg – inklusive modeller med öppen källkod som Llama 2 från Meta och StableLM från StabilityAI. Att trimma en grundmodell på hela webben kräver enorma mängder data och datorkraft, men som IDC konstaterar, ”när en generativ modell väl har tränats upp kan den finjusteras för en viss innehållsdomän med mycket mindre data.”
Få ordning på din ostrukturerade data
Att utveckla en modell för dina interna system och data kräver tillgång till all information som kan vara användbar för det ändamålet, och en stor del av denna information kommer att lagras i andra format än text. Alla dina data behövs, men för att få tillgång till all din data så behöver du också få ordning på den data som är ostrukturerad. Enligt IDC så är nämligen cirka 80 procent av världens data ostrukturerad. Detta inkluderar företagsdata som e-post, bilder, kontrakt och videomaterial.
För att kunna bearbeta din data krävs därför teknik som exempelvis naturlig språkbehandling för att dra ut information från ostrukturerade källor och göra den tillgänglig för IT-personalen, så att de kan bygga och träna så kallade multimodala AI-modeller som kan upptäcka relationer mellan olika typer av data och visa dessa insikter för ditt företag.
Välj rätt AI-strategi
Detta är ett område som rör sig snabbt och företag måste vara försiktiga oavsett vilken strategi de väljer för företagets generativa AI. Det innebär att man måste vara väldigt noggrann och se till att läsa det finstilta om de modeller och tjänster man använder, samt att man arbetar med välrenommerade leverantörer som erbjuder tydliga garantier om de modeller de tillhandahåller. I denna noggrannhet ingår att man måste undersöka på vilket sätt AI eventuellt kan komma att orsaka problem inom den bransch man verkar i. Det gäller nämligen att hitta rätt balans mellan risk och belöning. Med rätt teknikplattform är det enkelt att upprätthålla kontrollen över spridning och användning av data, så det finns ingen anledning att kompromissa med regelverk och säkerhet. Då behöver du inte riskera att dina och dina kunders LLM:er sprids utanför organisationen. Och genom att se till att dina generativa AI-modeller förs nära din data, samtidigt som du arbetar inom din organisations säkerhetsramverk, kommer du kunna nyttja de stora möjligheter som denna nya teknik ger.
Dan Öhlander, Nordenchef på Snowflake
