Branschspaning: ostrukturerad data kommer förändra spelplanen i AI-utvecklingen

Data Cloud-företaget Snowflake har publicerat sina branschspaningar för 2024, som präglas av ett stort fokus på AI och de säkerhetsutmaningar som företag kommer att ställas inför det kommande året. 

Under det gångna året har AI-utvecklingen gått i en rasande fart, och cyberhoten gör sig ständigt påminda.

Stora språkmodeller, så kallade LLM:er, har blivit alltmer tillgängliga för allmänheten och generativ AI är mer demokratiserad än någonsin.

Tekniken används flitigt för att effektivisera och underlätta uppgifter både privat och i jobbet, men det skapar också nya säkerhetshot. En konsekvens som gjort sig påtaglig under året är att generativ AI gjort livet lättare för cyberkriminella vid skapandet av nätfiskemejl och liknande bedrägeriförsök, vilket ställer nya krav på cybersäkerhet och säkerhetsteam.

– Vi ser flera trender där Generativ AI har nått stora framsteg under året, och detta kommer att fortsätta under 2024, säger Dan Öhlander, Nordenchef på Snowflake. Jag tror att framstegen vi sett inom industrier som finans, sjukvård och underhållningsbranschen kommer att ta ytterligare steg, men även att tekniken kommer att vidareutvecklas och etableras inom fler industrier. Men en avgörande faktor för att detta ska bli framgångsrikt är att kunna använda tekniken i de interna miljöerna, ägandeskap av miljön och resultaten kommer att bli avgörande.

Nedan är Snowflakes spaningar för 2024:

• Att kunna bygga generativa AI-modeller på ostrukturerade data kommer förändra spelplanen
  Generativ AI är troligtvis den största förändringen många av oss kommer att uppleva under våra professionella liv. Idag har man börjat implementera AI i många affärssystem och miljöer, men jag tror att den stora avgörande förändringen kommer att uppstå när modellerna kan tränas på ostrukturerad data.

  Det resultat vi får från en AI-modell är helt och hållet baserat på den data som modellen är tränad på. Ett hinder som idag finns är att många företag sitter på stora mängder data som är ostrukturerad och uppdelad i silos, vilket försvårar och gör det omöjligt för många leverantörer att använda datan för att träna en AI-modell. Snowflakes Document AI har gjort det möjligt med just analys av ostrukturerad data. Detta tror jag kommer att ha en stor effekt på vad vi kan förvänta oss av, och uppnå med de generativa AI-modellerna nu, när så gott som all data i en organisation kan användas för att bygga upp och träna en AI-modell. En annan utmaning är att många organisationer inom exempelvis offentlig sektor kämpar med regulatoriskt styrda begränsningar för datadelning. Dessa begränsningar påverkar också möjligheten att arbeta med AI-modeller. Men även detta kan lösas om dessa organisationer får möjlighet att arbeta på en plattform för datadelning där data kan delas på ett säkert sätt, utan att någonsin lämna plattformen, så att de regulatoriska kraven kan efterföljas samtidigt som de kan nyttja kraften i generativa AI-modeller.

• Stora språkmodeller kommer att bli standard, men många kommer att inse storheten i mindre språkmodeller
  I takt med att stora språkmodeller blir mer lättillgängliga kommer vi att se att allt fler organisationer minskar storleken på modellerna för att bygga egna specialiserade modeller där de mindre språkmodeller blir den nya branschstandarden. Det kommer fortfarande att finnas några stora aktörer, men generellt sett kommer de flesta leverantörer att finjustera mindre modeller som är anpassade för specifika branscher och användningsområden.

  Det vi ser är tre olika mönster i användandet av AI-modeller, och dessa kommer att bli än mer tydliga under 2024. Det finns en användargrupp som använder de stora modellerna rakt av. Sen finns de som bygger sina egna mindre och mer specialiserade modeller, som är anpassade för sin specifika bransch eller till och med den specifika organisationen. Och till sist finns de som vidareutvecklar de stora modellerna med specifika områden som är viktiga för just dem.

  Vi ser en framtid med miljontals mindre språkmodeller som verkar på företags- eller avdelningsnivå och ger hyperanpassade insikter efter behov. Mindre språkmodeller kräver mindre tid och resurser att underhållas, kan användas inom företagets befintliga säkerhetsperimeter och är ofta snabbare och mer precisa eftersom de är optimerade för en smalare uppsättning av uppgifter. Det finns allt mer bevis för att en modell utvecklad på 20 miljarder parametrar kan utföra majoriteten av de uppgifter du efterfrågar av en språkmodell och uppnå ett resultat som är likvärdigt med en betydligt större modell, som exemplevis OpenAIs GPT-4, som är utvecklad på cirka 1,8 biljoner parametrar.

• AI kommer att vara en enorm fördel för cyberbrottslingar innan det blir till hjälp för säkerhetsteam
  Cyberkriminella grupper kommer att dra nytta av den omfattande implementeringen av avancerade AI-verktyg innan AI nått en tillfredsställande nivå av implementering i försvarsrutinerna hos vanliga företag, något som lätt kan övergå till akuta sårbarheter. Många företag är idag försiktiga med att anta och använda ny teknik eftersom det finns kostnader, regleringskrav och annat på spel om det görs på ett bristfälligt sätt. Detta är något som cyberkriminella och andra skadliga aktörer inte behöver handskas med. Ett tydligt exempel är nätfiskeattackerna, som fortfarande utgör ett stort problem. Saken är den att de flesta nätfiskemeddelanden idag är ganska klumpigt formulerade, vilket kan väcka flera varningssignaler. Generativ AI gör denna redan effektiva attackvektor ännu mer framgångsrik. De cyberkriminella kan nyttja stora språkmodeller och generativ AI för att finslipa exempelvis de meddelanden man finner i nätfiskemejlen, och skräddarsy dem för att lyckas ännu bättre med att lura sina måltavlor.

  Med tiden kommer spelplanen att jämna ut sig, och ur ett mer positivt perspektiv så ser vi stora möjligheter där AI kommer att bli en hjälpande hand i cybersäkerheten framöver. Exempelvis kommer förhoppningsvis AI-assistenten Copilot väldigt snart kunna hjälpa oss användare att skydda vår mejlkorg och avslöja nätfiskeattackerna innan de når oss användare.

– Jag tycker att det är viktigt att uppmärksamma att AI kan komma att orsaka stor skada, exempelvis när vi talar om hur generativ AI kan stärka de cyberkriminellas verktygslåda, avslutar Dan Öhlander. Detta betyder dock inte att AI inte kan användas för gott. Jag är mycket positivt inställd till den utvecklingen vi ser och vi måste anamma tekniken för att ta nya steg i utvecklingen. Visst finns det alltid personer eller grupper som kommer att missbruka ny teknik, men den stora fördelen med de tekniska framstegen gör att vi inte har något annat val än att accelerera och anpassa oss till den nya verkligheten. Nordens position som så kallade “early adopters” tillsammans med vår innovationskraft sätter nordiska företag i en unik position att ta plats på den globala AI-scenen.