AI kan göra programvara säkrare genom att hitta brister som inte upptäckts tidigare.
Men det kan också innebära att företag måste hantera betydligt fler säkerhetsuppdateringar i snabb följd – vilket ökar risken för ”patch-trötthet”, flaskhalsar vid testning, driftstörningar och försenade säkerhetsåtgärder.
Det framgick när Barracudas globala säkerhetschef Arve Kjoelen besökte Stockholm för kundeventet Nordics Secured. För säkerhetsteamen blir uppgiften att omsätta fler upptäckta sårbarheter i rätt åtgärder.
Arve Kjoelen är född i Norge och i dag baserad i Texas. Med sin långa erfarenhet som global CISO gav han deltagarna sitt perspektiv på hur AI förändrar säkerhetsarbetet för såväl programvaruleverantörer som deras kunder.
Hans bedömning är att stora språkmodeller kan blottlägga en mängd sårbarheter i programvara som redan används. Det innebär en möjlighet att få bort gamla brister, men också en period då fler problem behöver hanteras samtidigt.
– Vi står sannolikt inför ett par år med mycket högt tempo i säkerhetsarbetet. Det kommer att sätta press på oss alla, säger Arve Kjoelen.
Gamla brister blir synliga i större skala
Under presentationen visade Arve Kjoelen hur antalet brister som upptäcks av AI sannolikt kommer att öka inledningsvis, för att sedan minska i takt med att antalet oupptäckta sårbarheter minskar.
På längre sikt kan det bidra till att göra programvaran säkrare. Under övergångsperioden kommer dock leverantörerna att behöva åtgärda fler brister och snabbt få ut uppdateringarna till kunderna.
Företagen som använder programvaran behöver i sin tur kunna installera uppdateringarna. Annars finns sårbarheterna kvar i deras system även när leverantören har tagit fram en lösning.
Arve Kjoelen pekar också på vad han ser som begränsningar i AI-tekniken. Språkmodeller kan hitta enskilda svagheter, men har svårare att förstå ett helt förlopp och hur flera brister kan samverka. Mänsklig analys behövs därför fortfarande för att bedöma vad fynden innebär.
Alla säkerhetsbrister innebär inte samma risk
När antalet upptäckta sårbarheter växer blir prioriteringen en central fråga. Arve Kjoelen rekommenderar att man börjar med brister som redan utnyttjas i verkliga angrepp. Ett konkret underlag är amerikanska CISA:s katalog Known Exploited Vulnerabilities, KEV.
Nästa steg är att koppla hotbilden till den egna verksamheten. Vilka system berörs? Vilka metoder använder angriparna? Och vilka skydd kan stoppa dem?
Arve Kjoelen beskrev hur information om en viss angripargrupp kan kopplas till gruppens metoder, de sårbarheter den utnyttjar och de säkerhetsåtgärder som behövs. Enligt honom ger det ett mer användbart beslutsunderlag än att enbart utgå från en lång lista över upptäckta brister.
Nya molnresurser, servrar och användarkonton kan införas på kort tid. Säkerhetsteamet behöver därför veta vilka resurser som finns, hur de är exponerade och vilka skydd som faktiskt är på plats.
AI-agenter gör överblicken viktigare
AI-användningen tillför ytterligare en dimension. Verktyg som medarbetare börjar använda utanför organisationens godkända kanaler kan vara svåra att upptäcka. Om de dessutom får åtkomst till företagsinformation växer behovet av kontroll över hur data används och vart de kan skickas.
Det gäller särskilt AI-agenter som kan kopplas till andra system och hämta information.
När sådana lösningar kombineras med en IT-miljö där överblicken brister kan känsliga data läcka ut.
AI kan också stärka mindre företags försvar
Arve Kjoelen betonar samtidigt att utvecklingen ger försvararna nya möjligheter. AI kan höja förmågan hos mindre erfarna angripare, men också hjälpa mindre företag som saknar stora säkerhetsteam.
– AI hjälper angriparna, men den hjälper också försvararna, säger Arve Kjoelen.
Nya kraftfulla AI-modeller kan bidra till att undersöka incidenter och ge säkerhetsteamen bättre underlag för att agera. Men det gäller att välja säkerhetsverktyg med inbyggda AI-funktioner eller leverantörer som aktivt utvecklar sådana förmågor.
Behovet av automatisering förstärks av att vissa angrepp kan utvecklas mycket snabbt efter ett intrång.
– Tidigare kunde det gå timmar, ibland dagar, från att en grupp tog sig in i företaget tills den började stjäla data eller använda ransomware. Nu handlar det ibland om minuter. Därför måste vi ha automatisering, säger Arve Kjoelen.
För företag med begränsade säkerhetsresurser kan AI därmed få betydelse på båda sidor av säkerhetsarbetet. Fler sårbarheter blir synliga, samtidigt som tekniken kan hjälpa till att hantera dem. Nyttan uppstår när fynden kopplas till verksamhetens faktiska risker och leder till åtgärder.
