AI-utvecklingen driver cyberbrottsligheten – och cyberförsvaret.
En ny lägesbild från Cisco Talos visar hur de kriminella utnyttjar tekniken idag, och vilka kommande trender som kan förutses.
Cisco Talos, som är Ciscos organisation för cyberhotanalys och forskning, följer noga utvecklingen av hotlandskapet, där AI-förstärkta attacker blir allt vanligare. Säkerhetsforskarna har granskat var och hur tekniken används idag i kriminellt syfte och de nya och utökade användningsområden som kan förväntas.
En stor utmaning som lyfts fram är att AI-tekniken inte bara blir mer kunnig, utan också mer effektiv. Om det till en början bara var välorganiserade och ekonomiskt starka kriminella grupper som använde sig av generativ AI, drivs utvecklingen mot allt fler öppna och ocensurerade AI-modeller, med mindre storlek och lägre hårdvarukrav, vilket sänker trösklarna för att utnyttja tekniken.
”Under det närmaste ett-två åren är det troligt att motståndarna kommer att få övertaget. Defensiva förbättringar kommer att följa, men det är oklart i nuläget om de kommer att hålla jämna steg.”, konstaterar rapportförfattaren Nick Biasini på Cisco Talos.
Det vanligaste och mest påtagliga sättet som cyberkriminella använder generativ AI på är fortfarande att generera nätfiskemejl och skräppost och andra former av social ingenjörskonst. Tekniken används också i stor utsträckning för att granska och felsöka kod, och för att samla in information om framtida måltavlor.
Den snabba ökningen av agentisk AI kommer utan tvekan att ha en inverkan på hotbilden, slår rapporten fast, och lyfter fram tänkbara användningsområden där agenter kan användas för automatisera cyberattacker, att granska nya tillskott till open source-projekt efter sårbarheter och upptäcka svaga punkter i applikationer.
Lägesbilden slår dock fast att vi fortfarande inte nått ett stadie då AI kan användas som ett brottsverktyg utan mänsklig hjälp – allt utgår fortfarande från att det finns en person med kunskaper både för att instruera AI-verktyget och korrigera det. Fortfarande är relativt få ”slutprodukter” AI-genererade.
