Allt fler företag rusar för att införa AI-agenter. I en undersökning från PwC framgår det att nästan åtta av tio företag redan använder AI-agenter, och nästan lika många planerar att öka sina investeringar det kommande året.
Samtidigt uppger nästan hälften att de är oroliga för att halka efter konkurrenterna. Den stressen är begriplig, men i farten riskerar många att missa säkerhetstänket kring agenterna.
Fokus ligger fortfarande på att utbilda anställda i att känna igen phishingmejl och ifrågasätta ovanliga förfrågningar, men det räcker inte längre. När AI-agenter tar plats på arbetsplatsen kan det vara frestande att se dem som ett säkrare alternativ till människan. De klickar inte av misstag på länkar, blir inte stressade och påverkas inte av känslor. Men det betyder inte att de är immuna mot manipulation.
Pontus Nord, Sales Engineer, Jamf
I Jamf:s årliga rapport: Mobile Security 360, lyfts fenomenet prompt injection som ett växande problem. Det går ut på att angripare gömmer instruktioner i ett dokument, ett mejl eller på en webbsida som en AI-agent senare läser och påverkas av. Det gör att angriparen inte längre behöver bryta sig igenom brandväggar eller stjäla lösenord. I stället kan det räcka att placera en dold instruktion i något som agenten har tillgång till. Agenten använder då sina egna behörigheter för att utföra handlingar som angriparen annars aldrig hade fått tillgång till.
Därför bör vi börja se AI-agenter för vad de faktiskt är: ett effektivt verktyg, men också en ny typ av insiderhot. Frågan är inte om företag ska använda AI-agenter, utan hur de ska styras. Fokus måste flyttas från att bygga smartare agenter till att ge dem rätt behörigheter, övervaka vad de gör och snabbt kunna begränsa dem när något går fel.
Det kräver åtgärder:
- Minsta möjliga behörighet. AI-agenter ska bara få tillgång till den information och de system som krävs för uppgiften. Ju större åtkomst, desto större konsekvenser om agenten manipuleras.
- Tydlig identitet och kontroll. Organisationer måste veta vilka AI-agenter som används, vilka rättigheter de har och vilka handlingar de utför. En agent ska kunna granskas, loggas och stängas av lika enkelt som ett användarkonto.
- Kontroll över enheterna. Organisationen måste även veta vilka enheter AI-agenterna körs på och säkerställa att de är uppdaterade, följer säkerhetsrutiner och kan övervakas för att skydda känslig information.
AI-agenter kommer att förändra hur vi arbetar, men de förändrar inte de grundläggande principerna för cybersäkerhet. Precis som anställda utbildas för att motstå social engineering-attacker måste AI-agenter skyddas mot sina svagheter. Om de ska få tillgång till våra system, våra dokument och vår information måste de omfattas av samma säkerhetskrav som alla andra.
Pontus Nord, Sales Engineer, Jamf
