Vem avgör när AI:n gör fel? Den diskussionen pågår just nu i nästan varje styrelserum, ofta dold under beslut om budgetar och pilotprojekt: Vad ska en AI-agent faktiskt få göra i vår organisation – och var går gränsen för vad en människa måste besluta?
Det skriver Dag Honningsvåg, styrelseordförande i den nordiska techkoncernen 99x i ett debattinlägg.
Agentisk AI är inte längre en teknisk term, det är operativ verklighet. Agenter läser dokument, föreslår lösningar och agerar ofta utan människor i loopen. Hastigheten är enorm. Det som tidigare tog veckor sker nu på ett par timmar. Detta för oss till en unik historisk punkt där vi som ledare genuint måste fråga oss om vi behöver bromsa innovationstakten. Vi hinner helt enkelt inte bygga skyddsräcken och styrning i samma takt som tekniken utvecklas. Denna insikt växer globalt, vilket illustreras av att kung Charles nyligen kallat världens ledande AI-bolag till svars.
Dag Honningsvåg, styrelseordförande, 99x
Samtidigt har accelerationen skapat en lavin av maskingenererat arbetsmaterial inom företagen – så kallad ”workslop”.Volymerna är nu så stora att det är mänskligt omöjligt att granska. Om det enda sättet att hantera detta är att sätta in ännu mer AI, skapar vi en farlig loop där maskiner validerar maskiner utan mänsklig förankring.
Risken är alltså inte bara att AI gör fel, utan att vi skalar upp användningen snabbare än vi bygger governance. En global Deloitte-undersökning från i år bekräftar detta: endast 21 procent av tillfrågade IT- och affärsledare har en mogen styrningsmodell för agentisk AI, trots att nästan tre av fyra planerar att använda tekniken brett inom kort. Företag investerar tungt utan att ha besvarat grundfrågan: Var i arbetsflödet krävs ett mänskligt beslut, och vem bär ansvaret när det saknas?
På techbolaget 99x, där jag är styrelseordförande, testade vi detta i praktiken. Under ett hackathon byggde över hundra anställda AI-agenter för reella arbetsuppgifter. Det som utmärkte de mest framgångsrika teamen var inte den smartaste koden. Det var teamen som tydligast kunde peka på var i kedjan det mänskliga omdömet kom in – en punkt där en specifik person med ansvar godkände eller drog i handbromsen. Inte som en formalitet, utan som ett medvetet designval.
Detta styrningsperspektiv kan inte delegeras ner i organisationen; det måste ägas direkt av företagsledningen och styrelsen. Att införa agenter som gör tio uppgifter snabbare men lämnar ansvarsfrågan oklar skapar inte värde, det skapar en tickande bomb.
Mitt råd till andra ledare är att inte börja i valet av plattform. Börja med att kartlägga era kritiska arbetsflöden: Var vore det oacceptabelt att en människa inte är involverad? Vem äger det beslutet idag – och vet de om det?
Detta är ingen teknisk fråga. Det är en ledarskapsfråga, och den blir inte lättare av att vänta.
Om 99x
99x är en nordisk techkoncern med över 20 års erfarenhet av att hjälpa företag bygga och skala digitala produkter. Med fler än 600 experter i flera länder – inklusive Norge, Sverige, Sri Lanka, Portugal och Brasilien – erbjuder 99x tjänster inom produktutveckling, AI och webbutveckling. Bolaget arbetar utifrån skandinaviska värderingar om tillit, öppenhet och kvalitet.
