De flesta större företag och verksamheter förstår att det är viktigt att den data de använder för att fatta beslut inte är färgad eller vilseledande.
En undersökning från Progress visar nu att en majoritet (56 %) av de svenska företagen inser att de data de grundar beslut på i själva verket kan vara partiska.
Användningen av artificiell intelligens förväntas öka problemen, tror många av de tillfrågade.
Tre fjärdedelar av de svenska företagen (74 %) menar att de kommer behöva göra mer för att ta itu med partiska data, och många arbetar redan aktivt med att hantera utmaningen. Resultaten kommer från Progress (Nasdaq: PRGS), en etablerad leverantör av programvara för applikationsutveckling och infrastruktur. Företaget har genomfört en global undersökning om hur data snedvrids och riskerna med detta. Resultaten presenteras i rapporten ”Data Bias: The Hidden Risk of AI” som utförts av analysföretaget Insight Avenue.
Rapporten baseras på intervjuer med mer än 640 kommersiellt ansvariga och IT-ansvariga i företag med mer än 500 anställda, varav 50 i Sverige. De som besvarat frågorna använder data som stöd för att fatta beslut och använder eller planerar att använda artificiell intelligens (AI) och maskininlärning (ML) för att stödja beslutsfattandet.
”Den data som används för att lära upp system för maskininlärning kan riskera att färgas av människors fördomar. När data samlas in och används i utbildningen av maskininlärningsmodeller ärver modellerna även partiskheten hos de personer som bygger dem”, säger Niklas Enge, Nordenchef på Progress. ”Fördomsfulla beslutsunderlag kan orsaka direkt skadliga beslut, både juridiskt, finansiellt – och etiskt. Nu behövs det en ökad förståelse kring processerna och tekniken som behövs för att hantera dessa inbyggda fördomar på ett bra sätt.”
Progress-undersökningen visade att 62 % av affärs- och IT-beslutsfattarna tror att färgad data kommer att bli ett större problem när AI/ML-användningen ökar. Det är idag bara 2 % av de svenska företagen som säger sig ha kommit långt med att hantera utmaningen, men många (54 %) har nu börjat implementera lösningar. De största hindren de ser är en brist på medvetenhet om potentiella fördomar, förståelse för hur man identifierar fördomarna samt svårigheten att hitta rätt specialister, exempelvis inom datahantering.
Resultaten från undersökningen visar också:
• 60 % av företagen förväntar sig att använda mer AI/ML-baserat beslutsfattande under de kommande åren.
• 56 % tror att det idag finns färgade data som används i verksamheten.
• 74 % anser att de måste göra mer för att ta itu med färgade data.
• 40 % anser att bristande medvetenhet om och omfattningen av fördomar är ett hinder för att ta itu med problemet.
”Partiska data kan leda till ett förlorat kundförtroende, finansiella implikationer och mycket mer. Vi sätter våra kunder i centrum i allt vi gör, vilket också innebär att vi behöver säkerställa att AI/ML används på ett bra sätt. Då behöver dessa system getts tillgång till rätt data så att de beslut som fattas blir de bästa möjliga för att utveckla företaget,” säger Niklas Enge.
