I nuläget är många delar av världen fokuserade på att hantera Covid-19-pandemin, där regeringar, organisationer och företag undersöker hur AI kan hjälpa beslutsfattande och processer.
Globala analysprogramvaruleverantören FICO har benat ut tre viktiga steg för framgångsrik användning av AI i Sverige.
-
Minskad partiskhet i modeller
För att nå en mer etisk användning av AI måste vi uppmärksamma underliggande maskininlärningsmodeller som kan innehålla fördomar. Det är viktigt att vi inte luras av vanliga missuppfattningar som att ”om jag inte använder ålder, kön, ras eller liknande faktorer i min model, så är den inte partisk.” Vi behöver förstå att det också finns andra datatyper som fångas in och som kan agera ombud för partiskhet.
Dessa kallas förvirrande variabler och som termen antyder så kan dessa variabler oavsiktligt förvirra en AI-modell att skapa partiska resultat. För att säkerställa etisk användning av AI är det därför viktigt att undersöka alla datavariabler separat. På det sättet kan vi säkerställa att modeller för AI och maskininlärning inte agerar fördomsfullt mot delar av befolkningen.
-
Möjligheten att förklara och granska
Ett viktigt steg i att få fler att använda AI är att skapa AI-modeller som är ordentligt byggda, som kan förklaras, och som lyfter fram de risker som finns vid användningen av modellerna. När vi använder resultat från en modell antar vi att resultatetet är relevant för alla intressentgrupper och scenarion. Men så är inte alltid fallet, vilket kan leda till att beslut tas utifrån ofullständig information. Därför är det viktigt att vi skapar AI-modeller som kan förstås och granskas. Med exempelvis blockchain kan vi granska om en variabel är acceptabel, om den leder till partiskhet och om den används på ett rimligt sätt, och på det sättet nå ökad transparens kring det beslutsfattande som följer. Detta gör det möjligt för tredjepartsaktörer utanför organisationen, exempelvis tillsynsorgan, att granska analysmodeller och de beslut som tagits.
-
Effektiv utrullning av AI
Till sist är det viktigt att vi kan rulla ut AI på effektivare sätt. Det innebär att optimera resurser, exempelvis använda molnlösningar för att säkerställa rätt datakraft och lagring och använda AI-verktyg baserade på öppen källkod för att dra nytta av redan förberedda lösningar i de fall man saknar tillräckligt med analysexpertis internt. Det kan också vara värdefullt att få tillgång till redan färdiga skräddarsydda förbättringar av maskininlärningsapplikationer från de som är experter på området, då det ofta innebär att man kan snabba på användningen. Det är också viktigt att lära från misstag, vara transparent med dessa lärdomar och avsätta tid och resurser för att träning, samverkan, kodtestning och kontinuerligt kunskapsutbyte. Det finns inget värde i att snabba på utvecklingsprocessen om det också innebär att man gör kostsamma misstag. Effektiv AI innebär att lösa affärsutmaningar på ett snabbt sätt, inte att bygga modellen på snabbast möjliga tid.
“För att effektivt rulla ut AI-modeller behöver man också säkerställa att modellerna kan förklaras externt och att de motverkar partiskhet,” säger Scott Zoldi, Analyschef på FICO. ”De tre områden som vi lyft fram ovan hjälper er att säkerställa att rätt resurser, processer och teknik finns på plats för att framgångsrikt dra nytta av fördelarna med AI i Sverige.”
