Artificiell Intelligens, AI, utgör ett av de områden där många svenska företag i dag gör stora investeringar.
I takt med att användandet av AI blir mer utbrett uppstår nya typer av behov, till exempel ökat dataskydd, ökat behov av förståelse för hur AI:n faktiskt fungerar och skydd mot stereotypisering av människor baserat på till exempel kön och etnicitet.
Boston Consulting Group (BCG) har därför beslutat att formalisera tydliga riktlinjer för hur de ska rådge företag att arbeta med AI på ett ansvarsfullt sätt.
– Vi har en skyldighet att säkerställa att de AI-lösningar som vi skapar åt våra klienter har tydlig effekt utan att samtidigt introducera risker som kan skapa oavsiktlig skada för människor eller samhällen, säger Andreas Lundmark, partner på BCG i Stockholm och ledare för BCG GAMMA i Norden.
AI får en allt större betydelse i företags transformation och utveckling, därmed även för de uppdrag BCG har för sina klienter. AI skapar nya fantastiska möjligheter inom i stort sett alla verksamhetsområden, med stor nytta både för bolagen själva och deras kunder. Samtidigt introducerar AI nya risker och etiska perspektiv att förhålla sig till och ha en beredskap för att hantera.
BCG:s uppförandekod för arbete med AI är framtagen för att underlätta för såväl BCG själva som dess uppdragsgivare. Syftet är att säkerställa ett så effektivt och säkert arbete med AI som möjligt.
– Våra kärnvärden är ansvarsfullt ledarskap, långsiktig hållbarhet och transparens. Det gäller i vårt arbete med företagsledare och ledningsgrupper runt om i världen, såväl som i utveckling av kraftfulla algoritmer och maskininlärning. Därför är det självklart att vi har en policy kring hur vi arbetar med AI, säger Andreas Lundmark, partner på BCG i Stockholm och ledare för BCG GAMMA i Norden.
Ansvarsfull AI handlar, enligt BCG, om mer än att bara bygga kraftfulla och robusta tekniska lösningar, det handlar också om att bygga förtroende hos anställda, företagsledare, klienter och samhället i stort.
– Ansvarsfullt användande av AI sträcker sig vidare även efter att AI-produkten är färdig och levererad. Problem kan uppstå från att underliggande data modifieras, ändras eller har kvalitetsproblem, eller när exempelvis affärskontexten ändras och modellen tappar relevans. Kärnan i vår hantering av AI är att möjliggöra för våra klienter att snabbt upptäcka problem eller förändringar för att kunna åtgärda dem effektivt, säger Andreas Lundmark.
Tre tips från BCG:s uppförandekod om hur företag kan arbeta ansvarsfullt med AI:
1. Transparens och tydligt syfte
Säkerställ tydlighet i syfte och användningsområde. Gör en bedömning av algoritmens risker och konsekvenser (en så kallad Algorithmic Impact Assessment eller AIA) och dela den med berörda intressenter. BCG gör sina AIA-resultat tillgängliga för sina klienter genom att till exempel beskriva hur algoritmen fungerar, vilken data den använder, hur den fattar beslut och vad syftet med den är.
2. Dokumentation
Dela produktdokumentation kring AI med berörda parter. Det kan handla om exempelvis modellval, datakällor, valideringsstrategier, såväl som riskbedömning och hur risker har hanterats. BCG delar dokumentationen med sina uppdragsgivare.
3. Regelbundet rapporterande
Inför en regelbunden rapportering för arbetet med AI på produkt- och portföljnivå. Inom BCG kommer ett särskilt AI-råd ta fram en rapport varje år som belyser BCGs ansvarsfulla AI-program.
