I den här upplagan av Utblick: Digitalisering tittar vi närmare på artificiell intelligens och en av de tänkbara anledningarna till att tekniken inte anammas snabbare.
Vi tittar dessutom på möjligheterna som kvanttekniken bär med sig.
Därför behövs bättre transparens för att förklara de beslut artificiell intelligens tar
Uppkomsten av djupinlärning har förbättrat AI-lösningars prestanda men bristen på transparens för modellerna är ett hinder för att de ska accepteras men även för att säkerställa regelefterlevnad. Konventionella maskininlärningsmodeller kan vara svåra att tolka när de bygger på stora mängder multifacetterad data. Det ligger till grund för uttrycket ”black boxes” eftersom de inte kan förklara varför systemet tog det beslutet det gjorde.
Därför är det av yttersta vikt att AI kan förklaras. I finanssektorn kan riskerna med AI-modeller som fungerar som svarta boxar vara ett stort hinder för att konsumenter ska lita på dem. Samma sak gäller för de myndigheter som reglerar marknaden. Det finns ett flertal nya tekniker för XAI (explainable AI) som ger förhållandevis bra tolkningar av modellernas beslut, men är det bra nog? Svaret är nej. De flesta XAI-tekniker idag skapar underlag som bara kan förstås och analyseras av AI-experter, dataforskare och möjligen även maskininlärningsingenjörer.
Övriga intressenter, såsom de som ska använda underlaget som AI-modellen tagit fram, varken förstår eller litar på förklaringarna och resultatet.
Förklaringar som är förståeliga av icke-experter är därför avgörande för att bygga transparens och förtroende för AI-lösningar. Läs mer om hur problemet kan lösas på TCS blogg.
Är ditt företag redo att utforska möjligheterna med kvantteknik?
Kvantdatorer är ett helt nytt paradigm för beräkningar baserat på kvantmekanikens principer, som i sin tur bygger på beteendet hos atomära och subatomära partiklar. Enkelt uttryckt, till skillnad från klassiska datorer som representerar information med hjälp av bitar som är binära till sin natur, representerar kvantdatorer information som använder qubits som kan anta ett oändligt antal värden mellan 0 och 1. Detta i grunden annorlunda sätt att representera information tillsammans med vissa andra egenskaper hos kvantbeteende resulterar i en enorm datorkraft.
Vi tror att kvantdatorn nu går mot att bli mer mainstream. Många organisationer har redan börjat investera i att utforska detta inom ramen för sina respektive verksamheter. Samtidigt som tekniken utvecklas är det hög tid att börja investera i att experimentera med denna nya teknik för att förstå möjligheterna som den kan innebära. Här är några tips på hur du kan starta din resa mot att upptäcka värdet av kvanttekniken:
- Skapa medvetenhet bland de viktigaste intressenterna
- Identifiera en eller flera eldsjälar för eget införande av kvantteknik
- Identifiera möjligheter och hot som härrör från kvanttekniken för ditt företag
- Lista ett par användningsfall kring dessa möjligheter och hot mot vidare utforskning
- Bygg billigare proofs of technology (PoTs) och proofs of concepts (PoCs) för de valda användningsfallen
- Bygg iterativt på dessa initiala PoTs och PoCs för att skapa en lösning
- Utveckla en enhetlig syn på samt en färdplan för kvantteknik
