Salesforce har länge varit en ledare inom teknologi och innovation, och under de senaste åren har företaget också blivit en stark förespråkare för etik och mänsklig användning av AI.
Paula Goldman, som är Chief Ethical and Human Use Officer på Salesforce, spelar en avgörande roll i att säkerställa att företagets AI-lösningar inte bara är teknologiskt avancerade utan också etiskt hållbara och transparant.
I denna intervju diskuterar Paula Goldman Salesforces syn på AI, de etiska utmaningar som följer med snabbt framväxande teknologier, och hur företaget integrerar etiska riktlinjer i sina produkter och verksamhet.
Salesforce prioriterar transparens, ansvarstagande
Paula Goldman, Chief Ethical and Human Use Officer på Salesforce
Salesforce har i många år lagt stor vikt vid att bygga förtroende genom transparens och ansvarstagande. En av de viktigaste pelarna i deras AI-strategi är att skapa system som är både förklarbara och pålitliga. Goldman påpekar att när AI används för att fatta beslut som påverkar individer eller samhällen, måste dessa beslut kunna förklaras och förstås av användarna.
”Vår ambition är att våra kunder ska kunna förlita sig på att AI-teknologier används på ett sätt som är rättvist och ansvarsfullt. Det handlar om att skapa AI som är begriplig och att kunna spåra varje steg i beslutsprocessen, så att ingen känner sig utanför eller oskyldigt påverkad”, säger Goldman.
AI-förklarbarhet och dataintegritet
En av de största utmaningarna med AI är att säkerställa att algoritmer och beslut inte bara är exakta, utan också rättvisa och icke-diskriminerande. Salesforce har utvecklat specifika processer för att säkerställa att AI är förklarbar och att data används på ett ansvarsfullt sätt.
”För oss handlar det om att inte bara bygga på teknikens kraft utan att förstå och åtgärda de risker som kan uppstå när AI används för att analysera och fatta beslut baserat på data”, förklarar hon. ”Vi ser till att varje del av vår AI-lösning är transparant och att vi följer strikta regler för dataintegritet.”
26-åriga engagemang
Under sina 26 år har Salesforce konsekvent prioriterat kundernas förtroende och datasäkerhet. För företaget innebär detta att de inte bara måste följa de senaste reglerna och standarderna för dataskydd, utan också att de måste säkerställa att alla användardata hanteras med största möjliga respekt för sekretess och säkerhet.
Paula betonar att Salesforces engagemang för etik och förtroende inte är något nytt, utan en långsiktig strategi som varit en del av företagets DNA sedan starten. ”För oss är det inte bara en fråga om att följa regler – det handlar om att bygga och upprätthålla ett långsiktigt förtroende med våra kunder.”
Etiska utmaningar i AI snabb teknologisk förändring
AI-teknologin utvecklas snabbt, och detta innebär att de etiska utmaningarna också förändras och växer. Hon nämner specifikt non-determinism, eller det faktum att AI-system inte alltid ger samma resultat för samma input. Detta kan skapa problem för transparens och ansvarstagande, särskilt när AI används för att fatta beslut som påverkar människor.
”Den snabbaste förändringen inom AI är också en av de största utmaningarna – hur hanterar vi system som snabbt kan förändras och utvecklas på sätt som vi inte helt förstår? Det krävs ett kontinuerligt arbete för att säkerställa att vi inte bara förstår dessa system, utan att de också används på ett etiskt sätt”, säger Paula.
Policy, process och produkt
Salesforce har utvecklat en omfattande uppsättning etiska riktlinjer för att säkerställa att deras produkter och tjänster är förenliga med företagets värderingar. Dessa riktlinjer sträcker sig över policy, processer och produkter och omfattar hela livscykeln för deras AI-lösningar – från design och utveckling till implementering och användning.
”Det handlar om att ha tydliga riktlinjer för varje steg och att alltid sätta etik i första rummet. Vi ser till att alla våra produkter genomgår etiska granskningar innan de släpps på marknaden, och att vi håller oss ansvariga för användningen av AI-lösningarna på lång sikt”, förklarar hon.
Ett konkret exempel på hur Salesforce implementerar sina etiska riktlinjer i produkter är genom deras AI-driven lösning Salesforce Einstein. Einstein är designad med inbyggda funktioner för förklarbarhet och rättvisa, vilket gör att användare kan förstå varför ett specifikt beslut har fattats av AI-systemet. Detta ger inte bara transparens utan säkerställer också att AI inte bidrar till orättvisor.
”Vi har integrerat etiska riktlinjer i produktutvecklingen från början – inte som ett eftertänkt tillägg, utan som en grundläggande aspekt av hela design- och implementeringsprocessen”, säger Paula.
Salesforces årliga rapport om etisk och human användning av AI
Salesforce publicerar varje år en rapport om den etiska och humana användningen av AI. Rapporten är en viktig del av företagets åtagande att vara transparant och ansvarsfull när det gäller användning av AI. Genom rapporten kan både kunder och allmänheten få insyn i hur Salesforce hanterar etiska frågor och arbetar för att minimera riskerna med AI.
Hon påpekar att denna rapport inte bara är en uppföljning av företagets prestationer, utan också ett sätt att hålla företaget ansvarigt och skapa en dialog om de framtida etiska utmaningarna inom AI.
”Vi tror på att vara transparanta om våra framsteg och utmaningar. Det är viktigt att vi som företag inte bara pratar om etik, utan att vi också visar konkreta resultat och bjuder in andra till samtalet”, avslutar Paula.
Av Annika Guldroth
