Generativ AI, som till exempel kan skapa och analysera text, bilder och annat innehåll utifrån instruktioner, kan användas för att motverka desinformation.
Men den kan också förstärka problemet genom övertygande och svårupptäckt manipulation, som snabbt kan kopieras och spridas i stor skala.
Forskare har i en ny studie tagit fram sju tydliga roller som AI kan spela när det gäller information, och analyserar för varje roll dess styrkor, svagheter, möjligheter och risker.
– En viktig poäng är att generativ AI har inte bara en utan flera uppgifter i arbetet mot desinformation. Tekniken kan vara allt från informationsstöd och utbildningsresurs till en kraftfull påverkansaktör. Därför behöver vi identifiera och diskutera vilka möjligheter, risker och ansvar som AI har och vi måste skapa mer träffsäkra policys, säger Thomas Nygren, professor vid Uppsala universitet som genomförde studien tillsammans med kollegor vid University of Cambridge, Storbritannien, och University of Western Australia, Australien.
Från faktastöd till påverkan – samma kapacitet ger tveeggade effekter
Studien är en översikt där forskare från olika vetenskapliga discipliner gått igenom den senaste forskningen om hur generativ AI kan användas i olika delar av informationsmiljön. Dels för att ge information och stödja faktagranskning, dels att påverka opinion och designa utbildningsinsatser – och vilka styrkor, svagheter, möjligheter och risker som följer av varje användning.
Forskarna valde att arbeta med ett rollramverk, Swot, eftersom det ger ett mer praktiskt beslutsunderlag än generella påståenden om att ‘AI är bra’ eller ‘AI är farlig’. Ett system kan vara hjälpsamt i en roll (till exempel som faktastöd) men skadligt i en annan (till exempel som påverkansaktör). Genom att analysera varje roll med Swot kan beslutsfattare, skolor och plattformar diskutera rätt åtgärder för rätt risk.
AI kan fylla flera funktioner
– Rollerna växte fram i ett analysarbete där vi utgick från att generativ AI inte är en enhetlig ‘lösning’, utan en teknik som kan fylla flera funktioner samtidigt. Vi identifierade återkommande mönster i hur AI används för att informera, upptäcka och hantera problem, påverka människor, stödja samarbete och lärande, samt designa interaktiva träningsmiljöer. Dessa funktioner sammanfattades i sju roller, säger Thomas Nygren.
De sju rollerna som forskarna har identifierat i den framväxande forskningen är informatören, väktaren, övertalaren, integratören, samarbetspartnern, läraren och spelskaparen (se faktaruta). Poängen med rollerna är att de fungerar som en katalog för styrning: de hjälper oss att se när AI främst informerar, när den övervakar, och när den faktiskt påverkar – vilket kräver olika typer av transparens, kontroll och ansvar. Varje roll kan bidra till att stärka samhällets motståndskraft mot desinformation, men varje roll medför också specifika sårbarheter. Därför analyserade forskarna varje roll med en SWOT-ansats: vilka styrkor och möjligheter som finns, men också vilka svagheter och hot som behöver hanteras
”AI måste implementeras ansvarsfullt”
– Vi visar hur generativ AI kan generera tvivelaktigt innehåll och samtidigt upptäcka och motverka desinformation i stor skala. Men risker som hallucinationer, det vill säga att AI:n drar till med fakta som inte stämmer, förstärkning av fördomar och missförstånd och avsiktlig manipulation gör att tekniken måste implementeras ansvarsfullt. Därför behövs det tydliga policys för hur AI ska kunna användas.
Forskarna lyfter särskilt behovet av:
- Reglering och tydliga ramar för hur AI får användas i känsliga informationsmiljöer,
- Transparens kring AI-genererat innehåll och systemens begränsningar,
- Mänsklig översyn där AI används för beslut, moderation eller råd,
- AI-litteracitet som stärker användares förmåga att värdera och ifrågasätta AI-svar.
– Analysen visar att generativ AI kan vara värdefullt för att främja viktiga kunskaper i skolan som behövs för att värna demokratin och skydda oss från desinformation, men samtidigt finns en risk att en överdriven användning kan vara dåligt för kunskapsutvecklingen och göra oss lata och okunniga och därigenom mer lättlurade. Rollerna AI som ”lärare” och ”samarbetspartner” är således, liksom övriga fem roller, viktiga att kritiskt och konstruktivt granska hela tiden i den snabba utvecklingen, säger Thomas Nygren.
Artikel: Nygren, T., Spearing, E. R., Fay, N., Vega, D., Hardwick, I. I., Roozenbeek, J., & Ecker, U. K. H. (2026). The seven roles of generative AI: Potential & pitfalls in combatting misinformation. Behavioral Science & Policy, 0(0). DOI: 10.1177/23794607261417815
