Välkommen till algokratin: Kraften hos algoritmisk bias

Algoritmisk bias refererar till den falska känslan av kontroll som människor har över en del av besluten de fattar. Läs mer.

Skriven och verifierad av psykologen Valeria Sabater.

Senaste uppdateringen: 23 januari, 2024

Sök efter ett jobberbjudande. Lämna in ett klagomål till kundtjänst. Informera oss om ett lån eller annan bankprodukt. Boka en flyg- eller hotellbiljett. Nyheter, information och annonser som du ser när du går in på dina sociala medier… Algoritmer ligger bakom ett oändligt antal vardagliga uppgifter och förekommer i fler sektorer än vi föreställer oss, vilket leder till ett fenomen som kallas algoritmisk bias.

De är de där tysta mekanismerna som håller världen flytande i allt större utsträckning utan att vi knappt märker det. Och det mest slående av allt är att de lär sig att bli alltmer effektiva med den information vi tillhandahåller dem. De anpassar sig hela tiden till människan – de som är kodade som “användare” – och försöker erbjuda en alltmer personlig, snabb och tillfredsställande upplevelse så att ansträngningen blir minimal.

Dess tentakler når dejtingappar, där de till och med kan influera vårt val av partner genom att presentera oss för en serie mycket specifika kandidater som förmodligen är baserade på våra preferenser. Detta intåg i den digitala världen är av en sådan art att algoritmisk bias till och med tros påverka våra politiska beslut…

Vad är algoritmisk bias?

Algoritmer kan göra våra liv enklare. Om du till exempel är en naturälskare och försvarare av miljön, är det mycket troligt att du hittar alltmer information om detta ämne på dina sociala medier. Detta är såklart inte nödvändigtvis en dålig sak. Problem uppstår dock när det du visar intresse för inte är särskilt sunt.

Låt oss inte glömma det fruktansvärda fallet med Molly Russell. Den här tonåringen letade efter ämnen relaterade till självmord. Det kom en tid då allt som hennes sociala nätverk visade henne var innehåll relaterat till det temat. Nästan utan att inse det kan vi förbli fångna i en informationsbubbla där andra trender och varierat innehåll inte längre tar sig in.

Algoritmisk bias refererar till vår falska känsla av kontroll över informationen vi tar emot och de beslut vi fattar. Det finns en störande kod som sipprar in i våra dagliga liv. Som ihärdigt erbjuder oss data som nästan aldrig är opartisk. Men låt oss komma ihåg att det nästan alltid finns dolda intressen.

Du bestämmer inte; Algoritmen bestämmer åt dig

Det finns ett fenomen som vi ser allt oftare i normaliseringen av artificiell intelligens. AI ger oss en falsk känsla av kontroll och själveffektivitet. Den känslan kommer att öka mycket mer när användningen av ChatGPT normaliseras för att hjälpa oss med våra avhandlingar, akademiska arbeten och oändliga dagliga uppgifter.

Vi kommer att känna oss mer effektiva, men i verkligheten kommer det att vara den där chatboten som kommer att utföra våra uppgifter. Detta är inte alltid negativt, men det ökar den tidigare nämnda algoritmiska biasen. Det vill säga uppfattningen att vi bestämmer och agerar utan inblandning när så inte är fallet.

Algoritmer är inte rättvisa

Cathy O’Neil är en matematiker som skrev en mycket populär bok med titeln Weapons of Mathematical Destruction (2016). Där beskrev hon algoritmer som “massförstörelsevapen”. Till att börja med är dessa beräkningsvärden inte undantagna från moraliska och kulturella fördomar, för att inte tala om intressena bakom dem.

I boken berättar hon om fallet med en lärare som fick sparken till följd av en negativ utvärdering av henne utförd av en algoritm. Data från personliga meddelanden, medicinska rapporter med mera analyserades i denna utvärdering. Detsamma händer vid bedömning av överlåtelse av inteckningar eller bistånd. Vissa etniska grupper kommer till exempel alltid att vara i underläge.

De flesta företag och organisationer validerar dock dessa snabba analyser. Algoritmisk bias får dem att dra slutsatsen att det en algoritm analyserar alltid kommer att vara giltigt, även om det inte är rättvist, och ofta är dessa data inte ens personligt sammanställda.

Algokrati: Algoritmer i politikens tjänst

Vi säger ofta att politikerna står långt ifrån folkets verkliga problem. Vi ifrågasätter deras idéer eftersom de inte uppfyller behoven hos sina medborgare. En annan kritik är deras överdrivna utgifter för rådgivare, misskötsel och till och med deras misstag när de fattar beslut och lagar.

Nyligen avslöjade en undersökning publicerad av konsultföretaget Deloitte något mycket anmärkningsvärt. Det kan finnas en framtid där algoritmer och artificiell intelligens tar över en stor del av politikernas uppgifter. De kan helt enkelt analysera den data som stora teknikföretag samlar in om oss med våra mobiltelefoner. På så sätt skulle de känna till våra behov av att ge mer lämpliga sociala svar.

Likaså kan artificiell intelligens tränas så att politisk ledning inte är bedräglig. Dess analytiska kapacitet skulle ersätta en mängd rådgivare och spara oändligt med arbete för offentliga organ. Algokrati, uppfattad som kraften hos algoritmer när det kommer till att ersätta politikers arbete, kan verka dystopisk för oss, men det är en verklig möjlighet.

Universitetet i Utrecht genomförde en studie som visade att det kan vara fördelaktigt att låta algoritmer ersätta alla byråkratiska aspekter av statliga organisationer. Anledningen? Medborgarna tenderar att lita mer på den hantering som en maskin kan utföra än den som utförs av en politiker (en annan uppenbar bias).

Algoritmisk bias och framtiden

Algoritmisk bias är här för att stanna, och den blir bara starkare. Vi kommer fortsätta tro att många av de inköp vi gör, de människor vi uppmärksammar i sociala medier och de uppfattningar som vi anser vara sanna, är produkten av vår vilja. Vi kommer att fortsätta att uppfatta oss själva som att vi har fria sinnen, när vi i verkligheten tyst kommer att bli alltmer betingade.

Det ser vi särskilt hos unga människor som är alltmer olyckliga eftersom de lever i ett digitalt universum baserat på social jämförelse. Vi måste förstå att algoritmer inte är enheter som uppstår av sig själva. Snarare finns det stora företag bakom dem som programmerar dem. Och sådan programmering har alltid ett mål.

Om vi är på väg mot en framtid där människor och artificiell intelligens arbetar tillsammans, är det viktigt att de som tränar och programmerar AI är transparenta och utgår från mer etiska, rättvisa, moraliska och sunda värderingar. Vi måste reglera dessa mekanismer, som alltmer förändrar användarnas beteende. Det vill säga var och en av oss.