Vad gör AI med oss som människor?

Redan i dag formar AI vår syn på människans värde och värdighet, skriver Pär Gustafsson. Han efterlyser en etisk diskussion om den nya tekniken.

Artificiell intelligens (AI) är ett hett ämne. Det finns ingen brist på böcker om tekniken och algoritmerna bakom AI eller om en tänkbar framtida superintelligent AI som blir mänsklighetens fiende. Kate Crawfords nyutkomna Atlas of AI (Yale University Press) tar ett annat grepp. Crawford fokuserar på vad AI som industri gör med oss människor och våra samhällen redan i dag. Och den berättelse hon berättar är i mångt och mycket en berättelse om konsekvenserna för människovärdet.

Atlas of AI tar sin början i en fallstudie av AI-industrins likheter med, och kopplingar till, gruvindustrin. Crawford visar övertygande att AI, till exempel “molnet” där vi lagrar information, inte hänger fritt i ett rent och prydligt tomrum. AI och industrin kring tekniken är i högsta grad bunden till det fysiska landskapet, till samhällena, och till människornas hälsa och värdighet. Ett viktigt exempel på detta är att utvecklingen och användningen av AI är beroende av uppladdningsbara batterier. Dessa batterier tillverkas av, bland annat, litium som är en sällsynt jordartsmetall. Crawford demonstrerar övertygande hur brytningen av litium påtagligt påverkar miljön och människornas hälsa. Det är ingen slump att Kina är en stor exportör av litium, skriver Crawford, vilket beror på en villighet hos regimen att acceptera stora skador på miljön och folkhälsan. AI, till exempel i våra smarta telefoner, är ingen ren teknologi.

En påfallande intressant del av boken tar upp de potemkinkulisser som består av lågbetalda arbetare som utför handgrepp som AI-algoritmerna inte klarar av. Ett exempel är att redigera och censurera det användarna skriver i olika nätforum och webbplatser. I själva verket finns en armé av mänskliga händer vid tangentbord som “fyller i” glappet mellan hur AI marknadsförs gentemot allmänheten och dess verkliga kapacitet. I den här processen är det människan som robotifieras och behandlas som en maskin för att den riktiga maskinen, AI, ska framstå som “intelligent”.

Hur får då AI den förmåga den ändå har för att fatta beslut? För att träna upp en AI-algoritms förmåga att göra bedömningar, måste den utsättas för en stor mängd så kallade “träningsdata” eller Big Data. Det är när vi aningslöst lägger upp våra privata foton på Facebook, Instagram och andra sociala medier som vi och vår mänskliga värdighet riskerar att bli reducerade till träningsdata för att AI-algoritmer ska lära sig, exempelvis, känna igen ansikten. Andra etiska problem handlar om att träningsdata ofta är snedvridna och representerar, till exempel, en rasistisk, sexistisk eller ålderistisk världsbild. Men AI-industrin vänder bort blicken. Det etiska samtalet, om man får tro Crawford, är undermåligt.

Den stora behållningen med Atlas of AI är helikopterperspektivet som Crawford mejslar fram. Det här är alltså inte en bok som hänger sig åt fascination över algoritmer. De tekniska detaljer som ändå finns i boken fyller syftet att tydliggöra Crawfords samhällsvetenskapliga argument.

Implikationerna av AI-industrin för centrala kristna begrepp som människovärde och värdighet är, som jag antyder ovan, många. Bortsett från de framåtblickande frågorna om vad AI en dag kan komma att bli (en hotfull “superintelligens”) bör vi, likt Crawford, ställa oss frågan hur AI redan i dag formar vår syn på människans värde och värdighet.

Vi kan, till exempel, redan sägas ha tagit steget in i “mördarrobotåldern”. Våren 2020 dokumenterade Förenta nationernas experter att en autonom drönare dödat en människa i strid för första gången. Händelsen ska ha ägt rum i Libyen. Och 2021 använde Israel en autonom svärm av drönare för att göra samma sak i Gazakriget. Det här betyder att maskiner har för första gången självständigt sökt mänskliga måltavlor och fattat beslut att öppna eld. Det finns redan i dag internationella kristna aktivister och forskare som driver frågan om ett förbud mot dessa vapen, hur besvärligt det än kan bli att stoppa tillbaka anden i flaskan. Det är svårt att tänka sig en mer dagsaktuell teknologisk fråga, förutom möjligen klimatkrisen, som kristna borde engagera sig i mer.