Kapitel 2

AI i samhället

Etik, integritet, deepfakes och desinformation. Hur påverkar AI demokratin och vad gör vi för att styra tekniken i rätt riktning?

Efter det här kapitlet kan du…

Etiska principer för AI

Som du säkert har märkt av egna erfarenheter påverkar AI oss som människor och vårt samhälle på många sätt. Det är svårt att öppna en dagstidning eller gå in på internet utan att se en nyhet om AI. Företag tävlar om att skapa nyare och bättre teknik, och gränsen för vad som är möjligt flyttas hela tiden framåt.

Här ska vi undersöka hur AI påverkar samhället. Vi ska också fundera på vad vi kan göra för att styra tekniken i den riktning vi önskar. Eller är det tvärtom – styr tekniken samhället i en riktning vi inte kontrollerar?

Etik handlar om principer för vad som är rätt och fel. Den hjälper oss att agera med respekt, rättvisa och omtanke. Etiken vägleder oss i våra handlingar, även när ingen ser. I vardagen kan det handla om vad du gör om du hittar en borttappad plånbok. Samma slags överväganden gäller när vi använder och utvecklar AI.

När vi pratar om etisk användning av AI kan vi utgå från fem dimensioner:

Integritet och säkerhet

AI-system samlar in och bearbetar enorma mängder persondata – var vi befinner oss, vad vi köper, vad vi skriver och vad vi läser. Denna data kan användas för att styra vår uppmärksamhet, manipulera våra köpbeslut och i värsta fall övervaka medborgare.

Ett konkret exempel är leksaker och appar som använder AI för att prata med barn. De kan ha mikrofoner och kameror som samlar in ljud och bild. Ibland skickas informationen vidare till företag eller sparas på servrar. Om datan inte hanteras säkert kan den hamna i orätta händer eller användas i marknadsföring. Det väcker frågor om barns integritet.

Rätten till privatliv och kontroll över sina egna uppgifter är en grundläggande mänsklig rättighet. AI-system måste därför designas med integritetsskydd och tydliga regler för hur data hanteras och lagras.

Desinformation

AI kan generera övertygande text, bilder och video som är svåra att skilja från verkliga. Det används för att sprida desinformation – avsiktligt felaktig information som sprids på ett planerat sätt för att vilseleda en viss målgrupp. Oavsiktligt felaktig information är något annat: den kan spridas av personer som inte vet att den är felaktig.

En AI-bild som visar en haj på en översvämmad motorväg efter en orkan kan se helt verklig ut – men vara fabricerad. Sådana bilder sprids snabbt på nätet och kan få människor att tro på något som aldrig har hänt. Därför är källkritik viktigare än någonsin.

Ett allvarligt exempel är deepfakes: AI-genererat eller AI-manipulerat material (bild, ljud, video) som ser verkligt ut men är påhittat. Deepfakes kan användas för att fabricera uttalanden från politiker, skapa falska nyheter och underminera förtroendet för äkta material.

EU:s AI-förordning ställer därför krav på märkning: den som skapar eller sprider AI-genererade bilder, ljud eller videor som ser äkta ut ska tydligt ange att materialet är skapat eller manipulerat med AI. Kravet gäller sedan augusti 2026. Märkningen löser inte problemet – den som vill vilseleda struntar i regeln – men den gör det lättare att ställa avsändare till svars.

AI slop – informationsbrus

En stor mängd automatgenererat, lågkvalitativt AI-innehåll sprids på nätet. Det kallas ibland "AI slop". Det fyller sökmotorer och sociala medier med text som ser trovärdig ut men saknar faktaförankring. Det ställer höga krav på källkritik och mediekompetens.

Förklarbarhet och transparens

När en streamingtjänst rekommenderar musik eller film kan det vara svårt att förstå varför just de förslagen visas. AI-system analyserar vårt beteende men kan sällan ge tydliga svar på hur besluten tas. Den bristen på förklarbarhet gör det svårt att lita på systemen fullt ut.

Transparens innebär att användaren ska kunna förstå hur ett AI-system fungerar, varför det fattar ett visst beslut och vem som är avsändare. Det gäller särskilt system som påverkar människor: system som föreslår innehåll, bedömer texter eller fattar beslut om lån eller betyg.

Transparens betyder inte att alla måste förstå exakt hur algoritmerna fungerar matematiskt. Det räcker att det finns insyn i principerna bakom besluten. Utan transparens är det svårt att granska, lita på eller korrigera ett systems beteende. Brist på insyn kan leda till misstro och orättvisor, särskilt om beslut upplevs som godtyckliga.

Partiskhet och rättvisa

AI-system lär sig av historisk data. Om den datan speglar historiska orättvisor och fördomar lär sig AI:n att reproducera dem – och ibland förstärka dem. Detta kallas algoritmisk bias (partiskhet).

Bias (partiskhet) uppstår inte för att AI:n "vill" vara orättvis. Den uppstår för att träningsdatan innehåller skevheter och perspektiv från dem som skapat den. Ett exempel är ansiktsigenkänning som fungerar sämre för personer med mörkare hudtoner, eftersom modellerna huvudsakligen tränats på ljushyade ansikten. Det kan leda till att människor identifieras felaktigt och behandlas orättvist. Vi återkommer till fler exempel längre fram i kapitlet.

Plagiering

Generativ AI tränas på enorma mängder material – böcker, artiklar, bilder och musik – som skapats av människor. Om du använder AI för att skriva uppsatser utan att ange källor uppstår en form av plagiering. AI genererar text baserad på stora mängder material, men anger sällan varifrån informationen kommer.

Frågan om upphovsrätt är komplex och juridiskt olöst i många länder. Om ett bildverktyg tränats på mängder av verk från en viss konstnär, och kan skapa bilder som knappt går att skilja från originalen – är det då plagiering? Ska skapare av träningsdata kompenseras? Vem äger ett AI-genererat verk?

Övning

Para ihop: etisk dimension ↔ exempel

Klicka på en etisk dimension och sedan på det exempel som hör ihop med den.

Riktlinjer kring etisk AI

Flera internationella organisationer arbetar för att AI ska utvecklas och användas på ett etiskt, rättvist och ansvarsfullt sätt. Två av de mest inflytelserika är UNESCO och EU-kommissionen. De har olika roller och olika juridisk tyngd.

UNESCO, FN:s organisation för utbildning, vetenskap och kultur, antog 2021 de första världsomspännande etiska rekommendationerna för AI. De lyfter fram att AI-system ska skydda mänskliga rättigheter och värdighet samt vara rättvisa, transparenta och miljömässigt hållbara. UNESCO betonar också utbildning och inkludering: alla människor, oavsett land eller bakgrund, ska kunna förstå och dra nytta av AI. Rekommendationerna är inte juridiskt bindande, men de vägleder regeringar och företag.

EU-kommissionen har tagit ett mer lagstiftande grepp. EU:s riktlinjer för tillförlitlig AI betonar att AI-system ska vara:

Genom AI-förordningen (AI Act), som trädde i kraft 2024, vill EU säkerställa att AI-användningen i Europa är säker, etisk, transparent och står under mänsklig kontroll. Det är världens första heltäckande AI-lagstiftning, och till skillnad från UNESCO:s rekommendationer är den juridiskt bindande för alla som verkar inom EU.

Reglerna börjar gälla stegvis. Förbuden gäller sedan februari 2025 och transparenskraven sedan augusti 2026, medan de flesta kraven på högrisksystem har skjutits fram till slutet av 2027 för att myndigheter och företag ska hinna förbereda sig. Förordningen kräver också att den som använder AI i sin verksamhet ser till att personalen har tillräcklig AI-kompetens – det gäller även skolor.

RiskklassVad gäller?Exempel
Oacceptabel riskFörbjuds heltSocial poängsättning av medborgare; AI som läser av elevers känslor i klassrummet
Hög riskStrikt reglering, krav på mänsklig tillsynMedicinska diagnosverktyg; AI som sorterar jobbansökningar; AI som avgör antagning eller bedömer elever i skolan
Begränsad riskKrav på transparensChattbottar måste berätta att de är AI; deepfakes ska märkas
Minimal riskInga särskilda kravAI i spel, spamfilter
UNESCOEU (AI Act)
RollGlobalt "samvete" – värdegrund och etiskt idealLagstiftare inom Europa – konkreta regler
RäckviddHela världenAlla företag och organisationer som verkar inom EU
Juridisk tyngdRekommendationer – inte bindandeJuridiskt bindande lag
FokusMänskliga rättigheter, rättvisa, hållbarhet, inkluderingRiskklasser med krav per nivå
Övning

Lucktext: AI Act och riskklasserna

Fyll i de ord som saknas. Klicka sedan på "Rätta".

EU:s AI-förordning kallas ofta AI ___. Den delar in AI-system i ___ riskklasser. System med ___ risk, som social poängsättning av medborgare, förbjuds helt. System med ___ risk, som medicinska diagnosverktyg, regleras strikt. Chattbottar har begränsad risk och måste vara ___ med att de är AI. AI i spel räknas som ___ risk.

AI i Sverige – vad gäller i skolan?

När du använder AI som elev gäller samma regler som för andra digitala verktyg. Tre saker är särskilt viktiga: personuppgifter, risker och upphovsrätt.

Personuppgifter. Om du skriver in något i ett AI-verktyg som kan kopplas till en person – namn, klass, bilder eller en text där någon går att känna igen – räknas det som personuppgifter. Då gäller GDPR (General Data Protection Regulation), EU:s dataskyddsförordning. Skolan ansvarar för att sådana uppgifter behandlas säkert. Var därför försiktig med öppna AI-tjänster. En enkel regel: skriv inget i ett AI-verktyg som du inte skulle kunna säga högt i klassrummet.

Risker. AI som bara hjälper dig att skriva, öva eller få idéer räknas oftast som låg risk enligt AI-förordningen. Men AI som används för bedömning, övervakning eller viktiga beslut om din skolgång räknas som hög risk. Då krävs hårdare krav på transparens och mänsklig kontroll. Skolverket rekommenderar att varje skola har nedskrivna riktlinjer för när och hur AI får användas i uppgifter och bedömningar. Fråga din lärare vad som gäller på just din skola och i just den här uppgiften.

Åldersgränser. Många öppna AI-tjänster har åldersgränser, ofta 13 eller 18 år, och kräver ibland vårdnadshavares samtycke. Skolan kan därför inte kräva att du använder en tjänst du inte får ha konto på. Använd i första hand de verktyg som skolan tillhandahåller.

Betyg. AI kan vara ett stöd för både dig och din lärare, men betyg sätts alltid av läraren – ett AI-verktyg får aldrig avgöra din bedömning. Eftersom det inte går att avgöra säkert om en text är skriven av AI avråder Skolverket från att låta hemuppgifter ensamma ligga till grund för betyg. Räkna därför med att en del av bedömningen sker i klassrummet, muntligt eller på prov.

Upphovsrätt och fusk. AI kan skapa texter och bilder som ser proffsiga ut, men det gör dem inte automatiskt till "dina". AI-material kan likna någon annans verk, och då kan du råka använda något skyddat utan att veta det. Var därför öppen med hur du använt AI – precis som när du anger källor.

Bias (partiskhet) och perspektiv

Etik handlar också om perspektiv – att se saker ur olika synvinklar. Tänk dig två personer som står på var sin sida om en figur på marken. Den ena ser en sexa. Den andra ser en nia. Vem har rätt? Båda – utifrån sitt perspektiv. Övningen "Vad ser du?" påminner oss om att var vi står avgör vad vi ser.

Maskiner får sina perspektiv genom den data de tränas på och de algoritmer som styr dem. Om datan är snedvriden – inte generell, komplett eller balanserad – blir också maskinens syn på världen förvrängd. Ett system som fattar beslut som gynnar vissa och missgynnar andra, ofta utan medvetet val, är algoritmiskt partiskt.

Hur uppstår algoritmisk bias (partiskhet)?

Bias (partiskhet) kan uppstå på flera sätt:

Proxydata – diskriminering via omvägar

Vid AI-träning tar man ibland bort känslig data som kön eller etnicitet. Men AI:n kan ändå komma åt informationen indirekt, via så kallade proxyvariabler.

Låt säga att en AI inte tränas med etnicitet som parameter, utan i stället på postnummer. Om det i vissa postnummerområden bor fler ur en viss etnisk grupp – till exempel på grund av bostadssegregation – blir postnumret en genväg. AI:n tar då indirekt hänsyn till etnicitet, trots att den aldrig fått tillgång till sådan data. Resultatet kan bli diskriminerande utan att någon programmerat det explicit.

Faktaruta – Proxydata och proxyvariabler

En proxyvariabel är en variabel som ersätter eller representerar en annan variabel när denna inte kan mätas eller när data saknas. I stället för den primära faktorn (som etnicitet) använder algoritmen en proxyvariabel som statistiskt sett är korrelerad med den. Proxydata är den faktiska informationen (datapunkterna) som beskrivs av proxyvariabeln.

Partisk AI i praktiken

Det finns flera verkliga exempel på algoritmisk bias (partiskhet) i samhället.

Amazons rekryterings-AI. 2018 utvecklade Amazon ett AI-system för att sortera och rangordna jobbsökande. Systemet tränades på tio år av CV-data, där majoriteten av de sökande var män. Systemet lärde sig därför att manliga profiler ofta var "bättre" kandidater. Det gav lägre poäng till CV:n som signalerade att de var skrivna av kvinnor – till exempel genom uttryck som "women's chess club captain". Amazon försökte justera systemet men kunde inte garantera att nya snedvridningar inte skulle uppstå. Systemet lades ner.

Stereotypa AI-bilder. En studie av bildgenererande AI visade att systemen ofta skapar stereotypa bilder av människor. När en bild-AI fick generera porträtt av personer i STEM-yrken (teknik och naturvetenskap) föreställde de nästan enbart vita män, ofta äldre. Kvinnor och minoriteter förekom knappt.

I en andra del av samma studie undersöktes hur människor uppfattar snedvridna AI-bilder. Deltagarna fick se bildserier som var tydligt partiska eller mer blandade, och fick veta om bilderna sades vara skapade av AI eller av människor. Resultatet: användarna märker ofta när representationen är sned, men reaktionen beror på sammanhanget. Ibland uppfattades samma skeva bildserie som mindre partisk när den sades vara AI-skapad – som om AI automatiskt vore mer neutral. För andra motiv väckte AI-stämpeln i stället starkare kritik. Studien pekar på en dubbel risk: verktygen kan vara kraftigt partiska, och våra föreställningar om AI påverkar hur kritiska vi är.

Faktaruta – Tekniken utvecklas ständigt

Organisationer försöker på olika sätt motverka algoritmisk bias (partiskhet), och verktygen förändras snabbt. Tidiga bildmodeller (som StyleGAN2 från 2021, tränad på kändisporträtt från webben) gav ofta porträtt med homogen hudfärg, överrepresentation av unga ansikten och västerländska skönhetsnormer. Nyare verktyg kan aktivt modifiera användarens promptar för att öka mångfalden i resultatet – eller helt neka promptar som bryter mot organisationens policy. Testa gärna själv och jämför resultaten.

Övning

Sant eller falskt: deepfakes, desinformation och bias

Avgör om påståendena är sanna eller falska. Klicka på ditt svar.

Ett deepfake är AI-genererat eller AI-manipulerat material som ser verkligt ut men är påhittat.
Sant – deepfakes kan vara bild, ljud eller video, och kan t.ex. fabricera uttalanden från politiker.
Desinformation är all felaktig information, även sådan som sprids av misstag.
Falskt – desinformation är avsiktligt felaktig information som sprids planerat för att vilseleda. Oavsiktligt felaktig information är något annat.
AI-system blir partiska för att de "vill" gynna vissa grupper.
Falskt – bias (partiskhet) uppstår genom skev träningsdata, utvecklares antaganden eller proxydata, inte genom att AI:n har en vilja.
En AI kan diskriminera utifrån etnicitet även om etnicitet aldrig finns i träningsdatan.
Sant – via proxyvariabler som postnummer kan AI:n dra indirekta slutsatser om känsliga egenskaper.
Amazons rekryterings-AI kunde enkelt justeras och används fortfarande.
Falskt – Amazon kunde inte garantera att nya snedvridningar inte skulle uppstå, och systemet lades ner.

AI och demokrati

Demokrati betyder folkstyre. Makten kommer ytterst från folket, och medborgarna kan vara med och bestämma – bland annat genom att rösta i fria och regelbundna val. I en demokrati är alla människor lika mycket värda. Beslut fattas oftast efter majoritetens vilja, men minoriteters rättigheter måste skyddas.

För att demokratin ska fungera krävs yttrandefrihet, pressfrihet och rättssäkerhet. Människor måste kunna uttrycka åsikter utan rädsla. Medier måste kunna granska makthavare. Myndigheter måste följa lagar och regler.

Demokratin bygger också på informerade medborgare och tillit till institutioner som myndigheter, domstolar och media. AI påverkar i dag alla dessa delar. Algoritmer styr vilka nyheter och budskap vi ser i våra sociala flöden. Det påverkar hur vi uppfattar världen och vilka åsikter vi bildar oss. Information sprids snabbare än någonsin – både korrekt fakta och falska påståenden.

Positiva demokratieffekter av AI

AI kan stärka demokratin. Tekniken kan göra politiska processer mer tillgängliga genom översättningar, talsynteser och automatiska sammanfattningar. Den kan hjälpa myndigheter och journalister att förstå stora mängder data och fatta bättre beslut.

AI kan också sänka trösklarna för delaktighet. Fler kan ta del av samhällsinformation, lämna förslag, navigera i e-tjänster och förstå komplexa frågor med hjälp av visualiseringar och förklaringar.

Negativa demokratieffekter av AI

Samtidigt finns allvarliga risker. Deepfakes kan spridas snabbt och skada tilliten till samhällets institutioner. Stater och andra aktörer kan använda AI för att producera stora mängder riktad desinformation, skapa falska konton och påverka opinionen i demokratiska val.

Filterbubblor. Sociala medieplattformar använder AI för att visa innehåll som håller oss engagerade. Problemet är att "engagerande" ofta betyder känslomässigt laddat och polariserande material. Systemet visar dig mer av det du redan gillar. Det skapar en filterbubbla – du ser färre perspektiv som utmanar din världsbild. Personanpassade politiska budskap kan på så sätt öka polariseringen.

Rättssäkerhet. Om AI används i offentliga beslut, till exempel inom förvaltning eller skola, krävs transparens och möjlighet att förstå och överklaga besluten. Utan sådana skydd riskerar rättssäkerheten att försvagas.

Maktkoncentration. AI-utvecklingen domineras av ett fåtal stora teknikföretag med resurser att träna de mest kraftfulla modellerna. Det kan hota konkurrens, innovation och demokratisk kontroll.

AI-genererat internet. När en allt större del av innehållet på nätet är AI-genererat blir källkritik svårare. Det påverkar både forskning och samhällsdebatt.

Demokratin gynnas när människor lär sig tänka kritiskt, bedöma källor och diskutera öppet. AI är ett verktyg som kan användas på många sätt – men ansvaret ligger alltid hos oss människor. Frågan är inte om AI påverkar demokratin, utan hur vi använder tekniken för att stärka demokratiska värden i stället för att undergräva dem.

Övning

Diskutera: din egen filterbubbla

Fäll ut korten och diskutera i par eller helklass. Det finns inga facitsvar.

Fundera: Vad har algoritmen lärt sig om dig?

Öppna ditt flöde på en plattform du använder ofta. Vilka ämnen, åsikter och personer dominerar? Vad ser du nästan aldrig? Vad säger det om vad algoritmen tror att du vill ha?

Fundera: Är filterbubblan alltid dålig?

En bubbla med innehåll du gillar kan kännas trevlig. Var går gränsen mellan bra rekommendationer och en filterbubbla som ökar polarisering? Vem bär ansvaret – plattformen, algoritmen eller användaren?

Fundera: Hur tar du dig ur bubblan?

Ge tre konkreta förslag på hur en person kan möta fler perspektiv som utmanar den egna världsbilden. Vilket av förslagen skulle du själv faktiskt göra?

AI och normer

AI är en del av samhället och påverkas av de normer som finns omkring oss. Normer är de oskrivna regler som bestämmer vad som är "normalt" – vilka beteenden som förväntas och vilka värderingar som styr våra beslut. Forskning visar att AI-system inte är neutrala. De formas av sociala strukturer och av människors åsikter och förutfattade meningar.

AI lär sig av data som människor skapat, och i den finns ofta mönster som speglar samhällets föreställningar och ojämlikheter. Om bilder på "chefer" oftast föreställer män och bilder på "assistenter" oftast kvinnor, kan AI förstärka de mönstren. Sådan köns- och rasbaserad snedvridning har konstaterats i studier av AI-system.

Vår syn på AI påverkas också av populärkultur. Filmer, spel och sociala medier har gett oss bilder av AI som superintelligent, farlig eller känslostyrd. Det kan få oss att överskatta eller underskatta teknikens förmågor. I verkligheten bygger AI på statistik och mönster – inte känslor eller medvetande.

Föreställ dig att en skola börjar använda ett AI-verktyg som rättar uppsatser automatiskt, tränat på tidigare elevtexter. Efter ett tag märker man att elever från en viss stadsdel konsekvent får lägre resultat, trots att deras texter håller minst lika hög kvalitet. Då måste man ställa kritiska frågor: Är träningsdatan representativ? Förstår vi hur modellen bedömer texter? Kan eleverna överklaga? När normer som rättvisa, transparens och ansvar inte följs riskerar AI att återskapa gamla fördomar – och ge dem en teknisk fasad som gör dem svårare att upptäcka.

AI och sociala relationer

AI påverkar inte bara samhället i stort utan också hur vi umgås, pratar och mår. Två exempel ligger särskilt nära ungas vardag: AI-kompisar och deepfakes riktade mot enskilda personer.

AI-kompisar

Chattbottar som är byggda för sällskap – ofta kallade AI-kompisar – finns i egna appar och inbyggda i sociala medier. De är alltid tillgängliga, blir aldrig trötta och håller nästan alltid med. För en del är det ett stöd: ett sätt att öva språk, få sällskap eller sätta ord på tankar. Samtidigt finns risker. Tjänsterna är ofta designade för att hålla kvar användaren så länge som möjligt, och en relation som aldrig ställer krav kan göra det svårare att hantera riktiga relationer där människor säger emot. En chattbott saknar dessutom omdöme i en kris. Den kan ge fel råd i självsäker ton – och den har tystnadsplikt bara så långt företagets villkor säger. Det är en av anledningarna till att många tjänster har åldersgränser.

Deepfakes mot enskilda personer

Deepfakes används inte bara i politik. Den vanligaste formen riktar sig mot enskilda, ofta kvinnor och unga: fabricerade sexuella bilder eller filmer som sprids som mobbning, hot eller utpressning. Att skapa och sprida sådant material om en verklig person kan vara brottsligt i Sverige, till exempel som olaga integritetsintrång eller förtal, och gäller det en person under 18 år kan det vara barnpornografibrott. Det spelar ingen roll att bilden är "fejk" – skadan för den som drabbas är verklig. Den som råkar ut för det ska spara bevis, inte skämmas och berätta för en vuxen, skolan eller polisen.

Övning

Diskutera: AI i relationer

Fäll ut korten och diskutera i par eller helklass. Det finns inga facitsvar.

Fundera: Vad är skillnaden mellan en AI-kompis och en riktig kompis?

En AI-kompis håller nästan alltid med och finns alltid till hands. Är det bra eller dåligt för den som är ensam? Vad lär man sig av en vän som säger emot, som en AI sällan gör?

Fundera: Vem tjänar på att du pratar länge med en chattbott?

Många AI-kompisar är gratis men finansieras av prenumerationer eller data. Hur kan affärsmodellen påverka hur chattbotten är designad – och vad den säger till dig?

Fundera: Hur ska en skola agera om en deepfake av en elev sprids?

Vad behöver den drabbade? Vad ska hända med den som skapade och spred bilden? Vilken roll har plattformen där bilden spreds?

AI och miljön

AI:s miljöpåverkan får ofta mindre uppmärksamhet än etik, demokrati och arbetsmarknad – men det är en av de möjligheter och risker som är viktiga att kunna resonera om, och frågan växer i takt med att modellerna blir större.

Energi- och vattenanvändning

Att träna en stor AI-modell kräver enorma mängder beräkningar, som i sin tur kräver el. Ju fler parametrar och ju mer träningsdata, desto mer energi går åt – och därefter drar varje enskild fråga till modellen (så kallad inferens) ytterligare energi, miljontals gånger om dagen för populära tjänster. Datacenter behöver dessutom kylas, ofta med stora mängder vatten, för att hårdvaran inte ska överhettas. I regioner med redan knapp vattentillgång kan datacentrens vattenanvändning bli en konfliktfråga.

Till det kommer e-avfall: grafikkort och annan specialiserad hårdvara för AI-träning blir snabbt föråldrad och måste bytas ut, vilket ökar mängden uttjänt elektronik som ska tas om hand.

Faktaruta – Varför drar stora modeller så mycket energi?

Träning av en stor språkmodell innebär miljarder beräkningssteg, upprepade om och om igen under veckor eller månader på tusentals grafikkort samtidigt. Exakta siffror skiljer sig mellan modeller och hemlighålls ofta av företagen, men oberoende uppskattningar pekar på att träningen av de största modellerna kan dra lika mycket el som flera tusen hushåll gör på ett år.

Kan AI också vara bra för miljön?

Bilden är inte bara negativ. AI används också som verktyg för att möta miljöutmaningar:

Nettoeffekten är svår att räkna ut. Den beror på hur mycket energi AI-system faktiskt drar, hur den energin produceras, och om de miljövinster AI ger i andra sektorer väger upp den egna förbrukningen. Precis som med demokrati och ekonomi handlar frågan inte bara om om AI påverkar miljön, utan hur vi väljer att utveckla och använda tekniken.

Övning

Sant eller falskt: AI och miljön

Ta ställning till varje påstående. Klicka på Sant eller Falskt.

Datacenter kan använda stora mängder vatten för att kyla hårdvaran som tränar AI-modeller.
Sant – kylningen kan kräva stora mängder vatten, vilket kan bli en konfliktfråga i vattenfattiga regioner.
AI-modellers energiförbrukning handlar bara om träningen – att använda modellen kostar ingen energi.
Falskt – varje fråga till en färdig modell (inferens) drar också energi, och det sker miljontals gånger om dagen för populära tjänster.
AI kan användas för att optimera energianvändning i elnät och byggnader.
Sant – AI för energioptimering är ett exempel på hur tekniken kan minska, inte bara öka, miljöpåverkan.
AI:s miljöpåverkan är enkel att räkna ut eftersom alla företag redovisar exakt hur mycket energi deras modeller drar.
Falskt – exakta siffror hemlighålls ofta av företagen, vilket gör det svårt att jämföra och räkna på den verkliga miljöpåverkan.

AI och säkerhet

Säkerhet har två sidor när det gäller AI. Dels kan AI användas som ett vapen av den som vill lura, stjäla eller skada. Dels kan AI-system i sig själva angripas eller göra fel med allvarliga följder. Samtidigt är AI ett av de viktigaste verktygen för att upptäcka och stoppa angrepp.

AI som verktyg för brott

Bedrägerier på nätet avslöjades länge av dålig svenska och konstiga formuleringar. Med generativ AI kan en bedragare skriva felfria, personligt anpassade meddelanden i stor mängd. Med röstkloning räcker några sekunders inspelning från sociala medier för att efterlikna en persons röst – och ringa "från barnet" som behöver pengar akut. Deepfake-video har använts för att lura anställda att göra stora överföringar under vad som såg ut som ett videomöte med chefen. AI kan också hjälpa till att skriva skadlig kod, vilket sänker tröskeln för den som vill angripa datorsystem.

Faktaruta – Så skyddar du dig
  • Kom överens om ett kodord i familjen för akuta situationer. En klonad röst kan inte gissa det.
  • Verifiera via en annan kanal: ring tillbaka på ett nummer du redan har, i stället för att svara på samtalet eller meddelandet.
  • Var extra misstänksam vid brådska, hemlighetsmakeri och krav på pengar – oavsett hur äkta rösten eller bilden verkar.

Angrepp mot AI-system

AI-system kan också vara måltavlan. Några typiska sårbarheter:

Autonoma system och kritisk infrastruktur

När AI styr saker i den fysiska världen får fel direkta konsekvenser: en självkörande bil som feltolkar en situation, ett elnät som optimeras fel eller ett sjukhussystem som prioriterar patienter fel. Därför räknas AI i kritisk infrastruktur som hög risk i EU:s AI-förordning, med krav på testning, mänsklig tillsyn och möjlighet att stänga av systemet. Den mest omdiskuterade frågan är militär: autonoma vapensystem som väljer och angriper mål utan att en människa fattar beslutet. Många stater och organisationer, däribland FN, driver på för att en människa alltid ska ha meningsfull kontroll över beslut om liv och död.

AI som skydd

Samma teknik används på försvarssidan. Spamfilter och bedrägeriövervakning i banker är maskininlärning som letar avvikande mönster i miljontals händelser. Intrångsdetektering i datornätverk, upptäckt av deepfakes och automatisk analys av nya skadeprogram bygger också på AI. Kapprustningen mellan angripare och försvarare är ett av de tydligaste exemplen på att AI i sig varken är god eller ond – det avgörs av hur och av vem den används.

Övning

Sant eller falskt: AI och säkerhet

Ta ställning till varje påstående. Klicka på Sant eller Falskt.

Några sekunders inspelad röst kan räcka för att klona en persons röst med AI.
Sant – moderna röstmodeller behöver mycket lite material. Därför är ett gemensamt kodord i familjen ett enkelt och effektivt skydd.
Promptinjektion innebär att någon hackar sig in i AI-företagets servrar.
Falskt – promptinjektion är dolda instruktioner i text som AI:n läser, till exempel på en webbsida. Modellen kan inte säkert skilja data från instruktioner.
AI används bara av angripare, aldrig för att skydda system.
Falskt – spamfilter, bedrägeriövervakning och intrångsdetektering är alla exempel på AI som skydd.
AI som styr kritisk infrastruktur, som elnät, räknas som hög risk i EU:s AI-förordning.
Sant – fel i sådana system får direkta konsekvenser i den fysiska världen, och därför ställs krav på testning och mänsklig tillsyn.

AI, arbetsmarknaden och ekonomin

AI automatiserar uppgifter som tidigare utfördes av människor – inte bara enkla, repetitiva jobb utan alltmer även kvalificerade uppgifter som textskrivning, juridisk analys och programutveckling.

Historiskt har teknologiska revolutioner skapat nya jobb i takt med att gamla försvunnit. Men takten i AI-utvecklingen är exceptionellt snabb, och det är oklart om arbetsmarknaden hinner anpassa sig. Omställning kräver utbildning, politisk vilja och sociala skyddsnät.

Konkurrens, kostnader och global ojämlikhet

AI-utveckling är extremt kapitalkrävande. Att träna de mest avancerade modellerna kräver specialiserad hårdvara, enorma datamängder och forskare med mycket efterfrågad kompetens – kostnader som ofta uppgår till hundratals miljoner kronor per modell. Det gör att bara ett fåtal företag och länder har råd att ligga i framkant, samma maktkoncentration som beskrevs i avsnittet om demokrati ovan.

Konkurrensen driver på snabb utveckling, men den skapar också risker. Företag som ligger efter kan tvingas köpa tjänster av de större AI-leverantörerna i stället för att bygga egen kompetens, vilket gör dem beroende. Mellan länder syns samma mönster i större skala: stater med tillgång till kapital, datacenter och kompetens drar ifrån, medan andra får svårare att delta i AI-utvecklingen på egna villkor. Denna globala ojämlikhet i tillgång till AI riskerar att förstärka redan existerande ekonomiska klyftor mellan länder.

Samtidigt kan AI sänka trösklar för mindre aktörer inom vissa områden – till exempel genom verktyg som gör avancerad analys eller innehållsproduktion billigare och mer tillgänglig. Frågan om AI:s ekonomiska effekter handlar därför inte bara om jobb som försvinner, utan om vem som äger och kontrollerar tekniken, och vem som har råd att använda den.

Övning

Begreppskort: nyckelbegrepp i kapitlet

Klicka på ett kort för att vända det. Testa dig själv innan du vänder!

Deepfake
AI-genererat eller -manipulerat material (bild, ljud, video) som ser verkligt ut men är fabricerat.
Proxyvariabel
Variabel som indirekt representerar en annan, t.ex. postnummer i stället för etnicitet.
GDPR
EU:s dataskyddsförordning som skyddar personuppgifter – gäller även när du använder AI i skolan.
Filterbubbla
Algoritmer visar dig mer av det du redan gillar – du ser färre perspektiv som utmanar din världsbild.
Bias (partiskhet)
Systematisk snedvridning i ett AI-system, ofta orsakad av skev träningsdata eller proxydata.
AI Act
EU:s juridiskt bindande AI-förordning med fyra riskklasser: oacceptabel, hög, begränsad och minimal risk.
AI:s vattenavtryck
Vattenmängden som går åt för att kyla datacenter som tränar och driver AI-modeller.
Global AI-ojämlikhet
Ojämn tillgång till kapital, datacenter och kompetens gör att vissa länder och företag drar ifrån i AI-utvecklingen.

Sammanfattning

  • Etisk AI bedöms utifrån fem dimensioner: integritet, desinformation, transparens, bias (partiskhet)/rättvisa och plagiering.
  • Desinformation är avsiktligt felaktig information. Deepfakes och AI-genererat innehåll hotar informationsmiljön och demokratin.
  • Bias (partiskhet) uppstår genom skev träningsdata, utvecklares antaganden, proxydata eller partisk användning – som i Amazons nedlagda rekryterings-AI.
  • Proxydata kan leda till indirekt diskriminering: neutral information som postnummer kan avslöja känsliga egenskaper som etnicitet.
  • UNESCO ger globala etiska rekommendationer; EU:s AI-förordning (AI Act) är juridiskt bindande och klassificerar AI efter fyra risknivåer. I skolan gäller dessutom GDPR.
  • AI kan stärka demokratin genom tillgänglighet och delaktighet – men kan också förstärka filterbubblor, underlätta påverkanskampanjer och skapa maktkoncentration.
  • AI-system är inte neutrala utan speglar samhällets normer. AI förändrar också arbetsmarknaden i snabb takt.
  • AI påverkar sociala relationer: AI-kompisar kan vara stöd men också skapa beroende, och deepfakes mot enskilda personer kan vara brottsliga.
  • AI:s träning och drift kräver stora mängder energi och vatten och skapar e-avfall – men AI kan också bidra positivt genom klimatmodellering och energioptimering.
  • Säkerhet: AI används för bedrägerier (röstkloning, deepfakes) och kan själv angripas (promptinjektion, dataförgiftning), men är också ett centralt verktyg för att upptäcka angrepp. Autonoma system och militär AI kräver mänsklig kontroll.
  • AI-utveckling är kapitalkrävande, vilket driver konkurrens men också global ojämlikhet och ekonomisk maktkoncentration hos ett fåtal företag.

Nyckelbegrepp

Etik

Principer för vad som är rätt och fel i handling och beslutsfattande.

Desinformation

Avsiktligt felaktig information som sprids planerat för att vilseleda en målgrupp.

Deepfake

AI-genererat eller -manipulerat material som ser verkligt ut men är fabricerat.

Bias (partiskhet)

Systematisk snedvridning i ett AI-system på grund av skev träningsdata, antaganden eller proxydata.

Proxyvariabel

Variabel som indirekt representerar en annan, t.ex. postnummer som proxy för etnicitet.

Transparens

Förmågan att förstå och förklara hur ett AI-system fattar sina beslut.

Filterbubbla

Fenomenet att algoritmer visar dig mer av det du redan gillar, vilket minskar exponeringen för andra perspektiv.

AI Act

EU:s juridiskt bindande AI-förordning som klassificerar AI-system efter fyra risknivåer.

GDPR

EU:s dataskyddsförordning som skyddar personuppgifter, även vid AI-användning i skolan.

Norm

Oskriven regel om vad som är "normalt" – påverkar både samhället och AI-systemens träningsdata.

AI:s miljöavtryck

Energi, vatten och e-avfall som AI:s träning och drift orsakar.

Global AI-ojämlikhet

Ojämn tillgång till kapital, datacenter och kompetens som gör att vissa länder och företag drar ifrån i AI-utvecklingen.

Röstkloning

AI som efterliknar en persons röst utifrån en kort inspelning – används i bedrägerier.

Promptinjektion

Dolda instruktioner i text som får en AI-assistent att göra något annat än användaren bad om.

Autonoma vapensystem

Vapen som väljer och angriper mål utan mänskligt beslut – omdiskuterat internationellt.

AI-kompis

Chattbott byggd för sällskap; kan vara stöd men också skapa beroende och ge fel råd.

Självtest – Kapitel 2

1. Vilka fem etiska dimensioner lyfts fram för ansvarsfull AI-användning?
✅ Rätt! De fem dimensionerna ger ett ramverk för att kritiskt granska hur AI används – från integritetsskydd till rättvisa beslut.
2. Vad är ett deepfake?
✅ Rätt! Deepfakes är realistiskt fabricerat material. Det används för att sprida falsk information och underminera förtroende för äkta material.
3. Vad innebär transparens (förklarbarhet) som etisk dimension?
✅ Rätt! Utan transparens är det omöjligt att granska, lita på eller korrigera ett AI-systems beteende.
4. Vilket syfte har EU:s AI-förordning (AI Act)?
✅ Rätt! AI Act delar in AI-system i riskklasser och ställer krav på transparens, säkerhet och mänsklig tillsyn för att skydda medborgares rättigheter.
5. Varför kan träning av stora AI-modeller kräva mycket vatten?
✅ Rätt! Kylning av datacenter är en viktig anledning till att AI-träning kan kräva stora mängder vatten, särskilt i vattenfattiga regioner.
6. Vilket av följande är ett exempel på ekonomisk maktkoncentration inom AI?
✅ Rätt! Höga kostnader för hårdvara, data och kompetens gör att makten över den mest avancerade AI-tekniken samlas hos ett fåtal aktörer.