Etiska principer för AI
Som du säkert har märkt av egna erfarenheter påverkar AI oss som människor och vårt samhälle på många sätt. Det är svårt att öppna en dagstidning eller gå in på internet utan att se en nyhet om AI. Företag tävlar om att skapa nyare och bättre teknik, och gränsen för vad som är möjligt flyttas hela tiden framåt.
Här ska vi undersöka hur AI påverkar samhället. Vi ska också fundera på vad vi kan göra för att styra tekniken i den riktning vi önskar. Eller är det tvärtom – styr tekniken samhället i en riktning vi inte kontrollerar?
Etik handlar om principer för vad som är rätt och fel. Den hjälper oss att agera med respekt, rättvisa och omtanke. Etiken vägleder oss i våra handlingar, även när ingen ser. I vardagen kan det handla om vad du gör om du hittar en borttappad plånbok. Samma slags överväganden gäller när vi använder och utvecklar AI.
När vi pratar om etisk användning av AI kan vi utgå från fem dimensioner:
- Integritet och säkerhet
- Desinformation
- Förklarbarhet och transparens
- Partiskhet och rättvisa
- Plagiering
Integritet och säkerhet
AI-system samlar in och bearbetar enorma mängder persondata – var vi befinner oss, vad vi köper, vad vi skriver och vad vi läser. Denna data kan användas för att styra vår uppmärksamhet, manipulera våra köpbeslut och i värsta fall övervaka medborgare.
Ett konkret exempel är leksaker och appar som använder AI för att prata med barn. De kan ha mikrofoner och kameror som samlar in ljud och bild. Ibland skickas informationen vidare till företag eller sparas på servrar. Om datan inte hanteras säkert kan den hamna i orätta händer eller användas i marknadsföring. Det väcker frågor om barns integritet.
Rätten till privatliv och kontroll över sina egna uppgifter är en grundläggande mänsklig rättighet. AI-system måste därför designas med integritetsskydd och tydliga regler för hur data hanteras och lagras.
Desinformation
AI kan generera övertygande text, bilder och video som är svåra att skilja från verkliga. Det används för att sprida desinformation – avsiktligt felaktig information som sprids på ett planerat sätt för att vilseleda en viss målgrupp. Oavsiktligt felaktig information är något annat: den kan spridas av personer som inte vet att den är felaktig.
En AI-bild som visar en haj på en översvämmad motorväg efter en orkan kan se helt verklig ut – men vara fabricerad. Sådana bilder sprids snabbt på nätet och kan få människor att tro på något som aldrig har hänt. Därför är källkritik viktigare än någonsin.
Ett allvarligt exempel är deepfakes: AI-genererat eller AI-manipulerat material (bild, ljud, video) som ser verkligt ut men är påhittat. Deepfakes kan användas för att fabricera uttalanden från politiker, skapa falska nyheter och underminera förtroendet för äkta material.
EU:s AI-förordning ställer därför krav på märkning: den som skapar eller sprider AI-genererade bilder, ljud eller videor som ser äkta ut ska tydligt ange att materialet är skapat eller manipulerat med AI. Kravet gäller sedan augusti 2026. Märkningen löser inte problemet – den som vill vilseleda struntar i regeln – men den gör det lättare att ställa avsändare till svars.
En stor mängd automatgenererat, lågkvalitativt AI-innehåll sprids på nätet. Det kallas ibland "AI slop". Det fyller sökmotorer och sociala medier med text som ser trovärdig ut men saknar faktaförankring. Det ställer höga krav på källkritik och mediekompetens.
Förklarbarhet och transparens
När en streamingtjänst rekommenderar musik eller film kan det vara svårt att förstå varför just de förslagen visas. AI-system analyserar vårt beteende men kan sällan ge tydliga svar på hur besluten tas. Den bristen på förklarbarhet gör det svårt att lita på systemen fullt ut.
Transparens innebär att användaren ska kunna förstå hur ett AI-system fungerar, varför det fattar ett visst beslut och vem som är avsändare. Det gäller särskilt system som påverkar människor: system som föreslår innehåll, bedömer texter eller fattar beslut om lån eller betyg.
Transparens betyder inte att alla måste förstå exakt hur algoritmerna fungerar matematiskt. Det räcker att det finns insyn i principerna bakom besluten. Utan transparens är det svårt att granska, lita på eller korrigera ett systems beteende. Brist på insyn kan leda till misstro och orättvisor, särskilt om beslut upplevs som godtyckliga.
Partiskhet och rättvisa
AI-system lär sig av historisk data. Om den datan speglar historiska orättvisor och fördomar lär sig AI:n att reproducera dem – och ibland förstärka dem. Detta kallas algoritmisk bias (partiskhet).
Bias (partiskhet) uppstår inte för att AI:n "vill" vara orättvis. Den uppstår för att träningsdatan innehåller skevheter och perspektiv från dem som skapat den. Ett exempel är ansiktsigenkänning som fungerar sämre för personer med mörkare hudtoner, eftersom modellerna huvudsakligen tränats på ljushyade ansikten. Det kan leda till att människor identifieras felaktigt och behandlas orättvist. Vi återkommer till fler exempel längre fram i kapitlet.
Plagiering
Generativ AI tränas på enorma mängder material – böcker, artiklar, bilder och musik – som skapats av människor. Om du använder AI för att skriva uppsatser utan att ange källor uppstår en form av plagiering. AI genererar text baserad på stora mängder material, men anger sällan varifrån informationen kommer.
Frågan om upphovsrätt är komplex och juridiskt olöst i många länder. Om ett bildverktyg tränats på mängder av verk från en viss konstnär, och kan skapa bilder som knappt går att skilja från originalen – är det då plagiering? Ska skapare av träningsdata kompenseras? Vem äger ett AI-genererat verk?
Para ihop: etisk dimension ↔ exempel
Klicka på en etisk dimension och sedan på det exempel som hör ihop med den.
Riktlinjer kring etisk AI
Flera internationella organisationer arbetar för att AI ska utvecklas och användas på ett etiskt, rättvist och ansvarsfullt sätt. Två av de mest inflytelserika är UNESCO och EU-kommissionen. De har olika roller och olika juridisk tyngd.
UNESCO, FN:s organisation för utbildning, vetenskap och kultur, antog 2021 de första världsomspännande etiska rekommendationerna för AI. De lyfter fram att AI-system ska skydda mänskliga rättigheter och värdighet samt vara rättvisa, transparenta och miljömässigt hållbara. UNESCO betonar också utbildning och inkludering: alla människor, oavsett land eller bakgrund, ska kunna förstå och dra nytta av AI. Rekommendationerna är inte juridiskt bindande, men de vägleder regeringar och företag.
EU-kommissionen har tagit ett mer lagstiftande grepp. EU:s riktlinjer för tillförlitlig AI betonar att AI-system ska vara:
- Lagliga – följa gällande lagar och regler
- Etiska – respektera mänskliga rättigheter och principer
- Robusta – tekniskt säkra och tillförlitliga
Genom AI-förordningen (AI Act), som trädde i kraft 2024, vill EU säkerställa att AI-användningen i Europa är säker, etisk, transparent och står under mänsklig kontroll. Det är världens första heltäckande AI-lagstiftning, och till skillnad från UNESCO:s rekommendationer är den juridiskt bindande för alla som verkar inom EU.
Reglerna börjar gälla stegvis. Förbuden gäller sedan februari 2025 och transparenskraven sedan augusti 2026, medan de flesta kraven på högrisksystem har skjutits fram till slutet av 2027 för att myndigheter och företag ska hinna förbereda sig. Förordningen kräver också att den som använder AI i sin verksamhet ser till att personalen har tillräcklig AI-kompetens – det gäller även skolor.
| Riskklass | Vad gäller? | Exempel |
|---|---|---|
| Oacceptabel risk | Förbjuds helt | Social poängsättning av medborgare; AI som läser av elevers känslor i klassrummet |
| Hög risk | Strikt reglering, krav på mänsklig tillsyn | Medicinska diagnosverktyg; AI som sorterar jobbansökningar; AI som avgör antagning eller bedömer elever i skolan |
| Begränsad risk | Krav på transparens | Chattbottar måste berätta att de är AI; deepfakes ska märkas |
| Minimal risk | Inga särskilda krav | AI i spel, spamfilter |
| UNESCO | EU (AI Act) | |
|---|---|---|
| Roll | Globalt "samvete" – värdegrund och etiskt ideal | Lagstiftare inom Europa – konkreta regler |
| Räckvidd | Hela världen | Alla företag och organisationer som verkar inom EU |
| Juridisk tyngd | Rekommendationer – inte bindande | Juridiskt bindande lag |
| Fokus | Mänskliga rättigheter, rättvisa, hållbarhet, inkludering | Riskklasser med krav per nivå |
Lucktext: AI Act och riskklasserna
Fyll i de ord som saknas. Klicka sedan på "Rätta".
EU:s AI-förordning kallas ofta AI ___. Den delar in AI-system i ___ riskklasser. System med ___ risk, som social poängsättning av medborgare, förbjuds helt. System med ___ risk, som medicinska diagnosverktyg, regleras strikt. Chattbottar har begränsad risk och måste vara ___ med att de är AI. AI i spel räknas som ___ risk.
AI i Sverige – vad gäller i skolan?
När du använder AI som elev gäller samma regler som för andra digitala verktyg. Tre saker är särskilt viktiga: personuppgifter, risker och upphovsrätt.
Personuppgifter. Om du skriver in något i ett AI-verktyg som kan kopplas till en person – namn, klass, bilder eller en text där någon går att känna igen – räknas det som personuppgifter. Då gäller GDPR (General Data Protection Regulation), EU:s dataskyddsförordning. Skolan ansvarar för att sådana uppgifter behandlas säkert. Var därför försiktig med öppna AI-tjänster. En enkel regel: skriv inget i ett AI-verktyg som du inte skulle kunna säga högt i klassrummet.
Risker. AI som bara hjälper dig att skriva, öva eller få idéer räknas oftast som låg risk enligt AI-förordningen. Men AI som används för bedömning, övervakning eller viktiga beslut om din skolgång räknas som hög risk. Då krävs hårdare krav på transparens och mänsklig kontroll. Skolverket rekommenderar att varje skola har nedskrivna riktlinjer för när och hur AI får användas i uppgifter och bedömningar. Fråga din lärare vad som gäller på just din skola och i just den här uppgiften.
Åldersgränser. Många öppna AI-tjänster har åldersgränser, ofta 13 eller 18 år, och kräver ibland vårdnadshavares samtycke. Skolan kan därför inte kräva att du använder en tjänst du inte får ha konto på. Använd i första hand de verktyg som skolan tillhandahåller.
Betyg. AI kan vara ett stöd för både dig och din lärare, men betyg sätts alltid av läraren – ett AI-verktyg får aldrig avgöra din bedömning. Eftersom det inte går att avgöra säkert om en text är skriven av AI avråder Skolverket från att låta hemuppgifter ensamma ligga till grund för betyg. Räkna därför med att en del av bedömningen sker i klassrummet, muntligt eller på prov.
Upphovsrätt och fusk. AI kan skapa texter och bilder som ser proffsiga ut, men det gör dem inte automatiskt till "dina". AI-material kan likna någon annans verk, och då kan du råka använda något skyddat utan att veta det. Var därför öppen med hur du använt AI – precis som när du anger källor.
Bias (partiskhet) och perspektiv
Etik handlar också om perspektiv – att se saker ur olika synvinklar. Tänk dig två personer som står på var sin sida om en figur på marken. Den ena ser en sexa. Den andra ser en nia. Vem har rätt? Båda – utifrån sitt perspektiv. Övningen "Vad ser du?" påminner oss om att var vi står avgör vad vi ser.
Maskiner får sina perspektiv genom den data de tränas på och de algoritmer som styr dem. Om datan är snedvriden – inte generell, komplett eller balanserad – blir också maskinens syn på världen förvrängd. Ett system som fattar beslut som gynnar vissa och missgynnar andra, ofta utan medvetet val, är algoritmiskt partiskt.
Hur uppstår algoritmisk bias (partiskhet)?
Bias (partiskhet) kan uppstå på flera sätt:
- Skev träningsdata. Datan är ofullständig eller historiskt snedvriden. När verktyget sedan används kan partiskheten förstärkas över tid.
- Algoritmens konstruktion. Utvecklarens egna antaganden – medvetna eller omedvetna – byggs in i regler och parametrar.
- Proxydata. Känslig data tas bort, men AI:n kommer åt den ändå via omvägar. Mer om det nedan.
- Utvärdering och användning. Även en neutral modell kan tolkas och användas partiskt, så att besluten blir orättvisa.
Proxydata – diskriminering via omvägar
Vid AI-träning tar man ibland bort känslig data som kön eller etnicitet. Men AI:n kan ändå komma åt informationen indirekt, via så kallade proxyvariabler.
Låt säga att en AI inte tränas med etnicitet som parameter, utan i stället på postnummer. Om det i vissa postnummerområden bor fler ur en viss etnisk grupp – till exempel på grund av bostadssegregation – blir postnumret en genväg. AI:n tar då indirekt hänsyn till etnicitet, trots att den aldrig fått tillgång till sådan data. Resultatet kan bli diskriminerande utan att någon programmerat det explicit.
En proxyvariabel är en variabel som ersätter eller representerar en annan variabel när denna inte kan mätas eller när data saknas. I stället för den primära faktorn (som etnicitet) använder algoritmen en proxyvariabel som statistiskt sett är korrelerad med den. Proxydata är den faktiska informationen (datapunkterna) som beskrivs av proxyvariabeln.
Partisk AI i praktiken
Det finns flera verkliga exempel på algoritmisk bias (partiskhet) i samhället.
Amazons rekryterings-AI. 2018 utvecklade Amazon ett AI-system för att sortera och rangordna jobbsökande. Systemet tränades på tio år av CV-data, där majoriteten av de sökande var män. Systemet lärde sig därför att manliga profiler ofta var "bättre" kandidater. Det gav lägre poäng till CV:n som signalerade att de var skrivna av kvinnor – till exempel genom uttryck som "women's chess club captain". Amazon försökte justera systemet men kunde inte garantera att nya snedvridningar inte skulle uppstå. Systemet lades ner.
Stereotypa AI-bilder. En studie av bildgenererande AI visade att systemen ofta skapar stereotypa bilder av människor. När en bild-AI fick generera porträtt av personer i STEM-yrken (teknik och naturvetenskap) föreställde de nästan enbart vita män, ofta äldre. Kvinnor och minoriteter förekom knappt.
I en andra del av samma studie undersöktes hur människor uppfattar snedvridna AI-bilder. Deltagarna fick se bildserier som var tydligt partiska eller mer blandade, och fick veta om bilderna sades vara skapade av AI eller av människor. Resultatet: användarna märker ofta när representationen är sned, men reaktionen beror på sammanhanget. Ibland uppfattades samma skeva bildserie som mindre partisk när den sades vara AI-skapad – som om AI automatiskt vore mer neutral. För andra motiv väckte AI-stämpeln i stället starkare kritik. Studien pekar på en dubbel risk: verktygen kan vara kraftigt partiska, och våra föreställningar om AI påverkar hur kritiska vi är.
Organisationer försöker på olika sätt motverka algoritmisk bias (partiskhet), och verktygen förändras snabbt. Tidiga bildmodeller (som StyleGAN2 från 2021, tränad på kändisporträtt från webben) gav ofta porträtt med homogen hudfärg, överrepresentation av unga ansikten och västerländska skönhetsnormer. Nyare verktyg kan aktivt modifiera användarens promptar för att öka mångfalden i resultatet – eller helt neka promptar som bryter mot organisationens policy. Testa gärna själv och jämför resultaten.
Sant eller falskt: deepfakes, desinformation och bias
Avgör om påståendena är sanna eller falska. Klicka på ditt svar.
AI och demokrati
Demokrati betyder folkstyre. Makten kommer ytterst från folket, och medborgarna kan vara med och bestämma – bland annat genom att rösta i fria och regelbundna val. I en demokrati är alla människor lika mycket värda. Beslut fattas oftast efter majoritetens vilja, men minoriteters rättigheter måste skyddas.
För att demokratin ska fungera krävs yttrandefrihet, pressfrihet och rättssäkerhet. Människor måste kunna uttrycka åsikter utan rädsla. Medier måste kunna granska makthavare. Myndigheter måste följa lagar och regler.
Demokratin bygger också på informerade medborgare och tillit till institutioner som myndigheter, domstolar och media. AI påverkar i dag alla dessa delar. Algoritmer styr vilka nyheter och budskap vi ser i våra sociala flöden. Det påverkar hur vi uppfattar världen och vilka åsikter vi bildar oss. Information sprids snabbare än någonsin – både korrekt fakta och falska påståenden.
Positiva demokratieffekter av AI
AI kan stärka demokratin. Tekniken kan göra politiska processer mer tillgängliga genom översättningar, talsynteser och automatiska sammanfattningar. Den kan hjälpa myndigheter och journalister att förstå stora mängder data och fatta bättre beslut.
AI kan också sänka trösklarna för delaktighet. Fler kan ta del av samhällsinformation, lämna förslag, navigera i e-tjänster och förstå komplexa frågor med hjälp av visualiseringar och förklaringar.
Negativa demokratieffekter av AI
Samtidigt finns allvarliga risker. Deepfakes kan spridas snabbt och skada tilliten till samhällets institutioner. Stater och andra aktörer kan använda AI för att producera stora mängder riktad desinformation, skapa falska konton och påverka opinionen i demokratiska val.
Filterbubblor. Sociala medieplattformar använder AI för att visa innehåll som håller oss engagerade. Problemet är att "engagerande" ofta betyder känslomässigt laddat och polariserande material. Systemet visar dig mer av det du redan gillar. Det skapar en filterbubbla – du ser färre perspektiv som utmanar din världsbild. Personanpassade politiska budskap kan på så sätt öka polariseringen.
Rättssäkerhet. Om AI används i offentliga beslut, till exempel inom förvaltning eller skola, krävs transparens och möjlighet att förstå och överklaga besluten. Utan sådana skydd riskerar rättssäkerheten att försvagas.
Maktkoncentration. AI-utvecklingen domineras av ett fåtal stora teknikföretag med resurser att träna de mest kraftfulla modellerna. Det kan hota konkurrens, innovation och demokratisk kontroll.
AI-genererat internet. När en allt större del av innehållet på nätet är AI-genererat blir källkritik svårare. Det påverkar både forskning och samhällsdebatt.
Demokratin gynnas när människor lär sig tänka kritiskt, bedöma källor och diskutera öppet. AI är ett verktyg som kan användas på många sätt – men ansvaret ligger alltid hos oss människor. Frågan är inte om AI påverkar demokratin, utan hur vi använder tekniken för att stärka demokratiska värden i stället för att undergräva dem.
Diskutera: din egen filterbubbla
Fäll ut korten och diskutera i par eller helklass. Det finns inga facitsvar.
Fundera: Vad har algoritmen lärt sig om dig?
Öppna ditt flöde på en plattform du använder ofta. Vilka ämnen, åsikter och personer dominerar? Vad ser du nästan aldrig? Vad säger det om vad algoritmen tror att du vill ha?
Fundera: Är filterbubblan alltid dålig?
En bubbla med innehåll du gillar kan kännas trevlig. Var går gränsen mellan bra rekommendationer och en filterbubbla som ökar polarisering? Vem bär ansvaret – plattformen, algoritmen eller användaren?
Fundera: Hur tar du dig ur bubblan?
Ge tre konkreta förslag på hur en person kan möta fler perspektiv som utmanar den egna världsbilden. Vilket av förslagen skulle du själv faktiskt göra?
AI och normer
AI är en del av samhället och påverkas av de normer som finns omkring oss. Normer är de oskrivna regler som bestämmer vad som är "normalt" – vilka beteenden som förväntas och vilka värderingar som styr våra beslut. Forskning visar att AI-system inte är neutrala. De formas av sociala strukturer och av människors åsikter och förutfattade meningar.
AI lär sig av data som människor skapat, och i den finns ofta mönster som speglar samhällets föreställningar och ojämlikheter. Om bilder på "chefer" oftast föreställer män och bilder på "assistenter" oftast kvinnor, kan AI förstärka de mönstren. Sådan köns- och rasbaserad snedvridning har konstaterats i studier av AI-system.
Vår syn på AI påverkas också av populärkultur. Filmer, spel och sociala medier har gett oss bilder av AI som superintelligent, farlig eller känslostyrd. Det kan få oss att överskatta eller underskatta teknikens förmågor. I verkligheten bygger AI på statistik och mönster – inte känslor eller medvetande.
Föreställ dig att en skola börjar använda ett AI-verktyg som rättar uppsatser automatiskt, tränat på tidigare elevtexter. Efter ett tag märker man att elever från en viss stadsdel konsekvent får lägre resultat, trots att deras texter håller minst lika hög kvalitet. Då måste man ställa kritiska frågor: Är träningsdatan representativ? Förstår vi hur modellen bedömer texter? Kan eleverna överklaga? När normer som rättvisa, transparens och ansvar inte följs riskerar AI att återskapa gamla fördomar – och ge dem en teknisk fasad som gör dem svårare att upptäcka.
AI och sociala relationer
AI påverkar inte bara samhället i stort utan också hur vi umgås, pratar och mår. Två exempel ligger särskilt nära ungas vardag: AI-kompisar och deepfakes riktade mot enskilda personer.
AI-kompisar
Chattbottar som är byggda för sällskap – ofta kallade AI-kompisar – finns i egna appar och inbyggda i sociala medier. De är alltid tillgängliga, blir aldrig trötta och håller nästan alltid med. För en del är det ett stöd: ett sätt att öva språk, få sällskap eller sätta ord på tankar. Samtidigt finns risker. Tjänsterna är ofta designade för att hålla kvar användaren så länge som möjligt, och en relation som aldrig ställer krav kan göra det svårare att hantera riktiga relationer där människor säger emot. En chattbott saknar dessutom omdöme i en kris. Den kan ge fel råd i självsäker ton – och den har tystnadsplikt bara så långt företagets villkor säger. Det är en av anledningarna till att många tjänster har åldersgränser.
Deepfakes mot enskilda personer
Deepfakes används inte bara i politik. Den vanligaste formen riktar sig mot enskilda, ofta kvinnor och unga: fabricerade sexuella bilder eller filmer som sprids som mobbning, hot eller utpressning. Att skapa och sprida sådant material om en verklig person kan vara brottsligt i Sverige, till exempel som olaga integritetsintrång eller förtal, och gäller det en person under 18 år kan det vara barnpornografibrott. Det spelar ingen roll att bilden är "fejk" – skadan för den som drabbas är verklig. Den som råkar ut för det ska spara bevis, inte skämmas och berätta för en vuxen, skolan eller polisen.
Diskutera: AI i relationer
Fäll ut korten och diskutera i par eller helklass. Det finns inga facitsvar.
Fundera: Vad är skillnaden mellan en AI-kompis och en riktig kompis?
En AI-kompis håller nästan alltid med och finns alltid till hands. Är det bra eller dåligt för den som är ensam? Vad lär man sig av en vän som säger emot, som en AI sällan gör?
Fundera: Vem tjänar på att du pratar länge med en chattbott?
Många AI-kompisar är gratis men finansieras av prenumerationer eller data. Hur kan affärsmodellen påverka hur chattbotten är designad – och vad den säger till dig?
Fundera: Hur ska en skola agera om en deepfake av en elev sprids?
Vad behöver den drabbade? Vad ska hända med den som skapade och spred bilden? Vilken roll har plattformen där bilden spreds?
AI och miljön
AI:s miljöpåverkan får ofta mindre uppmärksamhet än etik, demokrati och arbetsmarknad – men det är en av de möjligheter och risker som är viktiga att kunna resonera om, och frågan växer i takt med att modellerna blir större.
Energi- och vattenanvändning
Att träna en stor AI-modell kräver enorma mängder beräkningar, som i sin tur kräver el. Ju fler parametrar och ju mer träningsdata, desto mer energi går åt – och därefter drar varje enskild fråga till modellen (så kallad inferens) ytterligare energi, miljontals gånger om dagen för populära tjänster. Datacenter behöver dessutom kylas, ofta med stora mängder vatten, för att hårdvaran inte ska överhettas. I regioner med redan knapp vattentillgång kan datacentrens vattenanvändning bli en konfliktfråga.
Till det kommer e-avfall: grafikkort och annan specialiserad hårdvara för AI-träning blir snabbt föråldrad och måste bytas ut, vilket ökar mängden uttjänt elektronik som ska tas om hand.
Träning av en stor språkmodell innebär miljarder beräkningssteg, upprepade om och om igen under veckor eller månader på tusentals grafikkort samtidigt. Exakta siffror skiljer sig mellan modeller och hemlighålls ofta av företagen, men oberoende uppskattningar pekar på att träningen av de största modellerna kan dra lika mycket el som flera tusen hushåll gör på ett år.
Kan AI också vara bra för miljön?
Bilden är inte bara negativ. AI används också som verktyg för att möta miljöutmaningar:
- Klimatmodellering – AI hjälper forskare att analysera enorma mängder klimatdata och simulera framtida scenarier snabbare än tidigare.
- Energioptimering – AI styr elnät, uppvärmning och industriprocesser så att mindre energi går till spillo.
- Miljöövervakning – satellitbilder analyserade med AI kan upptäcka skogsskövling, föroreningar och artförändringar tidigt.
Nettoeffekten är svår att räkna ut. Den beror på hur mycket energi AI-system faktiskt drar, hur den energin produceras, och om de miljövinster AI ger i andra sektorer väger upp den egna förbrukningen. Precis som med demokrati och ekonomi handlar frågan inte bara om om AI påverkar miljön, utan hur vi väljer att utveckla och använda tekniken.
Sant eller falskt: AI och miljön
Ta ställning till varje påstående. Klicka på Sant eller Falskt.
AI och säkerhet
Säkerhet har två sidor när det gäller AI. Dels kan AI användas som ett vapen av den som vill lura, stjäla eller skada. Dels kan AI-system i sig själva angripas eller göra fel med allvarliga följder. Samtidigt är AI ett av de viktigaste verktygen för att upptäcka och stoppa angrepp.
AI som verktyg för brott
Bedrägerier på nätet avslöjades länge av dålig svenska och konstiga formuleringar. Med generativ AI kan en bedragare skriva felfria, personligt anpassade meddelanden i stor mängd. Med röstkloning räcker några sekunders inspelning från sociala medier för att efterlikna en persons röst – och ringa "från barnet" som behöver pengar akut. Deepfake-video har använts för att lura anställda att göra stora överföringar under vad som såg ut som ett videomöte med chefen. AI kan också hjälpa till att skriva skadlig kod, vilket sänker tröskeln för den som vill angripa datorsystem.
- Kom överens om ett kodord i familjen för akuta situationer. En klonad röst kan inte gissa det.
- Verifiera via en annan kanal: ring tillbaka på ett nummer du redan har, i stället för att svara på samtalet eller meddelandet.
- Var extra misstänksam vid brådska, hemlighetsmakeri och krav på pengar – oavsett hur äkta rösten eller bilden verkar.
Angrepp mot AI-system
AI-system kan också vara måltavlan. Några typiska sårbarheter:
- Promptinjektion – dolda instruktioner i en webbsida, ett dokument eller ett mejl som får en AI-assistent att göra något annat än användaren bad om, till exempel läcka information. Det fungerar för att en språkmodell har svårt att skilja data från instruktioner.
- Dataförgiftning – någon manipulerar träningsdatan så att modellen lär sig fel, till exempel att släppa igenom vissa typer av skräppost.
- Vilseledande indata – små, avsiktliga förändringar som en människa knappt ser men som får modellen att gissa fel. Forskare har visat att några klistermärken på en stoppskylt kan få ett bildigenkänningssystem att läsa den som en hastighetsskylt.
- Läckor – det du skriver in i en AI-tjänst kan sparas och användas för träning. Det är därför Skolverket avråder från att lägga in personuppgifter och elevtexter i öppna AI-tjänster.
Autonoma system och kritisk infrastruktur
När AI styr saker i den fysiska världen får fel direkta konsekvenser: en självkörande bil som feltolkar en situation, ett elnät som optimeras fel eller ett sjukhussystem som prioriterar patienter fel. Därför räknas AI i kritisk infrastruktur som hög risk i EU:s AI-förordning, med krav på testning, mänsklig tillsyn och möjlighet att stänga av systemet. Den mest omdiskuterade frågan är militär: autonoma vapensystem som väljer och angriper mål utan att en människa fattar beslutet. Många stater och organisationer, däribland FN, driver på för att en människa alltid ska ha meningsfull kontroll över beslut om liv och död.
AI som skydd
Samma teknik används på försvarssidan. Spamfilter och bedrägeriövervakning i banker är maskininlärning som letar avvikande mönster i miljontals händelser. Intrångsdetektering i datornätverk, upptäckt av deepfakes och automatisk analys av nya skadeprogram bygger också på AI. Kapprustningen mellan angripare och försvarare är ett av de tydligaste exemplen på att AI i sig varken är god eller ond – det avgörs av hur och av vem den används.
Sant eller falskt: AI och säkerhet
Ta ställning till varje påstående. Klicka på Sant eller Falskt.
AI, arbetsmarknaden och ekonomin
AI automatiserar uppgifter som tidigare utfördes av människor – inte bara enkla, repetitiva jobb utan alltmer även kvalificerade uppgifter som textskrivning, juridisk analys och programutveckling.
Historiskt har teknologiska revolutioner skapat nya jobb i takt med att gamla försvunnit. Men takten i AI-utvecklingen är exceptionellt snabb, och det är oklart om arbetsmarknaden hinner anpassa sig. Omställning kräver utbildning, politisk vilja och sociala skyddsnät.
Konkurrens, kostnader och global ojämlikhet
AI-utveckling är extremt kapitalkrävande. Att träna de mest avancerade modellerna kräver specialiserad hårdvara, enorma datamängder och forskare med mycket efterfrågad kompetens – kostnader som ofta uppgår till hundratals miljoner kronor per modell. Det gör att bara ett fåtal företag och länder har råd att ligga i framkant, samma maktkoncentration som beskrevs i avsnittet om demokrati ovan.
Konkurrensen driver på snabb utveckling, men den skapar också risker. Företag som ligger efter kan tvingas köpa tjänster av de större AI-leverantörerna i stället för att bygga egen kompetens, vilket gör dem beroende. Mellan länder syns samma mönster i större skala: stater med tillgång till kapital, datacenter och kompetens drar ifrån, medan andra får svårare att delta i AI-utvecklingen på egna villkor. Denna globala ojämlikhet i tillgång till AI riskerar att förstärka redan existerande ekonomiska klyftor mellan länder.
Samtidigt kan AI sänka trösklar för mindre aktörer inom vissa områden – till exempel genom verktyg som gör avancerad analys eller innehållsproduktion billigare och mer tillgänglig. Frågan om AI:s ekonomiska effekter handlar därför inte bara om jobb som försvinner, utan om vem som äger och kontrollerar tekniken, och vem som har råd att använda den.
Begreppskort: nyckelbegrepp i kapitlet
Klicka på ett kort för att vända det. Testa dig själv innan du vänder!
Sammanfattning
- Etisk AI bedöms utifrån fem dimensioner: integritet, desinformation, transparens, bias (partiskhet)/rättvisa och plagiering.
- Desinformation är avsiktligt felaktig information. Deepfakes och AI-genererat innehåll hotar informationsmiljön och demokratin.
- Bias (partiskhet) uppstår genom skev träningsdata, utvecklares antaganden, proxydata eller partisk användning – som i Amazons nedlagda rekryterings-AI.
- Proxydata kan leda till indirekt diskriminering: neutral information som postnummer kan avslöja känsliga egenskaper som etnicitet.
- UNESCO ger globala etiska rekommendationer; EU:s AI-förordning (AI Act) är juridiskt bindande och klassificerar AI efter fyra risknivåer. I skolan gäller dessutom GDPR.
- AI kan stärka demokratin genom tillgänglighet och delaktighet – men kan också förstärka filterbubblor, underlätta påverkanskampanjer och skapa maktkoncentration.
- AI-system är inte neutrala utan speglar samhällets normer. AI förändrar också arbetsmarknaden i snabb takt.
- AI påverkar sociala relationer: AI-kompisar kan vara stöd men också skapa beroende, och deepfakes mot enskilda personer kan vara brottsliga.
- AI:s träning och drift kräver stora mängder energi och vatten och skapar e-avfall – men AI kan också bidra positivt genom klimatmodellering och energioptimering.
- Säkerhet: AI används för bedrägerier (röstkloning, deepfakes) och kan själv angripas (promptinjektion, dataförgiftning), men är också ett centralt verktyg för att upptäcka angrepp. Autonoma system och militär AI kräver mänsklig kontroll.
- AI-utveckling är kapitalkrävande, vilket driver konkurrens men också global ojämlikhet och ekonomisk maktkoncentration hos ett fåtal företag.
Nyckelbegrepp
Principer för vad som är rätt och fel i handling och beslutsfattande.
Avsiktligt felaktig information som sprids planerat för att vilseleda en målgrupp.
AI-genererat eller -manipulerat material som ser verkligt ut men är fabricerat.
Systematisk snedvridning i ett AI-system på grund av skev träningsdata, antaganden eller proxydata.
Variabel som indirekt representerar en annan, t.ex. postnummer som proxy för etnicitet.
Förmågan att förstå och förklara hur ett AI-system fattar sina beslut.
Fenomenet att algoritmer visar dig mer av det du redan gillar, vilket minskar exponeringen för andra perspektiv.
EU:s juridiskt bindande AI-förordning som klassificerar AI-system efter fyra risknivåer.
EU:s dataskyddsförordning som skyddar personuppgifter, även vid AI-användning i skolan.
Oskriven regel om vad som är "normalt" – påverkar både samhället och AI-systemens träningsdata.
Energi, vatten och e-avfall som AI:s träning och drift orsakar.
Ojämn tillgång till kapital, datacenter och kompetens som gör att vissa länder och företag drar ifrån i AI-utvecklingen.
AI som efterliknar en persons röst utifrån en kort inspelning – används i bedrägerier.
Dolda instruktioner i text som får en AI-assistent att göra något annat än användaren bad om.
Vapen som väljer och angriper mål utan mänskligt beslut – omdiskuterat internationellt.
Chattbott byggd för sällskap; kan vara stöd men också skapa beroende och ge fel råd.