Snart kan techbolag få rätt att träna AI på våra personuppgifter utan samtycke. Den 21 oktober ställde sig en majoritet av EU-länderna bakom ett förslag som kan klubbas redan nästa år. Sveriges kommande regering måste ta ställning, skriver German Bender.
En framtid totalt dominerad av artificiell intelligens framställs ofta som ett oundvikligt scenario. Vissa ser tekniken som en naturkraft, som vi människor har små eller inga möjligheter att påverka och bara kan förhålla oss till. Andra tycks ha en närmast religiös tro på att utvecklingen är ödesbestämd och att vi helt enkelt får hoppas på att vårt öde inte innebär vår undergång. Det blir vad det blir, förhoppningsvis någonting bra.
Jag har en helt annan tekniksyn.
För mig är teknik starkt beroende av de sociala sammanhang där den utvecklas och används.
Bryter radikalt
Forskare brukar kalla det ett sociotekniskt perspektiv. Det kan låta som en självklarhet och jag är förstås inte ensam om det här synsättet, men det bryter faktiskt radikalt mot den deterministiska och ibland defaitistiska synen på AI som dominerar samhällsdebatten.
I själva verket har vi stora möjligheter att påverka teknikutvecklingen genom lagstiftning, regelverk, utveckling av standarder, konsumentval, med mera. Att så är fallet märks inte minst i de stora techbolagens intensiva och ofta lyckade försök att påverka regleringen av deras teknik och affärsmodeller.
Ta artikel 88 i EU:s bespottade dataskyddsförordning GDPR, som låter medlemsländerna och arbetsmarknadens parter, genom lag eller kollektivavtal, sätta egna och mer precisa regler för hur personuppgifter får hanteras i arbetslivet.
Många uppfattar GDPR som onödigt krånglig och resurskrävande, men den har gjort integritetsskyddet för oss som lever och jobbar i EU-länder betydligt starkare än i exempelvis USA.
Vilket techbolagen är djupt missnöjda med, eftersom tillgången till data är helt avgörande för att utveckla alltmer avancerad AI.
Från frihetssymbol till övervakningsverktyg
Den typ av generativ AI som de stora techbolagen satsar på är i det närmaste liktydig med övervakning. Ju mer övervakade vi är och ju mer data som kan samlas in om oss, desto mer avancerad och värdefull blir AI-tekniken, enligt bolagens nuvarande affärsmodell.
Det är därför bolagen bygger in AI-funktioner i all mjukvara och försöker få oss att köpa och bära hårdvara med AI-funktioner, som glasögon, klockor, mobiltelefoner och hälsoprylar som spelar in ljud och bild och samlar biometriska data dygnet runt. Även bilar har gått från en frihetssymbol till ett övervakningsverktyg, något jag skrev om i den här spalten för tre år sedan.
Att träna de stora språkmodeller som vi till vardags kallar AI kräver enorma mängder data, i storleksordningen hela internet. Dessutom krävs ständigt mer data, ny data och framför allt: data av hög kvalitet.
Vilket för oss tillbaka till arbetslivet och artikel 88. Data som samlats in när en person utför ett väl definierat arbete med mätbart ekonomiskt värde är nämligen extremt värdefulla för AI-bolagen. Med den sortens data kan techbolagen utveckla produkter och tjänster som de kan ta bra betalt för. Vissa av de produkterna och tjänsterna har det uttalade syftet att ersätta mänsklig arbetskraft.
I klartext: datan vi genererar när vi arbetar kan användas för att göra oss överflödiga.
Techbolagen såg sin chans
Men det är också data som – i dagsläget – omgärdas av hårda integritetsregler och inte får behandlas hur som helst eller av vem som helst.
Därför vattnades det i munnen på många techmiljardärer när EU-kommissionen för snart ett år sedan lade fram sin så kallade ”digitala omnibus”, ett lagpaket som ska minska och förenkla regelverket kring digital teknik. Det uttalade syftet är att göra EU mer innovativt och konkurrenskraftigt och i förlängningen förbättra livet för medborgarna i EU-länderna.
Techbolagen såg sin chans att riva upp skyddet för medborgare och anställda. Lobbygranskarna i Corporate Europe Observatory och LobbyControl har jämfört kommissionens förslag med techbranschens lobbypapper och visat hur Google, Microsoft, Meta och deras branschorganisationer fått gehör, från definitionen av personuppgifter till rätten att använda dem för AI-träning.
Om de får som de vill kommer det att skrivas in en ny artikel i GDPR, som för tillfället går under namnet 88 bis.
Artikeln slår fast att personuppgifter får användas utan samtycke för att utveckla och driva AI med hänvisning till företagens ”berättigade intresse”. Det gäller även data som samlas in om oss på jobbet.
Förslaget har redan varit nära att dö en gång. I april tog medlemsländerna uttryckligen avstånd från det, och i maj flyttades en urvattnad version ut ur lagtexten och in i ingressen. I september var det tillbaka i en kompromisstext från det irländska ordförandeskapet, och den 21 oktober blev det en del av rådets förhandlingsposition. Sverige företräddes av övergångsregeringen och fanns enligt Netzpolitik inte bland de tre länder som röstade emot (Tyskland, Österrike och Estland). När Tidöregeringen informerade riksdagens trafikutskott i mars var beskedet från civilminister Erik Slottner att man välkomnade förenklingarna och var positiv till ändringarna i GDPR. Bara Vänsterpartiet och Miljöpartiet anmälde avvikande ståndpunkt.
Facket slagit larm
Både svenska och europeiska fackliga organisationer har slagit larm. LO, TCO och Saco kräver i ett brev till regeringen att Sverige helt avvisar förslaget, och Europafacket har skickat ut ett cirkulär om artikel 88 bis till sina medlemsorganisationer. Sveriges Lärare har skrivit ett eget brev om lärarnas och elevernas uppgifter.
Att detta knappt har uppmärksammats i de stora medierna eller debatterats av våra politiker är kanske inte förvånande, med tanke på hur bedövande tråkig de flesta upplever EU-byråkratin. Men det är ett underbetyg till vår offentliga debatt, journalister och politiker har ett ansvar att bevaka och beskriva beslut som kan få avgörande betydelse för oss alla.
Techbolagen, å sin sida, har ett intresse av att så inte sker.
Nu är det Europaparlamentets tur att ta ställning. Parlamentets utskott har ännu inte röstat, men målet är att alla EU:s förenklingspaket ska vara färdigförhandlade före utgången av 2027.
Techbolagen vill förstås helst att det hela avgörs bakom lyckta dörrar och på ogenomträngligt juridiskt fackspråk. Låt oss se till att så inte sker.
Fönstret för att påverka förhandlingarna är fortfarande öppet, vi kan fortfarande sätta käppar i hjulet för övervakningssamhället.
Ny regering får ansvaret
När den slutliga texten förhandlas fram kommer en ny regering att företräda Sverige. Den bör tidigt säga var den står om artikel 88 bis, och Europaparlamentets svenska ledamöter bör göra detsamma före utskottsomröstningen.
Techbolagen vill ofta framställa teknikutvecklingen som ostoppbar. Det ironiska är att deras lobbying tyder på motsatsen. Enligt Corporate Europe Observatory lägger techbranschen nästan 1,7 miljarder kronor om året på lobbying i EU, en ökning med drygt 33 procent på bara två år. Syftet är att forma regelverken till sin fördel och tvinga samhället att anpassa sig efter tekniken.
Det skulle man inte göra om teknikutvecklingen vore oundviklig och ödesbestämd.
Sam Altman, Mark Zuckerberg, Elon Musk, Peter Thiel och de andra techoligarkerna lämnar ingenting åt ödet.
Men de vill att vi andra gör det.
German Bender är utredningschef på tankesmedjan Arena Idé
Följ Dagens Arena på Facebook och Twitter, och prenumerera på vårt nyhetsbrev för att ta del av granskande journalistik, nyheter, opinion och fördjupning.
