Är AI ett hot mot vår personliga integritet?

AI I veckan larmade Australiens regering att Open AI tagit sig in i landets sjukförsäkringssystem. Vi frågade Jan Ljungberg, professor i informatik vid Göteborgs universitet, om riskerna AI utgör för vår integritet.

Är AI ett hot mot vår personliga integritet? 

– Det kan vara ett hot på flera sätt. Om det används oreflekterat och utan tillsyn i myndighetsutövning, kan felaktiga slutsatser, dåligt underbyggda beslut och otransparenta beslutsprocesser få konsekvenser för medborgare. Det här handlar också om vilka data systemet tränas på och att de inte bryter mot GDPR eller andra lagar. Även om data hanteras korrekt, kan strukturella problem uppstå och fördomar förstärkas mot vissa samhällsgrupper eller individer med vissa egenskaper, säger Jan Ljungberg.

Han fortsätter:

– Ett annat hot är om AI används för cyberbrott. Till exempel för att göra intrång hos privatpersoner eller organisationer (som fallet i Australien). Ytterligare ett hot kan vara att vi inte tänker på att generativa AI-system som Chat GPT lär sig en massa om oss som personer när vi använder dem, genom frågor vi ställer och konversationer vi har med systemet. Vem kan få tillgång till denna kunskap om oss som individer? 

Vilka är de största riskerna med AI och dess utveckling just nu?

 – En risk är relaterad till övertro på tekniken, att man tillskriver AI-systemet egenskaper det inte har. Och att man litar för mycket till resultaten. Detta ser vi om och om igen, när en ny revolutionerande teknik dyker upp. Det är en risk som är särskilt stor i organisationer med begränsad AI-kompetens. Till exempel inom offentlig sektor. En annan risk är att man frestas att göra avsteg från regleringar som GDPR för att man ser stora effektivitetsvinster. Det är också en risk att inte använda AI-teknik till det den är bra på, men det är viktigt att fokusera på vilken nytta AI kan göra och samtidigt minimera risker, säger Jan Ljungberg.

Han fortsätter:

– En annan risk handlar om maktkoncentrationen inom AI-utvecklingen, där svenska företag och myndigheter blir beroende av high tech-företag med enorma resurser. Och vi har väldigt liten kontroll både över den tekniska infrastrukturen, över marknaden där få stora aktörer dominerar, och AI-politiken där främmande makter kan utöva påtryckningar på teknikföretagen med huvudkontor inom sin jurisdiktion. Sverige har många AI-talanger, duktiga entreprenörer och en lång industriell tradition. Men vi har ändå svårt att konkurrera med de stora digitala plattformarna. En stor risk är också de nya möjligheter AI skapar för bedrägeribrott, påverkansoperationer och desinformation.

Hur kan samhället bäst skydda sig och invånarnas integritet mot intrång?

 – På nationell nivå är det viktigt med transparenta processer, reglering och fungerande tillsyn. Det är också viktigt att man i upphandlingsprocesser tar säkerhetsaspekter på allvar. Sen är vi väldigt beroende av globala aktörer där vi ofta är inlåsta i de digitala infrastrukturer de tillhandahåller, vilket innebär att de inte alltid godkänner de krav som ställs. En kontinuerlig offentlig diskussion om risker och ”bildning” inom AI och digitalisering är viktig för att höja medvetandenivån. Men också reella möjligheter och risker med AI och vad både organisationer och individer kan göra för att skydda sig själva, säger Jan Ljungberg.

Han fortsätter:

– Globalt skulle någon form av överstatlig reglering kunna behövas. EU:s AI act är ett steg i den riktningen, precis som GDPR är tanken att den skall skydda oss och vår integritet från de stora plattformarnas. Samtidigt har de stora plattformarnas tjänster blivit en del av vår vardag och underlättar på många sett våra liv. Det gör att många medvetet eller omedvetet ger upp delar av sin integritet. Exakt hur en sådan överstatlig reglering eller organisation för det skulle se ut är svårt att föreställa sig i dag. Vi ser hela tiden svängningar mellan alarmistiska varningar om att utvecklingen måste pausas, och upprop om att man inte ska hämma AI-utvecklingen med överreglering.

Olle Bergvall