Busch ser syntetisk skrift som sanning

När Ebba Busch ska be om ursäkt för det felaktiga citat hon basunerade ut i sitt Almedalen-tal i år så blir det både dråpligt och direkt skrämmande. Vår vice statsminister avslöjar mellan raderna att hon inte alls förstår hur ”AI” fungerar. Genom sina godtrogna uttryck underblåser hon en oerhört missvisande bild till hela svenska folket. Det är tanklöst och ansvarslöst.

Aftonbladet-skribenten Elina Pahnke blev såklart förundrad över att Busch citerade henne på stora scenen i Visby, men sedan också häpen över att det var något hon inte kunde påminna sig om att ha skrivit eller sagt. Tillräckligt häpen för att hon skulle få hjälp att fastställa att, nej, det finns inga som helst tecken på att formuleringen är hennes.

För sammanhangets skull så menade Ebba Busch också i sitt tal att Elina Pahnke var oerhört arg när hon hävde ur sig ”Mäns makt är inte en abstraktion – den är konkret, och den krossar liv.” Något Pahnke alltså inte någonstans har hävt ur sig. Det gör att också den tolkade ilskan blir en märklig detalj.

Väldigt lite insats från användarna

Skälet till att tillskriva Pahnke dessa ord visar sig nu ha varit att Busch använde ett så kallat ”AI” för att göra sina efterforskningar. Begreppet ”AI” kan innebära många olika saker men i det här fallet åsyftar det en produkt i form av något som mer lämpligt benämns språkmodell. Produkten används för att generera syntetisk text som kan vara både vacker och övertygande. Kolossalt många vackra och övertygande texter från allehanda ljusa och mörka hörn på internet används nämligen som stoff vid tillverkningen. 

Språkmodeller har historiskt haft som främsta uppgift att hjälpa till med transkribering, eftersom de är bra på att räkna ut vilka ord som bör hamna mellan andra även när ljudet är dåligt. Även översättning, förslag på nästa ord i ett meddelande och omskrivning av texter har visat sig vara lagom lämpliga tillämpningar.

Tekniken bakom språkmodeller har nu gjort så stora framsteg att produkterna kan generera långt mer än bara föreslagna ord. Det kan bli långa sammanhängande texter baserat på väldigt lite insats från användaren.

I dag upplevs dessa stora språkmodeller vara oerhört förförande och många människor använder dem för mångordiga syntetiska samtal, och drar radikala men bristfälliga slutsatser om produkternas förmåga. Tillverkarna vill såklart att illusionen av verklig intelligens ska genomsyra gängse uppfattningar, och förstärker gärna användarnas egna felaktiga uppfattningar om vad produkterna egentligen gör. Missuppfattningar som Ebba Busch nu ledigt häver ur sig i en duperad ministers försvarstal.

Inte sanning

Trots att språkmodeller alltså är ämnade att generera syntetisk text så används de, och förklaras, av vice statsministern, som vore de sökmotorer. Trots att det under flera år kommit rapport efter rapport om hur dessa produkter regelbundet genererar text som inte är förenlig med sanning. Det finns en otalig mängd vittnesmål om ”AI”-genererade publikationer som innehåller referenser, fotnoter och förklaringar som inte har koppling till verkligheten. Men de är ändå övertygande vackert skrivna lögner.

Det är viktigt att förstå att språkmodellerna inte alls har tillverkats för att generera text som är sann, utan text som är övertygande. Och Busch blev så övertygad att hon valde att ta med citatet i ett av årets viktigaste anföranden.

I sitt försvarstal menar hon att källorna ”fabricerats”. Busch skriver att hon frågar språkmodellen var citatet kommer från och produkten, som inte kan avgöra om den har ett giltigt svar eller ens säga ”jag vet inte”, genererar ett plausibelt svar. Men den texten är ju syntetisk. Ibland är den sann, ibland inte. Precis allt som kommer ur produkten är fabricerat. Det är själva funktionen hos en språkmodell. Den framställer text. Ingenstans utlovas av produkten att texten kommer vara sann. Visst kan den kan träffa rätt men det betyder inte att modellen fungerar annorlunda när svaret den skapar är fel.

Att vice statsministern inte bara använder produkterna på det här sättet utan också sprider vidare villfarelsen om hur de fungerar är betänkligt.

”Det är en helt ny situation för oss, att vi får en direkt källa som inte visar sig stämma”, avslutar Busch.

Det är en helt ny situation för Sverige, att vi har en vice statsminister som frågar en produkt för syntetisk text om källor till fabricerade citat.

Tänk nu också att Busch aldrig någonsin läst Pahnkes citat och blivit upprörd över det. Det fanns ju aldrig. Hon har medvetet genererat ett citat att bli upprörd över.

 Per Axbom, utbildare och rådgivare inom digital etik, författare till handboken Digital omtanke