Analog demokrati hotas av digital makt

I många länder ökar motsättningarna mellan makthavare och medborgare. Gula västarna i Frankrike protesterar mot högre bensinpriser, i Kanada mot inskränkningar i rörelsefriheten under pandemin, i USA mot ett påstått stulet val. Finns det något som förenar protesterna av olika slag? Är demokratin garanten för politisk stabilitet eller är den en del av problemet? Frågan behöver penetreras.[k][l]

Parlamentarisk demokrati fick ett uppsving i Sverige för drygt hundra år sedan, men tanken på demokrati är äldre än så. Demokratin i Grekland under Antiken var villkorad till samhällets översta skikt, så när man diskuterar demokrati måste man tänka makt, speciellt makt över kroppen. Vad folk tänker har inte gått att kontrollera men ibland vad som sägs. Maktutövandet har historiskt därför varit fokuserat på att kontrollera människors kroppar, med spöstraff, skampåle, tvångsarbete, fängelse, fotboja . Konflikter mellan länder har enligt samma logik tvingat ett land till underkastelse genom invasion av soldater. Genom kroppslig övermakt.

Franska revolutionen 1789 var en viktig vändpunkt i Västerlandets väg mot demokrati, samtida med den begynnande industrikulturen. Men fortfarande var det feodala livsmönster som inte minst mentalt dominerade samhället. Samtidigt som fröet till demokrati och sjävtillit i växande grad funnits i folkets huvuden, både medvetet och undermedvetet i någon form.

Industrisamhällets framväxt har kantats av maktkamper mellan kapital och arbete. Kapitalisterna har aldrig frivilligt släppt makt ifrån sig utan tvingats till det av den kollektiva maktens strejker. Dessa bägge maktpoler hamnade gradvis i ett kraftfält som kom att utvecklas till demokrati. I Sverige har vi med tiden kommit att ta den för given, men idag ser vi ökade spänningar i samhället. Inte bara i Sverige, inte bara i Västvärlden, utan snart sagt överallt.

Världen har krympt men vad är det vi ser? Kommer den globala politiska oron i grunden från samma fenomen eller är det flera oberoende strömningar som råkar komma samtidigt? Kanske kan man närma sig ett svar genom att studera Shoshana Zuboffs bok Övervakningskapitalismen – vid maktens nya frontlinjer. Zuboff är professor emerita vid Harvard och har länge skrivit om datorteknikens betydelse för omvandling av samhället.

Övervakning av medborgare i ett samhälle för främst tanken till övervakningen i diktaturstater som Nazityskland vilken efter kriget kom att fortsätta i den avspjälkade östra delen av Tyskland, DDR. Den rädsla, tystnad och det mardrömslika angiverisystem som obevekligt växte i det nazistiska samhället finns väl beskrivet i Hans Falladas bok Ensam i Berlin. Här tittar vi lite närmare på den så kallade socialistiska, eller kommunistiska efterkrigsregimen i DDR som inte förlitade sig på folkets vilja att utveckla en stark demokratisk stat. Istället utvecklade man en elitistisk regim som var starkt auktoritär. Övervakning och angiveri var huvudingredienser i maktutövandet. Men man måste även se att manövreringsutrymmet för radikalt nytänkande var begränsat för den lydstat till Sovjet som DDR var.

Barnen var ett viktigt redskap i skapandet av en allmän osäkerhet i samhället. De uppmuntrades att spionera på sina föräldrar, så var kunde man tala fritt? Det omfattande angiverisystemet tryckte tillbaka solidariteten mellan medborgarna – med sina som flest 80.000 inhemska spioner heltidsanställda av regimen, understödda av uppskattningsvis en halv miljon regimtrogna frivilliga angivare. Allt detta i en befolkning som bestod av 16 miljoner människor, strax före regimens fall. Med andra ord spenderade regimen en stor del av nationaltillgångarna för sin överlevnad, vilket man snabbt övertygas om vid ett besök i Stasi-museet i Berlin.

Maktutövandet i DDR handlade mycket om att skaffa sig makt över kroppar via övervakning av tankar och information som kunde erhållas från informationsövervakning. Brev öppnades och lästes, grannar kunde vara angivare, men kanske främst blev mikrofoner installerade där det kunde ge ytterligare information. Som lök på laxen hade man angiverisystemets godtycklighet. Vem som helst kunde ange en granne på godtyckliga grunder, bevisbördan låg hos den anklagade. Och inte minst blev telefonavlyssning flitigt använd, vilket medborgarna givetvis var mycket medvetna om. En fin gestaltning av hur detta system såg ut i praktiken ges i Florian Henckel von Donnersmarcks film De andras liv (2006).

Där någonstans nådde den traditionella typen av övervakning kanske sin kulmen. Kontroll av kroppen har en gräns, eller som många har formulerat det – man kan fängsla en kropp men inte dess idéer. Utan detta maktens dilemma hade inte demokrati uppstått. Så är allt frid och fröjd nu när demokratin som idé blir alltmer accepterad?

Låt oss följa ett helt annat spår efter sammanbrottet av det europeiska ”kommunistiska” systemet. Med IT och Internets framväxt har informationssamhället nått nya höjder. Före internets stora genomslag hade Nationalencyklopedin (NE, där sista bandet utkom 1996) sina glansdagar, men ganska snart fick sökmotorerna sina genombrott. Under en period var Yahoo en av de mest populära. Snart blev man utkonkurrerad av Google, som tidigt satsade på att bygga flera serverstationer i allt fler länder, vilket gjorde att sökningarna blev allt snabbare. Och datoranvändarna anpassade sig snabbt och blev allt otåligare i sin väntan på svaren. När Google vunnit striden om att bli dominerade sökmotor myntades begreppet att ”googla” för att ”söka information på nätet”.

Google blev inte bara bäst på att snabbt få fram resultat som datoranvändaren sökt, resultaten började också sparas. Kanske kunde de användas på något praktiskt sätt. Dessutom kunde denna överskottsinformation knytas till den som gjort sökningen. Så småningom förstod den inre kretsen på Google att man satt på oanade tillgångar. Rörligheten mellan de större IT-bolagen gjorde att vissa arbetshemligheter fick större spridning. Sheryl Sandberg var en av de högsta cheferna i Google. När hon köptes över till Facebook, där hon numera är en av de operativa cheferna, tog Sandberg naturligtvis med sig sina kunskaper som hon förvärvat på sin tidigare arbetsplats.

Ett år tidigare, 2007, lanserade Facebook tilläggsprogrammet Beacon för sina annonsörer. Det tillät tredjepartskoppling till andra sajter för att få ökad annonsträffsäkerhet, helt utan användarnas vetskap. Annonsmarknaden var nu på väg till en högre nivå. När detta läckte ut till Facebooks användare tvingades Zuckerberg att lägga ner programmet. Men 2010 deklarerade Zuckerberg att integritet inte längre var en samhällsnorm. Som Shoshanna Zuboff påpekar på flera platser i sin bok, har den tekniska utvecklingen och dess applikationer gått så snabbt att tillämpningarna ofta hinner bli etablerade innan de demokratiska instanserna hinner skydda medborgarna med lagstiftning mot deras eventuella skadliga verkan.

Om logiken i masskonsumtionssamhället som växte fram under 1900-talet riktade sig till kollektivet, blir logiken i det nätuppkopplade informationssamhället alltmer individualiserat. I Googles dataservrar sparas allt om oss i överskottsinformationen som inte längre bara kommer från alla sökningar. Larry Page, en av Googles medgrundare, delar uppfattningen med många andra amerikaner i sitt påstående, att det är bättre att ”ha informationen om sig själv hos ett företag som Google än att ha informationen hos staten… eftersom vi uppenbarligen bryr oss om vårt rykte”. Men vad som sparas och hur är förstås en affärshemlighet.

Shoshana Zuboff har listat ut lite om hur Google arbetar: ”Förutom nyckelorden som används vid en googlesökning så producerar varje fråga en svans av oavsiktlig data som exempelvis söktermernas antal och mönster, vilka fraser som används i frågan, stavning, interpunktion, när och hur frågeställaren dröjer i formulerandet av frågan, klickmönster och var frågan ställs.” I början blev dessa beteendemässiga biprodukterna slumpmässigt arkiverade och ofta förbisedda.

En ung doktorand, Amit Patel, analyserade det sparade materialet. Han kom fram till att dataloggarna kunde ge detaljerade berättelser om var och en av användarnas tankar, känslor och intressen som kunde återskapas från flödet av de obearbetade signaler som följde på minsta handling som utfördes på nätet. Han fann att denna data erbjöd en bred sensor för mänskligt beteende. Larry Page såg möjligheterna att utveckla artificiell intelligens. Redan på Yahoo hade de anat denna heliga graal men det var Google som hittade den.

De annonser som Google länge publicerade var först kopplade till de sökbegrepp som vi användare använde, vilket gör det möjligt att matcha datoranvändare med annonsör. Men fortfarande med irriterande brister och relativt dålig träffsäkerhet. Om jag sökte en kamera och sedan köpte en sådan, kunde annonser för just denna produkt länge dyka upp i flödet. Man kunde antingen le åt detta eller bli irriterad. Med det beteendeöverskott som finns lagrat finns möjligheten att med maskinintelligensens (AI) hjälp istället utgå ifrån datoranvändarens personlighet och därmed styra beteendet. Eller som Shoshana Zuboff beskriver det: ”…maskinintelligensen förädlar beteendeöverskottet till prediktionsprodukter som är konstruerade för att förutse vad vi kommer att känna, tänka och göra – nu, snart och senare”. Visst får du en krypande känsla av olust!

Denna olustkänsla har fångats upp av EU, som har börjat arbeta för att datoranvändarna ska kunna kräva personlig integritet. Dessutom att bolagen ska kunna beskattas i länder där de är verksamma. Motsvarande krav har inte myndigheterna i USA. Här har de största aktörerna med sina snabba förflyttningar hela tiden legat före lagstiftarna. Shoshana Zuboff hoppas att USA ska låta sig inspireras av EU. Bolagen å sin sida kämpar för att deras sätt att hantera de spår privatpersonerna lämnar efter sig på nätet inte ska kunna begränsas. I den bemärkelsen är demokratin ett hot för dem. Ännu en gång ser vi att övervakningsfilosofin i de skepnader vi har studerat här – historiskt auktoritära och nutida marknadsdrivna – inte är förenliga med demokrati. Shoshana Zuboff kallar det framväxande systemet Övervakningskapitalism. Antalet företag som använder sig av dessa metoder blir alltfler, där de ledande i nuläget är Google, Facebook och Microsoft.

Är farhågorna kring övervakningskapitalismen överdrivna? Betänk då att arsenalen av metoder för att vaska fram våra beteendemönster är ständigt växande miljöer, som epost, texter, foton, mess, filmer, platser, kommunikationsmönster, åsikter, preferenser, intressen, ansikten, känslor, sjukdomar, sociala nätverk och inköp. Nästa uppgradering av nätet till 5G rullas nu ut – ofta kallat Sakernas Internet – och med det följer bland annat smarta hem, datorer i form av klädesplagg, självkörande bilar och inte minst Facebooks våta dröm Metaverse (men först om några år). Allt detta kommer att bli oundgängligt i våra vardagsliv om vi ska tro på alla profetior. Eller så blir det som för Hasse Alfredssons utbrytarkung Lindeman som kedjad sänktes i Stockholm Ström – men ”inte fan kunde han bryta sig loss”.

Upptäckten av beteendeöverskott under 2001–2002 gjorde att Googles sökmotor kom att gå från att enbart leverera tjänster till att bli råvarukanal. Men fortfarande var målet bara vagt skönjbart även för Google och än mindre för användarna av informationssökning. Det var Benjamin Edelman vid Harvard Gusiness School som hittade nyckeln via en undermapp till Google Toolbar som hette ”Förstärkta egenskaper”, som låg i browsern Internet Explorer, som ägs av Microsoft. Det kan förklara varför Microsoft tidigt kom på banan i denna förändringsprocess.

Googles plattform för mobiltelefoni, Android var närmast skräddarsydd för råvaruinhämtning, så den licensierades ut gratis till mobiltelefontillverkarna. Vinsten kom i nästa led och alla inblandade aktörer var nöjda. Som Googles ekonomichef sa 2009: ”Om vi kan anpassa dessa telefoner till oss genom att sänka kostnaden med ett gratis operativsystem, föreställ er hur många sökningar det kommer att leda till”.

Google var först med att utveckla övervakningskapitalismen, men en så lukrativ marknad kunde de förstås inte få behärska i skön ensamhet, även om de fortfarande sitter på ett guldäpple i form av sin sökmaskin. Men det finns andra mekanismer för att utvinna digital råvaruinhämtning. Ett exempel på det är Facebooks ”gillaknapp”. Den holländske integritetsforskaren Arnold Roosendaal visade att gillaknappen är en kraftfull råvaruinhämtare där beteendeöverskott kontinuerligt kan fångas in och vidarebefordras oavsett om man trycker på knappen eller inte. Man kan även spåra människor som inte finns på Facebook och ansluta dem till en mer komplex kommunikationsväv. Roosendaal kom fram till att Facebook skulle kunna utveckla förmågan att övervaka ”alla internetanvändare”.

Vårt samhälle bygger mycket på balanser mellan olika dialektiska motsatser. Idag ser vi hur flera av dem befinner sig i upplösningar, som en tilltagande ekonomisk ojämlikhet. Shoshana Zuboff ser även en tilltagande kunskapsklyfta utvecklas i samhället, en uppdelning som favoriserar övervakningskapitalismen. Hon fortsätter: ”Övervakningskapitalsternas digitala expropriering innebär en ny typ av kontroll över enskilda människor, populationer och hela samhällen. Den enskildes integritet offras i denna kontroll och för att den personliga integriteten ska skyddas krävs nya ramar för samtalet, integritet, lagstiftning och juridiska resonemang.”

Det som står på spel är enligt Zuboff detta: ”Övervakningskapitalismen är djupt antidemokratisk, men dess anmärkningsvärda makt har inte sitt ursprung i staten, vilket historiskt sett alltid varit fallet. Dess effekter kan inte reduceras till eller förklaras av teknologi eller dåliga beslut fattade av dåliga människor; de är konsekventa och förutsägbara följder av en inneboende konsekvent och framgångsrik ackumulationslogik. Övervakningskapitalismen växte till sin dominanta position i USA under relativt laglösa förhållanden.”

För att sammanfatta. Shoshana Zuboff har en analysmetod som hon återkommande ger lite olika perspektiv, som: Vem är det som bestämmer vem som bestämmer? Därefter fördjupar hon frågeställningen: Vem är det som har kunskapen? Vem är det som bestämmer? Vem är det som bestämmer vem som bestämmer?

Hon svarar själv på alla frågor: Idag är det övervakningskapitalisternas företag som bestämmer. Och det är den som vinner i konkurrensen mellan övervakningskapitalisterna som bestämmer vem som bestämmer.

Det har enligt Zuboff gjorts endast tafatta försök att reglera de mest uppenbara övergreppen. Antimonopollagar har uteblivit, frågan om integritet har inte lett någonstans. Kanske måste frågan ställas på sin spets, frågar hon sig själv. Övervakningskapitalismen är ett lika stort hot mot samhället som den är mot kapitalismen själv. Kanske måste det bli en strid om kapitalismen själv? Räddningen kan vara att återupptäcka vår förmåga att förundras. Skriver Shoshana Zuboff när vi bara kommit en tredjedel in i boken.

Många försöker aktivt förhålla sig neutrala på sociala nät och avslöja så lite som möjligt om den egna personligheten. För att kunna penetrera den måste man kunna analysera det beteendeöverskott som finns inbakat i datamängden. Om du exempelvis vill kunna få en bilförsäkring billigare måste du bli kodad som samvetsgrann och öppen. Detta är inget som man enkelt kan bluffa om eftersom det överskott som samlas in för analys är en process som är dold för oss. Det är inte innehållet i bokstavlig mening eftersom det är en för oss dold process, där fokus ligger på formen. Priset du erbjuds av en leverantör bygger inte på rak logik och innehåll i din argumentation utan på hur du skriver, Inte på vad du skriver på din inköpslista utan på att du skriver en lista, inte på vad du avslöjar utan på hur du skriver eller inte skriver, inte på var du träffar dina vänner utan på hur du ska träffa dem, inte på vad du avslöjar utan på hur du delar eller inte delar. Utropstecken och val av adverb fungerar som signaler från ditt jag som avslöjar starka och svaga sidor – utifrån bevakarens upplägg av algoritmer.

Hur lever du exempelvis upp tilldina uppgifter om dig själv om du vill teckna en sjukförsäkring? Med allt som är uppkopplat till din kropp kan försäkringsbolaget avläsa hur du efterlever reglerna. Det kan ske med kläder, klocka och mobilen du använder, och övervakningsmöjligheterna växer med tiden.

Renderingen av din kropp börjar med din mobiltelefon, även om din hemstad inte är uppkopplad eller ägd och styrd av Google. En grundpelare är att hela tiden veta var du befinner dig geografiskt. I skrivande stund vill Instagram ihärdigt få dig att öppna din mikrofon och kamera. Inte för att någon skygg kapitalist vill lyssna på dig eller se vad du filmar som på öststatskommunismens tid. Det är alltför ineffektivt. Men visst kan man undra över var energin till detta tas? Hur mycket av klimatförstörelse ligger i dess förlängning?

Om det inte räcker med din hälsokontroll så kanske spel kan avslöja dina egenskaper. Facebook har presenterat många till synes harmlösa undersökningar som ofta blivit populära att dela med sig av. En sådan var releasen av Pokemon Go, ett övervakningskapitalistskt spel på en högre nivå. Spelarna skulle betrakta staden som ett spelbräde med hjälp av Googles kartor med telefonen som redskap. Spelet var i själva verket en arrangerad jakt på utplacerade reklamplatser.

Här får vi en liten inblick i hur övervakningskapitalisterna tänker sig den nära framtiden. Än värre blir det när vi försöker se hur de tänker på lite längre sikt, på vårt liv i futurum eller åtminstone längre framtidsperspektiv. Shoshana Zuboffs tonläge blir nu snarast dystopiskt:

”Jag hävdar att vi nu står inför en tidpunkt i historien när den grundläggande rätten till vårt liv i futurum är hotad av en global, invasiv digital arkitektur för beteendemodifiering som ägs och kontrolleras av övervakningskapitalet, framtvingat och pådrivet av övervakningskapitalistiska ekonomiska imperativ och rörelselagar som har till syfte att skapa garanterade utfall.” Vi ska nu alltså inte bara knuffas i önskad riktning, vi ska styras än mer robust.

Vi drivs mot ett samhälle där kapitalismen inte längre fungerar som ett sätt att inkludera ekonomiska eller politiska institutioner. Istället framstår övervakningskapitalismen som en i grunden antidemokratisk social kraft … Övervakningskapitalismens förödande antidemokratiska och antiegalitära kraft kan bäst beskrivas som ett marknadsdrivet maktövertagande från ovan.

Tack vare den styrka Big Other (ung. en starkare variant av Big Brother) får av att annektera den mänskliga erfarenheten så kan detta maktövertagande, denna coup de gens, uppnå exklusiva koncentrationer av kunskap och makt som uppehåller ett privilegierat inflytande över uppdelningen av kunskap och makt som uppehåller ett privilegierat inflytande över uppdelningen av kunskap i samhället: privatiseringen av de centrala principerna för den sociala ordningen i det tjugoförsta århundradet.

Hur bekämpar man locktoner som kan använda sig av dina egna svagare sidor, från textilierna i din skjorta som är fulla av sensorer, den mjuka rösten som svarar på dina frågor, tv-apparaten som hör dig, huset som vet allt om dig, sängen som välkomnar dina viskningar, boken som läser dig… Big Other agerar som ombud för en ansamling av kommersiella operationer som måste modifiera mänskligt beteende som en förutsättning för kommersiell framgång. Känslan kommer krypande som i trubaduren Kjell Höglunds låt Slutstrid (1978) https://www.youtube.com/watch?v=q-pcPsEhRCQ

Utan tvekan kommer övervakningskapitalismens tidsålder möta samma öde i takt med att vi lär oss hur vi inte vill leva. Den visar oss att värdet av våra största moraliska och politiska bragder är oersättligt genom att den hotar att förstöra dem. Den påminner oss om att gemensam tillit är det enda som skyddar oss mot ovissheten. Shoshana Zuboff avslutar sin analys med att knyta an till uppgörelsen med det totalitära systemet i DDR:

”Berlinmuren föll av många olika skäl, men framför allt berodde det på att människorna i Östberlin sade: Nu är det nog! Även vi kan bli författare till många stora och vackra nya sanningar som återtar den digitala framtiden som ett mänsklighetens hem. Nu är det nog! Låt detta bli vår deklaration”.

Shoshana Zuboff
Övervakningskapitalismen
vid maktens frontlinjer
Ordfront 2021

 

Inlägget Analog demokrati hotas av digital makt dök först upp på Alba.