Hvorfor sosiale medier skal drives som en by

Når du surfer på sosiale medier, føler du noen ganger at du bor i en ny type by – den største byen i verden. Millioner av mennesker kan gjøre ting her som foreldrene deres aldri har drømt om. Dere kan leve med hverandre virtuelt, leke med hverandre, lære med hverandre. Ved første øyekast ser denne endeløse metropolen ut som et vidunder.

Et ofte stygt vidunder

Men tar du en nærmere titt, kan den ekstreme styggeligheten ses også i sosiale mediers by. Urenset kloakk ser ut til å renne ut i gatene. Fra tid til annen er det opptøyer og innbyggere fordømmer hverandre, og deres forhold mellom dem virker noen ganger uopprettelig brutt.

For å holde meg inne i bildet: det var min jobb å beskytte denne byen. Jeg var medlem av Facebook-teamet for borgerlig integritet – sivil integritet på plattformen. Mine kolleger og jeg har undersøkt og løst problemer – fra å takle spredning av falsk informasjon til hatefulle ytringer, trakassering og direkte oppfordring til vold.

Over tid har vi blitt eksperter, vi har brukt mange timer med arbeidskraft og en enorm database. Som i ethvert annet fellesskap av eksperter, hadde vi alle i det minste litt forskjellige syn på problemet. For min del har jeg endelig begynt å tenke som en byplanlegger. Og byen må planlegges skikkelig fra starten av. Den trenger strukturerte nabolag slik at innbyggere, samfunn og demokrati kan blomstre.

Kutt for integritet

En slik tilnærming ser ut til å få mer og mer aksept i det sosiale medielandskapet: det såkalte integritetsdesignet. Integritetstjenestemenn som meg prøver å forsvare et system fra angripere som har funnet smutthull eller smutthull i reglene eller designet og har lært å misbruke det. Vår jobb var å systematisk demme opp de skadene brukerne påfører hverandre.

Vi griper ikke (ofte) direkte inn og prøver ikke å ta avgjørelser om enkelte bidrag eller personer. I stedet tenker vi på insentiver, informasjonsøkosystemer og sosiale systemer generelt. Dette viser at sosiale medieselskaper må prioritere design fremfor integritet fremfor moderering av innhold. Hvis de ikke gjør det, bør publikum slå tilbake.

Men først, la oss ta et skritt tilbake: Hvis sosiale medier er en ny type by, hvorfor er det så vanskelig å styre? Hvorfor slutter ikke millioner av innbyggere seg plutselig til visse sekter i virkelige byer? Hvorfor jobber konferanser eller klubber med det uten for mye trakassering og propaganda? Hvorfor er det ingen åpen rekruttering for nynazister? Med andre ord, hva har den fysiske byen som den virtuelle byen ikke har?

Den virkelige verden stopper et sted

Svaret er enkelt: ekte fysiske grenser. Som selskap har vi utviklet en kombinasjon av regler, standarder og designmønstre som mer eller mindre fungerer for å dempe visse typer forferdelig oppførsel. Disse reglene forutsetter imidlertid at vi ikke har utviklet fysiske superkrefter. Det gjør imidlertid Internett-brukere faktisk. Du kan klone (robothærer), teleportere (muligheten til å legge ut til flere steder samtidig), forkle deg som ugjenkjennelig (såkalte sokkedukker) – og mye mer. I en fysisk by er en enkelt propagandist begrenset av vokal utholdenhet (eller lommebok).

I vår nettby kan én person legge ut gratis hver time til 400 grupper (ti tusenvis av mennesker). I en fysisk by krever det mye sminke eller forkledning å anta en ny identitet, falske dokumenter og mye hardt arbeid. I byen med sosiale nettverk tar det bare noen få minutter å registrere seg for å opprette en ny konto. Den fysiske byen er befolket av ekte mennesker. I «Social City» kan du alltid snakke med noen som i all hemmelighet er en robot. I en ekte by tar det tid å reise. I byen med sosiale nettverk er det ufarlig for en makedonsk tenåring å late som om han er tusenvis av mennesker på en annen halvkule for å samle inn reklamemidler.

I et system der insentivene til å oppføre seg så dårlig som mulig er sterkest, er påfølgende sanksjoner dømt til å mislykkes. Heldigvis har vi nå andre tilnærminger. Tross alt, selv den fysiske byen løser ikke problemer ved å overvåke og arrestere alle. Folkehelsekampanjer og lokale sosialarbeidere kan hjelpe folk før det er for sent. Det er offentlige rom som for eksempel kulturhus eller biblioteker for å skape en følelse av fellesskap.