Presidentvalgsesongen 2024 har startet på høygir, og det er et stort øyeblikk for moderatorer for innhold i sosiale medier. Internett blir mer personlig og stratifisert for brukerne, og algoritmer blir bare bedre til å levere informasjon som mest resonerer med hver person individuelt, uansett om den er god, dårlig eller rett og slett usann.
Innholdsmoderatorer for store sosiale plattformer Meta (META) Facebook og Instagram har i oppgave å beholde spredning av feilinformasjon i sjakk, men de håndterer ofte problemer etter hvert som de kommer. På grunn av dette har de ikke vært i stand til å forhindre noen historiske sivile uroligheter , for eksempel politiske opprør, som ble bygget på falsk informasjon stort sett distribuert gjennom sosiale medieplattformer.
Under en paneldiskusjon om fremtiden for moderering av nettinnhold på SXSW i går (10. mars), Ronaldo Lemos , et medlem av Metas tilsynsstyre, et uavhengig rådgivende organ, snakket om hvordan konsekvensene utspilte seg i hjemlandet Brasil. I likhet med angrepet på den amerikanske hovedstaden 6. januar 2021, der rundt 10 000 tilhengere av tidligere president Donald Trump marsjerte på Capitol-området i falsk tro på at presidentvalget i 2020 ble stjålet, har tusenvis av brasilianske tilhengere av tidligere president Jair Bolsonaro. stormet regjeringsbygningen deres av samme grunn i 2023.
'Det var en fiasko fra moderasjonssiden fordi innholdet holdt seg oppe. Det burde vært tatt ned fordi det tydeligvis er oppfordring til en voldelig handling, sa Lemos. 'Saken ble eskalert til tilsynsstyret, og vi bestemte oss umiddelbart ikke bare for å fjerne innholdet, men vi ga noen svært viktige anbefalinger til Meta med hensyn til hvordan vi bør nærme oss dette ekstremt viktige demokratiåret.'
Også i panelet var Maxime Prades , Metas direktør for produkt for integritet, og Brittan Heller , en ekspert på nettpolitikk og foreleser ved Stanford University. Panelet ble moderert av Charlotte Willner, administrerende direktør i Trust and Safety Professional Association.
Prades sa at Meta har jobbet med sin valgårsstrategi ved å bruke et policyforum for å oppdatere brukerne om innsatsen. Konkret har selskapet brukt tredjeparts faktasjekkere og konsultert med ikke-statlige organisasjoner og en egen organisasjon av uavhengige 'pålitelige partnere.'
'Vi trenger å ha denne puls-på-bakken-bevegelsen innen timer noen ganger,' sa Prades. 'Så vi samarbeider med alle disse organisasjonene og eksterne organer for å få pulsen på hvordan ting går og hva vi bør endre i håndhevelsen vår, i retningslinjene våre.'
Lemos sa at Meta burde se etter en konkret måte å måle sin valgintegritetsinnsats og forlenge dem. 'Valg, de slutter ikke når resultatene er kunngjort, som vi vet,' sa Lemos. 'Så valginnsatsen, de bør vare til maktovergangen er fullført.'
Heller, eksperten på nettpolitikk, hevdet at verdens regjeringer kan gi svar på hvordan innholdsmoderatorer kan løse problemer som valgintegritet. Et eksempel er Den internasjonale domstolen, der alle parter må bli enige om dens jurisdiksjon. Det er en rådgivende faktor der land kan konsultere ICJ proaktivt, og det er en triage-funksjon for nødtiltak, sa Heller.
'Dessverre er tempoet i folkeretten raskt som seks år, så jeg vil anbefale selskaper å være litt mer kvikk, men jeg tror ICJ har en tendens til å være noe som stater liker å gå til fordi det er konsensus fordi de føler at de kan få verdi ut av interaksjonene,' sa Heller.
