Techbedrijven, net als wijzelf en de overheid overigens, maken volop gebruik van algoritmes. Die moeten bijvoorbeeld controleren of we wel aardig genoeg zijn tegenover elkaar of, minder leuk, ons bespioneren. Dat doet Facebook ook. Nu blijkt uit interne documenten die Facebook-klokkenluidster Frances Haugen openbaar heeft gemaakt dat Facebook-medewerkers zich vaak het hoofd breken over onvoorzien strapatsen van algoritmes die het bedrijf gebruikt. Facebook, het medium zelf (maar waarschijnlijk ook het bedrijf), schijnt moeilijk in de hand te houden te zijn. Opwekkend.
Haugen heeft duizenden pagina’s interne Facebook-documenten verzameld en openbaar gemaakt. Volgens Le Monde, die toegang tot die documenten had, was die onmacht van Facebook het voornaamste wat bleef hangen na lezing van die documenten. In veel viel te lezen dat de techneuten bij Facebook vaak niet of slecht begrepen wat die algoritmes deden, waardoor Facebook (de babbelbox) in feite onbeheersbaar is geworden.
Haugen heeft de documenten overhandigd aan het Amerikaanse parlement, dat ze weer verder verspreid heeft. Ze schetsen een beeld dat Facebook vooral middelen besteedt aan het beperken van de schadelijke effecten in het westen, ten koste van de rest van de wereld. De effecten van niet goed werkende algoritmen zijn intern bekend zoals blijkt, maar Facebook probeert de schade zo klein mogelijk te houden, zonder de problemen zelf aan te pakken. Het sociale medium is zijn ‘scheppers’ ontgroeid.

Dat geldt onder meer ook voor het algoritme dat moet bepalen of berichten door de beugel kunnen. Daarbij worden simpele zaken meegenomen, zoals het aantal abonnees van bepaalde pagina’s maar ook ingewikkelder zoals de belangstelling van vrienden van een Facebooker. Dat levert voor zo’n bericht een score op. Hoe hoger de score hoe groter de kans dat zo’n bericht breder verspreid wordt. Inmiddels lijken die scores ‘ontploft’ te zijn van honderden in de miljoenen. Dus worden de scores ‘gekort’, maar dan blijven er nog steeds absurde scores over die ook bovendrijven als je de score met 90% zou verlagen.

Immuun

Dat is nooit de bedoeling van het algoritme geweest. Bepaalde berichten schijnen ‘immuun’ geworden te zijn voor het automatische moderatiesysteem. Dat heeft veel te maken met al het gesleutel aan die algoritmes. Daar worden die meestal niet beter van. Het algoritme wordt een onontwarbare kluwen met vervelende gevolgen. Het beste zou zijn de code helemaal van voren af aan te schrijven, maar dat vergt nogal wat (titanen)werk. Dus…? Wordt ongetwijfeld vervolgd.

Bron: le Monde