De mythe van automatisering: hoe AI afhankelijk blijft van goedkope arbeid

Scooby-Doo in de wereld van platformwerk

‘Ik en mijn team zijn net Scooby-Doo: we reizen de hele wereld over om mysteries te onderzoeken’, vertelt Casilli. ‘We doen empirisch onderzoek naar kunstmatige intelligentie en hoe die wordt geproduceerd. Onze focus ligt niet op de nieuwe mogelijkheden van AI, maar op het ontwikkelingsproces: wie werken er achter de schermen om AI mogelijk te maken?’

Zijn onderzoeksteam heet Diplab, wat staat voor Digital Platform Labor. Inmiddels hebben zij een heel brede kijk op automatisering.

Mythe van automatisering

De droom van automatisering van werk is niet nieuw: onder anderen Thomas Mortimer schreef in 1801 over een machine die in staat zou zijn om menselijke arbeid ‘bijna volledig overbodig te maken’.

“Technologen en economen zoeken al eeuwenlang manieren om arbeid efficiënter te maken”, vertelt Casilli. “Tijdens de industriële revolutie ontstonden de eerste machines, zoals de stoommachine en de Spinning Jenny. Elke innovatie ging gepaard met grote beloftes. Ze zouden ons vele uren aan werk besparen. Maar niets blijkt minder waar.”

Veel voorspellingen over automatisering waren overdreven. Studies tussen 2013 en 2024 stelden dat robots 46-47% van alle banen zouden vervangen. Casilli: “Organisaties zoals de OESO en ILO hebben aangetoond dat dit niet klopt. Zelfs met bijkomende crises zoals klimaatverandering, geopolitieke spanningen en een pandemie, is de werkloosheid wereldwijd niet gestegen. Sterker nog, in 2025 werken mensen meer dan ooit.”

Het probleem zit in de methodologie van deze onderzoekers, legt de hoogleraar uit. “Zij nemen een beroep en splitsen het op in taken. Als ze verwachten dat AI 60% van de taken kan vervangen, concluderen ze dat de baan verdwijnt. Maar zo werkt het niet in de praktijk. Vaak krijgen werknemers gewoon nieuwe taken.”

• Lees ook zijn onderzoek Waiting for robots: the ever-elusive myth of automation and the global exploitation of digital labor.

Invloed van platformisering

Volgens Casilli is de grootste verandering van de afgelopen jaren niet automatisering, maar platformisering. Bedrijven als Uber, Amazon en Meta gebruiken gigantische hoeveelheden data om vraag en aanbod te verbinden en het werk te organiseren. Daarnaast gebruiken zij al die gegevens om AI-systemen te trainen. Zo bouwen ze bijvoorbeeld software zoals ChatGPT (de P staat voor ‘Pretrained’) en de technologie achter zelfrijdende auto’s.

“Wat vaak vergeten of verzwegen wordt, is hoeveel mensen hierbij betrokken zijn”, vertelt de onderzoeker. “De belofte van AI is dat de systemen menselijke cognitieve taken kunnen overnemen. Maar in werkelijkheid zijn veel zogenaamde ‘automatische’ processen afhankelijk van menselijke arbeid. De mensen die dit werk uitvoeren zijn vaak onzichtbaar en worden slecht betaald.” Dit is overigens niet iets van de laatste jaren: zo heeft Google al sinds 2007 een eigen platform Raterhub, waarbij datawerkers zoekresultaten verifiëren en zo de algoritmes van de zoekmachine verbeteren. Amazon Mechanical Turk, het platform dat Amazon gebruikt en ook voor externe klanten te gebruiken is, maakt een dikke knipoog naar de mythe rondom AI en de afhankelijkheid van menselijke arbeid. De Mechanical Turk waar het platform naar is vernoemd is de ‘schaakrobot’ die in 1770 werd uitgevonden en 84 jaar lang de wereld over reisde als voorbeeld van automatisering. Totdat bleek dat in de machine een persoon zat en van automatisering weinig sprake was.

Automatisering leidt niet tot minder, maar ander werk – vaak in een verslechterde vorm. “Grote techbedrijven praten daar liever niet over. Het ondermijnt het verhaal dat AI echt intelligent is. In werkelijkheid werken mensen juist meer dan ooit, maar soms ook onder slechtere omstandigheden dan voorheen.”

Wie zijn die datawerkers?

Datawerkers verzamelen, ordenen en verbeteren gegevens. Zonder hen zou AI niet werken. Neem beeldherkenning: AI leert wat een kat is door miljoenen afbeeldingen van katten te analyseren. “Mensen moeten die beelden eerst labelen. Dat lijkt simpel werk, maar het is een vak apart. Toch krijgen deze datawerkers vaak een beloning die niet in verhouding staat tot hun inspanningen”, zegt Casilli. “In landen als Kenia ligt het maandloon voor deze datawerkers rond de $400. Dat is niet genoeg om rond te komen.”

De hoogleraar benadrukt dat dit geen tijdelijke fase is. “Datawerk blijft nodig zolang we AI doorontwikkelen”, vertelt hij. “We moeten de systemen constant trainen, aanpassen aan nieuwe wensen van klanten en controleren op fouten. Schattingen van de Wereldbank wijzen op een ruwe schatting van minstens 150 miljoen van dergelijke werknemers wereldwijd, en dat aantal blijft alleen maar groeien. Ook daarom is het belangrijk om kritisch te kijken naar hun arbeidsomstandigheden.”

Ook jij bent datawerker

In zijn boek Waiting for Robots noemt Antonio Casilli een groep digitale arbeiders die vaak over het hoofd wordt gezien: social network laborers. Dit is eigenlijk iedereen met een smartphone. Met onze dagelijkse online activiteiten trainen we de AI van grote techbedrijven. We leren AI wat een stoplicht is door ReCaptchas in te vullen. Als we social media posts liken, leren we systemen welke plaatjes aantrekkelijk zijn. We leveren dus waarde aan AI-systemen, maar krijgen hier meestal niet voor betaald. We zijn zowel gebruiker als producent van data. Dit roept een interessante vraag op: is dit werk of niet?

Casilli ziet dat deze vorm van arbeid bestaande machtsstructuren en scheve arbeidsverhoudingen versterkt. Hij en zijn team hebben samengewerkt met beleidsmakers en vakbonden om dit aan het licht te brengen. “Techingenieurs bij bedrijven zoals Google verdienen hoge salarissen, terwijl datawerkers in India, Venezuela en Madagascar onderbetaald worden. Dit volgt koloniale patronen. India voert datawerk uit voor Engelstalige landen, terwijl Franse bedrijven werk uitbesteden aan Franstalige landen in Afrika.”

Wat kunnen we doen?

Wat kunnen we hieraan doen? Dat omschrijft hij in het laatste hoofdstuk van zijn boek “What is to be done?”, een ironische quote van Vladimir Lenin. Volgens Casilli is er een systematische aanpak nodig om de omstandigheden van alle datawerkers wereldwijd te verbeteren. “Een oplossing voor een specifieke groep werkt uiteindelijk niet. We moeten op zoek naar een universele strategie.”

Hij onderscheidt drie soorten oplossingen: regulering, collectieve platforminitiatieven en een wereldwijd herverdelingssysteem:

1. Regelgeving

Spanje heeft bijvoorbeeld de Riders’ Law ingevoerd en de Europese Unie werkt aan richtlijnen voor platformwerkers. “Dit zijn stappen in de goede richting, maar dit soort regelgeving moet breder worden toegepast. Techbedrijven zijn tenslotte wereldwijd actief.”

2. Platformcoöperaties

Werknemers kunnen zelf platforms opzetten waarin zij zeggenschap hebben over loon en werkomstandigheden. “Dit gebeurt al op kleine schaal, maar verdient meer aandacht.”

3. Herverdeling

Grote techbedrijven kunnen worden belast en de opbrengsten gebruikt voor een universeel basisinkomen voor datawerkers. “Zo zorgen we voor meer rechtvaardigheid Casilli stelt dat dit basisinkomen niet gekoppeld is aan een ‘robotbelasting’ (aangezien hij niet verwacht dat robots werknemers zullen vervangen) en evenmin bedoeld is om sociale bijstand te vervangen: aangezien het ongeacht andere sociale uitkeringen moet worden uitbetaald.

Met een combinatie van deze drie strategieën hoopt de hoogleraar dat we een eerlijker en duurzamer systeem kunnen creëren. “Techbedrijven moeten verantwoordelijkheid nemen voor al hun werknemers, inclusief de onzichtbare datawerkers die hun data produceren”, vertelt Casilli. “Ik maak me zorgen over deze situatie: lonen liggen ver onder het minimum en zelfs basisregels voor veiligheid en gezondheid worden niet altijd nageleefd.”

Casilli vindt dat organisaties zoals de WageIndicator Foundation en het Fairwork-project een belangrijke bijdragen leveren. “Deze organisaties stellen standaarden voor eerlijke lonen en werkomstandigheden en die zijn hard nodig.”

Handhaving, collectieve actie en verantwoordelijkheid van de gebruiker

Na verschillende interviews over datawerk denk ik zelf dat het naast de oplossingen die Casilli aandraagt ook belangrijk is om bestaande regelgeving te handhaven. In landen waar veel onderbetaalde datawerkers actief zijn, ontbreekt toezicht. Dat komt onder andere door stevige lobby van techbedrijven. Daarom is het ook zo belangrijk dat werkenden collectief in actie komen, bijvoorbeeld via vakbonden. Deze zijn ondervertegenwoordigd, al zijn er intussen een aantal interessante grassroots initiatieven ontstaan.

Verder vind ik dat (groot)gebruikers van AI-oplossingen hun verantwoordelijkheid moeten nemen. Er zijn vele gesprekken over verantwoord AI-gebruik. Maar een gesprek over responsible AI zonder aandacht voor de verborgen werkenden kan ik niet meer serieus nemen.

Waarom dit belangrijk is

Casilli en zijn team brengen een belangrijk mysterie aan het licht: AI is geen magische ‘black box’. In werkelijkheid werken miljoenen mensen achter de schermen aan deze zogenaamde ‘intelligente systemen’. AI wordt gepresenteerd als volledig autonoom en het vele handwerk wordt vaak vergeten of genegeerd. Met alle gevolgen van dien voor de arbeidsomstandigheden van deze datawerkers.

Als we AI echt verantwoord willen inzetten, moeten we ook oog hebben voor de mensen achter de technologie. Ik probeer dit onderwerp zichtbaar te maken en overal waar mogelijk te belichten. Daarom sprak ik eerder met Claartje ter Hoeven over Ghostwork: de onzichtbare wereld van werk achter AI. Binnenkort spreek ik in Kenia de Data Labeler Association om meer inzicht te krijgen in de omstandigheden en problemen van werkenden in Kenia. We kunnen tenslotte pas echt aan de slag met responsible AI als we inzicht hebben in hoe AI tot stand komt.

• Meer weten? Luister of bekijk de volledige podcast met Antonio Casilli.