Medewerkers van Meta Platforms kunnen al snel het gevoel krijgen dat ze TMI op de MCI van hun bedrijf storten.
Het moederbedrijf van Facebook, Instagram en WhatsApp installeert nieuwe software – naar verluidt het Model Capability Initiative (MCI) genoemd – op de computers en werkstations van haar werknemers, die onder andere muisbewegingen en toetsaanslagen zal volgen en vastleggen in een poging om gebruikers te trainen AI model, Dat meldde Reuters voor het eerst op dinsdag.
Dit maakt allemaal deel uit van een bredere inspanning om autonome AI-agenten te ontwikkelen die specifieke werktaken kunnen uitvoeren.
Een woordvoerder van Meta bevestigde dat het bedrijf deze acties inderdaad blijft ondernemen.
“Als we agenten bouwen om mensen te helpen alledaagse taken uit te voeren met behulp van computers, hebben onze modellen voorbeelden uit de echte wereld nodig van hoe mensen ze daadwerkelijk gebruiken – zaken als muisbewegingen, klikken op knoppen en navigeren door vervolgkeuzemenu’s”, aldus de woordvoerder. Snel bedrijf. “Om te helpen lanceren we een interne tool die dit soort feedback over bepaalde toepassingen vastlegt, zodat we onze modellen kunnen trainen.”
Met betrekking tot privacykwesties voegde Meta eraan toe: “Er zijn veiligheidsmaatregelen getroffen om gevoelige inhoud te beschermen, en de gegevens worden voor geen enkel ander doel gebruikt.”
Meta is ontslagen honderden medewerkers dit jaar, en dat is zo geruchten deden de ronde dat er nog veel meer komt. Dit zou duizenden mensen kunnen ontslaan, grotendeels om de stijgende AI-kosten te compenseren, en om ruimte te maken voor AI-agenten om een deel van het werk te doen dat oorspronkelijk door mensen werd gedaan.
Dit is niet ongekend: een paar maanden geleden noemde Block Inc, het fintech-bedrijf van Jack Dorsey, AI-efficiëntie als oorzaak. ontslagen 40% van zijn personeelsbestand.
Hoe laag kan het moreel dalen?
Het is begrijpelijk dat veel Meta-werknemers zich ongemakkelijk voelen, zowel vanwege de mogelijkheid hun baan te verliezen als vanwege het feit dat het bedrijf elke gedetailleerde actie die ze op hun computers ondernemen, zal volgen.
Helaas zeggen experts dat ze hier niet veel aan kunnen doen.
“In de VS is de Meta-aanpak grotendeels toegestaan, maar deze bevindt zich in een juridisch gevoelig gebied”, zegt Natalie Bidnick Andreas, onderwijsassistent-professor bij de afdeling Communicatiewetenschappen van de Universiteit van Texas. “De federale wetgeving biedt weinig bescherming voor de privacy van werknemers, dus er zijn geen nationale voorschriften die het monitoren van toetsaanslagen of muisbewegingen op bedrijfsapparaten uitdrukkelijk verbieden.”
Dergelijke praktijken vallen doorgaans binnen de wettelijke grenzen, zolang ze beperkt blijven tot hardware en werkaccounts die eigendom zijn van het bedrijf, voegde Andreas eraan toe, hoewel sommige staten wellicht strengere regels hanteren.
“Regelgeving op staatsniveau zorgt voor extra complexiteit”, zegt Andreas, “omdat sommige staten werkgevers verplichten werknemers op de hoogte te stellen van elektronisch toezicht, terwijl nieuwere privacywetten de rechten op persoonsgegevens uitbreiden, maar zich nog steeds meer op consumenten dan op werknemers richten.”
De wet moet een inhaalslag maken
Hoewel er strengere wetten zijn met betrekking tot het loggen van toetsaanslagen en schermafbeeldingen in landen als de Europese Unie, zijn de bestaande wetten in de Verenigde Staten ‘ontoereikend voor het AI-tijdperk’, zegt Dario Maestro, juridisch directeur van het Surveillance Technology Oversight Project, een groep belangenbehartigers en juridische diensten die strijdt tegen het toenemende gebruik van surveillancetechnologie.
“De bestaande wetten zijn bedoeld om te voorkomen dat bazen telefoongesprekken afluisteren en privé-e-mails lezen, en niet om te voorkomen dat bedrijven elke klik omzetten in trainingsgegevens”, aldus Maestro. “Werknemers hebben vrijwel geen federaal recht om te weigeren, en ‘toestemming’ verkregen onder dreiging van ontslag is helemaal geen toestemming.”
“Om de kloof te dichten moeten de staatswetgevers AI-training als iets anders behandelen – waarbij afzonderlijke, herroepbare goedkeuring vereist is en het hergebruik van werknemersgegevens wordt verboden buiten wat eerder is bekendgemaakt”, voegde Maestro eraan toe.
‘Medewerkers kunnen niet zinvol weigeren’
Op ethisch vlak zei Andreas dat “de zorgen veel dieper liggen”, en hij zei ook dat werknemers niet echt met dergelijke activiteiten konden instemmen.
“Werknemers kunnen geen betekenisvol bezwaar maken als hun bedrijf besluit toetsaanslagen op te nemen, dus het idee van toestemming is grotendeels symbolisch”, zei hij. “Zelfs als Meta denkt dat het programma bijdraagt aan de ontwikkeling van AI, weten werknemers dat opt-out kan worden geïnterpreteerd als niet-naleving.”
Derek Leben, hoogleraar ethiek aan de Tepper School of Business van de Carnegie Mellon Universiteit, zei dat Meta niet de enige is.
“Dit is iets dat veel bedrijven proberen, en door te experimenteren bedoel ik dat ze vooruitgang boeken en zien wat voor soort weerstand ze krijgen van werknemers, vakbonden, de media en het publiek,” zei Leben.
Hij voegde eraan toe dat er veel discussie en debat is en is geweest over de ethische grenzen in termen van bedrijven die de privacy van werknemers respecteren terwijl ze op het werk zijn – als dergelijke grenzen überhaupt bestaan.
Waar het op neerkomt is of de werkgever “zijn werknemers als waardige mensen behandelt”, zei Leben. Als dit niet gebeurt, kunnen werknemers zich “als kinderen behandeld” voelen, en het volgen van hun computers “respectloos” zijn.
De praktijken van Meta zullen waarschijnlijk door andere bedrijven worden gekopieerd, omdat werkplekken in het AI-tijdperk worstelen met nieuwe privacyverwachtingen.
“Dit soort monitoring normaliseert ook het niveau van controle dat van oudsher is voorbehouden aan gig- en magazijnmedewerkers, door dit uit te breiden naar de rollen van kenniswerkers en de verwachtingen van professioneel werk te hervormen”, zegt Andreas. “Hierdoor vervaagt de grens tussen het werk doen en het opleiden van de vervanger.”
