Wat zeg je in je huis, wat zeg je Doen bij jou thuis. Persoonlijker dan dat wordt het niet. Volgens twee recente klachten van de FTC Amazone En Ring gebruikt deze zeer persoonlijke gegevens – stemopnames verzameld door de Alexa-stemassistent van Amazon en video verzameld door op het internet aangesloten Ring-huisbeveiligingscamera’s – om hun algoritmen te trainen, zonder daarbij weinig aandacht te besteden aan de privacy van klanten. Dit is de eerste keer dat dit wordt aangekondigd sinds de nieuwe FTC Beleidsverklaring biometriebevat belangrijke lessen voor bedrijven die AI, biometrische gegevens en andere gevoelige informatie gebruiken.
AI en privacy moeten samenwerken. In dit AI-tijdperk willen ontwikkelaars meer data – vaak, ongeacht de bron. Maar wees voorzichtig bij het verzamelen of opslaan van consumentengegevens. Volgens de oneerlijkheidsnorm van sectie 5 kijkt de FTC niet alleen naar de potentiële voordelen van AI, maar ook naar de schade voor consumenten. Volgens de klacht faalden Amazon en Ring voor die test. De FTC beweert dat Ring’s datatoegangspraktijken spionage en intimidatie mogelijk maken, terwijl Amazon’s permanente opslag van spraakgegevens en slechte verwijderingspraktijken ervoor zorgen dat de stemopnames van consumenten het risico lopen van onnodige toegang van werknemers. Boodschap aan bedrijven: De FTC zal bedrijven verantwoordelijk houden voor de manier waarop zij de consumentengegevens verkrijgen, opslaan en gebruiken die hun algoritmen aandrijven. Zoals de commissarissen hebben verklaard gezamenlijke verklaring over de Alexa-kwestiemachine learning is geen vrijbrief om de wet te overtreden.
Consumenten – en niet bedrijven – hebben controle over hun gegevens. Sommige bedrijven beweren dat het hen vrij staat de persoonlijke gegevens die zij bezitten te gebruiken voor elk doel dat zij willen. Niet zo snel. FTC-klacht tegen Amazone En Ring maakt duidelijk dat bedrijven die de rechten van consumenten op controle over hun gegevens negeren, dit op eigen risico doen. In haar klacht zei de FTC dat Ring alle werknemers en aannemers toegang gaf tot video’s van klanten om (onder andere) algoritmen te trainen, waarbij alleen “toestemming” werd gecontroleerd. Maar dat is niet genoeg om ervoor te zorgen dat gebruikers daadwerkelijk bepalen wat er met hun informatie gebeurt. En in de klacht van Amazon zei de FTC dat Amazon de ouderlijke rechten volgens de wet ondermijnde Regels van de Children’s Online Privacy Protection Act (COPPA). om de stemopnames van hun kinderen te verwijderen. Volgens de COPPA-verordening hebben ouders het recht om te beslissen welke gegevens over hun kinderen door bedrijven worden bewaard en welke gegevens worden verwijderd. De resultaten zijn duidelijk: elk bedrijf dat de controle van consumenten over hun gegevens ondermijnt, kan te maken krijgen met handhavingsmaatregelen van de FTC.
Zorg voor speciale waarborgen voor menselijke beoordeling en de toegang van medewerkers tot gevoelige gegevens. AI-ontwikkelaars vertrouwen vaak op menselijke reviewers om de gegevens te taggen en te annoteren die machine learning-algoritmen trainen. Maar weten consumenten wanneer hun gegevens worden beoordeeld? In haar klacht zei de FTC dat Ring deze recensies voor zijn klanten verborgen hield en recensenten toestond misbruik te maken van hun toegang tot consumentenvideo’s. Als gevolg hiervan zijn Ring-klanten – die Ring-producten kopen Opnieuw beveiliging – werden uiteindelijk het doelwit van spionage en surveillance door Ring-medewerkers. In de klacht van Amazon staat ook dat Amazon niet de juiste controles heeft gebruikt om te beperken welke werknemers toegang hadden tot de spraakopnamen van Alexa-gebruikers, die duizenden tellen. medewerkers hadden toegang tot gevoelige stemopnames die ze niet nodig hadden. Bedrijven die vertrouwen op menselijke beoordeling erkennen dat de bescherming van gevoelige gegevens, inclusief strikte toegangscontroles, niet als vanzelfsprekend mag worden beschouwd. Ze zouden de eerste stap moeten zijn.
De FTC beschermt biometrische gegevens. Vorige maand heeft de FTC een beleidsverklaring over de bescherming van biometrische gegevens. In de verklaring wordt uitgelegd dat biometrische gegevens – of het nu gaat om vingerafdrukken en irisscans of video- en stemopnamen – maximale bescherming verdienen vanwege de inherente gevoeligheid en het potentieel voor vooringenomenheid, discriminatie en ander schadelijk gebruik. De schikking van de FTC met Amazon en Ring onderstreept dat wanneer de FTC zegt dat de bescherming van biometrische gegevens een prioriteit is, zij ook meent wat zij zegt – en de Commissie zal dat beleid ondersteunen met handhavingsmaatregelen.
De FTC gebruikt alle beschikbare middelen om de privacy van kinderen te beschermen. Na een reeks wetshandhavingsacties met betrekking tot de privacy van kinderen en adolescenten (denk aan Microsoft, Epische spellen, Edmodo, Weight Watchers (Kurbo)En Chegg), moet het duidelijk zijn dat de bescherming van kinderen de topprioriteit van de FTC is. Dit geldt vooral op het snijvlak tussen AI en de privacy van kinderen en jongeren. In Amazon-klachtenDe FTC zegt dat Amazon de stemopnames van kinderen permanent opslaat (zowel audiobestanden als transcripties) en het recht van ouders op verwijdering schendt. Volgens de klacht kan Amazon die gegevens vervolgens gebruiken voor natuurlijke taalverwerking. In Bellende klachtenDe FTC beschreef de arrogante benadering van Ring op het gebied van privacy en veiligheid, ook al worden de camera’s op de markt gebracht voor het bewaken van kinderkamers. Het antwoord van de FTC? Werkte niet. De FTC zal alle instrumenten waarover zij beschikt – inclusief de COPPA-regel en het verbod van de FTC Act op misleidende en oneerlijke praktijken – gebruiken om de privacy van kinderen te beschermen.
Wilt u uw algoritmen en dataproducten opslaan? Gegevens legaal verkrijgen. Ook met Ring en Alexa Gebogen, Cambridge AnalyticaEn voor altijd albumDe FTC heeft talloze bevelen gekregen waarin bedrijven worden verplicht gegevens te verwijderen En het verwijderen of niet genereren van dataproducten, zoals algoritmen, modellen en andere hulpmiddelen die zijn afgeleid van illegale gegevens. Deze acties maken duidelijk dat er geen vrijbrief bestaat voor misbruik van data. Als u op illegale wijze consumentengegevens verkrijgt of misbruikt, kunt u uiteindelijk met uw dataproducten betalen.
