Moxie Marlinspike dus privacyadvocaat die veilige communicatietoepassingen maakt Signaal en veelgebruikte open source encryptieprotocollen, gezegd deze week zijn op privacy gerichte AI-platform, Gevenzal beginnen met het integreren van zijn technologie in het AI-systeem van Meta.
Elke dag worden miljarden chatberichten verzonden via Signal, WhatsApp Meta en Apple Messages beschermd door end-to-end-codering. Deze functie, die het voor technologiebedrijven en voor iedereen anders dan de afzender en ontvanger onmogelijk maakt om in uw berichten te snuffelen, is de afgelopen tien jaar mainstream geworden. Naarmate generatieve AI-platforms echter steeds populairder worden, wisselen mensen nu ook elke dag miljarden berichten uit met AI-chatbots die geen end-to-end encryptiebescherming bieden, waardoor het voor AI-bedrijven gemakkelijker wordt om toegang te krijgen tot waar u het over heeft.
Dit is opzettelijk, aangezien platforms hun AI-modellen vaak willen trainen op zoveel mogelijk gebruikersdata en daarin succesvol zijn geweest het is moeilijk om je af te melden gebruikt uw gegevens als trainingsgegevens. Maar zoals chatbots en AI-agent sommigen zijn capabeler geworden technologie-expert en het bedrijf werkt aan het creëren van een beperkter en op privacy gericht systeem.
“Aangezien LLM’s steeds meer kunnen doen, mogen we verwachten dat er meer gegevens naar hen toestromen”, schreef Marlinspike in een artikel. korte blogpost over zijn samenwerking met Meta dinsdag gepubliceerd. “Tegenwoordig zijn geen enkele gegevens privé. Ze worden gedeeld met AI-bedrijven, hun werknemers, hackers, dagvaardingen en overheden. Zoals altijd het geval is met niet-versleutelde gegevens, zullen ze onvermijdelijk in verkeerde handen vallen.”
Marlinspike schreef dat hij “zal werken aan de integratie van de privacytechnologie van Confer, zodat deze Meta AI ondersteunt.” Hij benadrukte ook dat Confer, die debuteerde vanaf begin dit jaar zal het onafhankelijk van Meta blijven opereren. Het doel van het project, zo voegde Marlinspike toe, is om technologie aan te bieden waarmee “iedereen de volledige kracht van AI kan krijgen, evenals de volledige privacy van gecodeerde gesprekken.”
In 2016 werkte Marlinspike samen met WhatsApp, eigendom van Meta, om end-to-end-encryptie uit te rollen naar meer dan een miljard rekeningen tegelijk. Het afgelopen jaar heeft WhatsApp Meta AI-chatbots in zijn app geïntroduceerd, ook al was dat niet het geval beschermd door het bedrijf op dezelfde manier als individuele chats.
“Mensen gebruiken AI op zeer persoonlijke wijze en hebben toegang nodig tot vertrouwelijke informatie”, zegt WhatsApp-hoofd Will Cathcart schrijven woensdag op social media platform X over de samenwerking met Confer. “Het is belangrijk dat we die technologie zo bouwen dat mensen de mogelijkheid krijgen om dat persoonlijk te doen.”
De acceptatie van gecodeerde AI is nog steeds in opkomst. Cryptografische schema’s die worden gebruikt bij end-to-end-encryptie voor traditionele digitale communicatie kunnen niet eenvoudig of direct worden vertaald in gegevensbescherming voor generatieve AI. Ondertussen is Confer nog steeds een nieuw project en geeft de blogpost van Marlinspike geen specifieke details over hoe de samenwerking met Meta precies zal werken of wat de specifieke doelen van de integratie zijn.
Noch Marlinspike, noch Meta hebben voorafgaand aan de publicatie aanvullend commentaar aan WIRED gegeven.
Mallory Knodel, een cryptografieonderzoeker aan de New York University, zei dat dit “erg goed zou zijn voor mensen die chatbots gebruiken die Meta AI gebruiken om de vertrouwelijkheid en privacy bij die uitwisselingen te behouden.” Het allerbelangrijkste is dat dit betekent dat Meta geen toegang heeft tot de chatgegevens van de AI voor training, zei Knodel, die onlangs samen met collega’s een rapport publiceerde onderzoek naar end-to-end-encryptie en AI. “Ik hoop echt dat meer AI-chatbots deze aanpak zullen omarmen.”
Knodel’s voorlopige en initiële beoordeling van Confer show dat het platform niet perfect is, maar een belangrijk voorbeeld is van hoe je een persoonlijke AI-chatbot bouwt.
