OpenAI heeft Privacy Filter gelanceerd, een open source datasaneringsmodel op apparaten dat persoonlijke informatie uit bedrijfsdatasets verwijdert

In een belangrijke verschuiving naar een lokaal-eerste privacy-infrastructuur is OpenAI uitgebracht Privacyfilterseen aangepast open source-model dat is ontworpen om persoonlijk identificeerbare informatie (PII) te detecteren en te redigeren voordat deze cloudgebaseerde servers bereikt.

Vandaag gelanceerd in de community voor het delen van AI-codes Knuffelend gezicht onder toegeeflijkheid Apache 2.0-licentieDeze tool pakt een groeiend obstakel in de sector aan: het risico dat gevoelige gegevens in de trainingsset ‘lekken’ of worden blootgesteld tijdens gevolgtrekkingen met hoge doorvoer.

Door een model met 1,5 miljard parameters aan te bieden dat kan worden uitgevoerd op een standaardlaptop of rechtstreeks in een webbrowser, biedt het bedrijf ontwikkelaars in feite een ‘privacy by design’-tool die functioneert als een geavanceerde, contextbewuste digitale vernietiger.

Terwijl OpenAI werd opgericht met de nadruk op dit soort open source-modellen, schakelde het bedrijf tijdens het ChatGPT-tijdperk over op het aanbieden van meer propriëtaire (“closed source”) modellen die alleen beschikbaar waren via websites, apps en API’s – en keerde vorig jaar op grote schaal terug naar open source met de lancering van OpenAI. gpt-oss-familie van taalmodellen.

In het licht ervan, en gecombineerd met OpenAI’s nieuwste open source voor agentorkestratie tools en raamwerken is het veilig om te zeggen dat de generatieve AI-gigant duidelijk nog steeds zwaar investeert in de ontwikkeling van dit minder winstgevende deel van het AI-ecosysteem.

Technologie: gpt-oss-variant met bidirectionele tokenclassifier die vanuit beide richtingen leest

Architectonisch gezien is Privacy Filter een afgeleide van OpenAI gpt-ons family, een reeks open-weight-redeneermodellen die eerder dit jaar zijn uitgebracht.

Hoewel standaard grote taalmodellen (LLM’s) doorgaans autoregressief zijn, waarbij het volgende token in een reeks wordt voorspeld, zijn privacyfilters dat wel. bidirectionele tokenclassificator.

Dit onderscheid is van cruciaal belang voor de nauwkeurigheid. Door een zin tegelijkertijd vanuit twee richtingen te bekijken, krijgt het model een dieper inzicht in de context dat een alleen-voorwaarts model misschien mist.

We kunnen bijvoorbeeld beter onderscheiden of ‘Alice’ verwijst naar een privépersoon of een publiek literair personage op basis van de woorden die achter haar naam staan, en niet alleen op basis van de woorden die eraan voorafgaan.

Dit model maakt gebruik van het Sparse Mixture-of-Experts (MoE)-framework. Hoewel het in totaal 1,5 miljard parameters bevat, zijn er slechts 50 miljoen parameters actief tijdens een enkele voorwaartse doorgang.

Deze onregelmatige activeringen maken een hoge doorvoer mogelijk zonder de grote rekenoverhead die doorgaans gepaard gaat met LLM. Afgezien daarvan zijn de functies enorm Contextvenster 128.000 tokenswaardoor het hele juridische documenten of lange e-mailketens in één keer kan verwerken zonder de tekst te hoeven fragmenteren – een proces dat er vaak voor zorgt dat traditionele PII-filters entiteiten uit het oog verliezen over pagina-einden heen.

Om ervoor te zorgen dat de bewerkte uitvoer coherent blijft, implementeert OpenAI een beperkte Viterbi-decoder. In plaats van voor elk woord onafhankelijke beslissingen te nemen, evalueert de decoder de gehele reeks om logische overgangen toe te passen.

Het model maakt gebruik van het etiketteringsschema ‘BIOES’ (Begin, Inside, Outside, End, Single), dat ervoor zorgt dat als het model ‘John’ identificeert als het begin van een naam, het statistisch waarschijnlijk is dat ‘Smith’ wordt bestempeld als de voortzetting of het einde van dezelfde naam, in plaats van als een afzonderlijke entiteit.

Gegevens op apparaten opschonen

Privacyfilter is ontworpen voor workflows met hoge doorvoer waarbij gegevenslocatie een niet-onderhandelbare vereiste is. Ondersteunt momenteel de detectie van acht belangrijke PII-categorieën:

• Persoonlijke naam: Individuen.

• Contactgegevens: Fysiek adres, e-mailadres en telefoonnummer.

• Digitale identificatie: URL, rekeningnummer en datum.

• Vertrouwelijk: Aangepaste categorieën voor inloggegevens, API-sleutels en wachtwoorden.

In de praktijk stelt dit bedrijven in staat het model on-premise of binnen hun eigen private cloud te implementeren. Door gegevens lokaal te verbergen voordat ze naar geavanceerdere redeneermodellen (zoals GPT-5 of gpt-oss-120b) worden gestuurd, kunnen bedrijven voldoen aan de strikte AVG- of HIPAA-normen en toch profiteren van de nieuwste AI-mogelijkheden.

Voor ontwikkelaars is dit model beschikbaar via Hugging Face, met native ondersteuning transformers.jswaardoor het volledig in de browser van de gebruiker kan worden uitgevoerd met behulp van WebGPU.

Volledig open source en commercieel haalbare Apache 2.0-licentie

Misschien wel het belangrijkste aspect van deze aankondiging voor de ontwikkelaarsgemeenschap Apache 2.0-licentie. In tegenstelling tot “beschikbaarheids”-licenties die vaak het commerciële gebruik beperken of het “copyleft” delen van afgeleide werken vereisen, is Apache 2.0 een van de meest tolerante licenties in de softwarewereld. Voor startups en ontwikkelaarstoolmakers betekent dit:

1. Commerciële vrijheid: Bedrijven kunnen privacyfilters in hun eigen producten integreren en deze verkopen zonder royalty’s aan OpenAI te betalen.

2. Maatwerk: Teams kunnen modellen afstemmen op hun specifieke datasets (zoals medisch jargon of eigen logformaten) om de nauwkeurigheid voor specifieke sectoren te verbeteren.

3. Geen aansprakelijkheid Viraal: In tegenstelling tot de GPL-licentie hoeven auteurs niet hun volledige codebase te openen als ze Privacy Filter als component gebruiken.

Door dit licentiepad te kiezen positioneert OpenAI Privacy Filter als het standaardhulpprogramma voor het AI-tijdperk – in wezen ‘SSL voor tekst’.

Reactie van de gemeenschap

De technische gemeenschap reageerde snel op de release en velen merkten de indrukwekkende technische hindernissen op die OpenAI wist te overwinnen.

Elie Bakouch (@eliebakouch), een onderzoeksingenieur bij Prime Intellect, een start-up voor agentmodeltrainingplatforms, prees de efficiëntie van de Privacy Filter-architectuur in X:

“Wat een geweldige release van @OpenAI! 50 miljoen actieve gpt-oss arch MoE, 1,5 miljard gpt-oss in totaal, om privé-informatie goedkoop uit gegevens op een biljoen schaal te filteren. Het behouden van 128k-contexten met zo’n klein model is ook behoorlijk indrukwekkend”.

Dit sentiment weerspiegelt een bredere trend in de sector naar ‘kleine maar machtige’ modellen. Terwijl de wereld van vandaag zich richt op 100 biljoen parametergiganten, vereist de praktische realiteit van zakelijke AI vaak kleine, snelle modellen die één enkele taak (zoals privacyfiltering) zeer goed en tegen lage kosten kunnen uitvoeren.

OpenAI bevat echter een “High Risk Deployment Caution” in zijn documentatie. Het bedrijf waarschuwde dat de tool moet worden gezien als een ‘redactioneel hulpmiddel’ en niet als een ‘garantie voor veiligheid’, waarbij het opmerkte dat een overmatig vertrouwen op één model zou kunnen leiden tot ‘gemiste tijdsperioden’ in zeer gevoelige medische of juridische workflows.

OpenAI Privacy Filter is duidelijk de poging van het bedrijf om de AI-pijplijn fundamenteel veiliger te maken.

Door de efficiëntie van de Mixture-of-Experts-architectuur en de openheid van de Apache 2.0-licentie te combineren, biedt OpenAI bedrijven een manier om PII-gegevens gemakkelijker, goedkoper en veiliger te bewerken.