Waarom is de AI-industrie bang voor deze Palantir-aluin die zich kandidaat stelt voor het congres?

Nu de voorverkiezingen naderen, richten verschillende kandidaten hun campagnes op de manier waarop zij zullen regeren kunstmatige intelligentie. Aan de rechterkant waarschuwen populistische Republikeinen dat de AI-industrie de Make America Great Again-beweging zal ondermijnen. Linkse groeperingen maken zich zorgen over de toenemende politieke en sociale macht in deze sector. Over het hele spectrum bestaat er bijna universele bezorgdheid over de impact van technologie op kinderen.

Donorgroepen raken er nu bij betrokken: een super PAC genaamd Leading the Future, gesteund door OpenAI-bestuurders Greg Brockman en Andreessen Horowitz, is van plan maar liefst 100 miljoen dollar uit te geven aan de tussentijdse verkiezingen om zijn favoriete kandidaten te ondersteunen. Een andere tweeledige super-PAC, gericht op het aandringen op een nationaal raamwerk om AI te reguleren, werd eerder deze week gevormd. De botsing komt op het moment dat de regering-Trump probeert het vermogen van staten om technologie te reguleren te beperken.

Alex Bores, auteur van de AI-wetgeving in de staat New York en kandidaat om het 12e district van de staat te vertegenwoordigen, was tijdens de tussentijdse verkiezingen al vroeg een doelwit van de politieke uitgaven van Leading the Future. “Het is een ereteken”, zei hij, terwijl hij de inspanning vergeleek met een F-rating van de National Rifle Association.

“Het gaat niet om technologie versus andere technologieën”, zei hij Snel bedrijf. “Dit is een klein onderdeel van het technologie-ecosysteem dat, in plaats van deel te nemen aan gezamenlijke discussies over het wetsvoorstel en hoe we voor iedereen kunnen werken, in plaats daarvan heeft besloten de stemmen van iedereen die niet tot hen behoort te overstemmen door honderden miljoenen uit te geven.”

Snel bedrijf sprak met Bores over AI in de politiek, zijn ervaring bij Palantir en wat er nodig zou kunnen zijn om de overheid te moderniseren. Dit interview is aangepast voor lengte en duidelijkheid.

Een van de dingen die in het ontwerp van uitvoeringsbesluit worden besproken, is de creatie door de regering-Trump van een federale aanpak voor het reguleren van AI. Hoe serieus neem je het?

Het is een cliché in DC dat als je iets onafgemaakt wilt hebben, je een opdracht moet geven om het te bestuderen. Dus een voorstel doen om iets te leren – misschien om beleid voor te stellen – is belachelijk. Ik wil duidelijk zijn: het juiste antwoord op deze vragen is federale normen. De enige reden dat staten actie ondernemen is omdat de federale overheid niet heeft gehandeld. Als ze echt aan federale normen willen werken, zullen ze partners op verschillende gebieden vinden. Wat zij prioriteit geven is het stoppen van de acties van welk land dan ook, en niet het oplossen van het probleem.

We bevinden ons op een moment waarop er veel kritiek en debat is over wat de toekomst van de Democratische Partij zou moeten zijn. In New York, een liberaal bolwerk, ben ik nieuwsgierig naar het gesprek over hoe we moeten omgaan met de nieuwe technologie en AI die veranderingen in de Democratische Partij zullen beïnvloeden – en naar de drang om ons te concentreren op kwesties die jonge kiezers en ontevreden kiezers aanspreken die niet zo geïnteresseerd zijn geweest in wat de Democratische Partij te bieden heeft.

We moeten de mens altijd op de eerste plaats zetten en ons op mensen concentreren. Specifieke manieren waarop AI-beleid wordt geïmplementeerd is door met de jongere generatie te praten. De grootste impact van AI op de arbeidsmarkt op dit moment doet zich voor bij startersbanen, en je ziet een stijging van de werkloosheid onder die groep die op zoek is naar hun eerste baan.

Een van de meest populaire dingen die we dit jaar in New York hebben gedaan, was telefoonvrije scholen. Dat hebben we gerealiseerd, zodat we de manier waarop technologie in de klas wordt gebruikt echt kunnen veranderen en ervoor kunnen zorgen dat deze wordt gebruikt voor onderwijs en niet voor afspelen of browsen op sociale media. (Eerder dit jaar voerde de staat nieuwe regelgeving in met betrekking tot elektronische apparaten tijdens schooluren.)

We moeten geen grote afspraken maken over AI, alsof het een statisch probleem is. Dit is iets dat van invloed is op al onze acties, en we moeten onze bescherming voortdurend bijwerken naarmate de technologie vordert.

Kun je meer vertellen over wat je bij Palantir hebt gedaan en je beslissing om te vertrekken?

Ik was vier en een half jaar in Palantir. Ik breng het grootste deel van mijn tijd door in het federale civiele team, dus dat team werkt nauw samen met de regering om betere diensten aan het Amerikaanse volk te leveren. Ik heb met het ministerie van Justitie samengewerkt om de opioïdenepidemie aan te pakken. . . . Ik heb samengewerkt met het Department of Veterans Affairs om hun ziekenhuizen beter te bemannen en betere diensten aan veteranen te bieden. Ik werk samen met de CDC (Centers for Disease Control and Prevention) aan het begrijpen van epidemieën.

Ik ben erg trots op het werk dat ik daar heb gedaan, omdat het erop gericht was de overheid beter te laten functioneren. Afgezien van de technologie denk ik dat waar de Democratische Partij en het land als geheel meer aandacht aan moeten besteden, mensen zijn die bereid zijn obstakels te overwinnen en ervoor te zorgen dat de overheid echt een kracht ten goede is en de samenleving dient, en niet alleen de politieke chaos die ze vaak op tv zien.

Ik vertrok in 2019 toen Palantir hun contract met ICE verlengde – of kort daarna. Palantir heeft een contract met Homeland Security Investigations om de grensoverschrijdende drugs- en mensenhandel te helpen bestrijden. Tijdens de eerste regering-Trump begonnen ze de software te gebruiken voor handhavings- en verwijderingsoperaties – voor wat de meeste mensen als deportaties zouden beschouwen. Het is een andere afdeling binnen ICE. . . . Dit was niet iets dat werd verwacht toen het contract werd ondertekend tijdens de regering-Obama. En toen Palantir het contract verlengde, zonder het werk stop te zetten of in de toekomst betere bescherming te bieden, motiveerde dat mij om te vertrekken.

Wat vind je van het huidige gesprek rond Palantir? Het bedrijf benadrukt dat het via meerdere administraties werkt, maar ook met ICE samenwerkt Israëlheeft geleid tot grote kritiek op het bedrijf.

Ik ben er al zes jaar niet meer geweest, dus ik heb niet meer gedetailleerde informatie over hoe ze vandaag de dag werken dan wie dan ook die het nieuws leest, maar ik ben trots op het werk dat ik daar heb gedaan en ben heel open over de redenen waarom ik ben vertrokken.

Hoe moeilijk zou het zijn om technologie van de overheid te kopen om dingen sneller en efficiënter te maken? Modernisering van de overheid – het updaten van overheidssoftware en het bieden van betere klantenservice – blijft een grote uitdaging.

Niemand vroeg naar overheidsaankopen. Dit is verbazingwekkend. Dit is zeer inefficiënt en schadelijk voor het Amerikaanse volk. Het duurde te lang voordat de regering een contract tekende, waardoor de kosten – die uiteindelijk door het Amerikaanse volk moesten worden betaald – stegen.

Dit bevoordeelt vervolgens insiders die meer weten hoe ze contracten moeten sluiten dan mensen die nuttige diensten kunnen verlenen, waardoor Amerikanen verstoken blijven van de voordelen van startups en anderen die wellicht goedkopere en snellere manieren hebben om problemen op te lossen.

Dit is een probleem op elk bestuursniveau. Een van de eerste wetsvoorstellen die ik als lid van de Assembly in New York heb aangenomen, was om het voor de overheid gemakkelijker te maken om daadwerkelijk cloud computing te gebruiken in plaats van servers te kopen en altijd hardware te gebruiken, wat de dienstverlening aan New Yorkers vertraagde. . . . Een programma genaamd FedRAMP zou het voor overheden gemakkelijker moeten maken om technologie te leveren: je doet één veiligheidscontrole, wordt gecertificeerd en kunt dan verkopen aan individuele (federale) afdelingen, zodat ze de (screening) niet zelf hoeven te doen. Maar dit is een zeer moeizaam proces geworden en maakt de samenwerking met de federale overheid nog moeilijker.

Moeten politici generatieve AI gebruiken in advertenties?

Ik heb het nog niet gedaan. Maar ik had in New York een wet geschreven die dat regelde, en we besloten dat die openbaar moest worden gemaakt. En als u het gebruikt om een ​​kandidaat te deepfaken, heeft de kandidaat het recht om schadevergoeding te eisen met een versnelde beoordeling om de advertentie te verwijderen als deze het publiek zou misleiden over iets dat daadwerkelijk is gebeurd.

Het probleem van deepfakes is er een waarvoor een technische oplossing bestaat, en beleidsmakers moeten dit nog aanpakken. Historisch gezien wordt ons verteld dat dit zo is. . . het wordt gewoon een kat-en-muisspel waarbij je een betere deepfake-detector en een betere AI-generator (of dat) hebt, die strijd gaan we nooit winnen. Maar de industrie heeft een gratis, open source metadata-gegevensstandaard gecreëerd, C2PA genaamd, die kan worden gekoppeld aan elk standaard audio-, video- of afbeeldingsbestandstype dat cryptografisch bewijst of de inhoud van een echt apparaat is gehaald, door AI is gegenereerd, en/of hoe de inhoud gaandeweg is bewerkt.

Als je op een punt komt waar 90%, 95% van de mensen deze standaarden gebruikt, hebben we het deepfake-probleem opgelost, want elke keer dat je die inloggegevens niet ziet, ben je onmiddellijk achterdochtig over wat er wordt gepresenteerd.