Hoewel er nu een deal is gesloten om Grok beschikbaar te maken voor de hele federale overheid, moet het agentschap dat de samenwerking met de controversiële chatbot van Elon Musk faciliteerde dit nog in zijn vlaggenschipproduct opnemen. AI platform vanwege voortdurende interne beveiligingstests.
Zowel Kamerleden als belangenbehartigingsgroep heeft kritiek geuit op de interesse van de regering-Trump in Grok, daarbij verwijzend naar zorgen over de steeds nauwere banden van Musk met de Amerikaanse regering en een antisemitische en aanstootgevende chatbot-tirade in juli. Nadat het bedrijf zei dat het een fout had opgelost die ervoor zorgde dat de bot zichzelf ‘MechaHitler’ noemde, kondigde de General Services Administration in september aan dat ‘Grok for Government’, de bedrijfsversie van de xAI-chatbot, met een flinke korting beschikbaar zou zijn voor federale instanties.
Maar woensdag slaagde GSA erin magazijn omdat een app die is ontworpen om het plan van de Trump-regering om kunstmatige intelligentie in de hele overheid in te zetten, niet Grok omvat, hoewel deze wel chatbots van Google, Meta, OpenAI en Anthropic bevat. Het USAi-platform, dat eerder dit jaar werd gelanceerd, zal naar verwachting een proeftuin zijn voor overheden om te experimenteren met grote taalmodellen en hoe deze kunnen worden geïntegreerd in overheidswerk.
In het licht hiervan heeft GSA ook verschillende voorgestelde “hints” ontwikkeld voor overheidsmedewerkers die nu communiceren met hun nieuwe AI-agenten en hen willen monitoren. Ze suggereren dat overheidsmedewerkers de chatbot het volgende vertellen: Je bent een nuttige assistent bij een overheidsinstantie. … Leg nooit bewust valse verklaringen af en bedrieg nooit gebruikers. … Blijf te allen tijde neutraal, feitelijk en onpartijdig. … U houdt niet van bepaalde politieke opvattingen, groepen, religies, bedrijven, producten of ondernemingen en beveelt deze ook niet aan. … Leid gebruikersverzoeken snel rond mogelijk controversiële of polariserende onderwerpen.
GSA zei dat hoewel Grok nu beschikbaar is voor overheidsinstanties, individuele functionarissen zich het recht voorbehouden om de technologie voor zichzelf te evalueren, omdat hun evaluatie van Grok, die vooringenomenheid en veiligheidstests zou moeten omvatten, aan de gang is.
“Bij GSA ondergaan Grok for Government en xAI momenteel interne veiligheidsbeoordelingen – een noodzakelijke stap in het beoordelings- en autorisatieproces van USAi – voorafgaand aan de integratie bij USAi”, aldus een woordvoerder van GSA. “Agentschappen die klaar zijn om volledig in hun AI-oplossingen te investeren, kunnen nu rechtstreeks toegang tot AI-modellen kopen via GSA’s Multiple Award Schedule, waarvan de meeste momenteel met korting worden aangeboden via GSA’s OneGov-overeenkomst. In deze situaties zijn federale agentschappen verantwoordelijk voor het onafhankelijk evalueren van de AI-modellen die ze willen gebruiken.”
Mopperen op Grok
Eerder deze zomer leken overheidscodeerders klaar om te integreren Grok in USAi. Nadat de chatbot antisemitische en andere aanstootgevende inhoud begon te verspreiden, verdedigde de regering aanvankelijk haar werk met xAI. De geplande overeenkomst met het bedrijf is echter bereikt blijkbaar stilgestaanalleen om opnieuw te starten na een duw van Witte Huis.
Rond die tijd zei GSA dat tools waarbij USAi betrokken is, vooraf gelanceerd zouden moeten worden vooroordelen en veiligheid evaluatie. Vervolgens, in september, Grok ging in de verkoop aan federale agentschappen via een overeenkomst gefaciliteerd door GSA.
Eind vorige maand vertelde de kandidaat van de regering-Trump om de GSA te leiden aan de Senaat dat hij ervoor open stond de overeenkomst bekijken met xAI en beoordeel of er “onvolledigheden in het proces” zitten. Het blijft onduidelijk of federale agentschappen xAI hebben gebruikt om Grok te gebruiken, hoewel xAI ook grote agentschappen heeft Overeenkomst van het Ministerie van Defensie.
De verwarring herinnert ons eraan dat de overheid nog steeds bezig is met het uitzoeken van haar relatie met grote taalmodelleringsbedrijven. Voorlopig lijkt de regering vooruitgang te boeken in het helpen van federale werknemers bij de interactie met ChatGPT, Llama, Claude en Gemini.
Dit verhaal wordt ondersteund door Tarbell AI Journalistiek Centrum.
