AI is inmiddels aangekomen bij het Ministerie van Financiën.
Sam CorcosDe voormalige startup-leider en aangesloten bij het Department of Government Efficiency, die nu als Chief Information Officer bij het ministerie van Financiën fungeert, lijkt te hebben goedgekeurd om minstens $ 1,5 miljoen uit te geven aan tot 3.000 licenties voor ChatGPTOpenAI-platform, volgens federale uitgavengegevens. Het bureau heeft een verplichting om 1,5 miljoen dollar aan de dienst te besteden en heeft volgens de gegevens al meer dan 500.000 dollar aan de technologie uitgegeven.
Snel bedrijf heeft een gebruikersovereenkomst verkregen waarin wordt aangegeven dat Treasury werknemers toestaat ChatGPT te gebruiken voor “officiële” missiedoeleinden. Deze doelen omvatten onder bepaalde omstandigheden het gebruik van technologie met wat bekend staat als ‘gecontroleerde niet-geclassificeerde informatie’, een term die de overheid geeft aan informatie die niet geclassificeerd is, maar toch waarborgen vereist. Het uitgebreide gebruik van de tool komt voort uit de toenemende druk op federale agentschappen om kunstmatige-intelligentiesystemen in te voeren, waarvan voorstanders zeggen dat ze de efficiëntie kunnen verbeteren en bureaucratische ontslagen kunnen verminderen.
In dit geval omvatten de regels in de gebruikersovereenkomst strikte beperkingen met betrekking tot het gebruik van het AI-systeem – in het bijzonder bijvoorbeeld met betrekking tot persoonlijk identificeerbare informatie, marktgevoelige economische informatie en federale belastinggegevens. De regel verbiedt ook dat medewerkers van het ministerie van Financiën zonder uitdrukkelijke toestemming proberen de veiligheidsmaatregelen van AI-chatbots te manipuleren of te omzeilen. Werknemers mogen de output van het AI-systeem niet gebruiken zonder dat een mens het werk heeft beoordeeld, of de rol van AI bij het creëren van een bepaald product verdoezelen, volgens de gebruikersovereenkomst. Overtreding van deze regels kan ertoe leiden dat iemand wordt ontslagen, zo staat in de overeenkomst.
Een voormalige functionaris van het ministerie van Financiën zei dat het afdelingspersoneel de technologie zou kunnen gebruiken voor zwaar werk dat normaal gesproken lang zou duren. Tony Arcadi, de ambtenaar vervangen door Sam Corcos, vertelde het verhaal Snel bedrijf dat er talloze gebruiksscenario’s zijn die kunnen profiteren van deze technologie, waaronder het automatiseren van administratief werk. “Als het correct en met strenge controles wordt uitgevoerd, kan de LLM een krachtvermenigvuldiger zijn voor inlichtingen, operaties, financiën, wetshandhaving en publieke betrokkenheid”, zei hij. Het agentschap heeft eerder geïnvesteerd in een kleinere cache dan de ChatGPT-licentie.
Het ministerie van Financiën en OpenAI hebben niet gereageerd op verzoeken om commentaar. Nog in september, agentschap een nalevingsplan uitgebracht richt zich ook op het bevorderen van het gebruik van AI een strategie schetst zijn benadering van technologie.
Te midden van pogingen om het gebruik van AI binnen de overheid, inclusief het leger, te versnellen GenAI.mil-toolEr blijft een ernstig risico bestaan dat overheidsfunctionarissen te veel vertrouwen stellen in technologie die verre van perfect is.
Het lijkt er bijvoorbeeld op dat er een recent rapport van het ministerie van Volksgezondheid en Human Services is gemaakt met behulp van kunstmatige intelligentie – en inclusief valse citaten. Federale medewerkers hebben ChatGPT en Perplexity gebruikt en nemen deze eindelijk op verkeerde aanhalingstekens en andere fouten in het document.
