Een coalitie van organisaties roept de Amerikaanse regering op om de banden met de xAI van Elon Musk te verbreken, nu Grok voor uitdagingen staat. Materiaal met seksueel misbruik van kinderen (CSAM) internationale schandalen en onderzoeken.
In een open brief exclusief gedeeld met TechCrunch, roepen belangengroepen zoals Public Citizen, het Center for AI and Digital Policy en de Consumer Federation of America het Office of Management and Budget (OMB) op om het gebruik van de Grok-chatbot door federale instanties buiten gebruik te stellen in het licht van zorgen over de veiligheid van gebruikers.
xAI tekent deal met VS General Services Administration (GSA) vorig jaarbiedt Grok aan federale agenten aan. Grok bemiddelt vervolgens in contracten om diensten aan te bieden Ambtenaren van het Ministerie van Defensie en het Pentagonveiligheidsproblemen veroorzaken. Volgens TechCrunch maakt het ministerie van Volksgezondheid en Human Services ook actief gebruik van Grok.
Vernietigbare snelheid van het licht
“Onze grootste zorg is dat Grok consequent heeft bewezen een onveilig groottaalmodel te zijn”, vertelde een van de auteurs van de brief, JB Branch, aan TechCrunch. “Maar er is ook een diepe geschiedenis waarin Grok verschillende inzinkingen heeft meegemaakt, waaronder antisemitische tirades, seksistische tirades en geseksualiseerde beelden van vrouwen en kinderen.” De coalitie heeft soortgelijke brieven geschreven waarin ze in het verleden hun bezorgdheid uitten over Grok, en waarin de OMB wordt gevraagd de veiligheidsfouten van Grok te onderzoeken.
De afgelopen maand hebben buitenlandse en binnenlandse leiders xAI opgeroepen om sterkere beschermingsmaatregelen te implementeren risico lopen op wijdverbreide verbodenwaarbij India, Frankrijk, het Verenigd Koninkrijk en de Europese Unie officiële onderzoeken naar de Grok-deepfake-kwestie aankondigen. Procureur-generaal van Californië, Rob Bonta, toen een last- en ophoudbrief sturen tegen xAI, bewerend dat het bedrijf de Californische wet op het publieke fatsoen en de nieuwe AI-regelgeving heeft geschonden.
Indonesië vroeger toegang tot Grok blokkeren Terwijl staatsfunctionarissen wachtten op de reactie van xAI, hief ze het tijdelijke verbod op 1 februari op, daarbij verwijzend naar een brief die het bedrijf van Musk aan het Ministerie van Communicatie en Digitaal had gestuurd. Volgens de brief heeft xAI nieuwe veiligheidsmaatregelen geïmplementeerd om verder misbruik te voorkomen. Het Indonesische ministerie zei dat het het veiligheidshek van Grok zou blijven controleren en testen en het verbod opnieuw zou instellen als er nog meer illegale inhoud zou verschijnen.
De chatbot werd beschuldigd van het ontbreken van sterke waarborgen die voorkomen dat er intieme beelden van echte mensen en minderjarigen zonder wederzijdse toestemming worden gemaakt. Volgens het rapport van het Center for Countering Digital Hate (CCDH) heeft Grok een schatting gemaakt 3 miljoen seksuele afbeeldingeninclusief die met afbeeldingen van kinderen, gedurende een periode van 11 dagen.
