OpenAI-CEO Sam Altman heeft zijn excuses aangeboden aan leden van de Canadese gemeenschap massale schietpartij gebeurde eerder dit jaar vanwege het niet taggen van een ChatGPT-account schutter aan wetshandhaving.
“De pijn die uw gemeenschap ervaart is onvoorstelbaar”, schreef Altman in zijn brief gedeeld Vrijdag op sociale media door premier David Eby van British Columbia. “Ik heb de afgelopen maanden veel aan je gedacht.”
Acht mensen kwamen om bij het bloedbad van 10 februari in de kleine gemeenschap van Tumbler Ridge in het noordoosten van British Columbia. Zes mensen werden dodelijk neergeschoten toen de 18-jarige Jesse Van Rootselaar het vuur opende op de Tumbler Ridge Middle School, zeiden de autoriteiten, en de moeder van de schutter en de 11-jarige broer stierven in een nabijgelegen woning. Van Rootselaar stierf aan een zelf toegebrachte schotwond, zeiden ambtenaren.
Altman schreef in zijn brief, gedateerd donderdag, dat Van Rootselaars ChatGPT-account in juni 2025 was geblokkeerd – ongeveer acht maanden voor de schietpartij.
“Ik betreur het ten zeerste dat we de politie in juni niet op de hoogte hebben gesteld van de verboden accounts”, aldus Altman.
In februari vertelde OpenAI aan CBS News dat het account van Van Rootselaar vorig jaar was gemarkeerd door geautomatiseerde misbruikdetectietools en menselijke onderzoekers die potentieel misbruik van ChatGPT voor gewelddadige activiteiten hadden geïdentificeerd. OpenAI zei dat het account later werd geblokkeerd wegens schending van het gebruiksbeleid.
OpenAI zei dat het bedrijf had overwogen om het account aan de wetshandhaving te melden, maar op dat moment had vastgesteld dat het account geen geloofwaardig risico op ernstig lichamelijk letsel voor anderen vormde en niet voldeed aan de verwijzingsdrempel.
“Onze gedachten zijn bij iedereen die getroffen is door de Tumbler Ridge-tragedie”, zei OpenAI in februari in een verklaring aan CBS News na de schietpartij. “We hebben proactief contact opgenomen met de Royal Canadian Mounted Police om informatie te verstrekken over het individu en hun gebruik van ChatGPT, en we zullen hun onderzoek blijven ondersteunen.”
OpenAI zegt dat ChatGPT is getraind om schade in de echte wereld te voorkomen, en de opdracht heeft gekregen om hulp te weigeren wanneer het ongeoorloofde bedoelingen detecteert. Gebruikers die plannen demonstreren om anderen schade toe te brengen, worden doorverwezen naar menselijke beoordelaars die bepalen of een zaak een dreiging van fysiek geweld inhoudt en moet worden doorverwezen naar de politie, aldus het bedrijf.
Altman schreef in zijn brief dat OpenAI gefocust zal blijven op preventie-inspanningen “om ervoor te zorgen dat zoiets nooit meer gebeurt”.
“Ik wil mijn diepste medeleven betuigen aan de hele gemeenschap”, zei Altman. “Niemand zou een tragedie als deze moeten meemaken.”
Eerder deze week zei procureur-generaal James Uthmeier uit Florida aangekondigd strafrechtelijk onderzoek naar OpenAI na het bekijken van berichten tussen ChatGPT en een student van de Florida State University beschuldigd van een schietpartij op de campus in april 2025 waarbij twee mensen omkwamen en verscheidene anderen gewond raakten.
Uthmeier zei dat zijn team had vastgesteld dat ChatGPT “belangrijk advies” had gegeven aan de vermeende schutter. Zijn kantoor vaardigde een dagvaarding uit aan OpenAI om gegevens op te vragen over de protocollen van het bedrijf voor het melden van mogelijke misdaden aan wetshandhavingsinstanties en de omgang met gebruikersbedreigingen.
Met betrekking tot de schietpartij in Florida zei een woordvoerder van OpenAI dinsdag in een verklaring aan CBS News dat “nadat het incident werd vernomen” het “een ChatGPT-account identificeerde waarvan werd aangenomen dat het verband hield met de verdachte en deze informatie proactief deelde met wetshandhavingsinstanties.”
