Een partner bij het elite advocatenkantoor Sullivan & Cromwell in Wall Street schreef een verontschuldigingsbrief aan een federale faillissementsrechter voor de rechtbank inzendingen met AI-hallucinaties.
Andrew Dietderich, co-hoofd van Global Finance & Restructuring bij het bedrijf, zei in een briefje van 18 april dat eerdere documenten onnauwkeurige citaten en andere fouten bevatten, waaronder AI-hallucinaties.
“‘Hallucinaties’ zijn voorbeelden waarbij kunstmatige intelligentie-instrumenten citaten van rechtszaken verzinnen, autoriteiten verkeerd citeren of juridische bronnen genereren die niet bestaan”, zei Dietderich in zijn brief. “Wij betreuren het ten zeerste dat dit is gebeurd.”
Uit een bij de brief gevoegde tabel blijkt dat de motie onjuiste zaaknamen en -nummers bevat en een frauduleuze vermelding van de zaken lijkt te zijn.
Dietderich zei dat de fout van Sullivan & Cromwell, die het failliete bedrijf Prince Global Holdings vertegenwoordigt, werd opgepakt door het advocatenkantoor Boies Schiller Flexner, dat de schuldeisers vertegenwoordigt, en dat hij hen heeft bedankt en zich heeft verontschuldigd.
Hij zei dat Sullivan & Cromwell – een 140 jaar oud kantoor met meer dan duizend advocaten – een alomvattend beleid heeft als het gaat om het gebruik van AI en dat er voorzorgsmaatregelen zijn getroffen om een soortgelijk scenario te voorkomen. Het beleid van het bedrijf werd niet gevolgd, en door de fout moest het bedrijf ook het beoordelingsproces doorlopen voor een citaat, zei hij.
Dietderich schreef aan de in Manhattan gevestigde hoofdrechter Martin Glenn dat hij en het bedrijf “zich terdege bewust waren van onze verantwoordelijkheid om de juistheid van alle aangiften te garanderen.”
“Ik neem de verantwoordelijkheid op me als dit niet gebeurt”, zei hij, eraan toevoegend dat ze een gecorrigeerde versie van de aanvraag zouden indienen.
Vertegenwoordigers van het bedrijf en Dietderich reageerden niet op vragen van Business Insider. Ook de vertegenwoordiger van de rechter reageerde niet.
Als de tijd daar is AI-hallucinaties op juridisch gebied is Sullivan & Cromwell eigenaar van het bedrijf.
Valse officiële citaten kwamen vanaf 2023 vaker voor, aldus juridisch onderzoeker Damien Charlotin, die een openbare database bijhoudt AI-hallucinaties in rechtszaken.
