Advocaten geven ChatGPT de schuld dat ze hen hebben misleid om valse jurisprudentie aan te halen

NEW YORK – Twee verontschuldigende advocaten die reageerden op een boze rechter van de federale rechtbank van Manhattan gaven ChatGPT donderdag de schuld voor het misleiden van hen om nep juridisch onderzoek op te nemen in een rechtszaak.

Advocaten Stephen A. Schwartz en Peter LoDuca worden mogelijk gestraft voor het indienen van een rechtszaak tegen een luchtvaartmaatschappij die verwijzingen bevatte naar eerdere rechtszaken waarvan Schwartz dacht dat ze echt waren, maar die eigenlijk waren uitgevonden door de AI-aangedreven chatbot.

Schwartz zei dat hij de baanbrekende software gebruikte om te zoeken naar juridische precedenten ter ondersteuning van de zaak van een klant tegen de Colombiaanse luchtvaartmaatschappij Avianca over een verwonding tijdens de vlucht in 2019.

De chatbot, die de wereld heeft verbluft door essayachtige antwoorden te produceren op claims van gebruikers, heeft verschillende gevallen van luchtvaartongevallen gesuggereerd die Schwartz niet kon vinden via de gebruikelijke methoden die bij zijn advocatenkantoor worden gebruikt.

Het probleem was dat veel van deze gevallen niet echt waren of niet-bestaande luchtvaartmaatschappijen betroffen.

Schwartz vertelde de Amerikaanse districtsrechter B. Kevin Castle verklaarde dat hij “onder de misvatting opereerde … dat deze site deze problemen kreeg van een aantal bronnen waartoe ik geen toegang had.”

Hij zei dat hij “helaas had gefaald” in het uitvoeren van vervolgonderzoek om ervoor te zorgen dat de citaten correct waren.

“Ik begreep niet dat ChatGPT problemen kon verzinnen”, zei Schwartz.

Microsoft heeft ongeveer 1 miljard dollar geïnvesteerd in OpenAI, het bedrijf achter ChatGPT.

Het succes ervan, dat heeft aangetoond hoe kunstmatige intelligentie de manier waarop mensen werken en leren kan veranderen, heeft bij sommigen tot zorgen geleid. Honderden leiders uit de industrie ondertekenden in mei een brief waarin ze waarschuwden dat “het verminderen van het uitstervingsrisico van AI een wereldwijde prioriteit moet zijn, samen met andere maatschappelijke risico’s zoals pandemieën en een nucleaire oorlog.”

Rechter Castell leek verbijsterd en overstuur door de ongewone gebeurtenis en teleurgesteld dat advocaten niet snel handelden om de valse juridische citaten te corrigeren toen ze voor het eerst op het probleem werden gewezen door de advocaten van Avianca en de rechtbank. Avianca haalde valse jurisprudentie aan in de indiening van maart.

De rechter confronteerde Schwartz met een enkele rechtszaak die het computerprogramma had verzonnen. Het werd aanvankelijk beschreven als een onrechtmatige doodzaak die door een vrouw tegen een luchtvaartmaatschappij was aangespannen, om vervolgens te veranderen in een rechtszaak over een man die een vlucht naar New York had gemist en extra kosten moest maken.

“Kunnen we het erover eens zijn dat dit juridische onzin is?” vroeg Castell.

Schwartz zei dat hij ten onrechte geloofde dat de verwarrende presentatie werd veroorzaakt door uittreksels uit verschillende delen van de zaak.

Toen Castel klaar was met zijn ondervraging, vroeg Schwartz of hij nog iets te zeggen had.

“Ik wil mijn oprechte excuses aanbieden”, zei Schwartz.

Hij voegde eraan toe dat hij persoonlijk en professioneel had geleden onder de blunder en zich “beschaamd, vernederd en diep berouwvol” voelde.

Hij zei dat hij en het bedrijf waarvoor hij werkte – Livido, Livido en Opperman – voorzorgsmaatregelen hadden genomen om ervoor te zorgen dat zoiets niet meer zou gebeuren.

Luduca, de andere advocaat die aan de zaak werkte, zei dat hij Schwartz vertrouwde en niet voldoende had beoordeeld wat hij had verzameld.

Nadat de rechter delen van een van de aangehaalde zaken hardop had voorgelezen om te laten zien hoe gemakkelijk het was om te onderscheiden dat het “brabbeltaal” was, zei Loduca: “Het kwam nooit bij me op dat dit een nepzaak was.”

Hij zei dat het resultaat “me enorm pijn doet”.

Ronald Minkoff, een advocaat van het advocatenkantoor, vertelde de rechter dat het verzoek “nalatigheid veroorzaakte, geen kwade trouw” en niet zou moeten leiden tot straffen.

Advocaten hebben historisch gezien moeite gehad met technologie, vooral nieuwe technologie, zei hij, “en het is er niet eenvoudiger op geworden.”

De heer Schwartz, die nauwelijks federaal onderzoek doet, koos ervoor om deze nieuwe technologie te gebruiken. Minkoff zei dat hij dacht dat hij te maken had met een standaardzoekmachine, en wat hij deed was spelen met scherp vuur.

Daniel Shen, universitair hoofddocent en assistent-directeur van onderzoek in het Center for Legal and Court Technology aan het College of William & Mary Law, zei dat hij de zaak van Avianca vorige week introduceerde tijdens een conferentie die tientallen deelnemers persoonlijk en online uit de staat en de federale overheid trok . Rechtbanken in de Verenigde Staten, waaronder de Manhattan Federal Court.

Hij zei dat het onderwerp schok en verwarring veroorzaakte tijdens de conferentie.

“We hebben het over het zuidelijke district van New York, het federale district dat zich bezighoudt met de grote zaken, 9/11 voor alle grote financiële misdrijven”, zei Sheen. “Dit was het eerste gedocumenteerde geval van mogelijk professioneel wangedrag door een advocaat die generatieve AI gebruikte.”

Hij zei dat de zaak aantoonde dat advocaten misschien niet begrijpen hoe ChatGPT werkt, omdat het de neiging heeft te hallucineren en over fictieve dingen te praten op een manier die realistisch lijkt, maar dat niet is.

“Het benadrukt de gevaren van het gebruik van veelbelovende AI-technologieën zonder de risico’s te kennen”, zei Shen.

De rechter zei dat hij later over de straffen zal beslissen.