Dit zijn veel gebieden waar ChatGPT nuttig is, maar het gerechtsgebouw is misschien geen goede keuze. Nou, niet iedereen denkt er zo over, aangezien sommige Amerikaanse advocaten een boete hebben gekregen hun afhankelijkheid van het AI-model. Dit is een zeer interessante zaak, en het benadrukt de tekortkomingen van AI en de noodzaak om goed onderzoek te doen alvorens AI-zoekresultaten te vertrouwen.
De boete in kwestie is $ 5.000 waard en zal worden verdeeld over verschillende partijen die betrokken zijn bij de zaak. Steven Schwartz, de advocaat in de rechtszaak, spande dit aan tegen zijn cliënt en andere partijen. Hij deed dit door ChatGPT belangrijke punten te laten krijgen die hij in de rechtbank tegen de beklaagde zou gebruiken, en ja, er waren ernstige fouten.
In tegenstelling tot het AI-model, ChatGPT, kon de rechtbank hun bevindingen doen en vond de door AI gegenereerde vermelding van Steven Schwartz onjuist. Deze bevinding betekent dat Steven Schwartz naar de rechtbank kwam om een zaak voor de rechtbank te brengen met valse aanhalingen, en dus een boete rechtvaardigde. Maar hoe heeft de advocaat ChatGPT precies gebruikt voor zijn zaak en wat ging er precies mis?
Een boete van $ 5.000 voor het ophalen van feiten uit ChatGPT voor een rechtszaak
Steven Schwartz was de advocaat in de zaak waarbij zijn cliënt betrokken was en de Colombiaanse luchtvaartmaatschappij Avianca. Om de een of andere reden klaagde de cliënt van Steven de luchtvaartmaatschappijen aan en had hij een advocaat nodig om zijn cliënt bij te staan. Om beter voorbereid te zijn op de zaak, liet Steven ChatGPT doet wat huiswerk over soortgelijke gevallen.
Dit was een slecht idee dat hij had kunnen voorkomen als hij de ChatGPT-zoekresultaten had doorgelicht. Zoals we allemaal weten, hebben AI-modellen de neiging om informatie uit het niets te formuleren wanneer ze geen zinnig antwoord kunnen vinden. De New Yorkse advocaat Steven was zich niet bewust van de’manipulatieve’aard van AI-modellen, en nu leert hij op de harde manier.
ChatGPT bezorgde Steven valse rechtszaken die vergelijkbaar waren met die waarmee hij te maken zou krijgen rechtbank. Zonder te weten dat de informatie onjuist was, nam hij het als precedent voor de rechter. Welnu, de rechtbank deed haar huiswerk en kwam erachter dat de zaken”Martinez v. Delta Airlines en Miller v. United Airlines”niet bestaan.
De rechtbank kwam er snel achter en gaf een $ 5000 boete aan Steven Schwartz en zijn medewerkers in de zaak. Zeker, de rechtbank erkent de aanwezigheid van AI in de wet, maar er is behoefte aan bevestiging van de informatie die het geeft. Ja, AI speelt een cruciale rol in veel industrieën, maar we moeten voorzichtig zijn met het gebruik ervan.
