Zwei New Yorker Anwälte wurden mit einer Geldstrafe belegt, nachdem sie einen juristischen Schriftsatz mit gefälschten, von ChatGPT generierten Fallzitaten eingereicht hatten.
Steven Schwartz von der Anwaltskanzlei Levidow, Levidow & Oberman gab zu, den Chatbot verwendet zu haben, um den Auftrag im Personenschadensfall eines Mandanten gegen die Fluggesellschaft Avianca zu recherchieren.
Er hatte es genutzt, um rechtliche Präzedenzfälle zu finden, die den Fall stützten, aber Anwälte, die die kolumbianische Fluggesellschaft vertraten, teilten dem Gericht mit, dass sie einige angeführte Beispiele nicht finden konnten – verständlich, da sie fast ausschließlich frei erfunden waren.
Einige davon waren völlig gefälscht, während andere Richter falsch identifizierten oder Fluggesellschaften involvierten, die nicht existierten.
Bezirksrichter Peter Kevin Castel sagte, Schwartz und sein Kollege Peter LoDuca, der in Schwartz' Schriftsatz genannt wurde, hätten in böser Absicht gehandelt und „bewusste Vermeidungshandlungen sowie falsche und irreführende Aussagen gegenüber dem Gericht" gemacht.
Teile des Schriftsatzes seien „Kauderwelsch" und „unsinnig" und enthielten falsche Zitate, fügte der Richter hinzu.
Weiterlesen:
Ist ChatGPT der ultimative Hausaufgaben-Cheat?
Bitte verwenden Sie den Chrome-Browser für einen besser zugänglichen Videoplayer
2:16 Wird dieser Chatbot Menschen ersetzen?
2:16 Wird dieser Chatbot Menschen ersetzen? Während generative KI wie ChatGPT von OpenAI und Bard von Google oft beeindruckend sind, neigen sie dazu, bei Antworten zu „halluzinieren", da sie möglicherweise kein wirkliches Verständnis für die ihr zugeführten Informationen haben.
Eine der Bedenken derjenigen, die sich Sorgen über das Potenzial der KI machen, betrifft die Verbreitung von Desinformation.
Auf die Frage von Sky News, ob es zum Verfassen eines Rechtsbriefs verwendet werden sollte, antwortete ChatGPT selbst: „Obwohl ich allgemeine Informationen und Unterstützung bereitstellen kann, ist es wichtig zu beachten, dass ich ein KI-Sprachmodell und kein qualifizierter Jurist bin."
Richter Castel sagte, es sei „von Natur aus unangemessen", dass Anwälte KI „zur Unterstützung" nutzen, warnte jedoch davor, dass sie dafür verantwortlich seien, sicherzustellen, dass ihre Unterlagen korrekt seien.
Er sagte, die Anwälte hätten „weiterhin an den falschen Meinungen festgehalten", nachdem das Gericht und die Fluggesellschaft sie befragt hätten.
Schwartz, LoDuca und ihre Anwaltskanzlei wurden zur Zahlung einer Gesamtstrafe von 5.000 US-Dollar (3.926 £) verurteilt.
Levidow, Levidow & Oberman erwägt, Berufung einzulegen, da sie „einen Fehler in gutem Glauben begangen haben, indem sie nicht geglaubt haben, dass ein Stück Technologie Fälle aus einem Guss machen könnte".
Kommentare
Kommentar veröffentlichen