Kalifornischer Anwalt wegen ChatGPT-generierter falscher Gerichtszitate mit 10.000 $ Strafe belegt
Ein kalifornischer Anwalt wurde mit einer Geldstrafe von 10.000 $ belegt, weil er eine Berufung eingereicht hatte, die 21 von ChatGPT generierte falsche Gerichtszitate enthielt. Dies ist eine der höchsten Strafen, die ein kalifornisches Gericht für durch KI generierte Fehlinformationen verhängt hat. Der Vorfall unterstreicht die Risiken der Verwendung von KI in der Rechtspraxis und veranlasst die Justizbehörden und die Anwaltskammer des Bundesstaates, Vorschriften zu erlassen und Anwälte in der verantwortungsvollen Verwendung von KI zu schulen. Experten prognostizieren einen exponentiellen Anstieg solcher Fälle, da große Sprachmodelle zu Halluzinationen neigen und Anwälte unter dem Druck stehen, KI einzusetzen. Der Fall dient als eindringliche Warnung vor dem blinden Vertrauen auf KI-generierte Inhalte in Gerichtsakten.