KI nimmt sich das Recht raus

Dass  selbst bodenständige Volksbanken und Sparkassen schon in absehbarer Zeit auch wichtige Entscheidungen von der “Künstlichen Intelligenz“ übernehmen lassen, dürfte zu erwarten sein. 

Rechtsanwalt: Fabian Fritsch: „Die großen Zahlungsdienstleister wie PayPal oder Klarna machen es vor und auch Neo-Banken stehen dem Einsatz offen gegenüber. Konten werden mit hohen Guthaben mehr oder weniger willkürlich gesperrt, nur weil eine auf Prozessoptimierung programmierte „Intelligenz“ der Meinung ist, einem Algorithmus entsprechen zu müssen und STOPP zu sagen!“

Rechte müssen auch durchgesetzt werden

Wo führt das hin? Laut Fritsch werden die entscheidenden Gerichte auf nationaler und internationaler Ebene schon bald wichtige Entscheidungen treffen, um KI-Entscheidungen zumindest in der Übergangszeit nicht zu mächtig werden zu lassen. Dann braucht es  Anwälte, die diese Rechte durchsetzen.

Aber: „Aufhalten wird man diese Entwicklung damit sicher nicht!“ Er führt einen Großteil unberechtigter Sperrungen von PayPal, anderen Zahlungsdienstleistern oder generell von Werbe- sowie sozialen Plattformen darauf zurück, dass entsprechende Entscheidungen nicht mehr von Menschen getroffen werden und selbst Beschwerden zunehmend automatisiert bearbeitet werden: „Da werden Antworten beispielsweise über sogenannten Bots generiert - und sind deswegen selten individuell gestaltet! Es geht hierbei nicht um Höflichkeitsfragen, auch enthalten derartige Antworten auch brauchbare Allgemeinplätze, nur wird eben gerade kein Bezug zum konkreten Fall hergestellt. Das ist das Problem!“ Daher kommt man mit Reden und Schreiben auch nicht dagegen an. Letzten Endes kann dann oftmals nur der Gang zu den Gerichten helfen. Denn „Chatbots können noch nicht vor Gericht auftreten“, so Fritsch.  

Ein aktuelles Urteil verpflichtet z.B. Banken dazu, Kreditvergaben nicht allein von automatisch generierten und rein datenbasierten Schufa-Scores abhängig zu machen.

KI als Büchse der Pandora

Fritsch: „Die aktuellen Probleme der Postbank wiederum dürften nach meiner Meinung daher herrühren, dass die gewünschten Effekte der Migration nicht eingetreten sind und die KI als geöffnete Büchse der Pandora sich als nicht hinreichend imstande gezeigt hat, die anstehenden Aufgaben zu meistern!“ Als Anwalt geht Fritsch davon aus, dass gerade sein Berufsstand in Zukunft dafür sorgen muss, dass sich die KI bei all ihren Vorteilen nicht zu viel Recht herausnimmt, was sie aktuell noch tut in einem mehr oder weniger rechtsfreien Raum.

Der Jurist betont jedoch, dass nicht jede Sperrung, auch wenn sie über KI angestoßen ist, automatisch unzulässig oder unberechtigt ist. Vielmehr muss stets im Einzelfall geprüft werden, ob eine Sperrung angreifbar ist. Auch sei eine Antwort eines Chatbots nicht schon deswegen inhaltlich falsch, weil sie von einer Maschine stamme. „Letztlich sind wir ja alle erstaunt, was ChatGPT heute schon auf Anfragen zu liefern im Stande ist“, so Fritsch. 

Rechtsberatung zu KI-Themen

Im Falle unberechtigter Sperrungen kann insbesondere bei eingefrorenen Guthaben und hieraus folgender finanzieller Not juristisch für Schnellentschlossene die einstweilige Verfügung ein probates Mittel sein. „Diese Lösung ist zwar schnell, hat aber auch klare Nachteile“, so der Jurist. Doch es bestehen freilich alternativ auch andere Mittel und Wege, die im Rahmen einer gemeinsamen Strategie sorgsam abgewogen werden müssen. „Ich denke hierbei nicht nur an den Weg über ein Hauptsacheverfahren – denn manchmal kommt man auch auf dem grünen Weg weiter“ so Fritsch.

Der Hamburger Rechtsanwalt aus der Kanzlei Hafencity steht im mit seiner Erfahrung im Wirtschaftsrecht zu Fragen rund um unter Umständen unzulässigen Gebrauch von KI als Ansprechpartner zur Verfügung – betroffenen Opfern, aber auch StartUps, die KI rechtssicher integrieren und nutzen wollen.