Der Einsatz von Künstlicher Intelligenz (KI) in der Justiz ist zweifellos ein Zukunftsthema – eines, das wir begrüßen, aber auch mit wachsamer Aufmerksamkeit begleiten müssen. Die Regierungsfraktionen von CDU und SPD haben einen Antrag vorgelegt, der den Austausch über KI zwischen Justiz, Verwaltung und Wirtschaft intensivieren will. Das klingt zunächst gut, ist aber bei näherem Hinsehen kaum mehr als eine Selbstverständlichkeit: Dass sich eine Senatsverwaltung mit Expert*innen vernetzt, ist keine politische Innovation, sondern schlicht ihre Aufgabe.

In meiner Rede im Plenum habe ich deutlich gemacht: KI kann gerade in der Justiz große Vorteile bringen – etwa bei der Auswertung großer Datenmengen in Massenverfahren. Doch ebenso wichtig wie technologische Möglichkeiten sind juristische Verantwortung und ethische Sensibilität. Entscheidungen in Gerichtsverfahren müssen immer von Menschen getroffen werden – nicht von Algorithmen. Es darf nicht passieren, dass sich Richterinnen oder Staatsanwältinnen zu sehr auf die Technik verlassen.

Hinzu kommt: KI-Systeme können Diskriminierung verstärken, wenn sie auf pauschalen Gruppenmerkmalen basieren. Genau hier müssen wir besonders wachsam sein – gerade in einem Bereich, der so zentral für unseren Rechtsstaat ist.

Und schließlich: Wer über Digitalisierung spricht, darf die IT-Sicherheit nicht ausklammern. Hier spart die Koalition an der völlig falschen Stelle. Angesichts zunehmender Cyberangriffe auf unsere Verwaltung, Justiz und kritische Infrastruktur ist es unverantwortlich, IT-Sicherheit unterzufinanzieren.

Bitte akzeptieren Sie YouTube-Cookies, um dieses Video abzuspielen. Wenn Sie dies akzeptieren, greifen Sie auf Inhalte von YouTube zu, einem Dienst, der von einer externen Drittanbieter bereitgestellt wird.

YouTube-Datenschutzrichtlinie

Wenn Sie diesen Hinweis akzeptieren, wird Ihre Wahl gespeichert und die Seite wird aktualisiert.

Accept YouTube Content

Die vollständige Rede zur zweiten Lesung des Antrags „Verstärkte Nutzung von IT und KI in der Berliner Justiz“ finden Sie hier im Wortlaut:

“ KI in der Justiz – nach wie vor ein wichtiges Thema. Aber nach wie vor stellt sich die Frage, wie schon bei der ersten Lesung: Wozu brauchen wir einen solchen Antrag im Parlament?

Der Antrag besteht ja allein darin, dass sich die Senatsverwaltung für Justiz mit Experten zur KI austauschen möchte. Man möchte sich also vernetzen. Man möchte sich Expertise holen. Das ist fein. Nur ist das ohnehin Aufgabe des Senats, eine pure Selbstverständlichkeit. Das erwarten wir schlicht von jeder Senatsverwaltung!

KI jedenfalls wird Einzug in alle Lebensbereiche halten, natürlich auch in die Justiz. Gerade Recherchetools sind unter Jurist*innen gern benutzte Handwerkszeuge, schon im Einsatz und auch hilfreich. 

So kann KI zum Beispiel genutzt werden, um die Auswertung großer Datenmengen zu vereinfachen, beispielweise in Massenverfahren. Das kann die Arbeit von Jurist*innen extrem erleichtern und genauer machen. Daher wird KI in der Justiz zu Recht von vielen gefeiert.

Dennoch gilt es, bei aller berechtigten Euphorie, auch die Risiken in den Blick zu nehmen. Und hierauf werden wir genau schauen!

Die Kritik bezieht sich oft auf die Frage der richterlichen Unabhängigkeit. Darauf, dass es ein Mensch sein muss, der letztlich in Gerichtsverfahren entscheidet. Auch das wurde im Rechtsausschuss diskutiert. Auch das ist allerdings allseits Konsens. Natürlich ist es der Mensch, also der Richter oder die Richterin, die letztlich entscheiden muss, nicht die KI. 

Was wir dafür brauchen, sind die Jurist*innen, die mit der IT verantwortungsvoll umgehen können. Knackpunkt ist: „Gut umgehen“ heißt nicht nur, mit der Technik klarzukommen. Sondern es sich nicht zu bequem zu machen. Nicht einfach von der KI generierte Entscheidungen übernehmen. Selbst denken und selbst entscheiden wird in der Justiz das Wichtigste bleiben.

Auch das Risiko möglicher Diskriminierung durch KI-basierte Abläufe muss bedacht werden. Immer öfter übernehmen automatisierte Systeme Entscheidungen. Es werden Wahrscheinlichkeitsaussagen auf der Grundlage von pauschalen Gruppenmerkmalen getroffen.

Das wirkt auf den ersten Blick objektiv, kann aber Stereotype reproduzieren. Hier ist Sensibilität gefragt, besonders, wenn solche Systeme nun an Gerichten eingesetzt werden sollen. Auch hierauf werden wir genau schauen!

Ich komme zum Schluss:

Viel wichtiger als vorliegender Antrag wäre ein Blick auf die finanziellen Mittel, die in Berlin für die IT-Sicherheit zur Verfügung gestellt werden. Nämlich zu wenig! Hier hat die Koalition definitiv an der falschen Stelle gespart.  Denn, liebe Koalition:

Zur Sicherheit in Berlin gehört auch IT-Sicherheit!

Es passiert immer häufiger, dass unsere Verwaltung, die Justiz, Universitäten oder Krankenhäuser Opfer von Cyberangriffen werden. Bei der IT spart die Koalition aber in einer Größenordnung, dass sogar die Chefin des ITDZ vor einem Gefährdungspotenzial warnte.

Hier ist die Koalition aufzufordern, künftig einen anderen Schwerpunkt zu setzen. Bei den anstehenden Haushaltsberatungen muss klar sein: An der IT – Sicherheit Berlins darf nicht gespart werden.

Vielen Dank.“