Ausgang aus der selbstverschuldeten KI-Unmündigkeit! (Teil 1)

„Künstliche Intelligenz“ (KI, AI) und „Maschinelles Lernen“ (ML), diese Begriffe sickern mittlerweile auch in die juristischen Diskussionen ein. KI hat schon immer die Fantasie Vieler beflügelt. Folglich ist auch gegenwärtig häufig Wunschdenken im Spiel, wenn in der Breite des Fachs über KI und ML gesprochen wird. Das Ganze wird erst recht komplex, wenn auch noch rechtliche Aspekte und rechtliche Wertungen hinzukommen sollen. Um an der Schnittstelle von KI und Recht sinnvolle Aussagen machen zu können, sind für Juristinnen und Juristen Grundkenntnisse über die der gegenwärtigen KI zugrundeliegenden Technologien unabdingbar. Dies ist häufig leichter gesagt als getan. Hinter der KI stecken regelmäßig mathematisch formulierte Algorithmen, die sich Nichtmathematikern nicht ohne Weiteres erschließen. Da sich die KI anschickt, in immer größeren Bereichen der Gesellschaft zumindest unterstützend mitzuwirken, wird naturgemäß die Schnittstelle mit dem Recht immer größer. Die KI selbst wird zunehmend Gegenstand von rechtlichen Fragestellungen. Umso erfreulicher, dass mit dem hier zu besprechenden Rechtshandbuch Artificial Intelligence und Machine Learning diesen Entwicklungen in großem Umfang Rechnung getragen wird. Ist das Rechtshandbuch geeignet zum Ausgang aus der selbstverschuldeten KI-Unmündigkeit? Im 1. Teil der Reihe wird der technische Teil des Buchs besprochen, der die ersten beiden Kapitel umfasst.

Zum Inhalt

Schon auf den ersten Blick wird eine deutliche Trennung zwischen einem technischen ersten Teil, nämlich den Kapiteln 1 und 2 (S. 1 bis 58) und den restlichen rechtlichen Kapiteln 3 bis 15 (S. 59-679) deutlich.

Die Kapitel im rechtlichen Hauptteil des Buches zeigen die ganze Palette an Rechtsgebieten, in den denen die KI schon jetzt eine Rolle spielt. Hier haben die Herausgeber nach einem kurzen Blick aus europarechtlicher Perspektive (Kapitel 3, S. 59-75, ca. 16 S.), das sich in der Tat aufdrängende Thema Haftungsrecht weit vorne im 4. Kapitel (S. 77-164, ca. 87 S.) platziert. Es folgt sodann das KI-Vertragsrecht (S. 165-289, ca. 124 S.), das richtigerweise in Fragestellungen bei Verträgen über KI (Kapitel 5, S. 165-219) und Fragestellungen bei Verträgen mit KI (Kapitel 6, S. 221-289) aufsplittet. Es folgen die Themen Immaterialgüterrecht (Kapitel 7, S. 291-335, ca. 44 S.), Datenschutzrecht (Kapitel 8, S. 336-507, ca. 171 S.), aktienrechtliche Verantwortung beim Einsatz von KI (Kapitel 9, S. 509-522, ca. 13 S.), Verbraucherschutzrecht (Kapitel 10, S. 523-538, ca. 15 S.), Arbeitsrecht (Kapitel 11, S. 539-558, ca. 19 S.), Strafrecht (Kapitel 12, S. 559-579, ca. 20 S.), Finanzaufsichtsrecht (Kapitel 13, S. 581-615, ca. 34 S.), Streitbeilegung (Kapitel 14, S. 617-650, ca. 33 S.) und KI in der Rechtsberatung (Kapitel 15, S. 651-679, ca. 28 S.).

Der Band hat mit dem Datenschutzrecht in (Kapitel 8) den einen großen thematischen Schwerpunkt und mit dem Haftungsrecht (Kapitel 4) und dem Immaterialgüterrecht (Kapitel 7) zwei weitere Schwerpunkte.

Einleitung (Kapitel 1, Kaulartz/ Braegelmann)

Die Einführung beschäftigt sich mit verschiedenen Definitionsversuchen von KI und maschinellem Lernen. Richtigerweise sehen die Autoren die Möglichkeit, KI zu definieren, eher kritisch und konzentrieren sich auf die sogenannte „schwache KI“. Diese sieht ihre Rolle nicht in der immer stärkeren Nachahmung immer weiterer Bereiche menschlicher kognitiver Fähigkeiten, sondern gibt sich mit der Entwicklung von Algorithmen zufrieden, die Menschen in verschiedenen Hinsichten unterstützen. Die Autoren deuten selber an, dass dies zwar „wenig innovativ“ klingt, trösten sich aber mit der Einschätzung, dass in den nächsten Jahren vermutlich die Entwicklung von Algorithmen der schwachen KI im Vordergrund des Interesses stehen wird. Kaulartz und Braegelmann ist hier voll zuzustimmen. Damit setzt das Handbuch bereits auf den ersten Seiten den fruchtlosen – und zum Glück langsam abflauenden Debatten – um „künstliche Anwälte“ und „künstliche Richter“[1] eine klare Grenze. Gleichwohl belassen es die Autoren nicht dabei, sondern haben einen Exkurs beigefügt, der sich ausdrücklich und sehr differenziert mit dem Thema Rechtsanwendung durch KI beschäftigt.[2]

Die Autoren erörtern weiter, wie die „Verständnisbildung zwischen Informatikern und Juristen“ vonstattengehen kann und weisen völlig zu Recht darauf hin, dass nur solide technische Kenntnisse Juristinnen und Juristen zur Teilnahme an einem interdisziplinären Fachgespräch über KI qualifizieren. Auch dies ist ja beileibe keine revolutionäre Erkenntnis und gleichzeitig ist es äußerst wichtig, dass Kaulartz und Braegelmann diese einfachen „Wahrheiten“ gleich zu Beginn des Handbuchs aussprechen. In einer Zeit eines durch die sozialen Medien potenzierten Fachdiskurses muss es dringend immer wieder gesagt werden, dass „die Juristinnen und Juristen in einem Rechtsstaat zumindest in technischer Hinsicht anschlussfähig und kommunikationsfähig werden [müssen], um zu verstehen, welche Art von KI sie im konkreten Praxisfall denn vor sich haben.“[3]

Technische Hintergründe (Kapitel 2, Stiemerling/ Kaulartz/ Huth/ Körner)

Mit der Darstellung der technischen Hintergründe von KI Systemen beschäftigt sich das 2. Kapitel. Es ist ein Schlüsselkapitel des Buches, soll es doch die Basis für ein Grundverständnis von KI-Technologien legen.

Dies soll mit fünf Beiträgen erreicht werden. Zunächst werden die technischen Grundlagen dargestellt. Der Autor Stiemerling will hier vier technische Bereiche der künstlichen Intelligenz unterscheiden. Dies sollen Mustererkennung, maschinelles Lernen, Expertensysteme sowie maschinelles Planen und Handeln sein. Dabei gibt er den Bereichen Mustererkennung und maschinelles Lernen den größten Raum, während das durchaus wichtige Thema „Expertensysteme“ nur aus drei knappen Absätzen besteht. Stiemerling vertieft richtigerweise das Thema „Neuronale Netze“ und „Deep Learning“. Beides sind immer wieder gehörte Schlagworte in den aktuellen KI-Diskussionen. Dabei stellt er eine für die Berechnung von Neuronenaktivierungsnetzen zentrale Summenformel vor, die er auch kurz erläutert. Sodann geht der Autor auf kritische Eigenschaften von KI-Systemen (schwer vorhersehbare Fehlermöglichkeiten, u.U. erhebliche Auswirkungen von Fehlern, geringe Transparenz, Regeländerung im laufenden Betrieb) ein und zeigt Möglichkeiten und Grenzen aus heutiger Sicht auf.

Der zweite Beitrag von Kaulartz beschäftigt sich mit dem Trainieren von Machine-Learning-Modellen. Der Autor erläutert die für die KI wesentlichen Begriffe wie „Modell“, „Feature“, „Label“, „Weights“ etc. mitsamt der dahinterstehenden mathematischen Formeln. Er motiviert sodann die Unterscheidung zwischen überwachtem (supervised) und unüberwachtem (unsupervised) Lernen. Näheres zu verteiltem Lernen (Federated Learning) trägt der Beitrag von Huth zusammen, während Körner Hinweise zur Nachvollziehbarkeit von KI-basierten Entscheidungen gibt. Einen Blick in die aktuelle Projektpraxis wirft Schröder am Schluss des 2. Kapitels.

Der Versuch, Juristinnen und Juristen wichtige Grundlagen der KI-Technik zu vermitteln, ist als solcher schon per se sehr verdienstvoll. Gleichwohl: Sicher kann man die KI so zu strukturieren, wie es Stiemerling hier in 2.1. gemacht hat. Dies sollte allerdings nicht derart apodiktisch vorgestellt werden. Die technischen Grundlagen sollen ja Juristinnen und Juristen mit dem diskursnötigen Wissen versorgen. Vor diesem Hintergrund ist die Apodexie, mit der hier von den „vier technischen Bereiche[n] der KI“ gesprochen wird, irritierend. Eine solche Einteilung mag eine bewusste und wohlüberlegte willkürliche Setzung des Autors aus seinem technischen Vorverständnis heraus sein, ein Naturgesetz ist sie nicht. Diesem Kapitel hätte es gut getan, eine spezifisch juristische Einteilung von KI anzubieten. So geht etwa Ashley[4] von Computermodellen juristischer Argumentation und juristischer Textanalyse aus. Anhand dieser, auch für technische Einsteiger sofort verstehbaren Unterscheidung, erläutert Ashley etwa die verschiedenen KI Technologien. Tauglich wäre auch die Unterscheidung in Dokumentenanalyse und Entscheidungsvorhersage von Fries in Kapitel 15.

Die Verwendung von Summenformeln und Funktionen aus der linearen Algebra ist ein zweischneidiges Schwert. Sie sind gut, weil neuronale Netze nun einmal genau mit solchen Funktionen und Formeln modelliert werden. Den Nichtmathematiker schrecken sie jedoch (leider) häufig ab. Auch wenn Kaulartz die Anwendung einer „Zufriedenheitsfunktion“ sehr schön konkret am Beispiel erläutert, werden ihm die meisten Leserinnen und Leser wohl nicht mehr in die Summenformel für die „Loss Function“ folgen. Das gesamte 2. Kapitel hat nach Ansicht des Rezensenten zu wenig Kontakt mit juristischen KI-Themen oder gar zum rechtlichen Teil des Buches.

Hier ist zu überlegen, ob man nicht die mathematische Maschinerie – für die 2. Auflage – in eine Anlage packt. Man könnte dann das technische Kapitel dreiteilig aufbauen: Grundlagen (neuronale Netze, Expertensysteme), dann der hervorragende Beitrag von Körner zur Nachvollziehbarkeit von KI-Entscheidungen (fehlende Transparenz ist auch im rechtlichen Teil ein Dauerthema) und anschließend vielleicht ein Ausblick auf aktuelle juristische KI-Projektpraxis.

Hinweis der Redaktion: Der Beitrag wird fortgesetzt.

Die Serie: Ausgang aus der selbstverschuldeten KI-Unmündigkeit!

[1]     Zu einer differenzierenden Darstellung des Einsatzes von KI in der Justiz vgl. Rühl, Kapitel 14.1.

[2]     S. 11 ff.

[3]     S. 7.

[4]     Ashley, Kevin D., Artificial Intelligence and Legal Analytics, 2017.