Gerichtliche Kontrolle automatisierter Verwaltungsakte (2)

Gegenstand des Beitrags sind allein automatisierte Verwaltungsakte im Sinne des § 35 a VwVfG. Um automatisierte Informationsauswertungsprozesse (etwa von Nachrichtendiensten oder in Form von automatischer Kennzeichenerfassung), (teil-)automatisiertes staatliches Informationshandeln (etwa in Form der Corona-Warn-App oder der Notfallwarn- App NINA) sowie um automatisierte Beschaffungsvorgänge und sonstige automatisierte Realakte ohne VA-Qualität soll es nicht gehen. Überdies geht es allein um automatisiert erlassene Verwaltungsakte und nicht um solche, die ihrerseits automatisierte Prozesse regeln (zum Beispiel Abschaltalgorithmen in Genehmigungsbescheiden für Windräder oder etwa Schallimmissionsalgorithmen im Schienenverkehr).

Ausblick: mögliche weitere Automatisierungsschritte

Blickt man über den aktuellen Rechtsstand hinaus auf mögliche künftige Automatisierungsschritte, dann würde man sich – abgesehen von allgemeinen verfassungsrechtlichen Fragen – aus verwaltungsgerichtlicher Perspektive zunächst fragen, wie die gerichtliche Kontrolle automatisierter Ermessensentscheidungen ausgestaltet sein müsste. Dabei geht es – vereinfacht gesagt – um die Prüfung der inneren Entscheidungsgrenzen. Eine sinnvolle Überprüfung eines Bescheids auf Ermessensfehler nach § 114 VwGO ist ohne die Nachvollziehbarkeit der Funktionsweise der eingesetzten technischen Anlagen und Algorithmen kaum denkbar. Insofern käme auch die Notwendigkeit auf die Verwaltungsgerichte zu, entsprechenden grundlegenden technischen Sachverstand zu entwickeln, um zumindest sachgerecht Sachverständige beauftragen zu können.

Bei einer in einem weiteren hypothetischen Schritt möglichen Automatisierung von Entscheidungen mit Beurteilungsspielraum sind – wiederum vereinfacht – die äußeren Entscheidungsgrenzen maßgeblich. Die Einhaltung der Vorschriften des Verfahrens, das richtige Verständnis der gesetzlichen Begriffe, der zutreffende Sachverhalt, die Einhaltung allgemeingültiger Bewertungsmaßstäbe und des Willkürverbots könnten möglicherweise auch ohne eine genaue Kenntnis der eingesetzten Technik überprüft werden. Allerdings stellt sich dann unter anderem die Frage, wie weit der Begriff des Verfahrens in diesem Zusammenhang reicht. Unter Umständen wäre aber die Kenntnis der konkreten Entscheidungsparameter ausreichend, ohne dass eine Prüfung geboten wäre, was das System aus welchen Gründen hieraus genau macht. Letztlich würde sich jedoch die Frage stellen, ob und unter welchen Umständen ein automatisiertes System willkürlich handeln kann. Bei einem klassischen Algorithmus, der mit festgelegten Wenn-dann-Verknüpfungen arbeitet, könnte daran zu denken sein, dass dieser mit einer Verwaltungsvorschrift vergleichbar ist, sodass bei willkürfreier Programmierung eine willkürliche Entscheidung mangels denkbarer Abweichung vom Entscheidungsprogramm praktisch undenkbar wäre.

Die Frage würde sich jedoch verschärft stellen, wenn – im letzten gedanklichen Schritt – künftig möglicherweise auch KI-gestützte Systeme zur (automatisierten) Entscheidungsfindung zum Einsatz kämen.²⁰ An dieser Stelle soll nicht näher darauf eingegangen werden, welche verschiedenen Begriffsverständnisse von künstlicher Intelligenz bestehen und welche unterschiedlichen Arten KI-gestützter Systeme es gibt.²¹ Aus der gerichtlichen Rechtsschutzperspektive käme es auf die technische Nachvollziehbarkeit der Entscheidungsfindung im Einklang mit den Vorstehenden Überlegungen in diesem Fall im Wesentlichen nur an, soweit Entscheidungen betroffen sind, bei denen Entscheidungsspielräume der Verwaltung bestehen. Bei gebundenen Entscheidungen macht allerdings ein Einsatz von KI auch wenig Sinn. Problematisch ist allerdings, dass bei KI-gestützten Systemen die Nachvollziehbarkeit des Entscheidungsprozesses schon systembedingt eingeschränkt ist. Selbstlernende Algorithmen sind regelmäßig eine Art Blackbox, weil zwar im Ergebnis festgestellt werden kann, dass der Algorithmus gelernt hat, ein bestimmtes Muster zu erkennen und einem Sachverhalt zuzuordnen, aber nicht unbedingt, wie er das getan hat. Hier bedürfte es vor einem praktischen Einsatz in der nach außen gerichteten Verwaltungstätigkeit ggf. einer rechtlichen Regulierung dahingehend, dass eine Pflicht zur programmiertechnischen Schaffung von Überprüfungsmöglichkeiten verankert wird.²²

Überdies besteht das Problem, dass selbstlernende Algorithmen im Ergebnis diskriminierende Entscheidungen treffen können, weil sie zwar vorurteilsfrei aus dem ihnen vorliegenden Material lernen, dieser Lernprozess aber rein statistisch auf Korrelationen beruht und weder Kausalitäten berücksichtigt noch verfassungsrechtliche Wertungen.²³

Fazit: offene Probleme und Lösungsansätze

Insgesamt lässt sich zu den eingangs formulierten Fragen eine gewisse Entwarnung konstatieren. Aktuell ist noch kein Paradigmenwechsel für die Gerichte hinsichtlich der Kontrolle der digitalen Verwaltungstätigkeit festzustellen. Vollautomatisierte Entscheidungen bei gebundenen Verwaltungsakten können die Verwaltungsgerichte grundsätzlich im Rahmen ihres normalen Handwerkszeugs überprüfen, ohne dass sie in jedem Einzelfall wissen müssen, was für eine Technik in welcher Form eingesetzt wurde. Das könnte sich ändern bei einem erweiterten Einsatz von Automatisierungsprozessen, insbesondere wenn es um Ermessensentscheidungen und Beurteilungsspielräume geht.

Allerdings dürften die Verwaltungsgerichte auch hierfür generell gut gewappnet sein. Es ist nichts grundsätzlich Neues, dass auch hochtechnische Fragen vor Verwaltungsgerichten verhandelt werden, wozu ggf. die Hilfe externer Sachverständiger hinzugeholt werden kann. Angesichts der erforderlichen fachrechtlichen Ermächtigung für automatisierte Verwaltungsakte ist im Übrigen davon auszugehen, dass sich in den jeweils potenziell zuständigen Kammern – evtl. nach einer Einarbeitungszeit – ein entsprechender Sachverstand ausbildet. Darüber hinaus kann es aber geboten sein, durch technische Protokollierungspflichten die Nachvollziehbarkeit der Entscheidungsprozesse dadurch sicherzustellen, dass Entscheidungsalgorithmen so aufgebaut sein müssen, dass letztlich die gerichtliche Kontrolle ermöglicht wird. In diesem Zusammenhang stellt sich die Frage, wie es sich mit der materiellen Beweislast verhält, wenn eine solche Nachvollziehbarkeit nicht gewährleistet ist. Kann dies dem jeweils materiell beweisbelasteten Beteiligten zum Nachteil gereichen? Angesichts der Tatsache, dass der automatische Entscheidungsprozess in die Sphäre der Behörde fällt, wäre unter Umständen an eine Beweislastumkehr zu denken. Diese ist dem Verwaltungsprozessrecht aber eher fremd.

Denkbar wäre demgegenüber eine Berücksichtigung im Rahmen der Beweiswürdigung. Dabei dürfte es entscheidend auf die jeweiligen Dokumentationsanforderungen ankommen, d. h., die Gerichte müssen wissen bzw. feststellen können, auf welchem Sachverhalt die Entscheidung beruhte. Dies kann je nach eingesetztem Verfahren sowohl im Detailgrad als auch im Format sehr unterschiedlich ausfallen. Hier wäre daran zu denken, ob für die Protokollierung von automatisierten Entscheidungsverfahren allgemeine technische Leitlinien geschaffen werden sollten. Das wäre wünschenswert, um in vergleichbarer Weise jeweils im Vorhinein zu wissen, welche Parameter protokolliert werden, und an eine fehlerhafte Dokumentation ggf. Rechtsfolgen anknüpfen lassen zu können. Eine weitere offene Frage betrifft den Zugang zum Verwaltungsverfahren. Automatisierte Entscheidungsprozesse dürften regelmäßig eine digitale Antragstellung sowie eine digitale Angabe von Sachverhaltsdaten durch die Bürger voraussetzen. Denkbar ist, dass man sich dabei eines Webbrowsers bedienen muss (siehe etwa die Corona-Soforthilfe im Land Berlin). Hier kann es vorkommen, dass Bürger, weil sie keinen Zugang zu einem Computer haben oder weil die Eingabemaske nicht barrierefrei ausgestaltet ist, gar keinen Antrag stellen können oder dass Eingaben aufgrund von eingesetzten Skripten und/oder Sicherheitseinstellungen nicht oder nur fehlerhaft übermittelt werden.

Hier wird sich ggf. die Frage stellen, inwiefern ein Ausgleich geschaffen werden muss und ob dies prozessual durch die Gerichte erfolgt oder verfahrens- bzw. materiellrechtlich verankert werden soll. Eine Frage, die letztlich über das verwaltungsgerichtliche Verfahren hinausragt, ist schließlich, inwieweit durch automatische Entscheidungsverfahren letztlich der Entscheidungsspielraum materiell verengt werden kann. Ein Algorithmus kann im Prinzip nur das entscheiden, wofür er letztlich programmiert wurde, sodass möglicherweise ebenfalls denkbare und auch rechtmäßige Entscheidungen, die dem Einzelfall besser gerecht geworden wären, praktisch gar nicht getroffen werden (können). Es kommt bereits aktuell bei mithilfe automatischer Einrichtungen erlassenen Verwaltungsakten vor, dass bestimmte Eingaben in der elektronischen Bearbeitungsmaske nicht vorgesehen sind. Selbst wenn der einzelne Sachbearbeiter damit gar keine andere Entscheidung treffen konnte, führt dies allerdings nicht zur Rechtmäßigkeit des Verwaltungsakts, bürdet allerdings das Prozessrisiko letztlich dem Bürger auf. Auch die in diesem Zusammenhang geschaffene Vorschrift des § 24 Abs. 1 Satz 3 VwVfG dürfte das Problem nicht vollständig lösen, zumal deren Verletzung – zumindest aktuell – nur in geringem Umfang vor Gericht mit Erfolg rügbar sein dürfte.²⁴

Ein Beitrag aus dem BDVR-Rundschreiben 1/2021

20 Vgl. dazu etwa v. Graevenitz, ZRP 2018, 238ff.; Guggenberger, NVwZ 2019, 844ff.

21 Vgl. dazu etwa Guggenberger, NVwZ 2019, 844, 845.

22 Vgl. Martini/Nink, NVwZ 2017, 681ff.

23 Vgl. Fröhlich/Spiecker genannt Döhmann, VerfBlog, 2018/12/26 (https://verfassungsblog.de/koennen-algorithmen-diskriminieren/; letzter Zugriff 06.01.2021) sowie die Studie unter https://www.anti diskriminierungsstelle.de/DE/ThemenUndForschung/Algorithmen/Algorithmen_node.html; letzter Zugriff 06.01.2021.

24 Vgl. Kallerhoff/Fellenberg, in: Stelkens/Bonk/Sachs (Hrsg.), VwVfG, 9. Aufl. 2018, § 24 Rn. 57g.

Die Serie: Gerichtliche Kontrolle automatisierter Verwaltungsakte