Frage 6:

Sie haben sich mit den "Chancen guter Gesetzgebung in einer komplexen Welt" befasst (Redemanuskripte zur ifst-Tagung am 21. und 22. November 2018). Sie haben die Steuerung der Gesellschaft durch Algorithmen statt durch Gesetze kritisiert und einen Vormarsch undemokratisch legitimierter Algorithmen konstatiert (S. 54 ff.). Welche Risiken sehen Sie? Was würden Sie Unternehmen im Umgang mit Algorithmen empfehlen?

Antwort auf Frage 6: In Demokratie und Rechtsstaat werden die Beziehungen zwischen den Bürgern durch Regeln eines gewählten Parlaments bestimmt. Jenes erörtert sie im öffentlichen Diskurs und erlässt sie mit Stimmenmehrheit. Sie werden für jedermann einsehbar im Gesetzblatt verkündet und können gerichtlich durchgesetzt werden. Wenn ein Algorithmus aus einem Computerprogramm unser Zusammenleben bestimmen würde, entfielen diese rechtsstaatlichen und demokratischen Sicherungen weitgehend. Niemand hat den Programmierer durch Volkswahl zur Festlegung eines Algorithmus´ legitimiert. Seine Abfassung wird von keinem öffentlichen Diskurs begleitet. Wir wissen nicht, wie und nach welchen Vorgaben er Fälle entscheidet. Es ist nur schwer möglich, gegen seine dem Betroffenen unbekannten Entscheidungsprozesse gerichtlich vorzugehen.

Nun sind Algorithmen in unserem Leben jedoch sehr hilfreich und nicht mehr wegzudenken. Wo Produktionsabläufe gesteuert, Verkehrsflüsse geleitet oder Finanzverbindungen unterhalten werden, können wir nicht mehr auf sie verzichten. Dort werden aber nur Daten nach Maßgrößen und Zahlen ohne Personenbezug und Wertungen umgesetzt. Sobald eine Behörde oder eine andere Organisation aber wertende Entscheidungen gegenüber Menschen trifft, regelt sie deren gesellschaftliches Verhalten. Das kann man nicht mehr einem Computer überlassen. Ich würde deshalb in allen Rechtsbeziehungen zwischen Menschen zwar bei der Vorbereitung einer bindenden Entscheidung Algorithmen als Unterstützung zulassen, die wertende Entscheidung über sein Verhalten selbst aber immer einer verantwortlichen Person vorbehalten.  Menschen sollen über Menschen entscheiden, nicht Maschinen.