liuzishan / fotolia

Analysen und Argumente

Algorithmische Entscheidungen: Transparenz und Kontrolle

von Katharina A. Zweig
Aus guten Gründen wird immer wieder gefordert, Entscheidungen, die mit Hilfe von Algorithmen gefällt werden, transparent und kontrollierbar zu gestalten. Die Überprüfung allein von Algorithmen greift jedoch zu kurz. Vielmehr müssen algorithmischen Entscheidungssysteme in ihren ganzen Komplexität in den Blick genommen werden. Vor allem selbstlernende algorithmische Entscheidungssysteme, die in Entscheidungen involviert sind, die Menschen betreffen oder Auswirkungen auf die gesamte Gesellschaft haben, bedürfen besonderer Aufmerksamkeit.

Algorithmen sind Regeln zur Lösung mathematisch beschreibbarer Probleme. Sie sind ein wesentlicher Teil „Algorithmischer Entscheidungssysteme“ (ADM-Systeme), die in der Versicherungsbranche Risiken bewerten oder in anderen Kontexten vergleichbare Aufgaben lösen können.

Wenn die Entscheidungsregeln für die Risikobewertung unklar sind, können selbstlernende ADM-Systeme verwendet werden. Diese lernen aus bisherigen Fällen und Daten.

Allerdings lässt sich das Zustandekommen der Ergebnisse in der Regel nicht nachvollziehen. Selbstlernende ADM-Systeme bedürfen insbesondere immer dann einer speziellen Kontrolle, wenn sie Entscheidungen über Menschen treffen und Fehlentscheidungen einzelne Individuen bzw. die Gesellschaft als Ganzes schädigen können.

Dazu reicht es nicht aus, Algorithmen alleine überprüfbar zu machen, vielmehr müssen die ADM-Systeme insgesamt (Algorithmen und Daten) und das sozio-informatische Gesamtsystem, in dem sie genutzt werden, in den Blick genommen werden.

Teilen

Ansprechpartner

Dr. Norbert Arnold

Dr

Leiter des Teams Bildungs- und Wissenschaftspolitik und Koordinator für Wissenschaft, Forschung und Technologie

Norbert.Arnold@kas.de +49 30 26996-3504 +49 30 26996-3551

Über diese Reihe

Die Reihe informiert in konzentrierter Form über wichtige Positionen der Konrad-Adenauer-Stiftung zu aktuellen Themen. Die einzelnen Ausgaben stellen zentrale Ergebnisse und Empfehlungen vor, bieten Kurzanalysen, erläutern die weiteren Pläne der Stiftung und nennen KAS-Ansprechpartner.