liuzishan / fotolia

Analyses et Arguments

Algorithmische Entscheidungen: Transparenz und Kontrolle

de Prof. Dr. Katharina A. Zweig
Aus guten Gründen wird immer wieder gefordert, Entscheidungen, die mit Hilfe von Algorithmen gefällt werden, transparent und kontrollierbar zu gestalten. Die Überprüfung allein von Algorithmen greift jedoch zu kurz. Vielmehr müssen algorithmischen Entscheidungssysteme in ihren ganzen Komplexität in den Blick genommen werden. Vor allem selbstlernende algorithmische Entscheidungssysteme, die in Entscheidungen involviert sind, die Menschen betreffen oder Auswirkungen auf die gesamte Gesellschaft haben, bedürfen besonderer Aufmerksamkeit.

Algorithmen sind Regeln zur Lösung mathematisch beschreibbarer Probleme. Sie sind ein wesentlicher Teil „Algorithmischer Entscheidungssysteme“ (ADM-Systeme), die in der Versicherungsbranche Risiken bewerten oder in anderen Kontexten vergleichbare Aufgaben lösen können.

Wenn die Entscheidungsregeln für die Risikobewertung unklar sind, können selbstlernende ADM-Systeme verwendet werden. Diese lernen aus bisherigen Fällen und Daten.

Allerdings lässt sich das Zustandekommen der Ergebnisse in der Regel nicht nachvollziehen. Selbstlernende ADM-Systeme bedürfen insbesondere immer dann einer speziellen Kontrolle, wenn sie Entscheidungen über Menschen treffen und Fehlentscheidungen einzelne Individuen bzw. die Gesellschaft als Ganzes schädigen können.

Dazu reicht es nicht aus, Algorithmen alleine überprüfbar zu machen, vielmehr müssen die ADM-Systeme insgesamt (Algorithmen und Daten) und das sozio-informatische Gesamtsystem, in dem sie genutzt werden, in den Blick genommen werden.

partager

À propos de cette série

Cette série informe de manière concentrée sur les positions importantes de la Fondation Konrad-Adenauer sur les questions d'actualité. Les différents numéros présentent les principales conclusions et recommandations, offrent de brèves analyses, expliquent les projets futurs de la Fondation et désignent les personnes de contact du KAS.

Dr. Kristin Wesemann

Dr

Leiterin Strategie und Planung

kristin.wesemann@kas.de +49 30 26996-3803

Sophie Steybe

Referentin Publikationen

sophie.steybe@kas.de +49 30 26996-3726