자산 발행인

liuzishan / fotolia

Analysen und Argumente

Algorithmische Entscheidungen: Transparenz und Kontrolle

Prof. Dr. Katharina A. Zweig
Aus guten Gründen wird immer wieder gefordert, Entscheidungen, die mit Hilfe von Algorithmen gefällt werden, transparent und kontrollierbar zu gestalten. Die Überprüfung allein von Algorithmen greift jedoch zu kurz. Vielmehr müssen algorithmischen Entscheidungssysteme in ihren ganzen Komplexität in den Blick genommen werden. Vor allem selbstlernende algorithmische Entscheidungssysteme, die in Entscheidungen involviert sind, die Menschen betreffen oder Auswirkungen auf die gesamte Gesellschaft haben, bedürfen besonderer Aufmerksamkeit.

자산 발행인

Algorithmen sind Regeln zur Lösung mathematisch beschreibbarer Probleme. Sie sind ein wesentlicher Teil „Algorithmischer Entscheidungssysteme“ (ADM-Systeme), die in der Versicherungsbranche Risiken bewerten oder in anderen Kontexten vergleichbare Aufgaben lösen können.

Wenn die Entscheidungsregeln für die Risikobewertung unklar sind, können selbstlernende ADM-Systeme verwendet werden. Diese lernen aus bisherigen Fällen und Daten.

Allerdings lässt sich das Zustandekommen der Ergebnisse in der Regel nicht nachvollziehen. Selbstlernende ADM-Systeme bedürfen insbesondere immer dann einer speziellen Kontrolle, wenn sie Entscheidungen über Menschen treffen und Fehlentscheidungen einzelne Individuen bzw. die Gesellschaft als Ganzes schädigen können.

Dazu reicht es nicht aus, Algorithmen alleine überprüfbar zu machen, vielmehr müssen die ADM-Systeme insgesamt (Algorithmen und Daten) und das sozio-informatische Gesamtsystem, in dem sie genutzt werden, in den Blick genommen werden.

자산 발행인

직원소개

Dr. Norbert Arnold

comment-portlet

자산 발행인

이 시리즈에 대해

Die Reihe informiert in konzentrierter Form über Analysen der Konrad-Adenauer-Stiftung zu relevanten aktuellen Themen. Die einzelnen Ausgaben stellen zentrale Ergebnisse und Empfehlungen eigener und externer Expertinnen und Experten vor, bieten Kurzanalysen von rund fünf Seiten und nennen KAS-Ansprechpartnerinnen.

Dr. Kristin Wesemann

Dr

Leiterin Strategie und Planung

kristin.wesemann@kas.de +49 30 26996-3803

Sophie Steybe

Referentin Publikationen

sophie.steybe@kas.de +49 30 26996-3726