AI and Human Dignity

Wie können wir als Gesellschaft mit dem technologischen Wandel umgehen, ohne die Würde des Menschen aus dem Blick zu verlieren?  

Mit dieser Frage, welche im Mittelpunkt der Enzyklika, aber auch der Arbeit der Konrad-Adenauer-Stiftung steht, eröffnete die Vorsitzende der Stiftung Annegret Kramp-Karrenbauer das Streitgespräch zwischen der  Medizinethikerin Prof. Dr. Alena Buyx (TUM, Fellow der Adenauer-Stiftung 2026) und dem Physiker Prof. Dr. Erik Bertram (SAP, Hochschule Fresenius) zur Enzyklika Magnifica humanitas. Im Mittelpunkt des von Dr. Aljoscha Burchardt (DFKI) moderierten Gespräches stand die Frage, welche Konsequenzen aus der Enzyklika für Politik, Wirtschaft und Gesellschaft zu ziehen sind.  

Mit der Enzyklika nahm das Gespräch dabei ein Dokument zum Ausgangspunkt, das weit über technische Fragen hinausweist: Die Enzyklika versteht Künstliche Intelligenz nicht in erster Linie als technisches, sondern als gesellschaftliches Thema. Im Zentrum steht die Frage, wie technologische Innovation gestaltet werden kann, ohne die Würde des Menschen aus dem Blick zu verlieren. 

Mit der wachsenden Verbreitung von KI-Systemen stellen sich nicht nur Fragen nach Effizienz und Innovation, sondern auch nach Verantwortung, Freiheit, Teilhabe und gesellschaftlichem Zusammenhalt. Die Enzyklika stellt diese Fragen in den Mittelpunkt und eröffnet damit einen Diskussionsraum, der technische Entwicklungen mit ethischen wie politischen Überlegungen verbindet.  

Mensch und Menschenwürde als Ausgangspunkt 

Ein zentraler Befund der Diskussion lautete, dass Magnifica humanitas weniger ein Text über Künstliche Intelligenz als vielmehr ein Text über den Menschen ist. Beide Diskutanten würdigten die Entscheidung des Papstes, nicht die Technik selbst, sondern das Menschenbild in den Mittelpunkt zu stellen. Die Enzyklika erinnert daran, dass menschliche Erfahrung, Beziehungen, Verantwortung und Verletzlichkeit nicht auf Datenverarbeitung reduziert werden können. Gerade in einer Zeit, in der KI-Systeme immer leistungsfähiger erscheinen, sei diese Perspektive von besonderer Bedeutung. 

Alena Buyx hob hervor, dass die Stärke des Menschen nicht allein in Rationalität und Effizienz liege, sondern auch in seiner Begrenztheit und der Fähigkeit, an ihr zu wachsen und zu gedeihen. Die Fähigkeit Fehler zu machen, Verantwortung zu übernehmen und Beziehungen einzugehen kann von Maschinen nicht nachgebildet werden. Die Enzyklika formuliere deshalb keine kulturpessimistische Technikkritik, sondern werbe für einen souveränen Umgang mit Innovationen. KI könne ein wertvolles Werkzeug sein, dürfe jedoch nicht zum Maßstab menschlichen Handelns werden. 

Auch Erik Bertram betonte, dass die gegenwärtige Debatte häufig zu stark auf technologische Leistungsfähigkeit fokussiert sei. Aus seiner Sicht liegt die eigentliche Herausforderung nicht mehr in der Frage, ob leistungsfähige KI möglich ist, sondern darin, wie Gesellschaften diese Technologien nutzen und regulieren wollen. Die technologische Machbarkeit sei inzwischen weitgehend bewiesen; entscheidend sei nun die gesellschaftliche Gestaltung.  

Einigkeit bestand darin, dass moralische Entscheidungen nicht an Maschinen delegiert werden können. KI-Systeme besitzen weder Gewissen noch Verantwortungsbewusstsein. Die Verantwortung für ihren Einsatz liegt bei den Menschen, die sie entwickeln, finanzieren, regulieren und nutzen. 

Technische Mystifizierung  

Ein weiterer Diskussionspunkt war die Sprache, mit der über KI gesprochen wird. Bertram warnte davor, Künstliche Intelligenz zu mystifizieren. Begriffe wie „die KI denkt“ oder „die KI entscheidet“ könnten den Eindruck erwecken, Maschinen verfügten über menschliche Eigenschaften. Tatsächlich handele es sich jedoch lediglich um statistische Systeme, deren Ergebnisse maßgeblich von Daten und Algorithmen geprägt seien.  

Buyx widersprach der Forderung nach rein technischer Präzision nicht grundsätzlich, verteidigte jedoch den Ansatz der Enzyklika, bewusst eine allgemeinverständliche Sprache zu wählen. Die Stärke des Textes liege gerade darin, eine breite gesellschaftliche Debatte zu ermöglichen und ethische Fragen nicht allein Expertinnen und Experten zu überlassen. Damit knüpfe die Enzyklika an die Idee an, dass KI-Governance eine gesamtgesellschaftliche Aufgabe sei. 

Wirtschaftliche Machtkonzentration  

Kontrovers diskutiert wurde die Frage nach den gesellschaftlichen Folgen einer zunehmenden Verbreitung von KI. Ausgangspunkt war die Kritik der Enzyklika an der wirtschaftlichenMachtkonzentration. Die Kontrolle über große KI-Systeme liege heute vielfach in den Händen weniger Akteure, deren Entscheidungen erheblichen Einfluss auf Gesellschaften und demokratische Prozesse hätten. Die Enzyklika mahnt hier eine stärkere politische Gestaltung sowie wirksame internationale Rahmenbedingungen an. 

Bertram ergänzte diese Perspektive um einen optimistischeren Blick auf die Transformationskraft der Technologie. Ähnlich wie das Internet den Zugang zu Wissen demokratisiert habe, könne KI den Zugang zu Fähigkeiten erweitern. Menschen könnten heute Tätigkeiten ausführen, für die früher spezialisierte Expertise erforderlich gewesen wäre. Dadurch entstünden neue Möglichkeiten gesellschaftlicher Teilhabe.  

Technische Mystifizierung  

Ein weiterer Diskussionspunkt war die Sprache, mit der über KI gesprochen wird. Bertram warnte davor, Künstliche Intelligenz zu mystifizieren. Begriffe wie „die KI denkt“ oder „die KI entscheidet“ könnten den Eindruck erwecken, Maschinen verfügten über menschliche Eigenschaften. Tatsächlich handele es sich jedoch lediglich um statistische Systeme, deren Ergebnisse maßgeblich von Daten und Algorithmen geprägt seien.  

Buyx widersprach der Forderung nach rein technischer Präzision nicht grundsätzlich, verteidigte jedoch den Ansatz der Enzyklika, bewusst eine allgemeinverständliche Sprache zu wählen. Die Stärke des Textes liege gerade darin, eine breite gesellschaftliche Debatte zu ermöglichen und ethische Fragen nicht allein Expertinnen und Experten zu überlassen. Damit knüpfe die Enzyklika an die Idee an, dass KI-Governance eine gesamtgesellschaftliche Aufgabe sei. 

Wirtschaftliche Machtkonzentration  

Kontrovers diskutiert wurde die Frage nach den gesellschaftlichen Folgen einer zunehmenden Verbreitung von KI. Ausgangspunkt war die Kritik der Enzyklika an der wirtschaftlichenMachtkonzentration. Die Kontrolle über große KI-Systeme liege heute vielfach in den Händen weniger Akteure, deren Entscheidungen erheblichen Einfluss auf Gesellschaften und demokratische Prozesse hätten. Die Enzyklika mahnt hier eine stärkere politische Gestaltung sowie wirksame internationale Rahmenbedingungen an. 

Bertram ergänzte diese Perspektive um einen optimistischeren Blick auf die Transformationskraft der Technologie. Ähnlich wie das Internet den Zugang zu Wissen demokratisiert habe, könne KI den Zugang zu Fähigkeiten erweitern. Menschen könnten heute Tätigkeiten ausführen, für die früher spezialisierte Expertise erforderlich gewesen wäre. Dadurch entstünden neue Möglichkeiten gesellschaftlicher Teilhabe.