Am 6. Oktober 2025 veranstalteten die KAS, das Civic Machines Lab des TUM Think Tanks und TUM Asia in Singapur das Seminar „AI and Civic Machines: Governance, Security, and Society“. Die Veranstaltung vereinte Expertinnen und Experten aus Wissenschaft, Industrie und Politik. Gemeinsam diskutierten sie, wie KI-Agenten Arbeit, Governance und urbanes Leben neu gestalten, wobei der Schwerpunkt auf menschenzentrierter und verantwortungsbewusster Innovation lag.
Nach den Begrüßungsworten von Fabian Wagener, Direktor des Medienprogramms Asien bei KAS Singapur, eröffnete Prof. Dr. Orestis Papakyriakopoulos, Professor für Societal Computing an der TUM School of Social Sciences and Technology, das Seminar mit der ersten Präsentation. Er betonte das Potenzial von KI-Agenten als Partner am Arbeitsplatz und leitete praxisorientierte Empfehlungen ab, um Hindernisse wie ethische Dilemmata, Haftungsfragen und institutionelle Trägheit zu überwinden.
Die zweite Präsentation hielt Ajaz Munsiff, Chief Digital Officer für KI und digitale Transformation bei Dell Technologies Asia-Pacific. Er zeigte auf, wie agentische KI den Übergang von reaktiven, isolierten Smart Cities hin zu proaktiven, vernetzten Cognitive Cities vorantreiben kann. Hirbei betonte er, dass KI-gestützte Systeme Governance, Ressourcenmanagement sowie Bürgerbeteiligung und -engagement stärken können. Ein zentrales Element sei dabei die KI-Transformation am Edge, also in unmittelbarer Nähe zu Sensoren und lokaler Infrastruktur, wodurch Echtzeitentscheidungen, höhere Effizienz und verbesserter Datenschutz ermöglicht werden. Dies, so argumentierte er, bilde die Grundlage für Civic Machines, die sich dynamisch an gesellschaftliche Bedürfnisse anpassen.
Die dritte Präsentation hielt Prof. Mohan Kankanhalli, Provost’s Chair Professor an der National University of Singapore (NUS) und Direktor des NUS Artificial Intelligence Institute. In seinem Vortrag mit dem Titel „Using Persona to Bully an AI Model“ stellte er persona-gesteuerte Tests vor, mit denen die Verwundbarkeiten großer Sprachmodelle (LLMs) untersucht werden können. Dabei zeigte er, dass die Simulation verschiedener menschlicher Persönlichkeitsmerkmale aufzeigt, wie KI-Systeme unter adversarialem Druck reagieren und dass bestimmte Personas Modelle anfälliger für unsichere oder verzerrte Ergebnisse machen können. Sein aufschlussreicher Beitrag verdeutlichte sowohl die Risiken manipulativer Interaktionen mit KI als auch die Bedeutung strenger Tests, um sicherzustellen, dass solche Systeme in der praktischen Anwendung sicher, verantwortungsvoll und widerstandsfähig bleiben.
Im Anschluss an die einzelnen Präsentationen moderierte Anish Mishra, Projektmanager und Research Fellow bei KAS Singapur, eine Podiumsdiskussion mit den drei Referenten. Ein zentrales Thema war die Unterscheidung zwischen generativer und agentischer KI. Die Diskutierenden erklärten, dass generative KI darauf ausgerichtet ist, Inhalte oder Ergebnisse innerhalb klar definierter Aufgaben zu erzeugen, während agentische KI in der Lage ist, komplexe Ziele in dynamischen Umgebungen mit begrenzter Aufsicht zu verfolgen und dabei autonomer und adaptiver zu agieren. Die Diskussion machte deutlich, dass diese Entwicklung dringende Fragen zu Vertrauen, Governance und Verantwortlichkeit aufwirft und eine enge internationale Zusammenarbeit zwischen Wissenschaft, Wirtschaft und Zivilgesellschaft erfordert. Die anschließende Fragerunde mit dem Publikum sowie die abschließenden Worte von Dr. Markus Wächter, Vizepräsident und Executive Director von TUM Asia, und ein Networking-Empfang boten weitere Möglichkeiten zum Austausch. Diese lebhaften Gespräche unterstrichen die Bedeutung kontinuierlicher Kooperation, um die Entwicklung von KI in Richtung einer nachhaltigen und gerechten Zukunft zu gestalten.
