Artikel 4 der KI-Verordnung
KI-Anwendungen bieten viele Potenziale, aber auch Risiken. Hierzu zählen etwa Diskriminierung oder Desinformation. Um solche Risiken zu minimieren und den Wissenstransfer anzuregen, hat Brüssel mit Artikel 4 der KI-Verordnung verfügt, dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen müssen, damit ihr Personal und weitere mit dem KI-System befasste Personen „über ein ausreichendes Maß an KI-Kompetenz“ verfügen. Die EU-Kommission hat im Zuge des Digitalen Omnibus vorgeschlagen, diese Schulungspflicht abzuschwächen. Im Parlament regt sich nun Widerstand. In Digitalgesetzen vorgeschriebene Schulungen sind jedoch aus mindestens vier Gründen eher für die Bürokratie gut, nicht jedoch für den Kompetenzerwerb. Der Vorschlag der Kommission sollte deshalb angenommen werden.
Die Inhalte fehlen
Viele Schulungen zu KI thematisieren technische Laboreigenschaften von KI wie unterschiedliche Varianten des maschinellen Lernens. Diese Eigenschaften geben wenig Aufschluss darüber, welche Risiken in der Praxis mit KI einhergehen. Bildlich gesprochen fordert die KI-Verordnung ein, dass man Auto fahren lernen soll, ohne das klar ist, ob das Auto ein Bobby-Car oder ein SUV ist. Immer werden vier Räder mit einem Lenkrad gesteuert – aber Unterschiede in der Ausstattung machen die Gefährte so verschieden, dass eine allgemeine Schulung zu Rädern und Lenkrad kaum helfen würde, die Risiken, welche von den Gefährten ausgehen, zu minimieren. Auch kann ein Bobby-Car-Fahrer wenig von einer SUV-Fahrerin lernen. So ist es auch bei KI. Der Kontext, in dem die KI eingesetzt wird und die Zeit, die zur Überprüfung der Ergebnisse eingeräumt wird, sowie die Datenqualität formen beispielsweise die KI so stark, dass Risiken und Möglichkeiten nicht auf Basis der Technik beurteilt werden können.
Schulungen, die diese Rahmenbedingungen berücksichtigen, sind derzeit kaum möglich – denn überwiegend erfolgt die Nutzung von KI experimentell und explorativ. Damit gibt es wenig Routinen, standardisierte KI-Produkte und Dienstleistungen. Lehrangebote basieren jedoch auf dem Prinzip, dass es Muster gibt, die gelehrt werden können. Eine Schulungspflicht zum jetzigen Zeitpunkt setzt Anreize, etwas zu lernen (technische Eigenheiten), was in der Praxis wenig relevant ist.
Technisch-organisatorische Maßnahmen sind wichtiger
Schulungen schützen vor negativen Folgen, wenn die geschulte Person hinterher in ihren alltäglichen Entscheidungen fortwährend „richtig“ handelt. Im Digitalen gibt es effektivere, technische Möglichkeiten der Regeldurchsetzung. Bildlich gesprochen: Sie können Autofahrer moralisch dazu ermahnen, ein Parkhausticket zu kaufen – sicherer ist es jedoch, eine Schranke an der Ausfahrt zu installieren. Übertragen auf die KI ist es möglich, Mitarbeitenden zu erklären, dass keine Geschäftsgeheimnisse in die KI eingegeben werden sollten – sicherer wäre es jedoch, gleich Modelle und Speicherorte so zu wählen, dass Daten nicht abfließen. KI ist ein digitales Produkt und es gibt viele technisch-organisatorischen Maßnahmen, die es sicherer machen. KI-Schulungen verleiten aber dazu, an der falschen Stelle anzusetzen.
Berufe statt Technik zum Ausgangspunkt nehmen
Die KI-Schulungen stehen isoliert neben anderen Schulungen der Digitalgesetze, etwa der Datenschutzschulung aus der DSGVO. Solche Schulungen sind kleine Silos – dabei hängen Datenschutz und KI in der Praxis zusammen. Insofern gilt es, Berufe, Güter und Dienstleistungen zum Ausgangspunkt zu nehmen, nicht einzelne Technologien. Kompetenzanforderungen gehören harmonisiert in Fort-, Ausbildungs- und Weiterbildungsprogramme – nicht isoliert in Digitalgesetze.
Agile Formate statt Zertifikate
Rechtliche Vorschriften wie Artikel 4 – das lässt sich derzeit beobachten – führen in der Regel zu Maßnahmen, an deren Ende ein Zertifikat steht, das bei bürokratischen Kontrollen vorgezeigt werden kann. Tatsächlich gebraucht werden jedoch kontinuierliche, agile Lehr- und Lernformate – auch informaler Natur. Die gesetzliche Vorschrift führt zu Schulungen, die bürokratisch gut dokumentiert und überwacht werden können. Sie entsprechen jedoch nicht dem, was wirklich im Hinblick auf Wissenstransfer und Risikominimierung gebraucht wird.
Echte Erkenntnisse statt Bürokratie
Für mehr Wissenstransfer und risikoarme KI-Anwendungen braucht es also niedrigschwellige, sektorale und flexible Lehr- und Lernformate auf der einen sowie technisch-organisatorische Absicherungen auf der anderen Seite. Artikel 4 der KI-Verordnung führt jedoch eher zu einmaligen, isolierten Schulungen mit praxisfernen Inhalten. Die Vorschrift ist gut für die Bürokratie, bringt jedoch für die Praxis wenig und sollte deshalb, wie von der Kommission vorgeschlagen, modifiziert werden.
