Die wichtigsten Themen dieses Blog-Artikels:
In meinem ersten Blogartikel über die KI-Verordnung, den EU AI Act, stand die KI-Inventur im Mittelpunkt, und wir haben das Thema Aus- und Fortbildung angerissen – den Aufbau der sogenannten AI Literacy. Darum soll es heute noch einmal ausführlicher gehen. Denn alle Unternehmen müssen sicherstellen, dass die Mitarbeitenden im Umgang mit den verwendeten KI-Systemen ausreichend ausgebildet sind.
Für wen ist AI Literacy wichtig?
Die KI-Verordnung sieht keine Strafzahlungen für das Nichtvermitteln von KI-Kompetenz vor. Allerdings ist zu erwarten, dass den Organisationen mindestens ein großer Reputationsschaden entsteht, wenn sie KI-Systeme schuldhaft fehlerhaft einsetzen. Darüber hinaus dürften bei einer unsachgemäßen oder falschen Nutzung oder ungenügender Sorgfalt bei der Entwicklung von Systemen Haftungsfragen aufkommen. Diese lassen sich kaum abwehren, wenn die Mitarbeitenden nicht oder unzureichend geschult sind. Eine hinreichende KI-Kompetenz der Mitarbeitenden sicherzustellen, hat damit für Organisationen einen ähnlich hohen Stellenwert wie das Sicherstellen der Kompetenz in den Bereichen Datenschutz und Informationssicherheit.
Der kompetente Umgang mit KI lässt sich nicht mit ein paar Awareness-Lehrgängen erreichen, sondern erfordert gezielte Information und auch ein gewisses Maß an Erfahrung. Als Unterzeichner des KI-Pakts und Early Adopter in der Umsetzung der KI-Verordnung engagiert sich CGI in Gremien und Beratungen zu diesem Thema. Wie auch die anderen Beteiligten sind wir davon überzeugt, dass der Erwerb von KI-Kompetenz einem ganzheitlichen Ansatz folgen sollte. Dabei geht es sowohl um ein technisches und regulatorisches Grundverständnis als auch um Spezialwissen über die konkret genutzten Anwendungen.
Die KI-Verordnung sieht hier aus gutem Grund eine Abstufung der Kompetenz je nach Vorkenntnissen und Aufgaben der Mitarbeitenden vor. Eine breite Basiskompetenz sollte dabei in der gesamten Belegschaft gegeben sein. Alle sollten ein grundlegendes Verständnis davon haben, wie man mit KI-Systemen arbeitet und was in Bezug auf die Regulatorik zu beachten ist. Darüber hinaus ist es für die Nutzerinnen und Nutzer eines Systems wichtig, seine wesentlichen Eigenheiten zu kennen. Insbesondere im Bereich der High-Risk-Anwendungen und der „General Purpose“-KI-Modelle (General Purpose AI Models, GPAI) müssen die Anbieter diese Informationen in Form der Bedienungs- und der Betriebsanweisung bereitstellen. Betreiber von KI-Systemen – also Unternehmen, die KI einsetzen – müssen bei Hochrisikosystemen sicherstellen, dass die Personen, die das System beaufsichtigen, besonders tiefgehende Kenntnisse über seine eingebauten Überwachungsfunktionen besitzen. Diese Informationen muss der Anbieter ebenfalls als Teil der Betriebsanleitung bereitstellen.
Analog gilt für die Entwicklerinnen und Entwickler solcher Systeme, dass sie über entsprechendes Wissen verfügen müssen – nicht nur über die technischen KI-Methoden und die Regulatorik, sondern auch über geeignete Architekturen und Techniken zum Einbau von Überwachungsfunktionen. Insbesondere im Hochrisikobereich benötigen sie zudem ausreichendes Wissen über die Anwendungsdomäne. Dies ist die Voraussetzung dafür, dass sie mögliche Störungs- und Fehlerquellen sowie die Qualität der verwendeten Trainings- und Testdaten und der erhaltenen Ergebnisse adäquat bewerten können. Ähnliches gilt für Mitarbeitende in den Abteilungen für Recht und Compliance: Hier gilt es, vertiefendes Wissen über die KI-Verordnung selbst und gegebenenfalls über weitere regulatorische Vorgaben zu entwickeln.
Der Erwerb unterschiedlicher Ebenen von AI Literacy ist also für alle Personen im Unternehmen von großer Bedeutung. Nur so lässt sich ein sicherer und verantwortungsvoller Umgang mit den eingesetzten KI-Systemen gewährleisten – sowie eine Entwicklung von vertrauenswürdigen KI-Systemen, die ethischen Grundsätzen folgt.
Grundlagenschulungen und verpflichtende Compliance-Trainings
Um AI Literacy aufzubauen, empfiehlt sich ein mehrstufiges Vorgehen. Zur Etablierung von Grundlagenkenntnissen in der Breite dienen Trainings und Informationsmaterial, die die grundsätzliche Funktionsweise von KI-Systemen (und insbesondere generativer KI) erklären und ethische Fragen der Nutzung besprechen.
Die Nutzung eines KI-Systems unterscheidet sich deutlich von der Nutzung üblicher Softwaresysteme. Ihr Ergebnis ist in der Regel abhängig von statistischen Merkmalen der Referenzdaten oder von einer formalisierten Vorhersagelogik. Oft hängt es von Kombinationen aus mehreren solcher Faktoren ab. In einigen Fällen ist das Ergebnis sogar nicht deterministisch: Für dieselbe Eingabe können bei wiederholter Anwendung unterschiedliche Ausgaben entstehen. Wer diese Systeme nutzt, muss also lernen, wie man mit diesen Unsicherheiten umgehen und die Qualität von KI-Systemen einschätzen kann. Es ist also wichtig, nicht nur über die grundsätzliche Funktionsweise der betrachteten KI-Systeme Bescheid zu wissen, sondern auch die Angaben sogenannter „Explainable AI“ richtig lesen und interpretieren zu können. Dabei handelt es sich um Methoden, mit denen sich das Verhalten von KI-Systemen bei Änderung der Eingabedaten oder der Modellparameter beschreiben lässt. Dieses Verständnis leistet einen erheblichen Beitrag zur Transparenz von KI-Systemen und zum sicheren Einsatz dieser Systeme durch die Nutzenden.
Eine weitere Schulung sollte die Systematik der KI-Verordnung vorstellen, die Risikogruppen und Rollen erläutern und ein Bewusstsein dafür schaffen, welche Anwendungen verboten oder als „High-Risk“ eingestuft werden – und welche Pflichten in diesem Fall bestehen.
Insbesondere sollten die Verpflichtungen diskutiert werden, die sich aus einer Zweckänderung ergeben können. Denn Artikel 25 der KI-Verordnung besagt unter anderem: Ändert sich der Zweck, für den eine Anwendung eingesetzt wird, muss neu geprüft werden, ob sie dadurch in die High-Risk-Kategorie fällt. Fällt die neue Anwendung in diese Kategorie, das System wurde aber dafür nicht zugelassen, gehen die entsprechenden Compliance-Pflichten des Herstellers auf das Unternehmen über, das die Anwendung einsetzt. Die Mitarbeitenden müssen daher grundsätzlich über diese Herausforderung Bescheid wissen und selbst eine grobe Einordnung vornehmen können.
Eine solche Schulung wird idealerweise als Online-Trainingseinheit zur Verfügung gestellt, damit sie schnell in der Breite der Belegschaft ausgerollt werden kann und auch neuen Mitarbeitenden zeitnah nach ihrem Start zur Verfügung steht. Es sollte sich um verpflichtende Compliance-Trainings handeln.
Der Nutzen von KI muss im Fokus stehen
Die Vermittlung notwendiger Grundkenntnisse zum Umgang mit KI-Systemen ist zwar von essentieller Bedeutung, doch eine vermeintlich einseitige Konzentration auf Awareness und Compliance bringt die Gefahr einer gewissen Schockstarre mit sich: Mitarbeitende werden verunsichert, was sie dürfen und was nicht. Zur Vermeidung von Fehlern werden sie eher gar nichts tun als mit KI-Systemen zu experimentieren. Diese Reaktion ließ sich in der Vergangenheit bereits bei der Einführung der DSGVO beobachten. Das Experimentieren ist allerdings notwendig, um wichtige Erfahrung für die produktive Anwendung zu sammeln. Es ist daher ratsam, gezielt Aus- und Fortbildungsformate für die Nutzung von KI am Arbeitsplatz anzubieten. Hier lernen die Mitarbeitenden ganz konkret, wie sie ihren Arbeitsalltag mit KI-Assistenten effizienter gestalten können.
Vertiefende Schulungen zum Einsatz von KI in der Breite sollten einige allgemeine Use Cases für die Organisation herausarbeiten und aufzeigen, wie die im Unternehmen eingesetzten KI-Systeme dabei unterstützen können. Für den breiten Einsatz von generativer KI im Umgang mit Dokumenten und dem Wissensmanagement haben wir bei CGI zum Beispiel die Schulung AI@Work "Nutzung von intelligenten Chatbots" entwickelt, die wir auch für unsere Kunden durchführen. Für die weitere Vertiefung ist es ratsam, einen rollenbasierten Ansatz zu verfolgen und anhand von Personas spezielle Programme aufzulegen, die Mitarbeitende gezielt bei ihren täglichen Aufgaben unterstützen. Bei der Auswahl von Use Cases sollte darauf geachtet werden, vor allem häufig wiederkehrende Aufgaben zu betrachten, da hier der größte Nutzen für die Mitarbeitenden erreicht werden kann. Technische Vertiefungen können bei Bedarf angeboten werden.
Entwicklerinnen und Entwickler von KI-Systemen sollten neben dem bereits erwähnten technischen und domänenspezifischen Wissen zur Erfüllung ihrer konkreten Aufgabe auch Zugang zu allgemeinen technischen Fortbildungen erhalten. Dies beinhaltet Einblicke in für den KI-Einsatz wichtigen Technologien und Architekturansätzen wie RAG-Pipelines, Agentic AI und Knowledge-Graphen als Ergänzung zu klassischen Ansätzen des maschinellen Lernens. Ergänzend dazu sollten auch hier anhand beispielhafter Use Cases Ansätze gezeigt werden, wie die Entwicklerinnen und Entwickler ihre Arbeit mit KI optimieren können – zum Beispiel durch die automatische Erstellung von Dokumentation oder Testfällen oder durch das Erzeugen bestimmter Code-Segmente mit KI.
Nach unserer Erfahrung lohnt es sich, solche Workshops als interaktive Sessions in Präsenz abzuhalten, um Rückfragen zu beantworten und in der Diskussion neue Anwendungsfälle zu erschließen. Der Wissenstransfer ist damit keine Einbahnstraße, sondern es entsteht ein aktiver Austausch zwischen den Teilnehmenden. Diese können in weiteren Workshops – wie unseren AI-Spark-Workshops – daran mitwirken, neue Anwendungen zu identifizieren, die anschließend von Entwicklungsteams umgesetzt werden.
Ein rollenbasiertes mehrstufiges Qualifikationsprogramm
Für die Umsetzung eines Schulungs- und Kompetenzerwerbsprogramms empfiehlt sich ein rollenbasierter Ansatz, der zwar grundsätzlich alle Informationen und Trainings für alle offenhält, sie aber so in Kategorien einteilt, dass die Mitarbeitenden breite Sachkenntnis selbstständig und entsprechend ihrer Vorkenntnisse und Aufgaben erwerben können. Ein solches Programm lässt sich in einem dreistufigen Verfahren implementieren. Die Basis bilden dabei verpflichtende Compliance-Kurse zu Grundlagen des AI Acts und der Anwendung von KI. Ergänzend gibt es Lernpfade, die anhand von Mitarbeiter-Personas definiert wurden. Mit diesen lassen sich erweiterte Kompetenzen im Einsatz bzw. in der Entwicklung spezifischer Technologien gewinnen. Für den Compliance-Bereich bietet es sich ebenfalls an, einen eigenen Lernpfad einzurichten, der zusätzlich die Bereiche Datenschutz, Informationssicherheit und weitere einschlägige Regelungen abdeckt. Das Programm wird in der dritten Ebene durch Spezialwissen abgerundet, das in Form einzelner Dokumente oder Kurse bereitsteht. Diese vermitteln zum Beispiel Details zur Nutzung bestimmter KI-Systeme oder das für Entwicklerinnen und Entwickler notwendige Domänenwissen.
Der Weg zu einer effektiven AI Literacy Governance
Zusammengefasst kommt es also darauf an, nicht nur Regulatorik, Compliance und Awareness, sondern auch das Potential der Nutzung von KI zu vermitteln. Dabei unterscheidet sich der Bedarf der Mitarbeitenden je nach Art ihrer Tätigkeit und danach, ob es um die Nutzung oder die Entwicklung von KI-Systemen geht. Insbesondere vor dem Hintergrund von Haftungsfragen ist es wichtig, die vermittelte KI-Kompetenz der Mitarbeitenden nachzuhalten und bei Bedarf nachweisen zu können. Damit einher geht die Einführung einer AI Literacy Governance, die auf der einen Seite den Grad der AI Literacy im Unternehmen überwacht und auf der anderen Seite dafür Sorge trägt, dass die angebotenen Programme stets auf dem aktuellen Stand der Technik und Regulatorik und für die Mitarbeitenden relevant sind.
Bei CGI haben sich die folgenden drei Schritte zur Einführung einer AI Literacy Governance bewährt:
- Governance beginnt mit klaren Richtlinien und Leitplanken: Welche Art von KI-Nutzung und -Entwicklung möchten Sie in Ihrem Unternehmen etablieren? Für uns war die Wahl klar: Der Mensch soll stets eingebunden bleiben.
- Darauf basierend haben wir eine Governance-Struktur und eine Reihe von Enablern für den praktischen Einsatz und die Entwicklung von KI-Systemen ausgearbeitet – darunter Schulungen, Informationsangebote, Leitfäden und Handlungsempfehlungen zur Identifikation und zum Umgang mit High-Risk-Systemen sowie Sammlungen von Best Practices.
- Als einer der führenden Anbieter im Bereich digitaler Technologien haben wir beschlossen, diese Materialien und insbesondere Trainings (zu technischen, rechtlichen, organisatorischen, sozialen und ethischen Aspekten des KI-Einsatzes und der KI-Entwicklung) unserer gesamten Belegschaft anzubieten. Die Anzahl der Teilnehmenden an den Trainings halten wir nach. So können wir beobachten, wie sich das Wissen im Unternehmen verbreitet und falls nötig gezielt nachsteuern.
Grundsätzlich gilt: Schulungs- und Informationsangebote im Umfeld von KI sollten leicht zugänglich, sichtbar, wiederholt und am Arbeitskontext der Mitarbeitenden ausgerichtet sein.
Treten Sie gerne mit mir in Kontakt, wenn Sie mehr über AI Literacy und die Entwicklung von KI-Schulungs- und Informationsangeboten erfahren möchten.