☰☖Awareness & SchulungenErstelle, verwalte und absolviere Awareness- und andere Schulungen mit Wissensüberprüfung und Links zu den entsprechenden Prüfungen.

1. Warum KI-Kompetenz mehr ist als Tool-Bedienung

KI-Systeme können Texte formulieren, Inhalte zusammenfassen, Bilder erzeugen, Entscheidungen unterstützen oder große Datenmengen analysieren. Gleichzeitig können sie überzeugend falsche Ergebnisse liefern, Vorurteile aus Trainingsdaten übernehmen oder vertrauliche Informationen ungewollt verarbeiten. Verantwortungsvolle Nutzung beginnt deshalb nicht mit dem perfekten Prompt, sondern mit der Fähigkeit, Zweck, Risiko und Grenzen eines Systems einzuschätzen.

Der EU AI Act verfolgt einen risikobasierten Ansatz. Je größer die möglichen Auswirkungen eines KI-Systems auf Sicherheit oder Grundrechte, desto höher die Anforderungen. Für Mitarbeitende bedeutet das: Nicht jede KI-Anwendung ist gleich kritisch. Ein Formulierungsvorschlag für einen internen Text ist anders zu bewerten als ein System, das Entscheidungen über Bewerber, Beschäftigte oder Zugang zu wichtigen Leistungen beeinflusst.

2. Risikoklassen und verbotene Praktiken verstehen

Der AI Act unterscheidet Anwendungen nach ihrem Risiko. Bestimmte Praktiken sind verboten, während für Hochrisiko-Systeme umfangreiche Anforderungen gelten. Daneben gibt es Transparenzpflichten und Regeln für bestimmte General-Purpose-AI-Modelle. Mitarbeitende müssen nicht jede juristische Detailregel auswendig kennen, aber erkennen können, wann eine Anwendung besondere Aufmerksamkeit benötigt.

Warnsignale sind insbesondere Entscheidungen mit erheblicher Wirkung auf Menschen, Verarbeitung besonders sensibler Daten, biometrische Funktionen, Sicherheitsfunktionen oder Einsatz in regulierten Bereichen. In solchen Fällen darf ein Tool nicht allein deshalb genutzt werden, weil es technisch verfügbar ist. Freigabe-, Dokumentations- und Kontrollprozesse des Unternehmens sind einzuhalten.

Merke: „KI kann das“ beantwortet nicht die Frage „Dürfen und sollten wir das so einsetzen?“

3. Menschliche Aufsicht und Verantwortung

KI soll Menschen unterstützen, nicht Verantwortung unsichtbar machen. Wer ein KI-Ergebnis übernimmt, bleibt für die eigene fachliche Entscheidung verantwortlich. Eine automatisierte Empfehlung darf deshalb nicht blind bestätigt werden. Je höher die Auswirkung, desto sorgfältiger muss das Ergebnis geprüft und gegebenenfalls durch einen Menschen korrigiert oder verworfen werden können.

Menschliche Aufsicht bedeutet auch, die Grenzen des Systems zu kennen. Ein Sprachmodell kann Quellen erfinden oder sehr sicher klingende falsche Aussagen erzeugen. Ein Klassifikationssystem kann bei bestimmten Gruppen schlechter funktionieren. Nutzer müssen wissen, welche Kontrollen vorgesehen sind und wann eine Entscheidung eskaliert werden muss.

Praxisbeispiel: Eine KI erstellt eine Zusammenfassung eines Vertrags. Das kann Arbeit sparen, ersetzt aber nicht die fachliche Prüfung kritischer Klauseln. Die Zusammenfassung ist ein Arbeitsmittel, keine automatisch verbindliche Bewertung.

4. Daten, Datenschutz und vertrauliche Informationen

Eingaben in KI-Dienste können personenbezogene, vertrauliche oder geschäftskritische Informationen enthalten. Deshalb dürfen Daten nur in freigegebene Systeme eingegeben werden und nur soweit der Zweck dies erfordert. Öffentliche oder private KI-Konten sind keine sichere Standardablage für Unternehmensinformationen.

Vor dem Prompt sollte geprüft werden: Enthält der Text Kundendaten, personenbezogene Angaben, Zugangsdaten, Quellcode, Vertragsinhalte oder interne Strategien? Kann der Zweck mit anonymisierten oder abstrahierten Daten erreicht werden? Gibt es eine freigegebene Enterprise-Lösung mit passenden Schutzmaßnahmen?

Datenschutz gilt auch bei KI vollständig weiter. Ein KI-System schafft keine neue Rechtsgrundlage für personenbezogene Daten. Bei sensiblen Anwendungen müssen Datenschutz, Informationssicherheit und gegebenenfalls weitere Fachstellen frühzeitig beteiligt werden.

5. Halluzinationen, Qualität und Nachvollziehbarkeit

Generative KI optimiert auf plausible Ausgaben und kann Inhalte erfinden. Besonders gefährlich ist, dass falsche Antworten sprachlich sehr überzeugend wirken können. Zahlen, Rechtsaussagen, Quellen, technische Befehle und sicherheitsrelevante Empfehlungen sollten deshalb anhand verlässlicher Quellen geprüft werden.

Nachvollziehbarkeit bedeutet, wichtige Einsatzentscheidungen und Kontrollen so zu dokumentieren, dass später verstanden werden kann, wie ein Ergebnis zustande kam und wer es geprüft hat. Nicht jedes Prompt-Protokoll muss dauerhaft gespeichert werden; entscheidend sind die vorgesehenen Unternehmensprozesse und der Schutz der enthaltenen Daten.

Praxisbeispiel: Eine KI nennt drei angebliche Gerichtsurteile. Statt sie zu übernehmen, werden die Fundstellen in einer verlässlichen juristischen Quelle geprüft. Existiert eine Quelle nicht, darf sie nicht als Beleg verwendet werden.

6. Bias, Fairness und Grundrechte

KI-Systeme lernen aus Daten. Sind diese Daten einseitig oder spiegeln historische Benachteiligungen wider, können Ergebnisse bestimmte Gruppen systematisch benachteiligen. Fairness lässt sich deshalb nicht allein durch eine technisch hohe Trefferquote beurteilen. Auswirkungen auf unterschiedliche Personengruppen müssen berücksichtigt werden.

Mitarbeitende sollten ungewöhnliche Muster, diskriminierende Ergebnisse oder systematische Fehler nicht als „Entscheidung der KI“ akzeptieren. Sie müssen dokumentiert und an die zuständigen Stellen gemeldet werden. Bei Anwendungen mit Einfluss auf Personen können Bewertungen der Grundrechtsauswirkungen und weitere Kontrollmaßnahmen erforderlich sein.

Merke: Automatisierung macht eine Entscheidung nicht automatisch objektiv.

7. Transparenz und Kennzeichnung

Menschen sollten in relevanten Situationen erkennen können, dass sie mit einem KI-System interagieren oder dass Inhalte künstlich erzeugt bzw. verändert wurden. Für bestimmte Anwendungen sieht der AI Act konkrete Transparenzpflichten vor. Auch unabhängig davon ist transparente Kommunikation häufig sinnvoll, um falsche Erwartungen zu vermeiden.

Wer KI-generierte Inhalte veröffentlicht, sollte prüfen, welche Kennzeichnungs-, Freigabe- oder Qualitätsregeln im Unternehmen gelten. Deepfakes und täuschend echte synthetische Inhalte erhöhen das Risiko von Manipulation. Gleichzeitig gilt auch im Empfang: Audio, Bild oder Video sind nicht mehr automatisch verlässliche Beweise für eine Identität oder Aussage.

8. Sicherheit und Missbrauch verhindern

KI-Systeme benötigen dieselben grundlegenden Sicherheitsprinzipien wie andere IT-Systeme: Zugriff nur für Berechtigte, sichere Authentifizierung, angemessene Protokollierung und Schutz vor unbefugter Nutzung. Zusätzlich entstehen KI-spezifische Risiken wie Prompt Injection, Datenabfluss über Eingaben oder manipulierte Wissensquellen.

Mitarbeitende sollten externe Inhalte nicht ungeprüft in automatisierte KI-Workflows übernehmen. Ein Dokument oder eine Webseite kann versteckte Anweisungen enthalten, die ein KI-System zu unerwünschten Aktionen verleiten. Je stärker eine KI mit E-Mail, Dateien oder anderen Systemen verbunden ist, desto wichtiger sind Rechtebegrenzung und menschliche Kontrolle.

9. Praktischer Freigabe-Check vor dem KI-Einsatz

Vor der Nutzung eines neuen KI-Tools helfen sechs Fragen: Ist das Tool freigegeben? Welche Daten sollen hinein? Welche Wirkung hat das Ergebnis? Muss ein Mensch prüfen? Wie werden Fehler erkannt? Gibt es besondere rechtliche oder organisatorische Vorgaben? Bei hohem Risiko oder unklarer Datenlage ist die zuständige Fachstelle einzubeziehen.

Die Prüfung stellt unterschiedliche Szenarien. Wer die Grundprinzipien Risiko, menschliche Aufsicht, Datenschutz, Nachvollziehbarkeit, Fairness, Transparenz und Sicherheit verstanden hat, muss nicht einzelne Antwortsätze auswendig lernen.