Schatten-KI im Mittelstand – Was der EU AI Act jetzt von Unternehmen verlangt

Worum geht es?

Ein Mitarbeiter im Vertrieb hat dreißig Minuten bis Feierabend und noch eine Begleit-Mail zu einem komplexen Angebot. Über seinen privaten Account kopiert er die Kalkulationstabelle mit Kundennamen und Margen in einen frei zugänglichen KI-Chatdienst (etwa ChatGPT, Gemini oder Copilot, kostenlose Version), weil seine Firma „mit KI noch nicht so weit ist". Drei Minuten später ist die Mail draußen. Die Daten auch.

Von Schatten-KI spricht man, wenn Beschäftigte KI-Anwendungen ohne Freigabe, ohne Regeln und oft ohne Kenntnis des Unternehmens einsetzen. Wie verbreitet das ist, zeigen aktuelle Zahlen.

In einer im Oktober 2025 von Bitkom Research durchgeführten repräsentativen Befragung von 604 deutschen Unternehmen mit mindestens 20 Beschäftigten zeigte sich ein klares Bild. In acht Prozent der Betriebe ist die Nutzung privater KI-Tools am Arbeitsplatz weit verbreitet. Dies entspricht einer Verdopplung gegenüber vier Prozent im Vorjahr. In weiteren 17 Prozent kommt sie in Einzelfällen vor, und noch einmal 17 Prozent vermuten zumindest, dass ihre Beschäftigten zu privaten Zugängen greifen. Insgesamt gehen damit rund vier von zehn Unternehmen davon aus, dass in ihrem Betrieb Schatten-KI existiert. Demgegenüber haben nur 23 Prozent Regeln für den KI-Einsatz aufgestellt, und nur 26 Prozent stellen ihrer Belegschaft überhaupt einen offiziellen KI-Zugang zur Verfügung.¹

Die Sicht der Beschäftigten bestätigt das Bild. In einer am 28. April 2026 veröffentlichten Bitkom-Erhebung unter 1.003 Personen ab 16 Jahren gibt fast jeder zweite Erwerbstätige (48 Prozent) an, KI im Beruf einzusetzen. Zwölf Prozent davon tun das, ohne dass der Arbeitgeber davon weiß. Nur 21 Prozent haben bisher eine vom Arbeitgeber angebotene KI-Fortbildung wahrgenommen, in 37 Prozent der Betriebe gibt es schlicht keine solchen Angebote.²

Eine ebenfalls am 28. April 2026 vorgestellte Forsa-Befragung im Auftrag des TÜV-Verbands ergänzt den Befund auf Unternehmensseite: 56 Prozent der 500 befragten Unternehmen ab 20 Mitarbeitenden setzen generative KI-Anwendungen wie ChatGPT, Gemini, Claude oder Copilot im Arbeitsalltag ein, aber nur 27 Prozent haben dafür geschult.³

Die Tools sind also längst im Einsatz, die Regeln und Qualifizierungsmaßnahmen aber nicht.

Warum Verbote nichts bringen

Schatten-KI entsteht nicht aus Böswilligkeit. Sie entsteht, weil ein KI-Chatbot in Sekunden eine brauchbare Mail liefert, für die man von Hand deutlich länger bräuchte. Ein offizieller, freigegebener Weg zu solchen Werkzeugen fehlt in vielen Betrieben dagegen ganz oder ist mit langen Freigabeprozessen verbunden. Eine im Februar 2026 in der Fachzeitschrift Wirtschaftsinformatik & Management erschienene Auswertung von Interviews aus deutschen Unternehmen kommt zu einem klaren Schluss: Das Sperren einzelner Tools verschiebt das Problem in der Regel nur. Mitarbeitende weichen auf private Endgeräte aus oder zur nächsten Alternative. In derselben Veröffentlichung wird eine Microsoft-Erhebung zitiert, nach der 71 Prozent der Beschäftigten unautorisierte KI-Tools im Job einsetzen, 51 Prozent davon wöchentlich. Nur ein knappes Drittel macht sich überhaupt Gedanken über den Datenschutz dessen, was eingegeben wird.⁴

Was konkret schiefgeht

Die Probleme lassen sich in drei Bereichen verorten.

Der erste und derzeit drängendste ist die Compliance-Lücke beim EU AI Act. Seit dem 2. Februar 2025 verlangt Artikel 4 der EU-KI-Verordnung von allen Unternehmen, die KI einsetzen, ein „ausreichendes Maß an KI-Kompetenz" bei ihren Beschäftigten.⁵ Mit der vollumfänglichen Anwendung der Verordnung zum 2. August 2026 greifen zudem die zentralen Sanktionsregelungen. Wer nicht weiß, welche KI-Systeme im eigenen Betrieb tatsächlich genutzt werden, kann seine Schulungspflicht praktisch nicht erfüllen und damit auch nicht nachweisen. Schatten-KI ist damit nicht nur ein Sicherheits-, sondern unmittelbar ein Haftungsthema.

Der zweite Bereich ist der Datenabfluss. Viele frei zugängliche Consumer-Dienste verarbeiten eingegebene Inhalte standardmäßig zur Verbesserung ihrer Modelle. Dokumentiert ist das beispielsweise für die Consumer-Versionen von ChatGPT (OpenAI), die Eingaben (Free, Plus, Pro) nutzen, sofern Nutzerinnen und Nutzer dem nicht aktiv widersprechen.⁶ Bei anderen Anbietern wie Google (Gemini), Microsoft (Copilot) oder Anthropic (Claude) hängt die Datennutzung vom jeweiligen Tarif und den Einstellungen ab und sollte im Einzelfall geprüft werden. Was im Prompt landet, etwa Kundenlisten, Angebotskalkulationen, Personalakten, technische Zeichnungen oder Quellcode, verlässt damit den kontrollierten Unternehmensbereich – ohne Auftragsverarbeitungsvertrag und ohne Rechtsgrundlage nach Art. 6 der Datenschutz-Grundverordnung⁸ sowie ohne realistische Rückholmöglichkeit.

Der dritte Bereich sind fehlerhafte Entscheidungen. Große Sprachmodelle (LLM) erzeugen mitunter plausibel klingende, aber faktisch falsche Inhalte. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) bezeichnet diese sogenannten Halluzinationen als technisches Risiko. Sprachmodelle sind deshalb als Werkzeuge zu verstehen, deren Ergebnisse stets von Menschen geprüft werden müssen.⁷

Die Beispiele reichen von einer erfundenen Vertragsklausel über eine nicht existierende DIN-Norm bis zur falsch zusammengefassten Risikobewertung. Fließt ein solches Ergebnis ungeprüft in eine Geschäftsentscheidung ein, haftet das Unternehmen, nicht das Tool.

Schatten-KI im Dreieck von Mensch, Technik und Organisation

Wer Schatten-KI wirksam begegnen will, sollte sie nicht als reines Technikproblem behandeln. Das arbeitspsychologische Konzept „Mensch–Technik–Organisation" (MTO) nach Strohm und Ulich beschreibt Arbeitssysteme als soziotechnische Systeme, in denen die drei Teilsysteme über die Arbeitsaufgabe verknüpft sind und wechselseitig aufeinander einwirken.⁹ Betrachtet man Schatten-KI durch diese drei Brillen, wird erklärbar, warum einseitige Maßnahmen scheitern.

Mensch. Beschäftigte greifen zu privaten KI-Tools, weil diese ihre Aufgabe schneller lösen, nicht aus Regelverstoß. Zugleich fehlt vielfach das Bewusstsein für die Datenrisiken und die nötige Kompetenz, wie die eingangs genannten Zahlen zur verbreiteten, aber selten geschulten KI-Nutzung zeigen. Hier setzen Aufklärung und arbeitsplatzbezogene Schulung an.

Technik. Die Werkzeuge selbst tragen die Risiken in sich: Consumer-Versionen verarbeiten Eingaben häufig standardmäßig zum Training⁶, und Sprachmodelle erzeugen plausibel klingende Fehlinformationen.⁷ Technische Schutzmaßnahmen wie Geschäftslizenzen mit deaktivierter Trainingsnutzung oder Zugriffs- und URL-Filter wirken aber nur, wenn sie organisatorisch eingebettet und von den Beschäftigten akzeptiert sind.

Organisation. Hier ist die strukturelle Lücke am größten: In den meisten Betrieben fehlen bislang verbindliche Regeln und ein offizieller KI-Zugang (siehe oben). Ohne klare Zuständigkeiten, Freigabeprozesse, eine legale Alternative und eine verbindliche Nutzungsrichtlinie bleibt jede Einzelmaßnahme Stückwerk.

Der Kern des MTO-Gedankens ist die wechselseitige Abhängigkeit dieser drei Teilsysteme.⁹ Ein technisches Verbot ohne organisatorische Alternative und ohne menschliche Qualifizierung verschiebt das Problem nur, genau das bestätigt die Praxis.⁴ Eine tragfähige Antwort adressiert deshalb alle drei Dimensionen zugleich.

Beispiele aus dem Mittelstand

Drei typische Situationen, in denen Schatten-KI im Arbeitsalltag entsteht:

1. Buchhaltung – Auswertung von Belegen im privaten KI-Tool. Ein Mitarbeiter lädt Lieferantenrechnungen mit Namen, Kontodaten und Beträgen in einen frei zugänglichen Chatdienst, um sie schnell auswerten zu lassen. Sensible Finanz- und Personendaten verlassen unkontrolliert das Unternehmen (Risiko: Datenabfluss).

2. Einkauf – Vertragsprüfung per KI. Ein Sprachmodell fasst einen Liefervertrag zusammen und nennt dabei eine Klausel, die so gar nicht im Dokument steht. Ungeprüft übernommen, kann das zu falschen Zusagen führen (Risiko: fehlerhafte Entscheidung).

3. Personal/Marketing – Texterstellung mit Personendaten. Für ein Anschreiben oder einen Social-Media-Post werden Bewerber- oder Kundendaten eingegeben, ohne Rechtsgrundlage und ohne dass jemand im Unternehmen davon weiß (Risiko: Compliance- und Datenschutzverstoß).

In allen drei Fällen ist nicht die Technik allein das Problem, sondern das Fehlen von Regeln, Alternativen und Wissen.

Was Unternehmen tun sollten

Der erste Schritt ist keine Sperrliste, sondern eine ehrliche Bestandsaufnahme: Welche Tools werden tatsächlich genutzt, wofür, und welche Daten gehen dabei nach außen? Anonyme Befragungen liefern hier verwertbare Antworten, Drohungen mit Disziplinarmaßnahmen nicht.

Die zentrale Entscheidung ist dann, den Mitarbeitenden eine sichere, geschäftliche Alternative anzubieten. Bei vielen Business-, Enterprise- oder API-Angeboten ist die Trainingsnutzung der Eingaben standardmäßig deaktiviert; dokumentiert ist das beispielsweise für OpenAI⁶, vergleichbare Geschäftskonditionen bieten unter anderem Google, Microsoft und Anthropic an. Für Betriebe mit besonders schutzwürdigen Daten kommen zudem selbst betriebene Lösungen auf Basis von Open-Source-Modellen in Frage (etwa über Plattformen wie Ollama oder LM Studio). Welche Variante passt, hängt vom Schutzbedarf, vom Budget und von den vorhandenen IT-Ressourcen ab und ist im Einzelfall zu entscheiden. Ohne offizielle Alternative bleibt jedes Verbot wirkungslos.

Die Nutzungsrichtlinie ist dann das verbindende Regelwerk. Sie muss knapp sein, um gelesen zu werden. Zwei Seiten reichen, wenn sie das Wesentliche regeln: welche Tools zugelassen sind, welche Datenklassen wo eingegeben werden dürfen, wie KI-generierte Inhalte zu prüfen und zu kennzeichnen sind, und an wen Vorfälle gemeldet werden.

Die Schulung schließt den Kreis. Sie sollte arbeitsplatzbezogen statt generisch sein, denn nur so erfüllt sie die Anforderungen aus Artikel 4 der KI-Verordnung.⁵ Inhaltlich gehören dazu mindestens die Datenklassenregeln aus der Nutzungsrichtlinie, die typischen Halluzinationsfälle im jeweiligen Arbeitsumfeld, der Meldeweg bei Vorfällen sowie eine dokumentierte Teilnahmebestätigung. Diese Teilnahmebestätigung dient zugleich als Nachweis gegenüber den Aufsichtsbehörden.

Fazit

Schatten-KI ist kein Disziplin-, sondern ein Gestaltungsthema. Sie verschwindet nicht durch Sperren, sondern durch attraktive, sichere Alternativen, klare Regeln und qualifizierte Beschäftigte. Wer Mensch, Technik und Organisation zusammen denkt, verwandelt ein Risiko in einen geordneten, rechtssicheren KI-Einsatz. Nicht das Verbot schützt das Unternehmen, sondern der gangbare offizielle Weg.

Quellen

1. Bitkom e.V., „Beschäftigte nutzen vermehrt Schatten-KI", Presseinformation vom 21. Oktober 2025. Bitkom Research, repräsentative Telefonbefragung von 604 Unternehmen ab 20 Beschäftigten, KW 27–32 2025. https://www.bitkom.org/Presse/Presseinformation/Beschaeftigte-nutzen-Schatten-KI
2. Bitkom e.V., „Ein Drittel nutzt KI mindestens einmal pro Woche – von Code bis Küche", Presseinformation vom 28. April 2026. Bitkom Research, repräsentative Befragung von 1.003 Personen ab 16 Jahren, KW 8–11 2026. https://www.bitkom.org/Presse/Presseinformation/Ein-Drittel-nutzt-KI-mindestens-einmal-pro-Woche
3. TÜV-Verband e.V., „KI-Schulungen in Unternehmen innerhalb von zwei Jahren verdoppelt", Pressemitteilung vom 28. April 2026 zur TÜV Weiterbildungsstudie 2026. Forsa, Befragung von 500 Unternehmen ab 20 Mitarbeitenden, Januar bis März 2026. https://www.tuev-verband.de/pressemitteilungen/ki-schulungen-in-unternehmen-innerhalb-von-zwei-jahren-verdoppelt
4. Beitrag in Wirtschaftsinformatik & Management (Springer), Februar 2026: „Von Schatten-IT zu Schatten-KI durch ChatGPT: Herausforderungen und Handlungsempfehlungen aus deutschen Unternehmen". DOI: 10.1365/s35764-026-00588-3. https://link.springer.com/article/10.1365/s35764-026-00588-3
5. Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 (KI-Verordnung), Artikel 4 anwendbar seit 2. Februar 2025, vollumfängliche Anwendung gemäß Artikel 113 ab 2. August 2026. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
6. OpenAI, „How your data is used to improve model performance", OpenAI Policies / Help Center (abgerufen Juni 2026). Eingaben aus den Consumer-Plänen (Free, Plus, Pro) werden standardmäßig zum Training verwendet, sofern kein Opt-out erfolgt; Geschäfts-, Enterprise- und API-Angebote hingegen nicht. https://openai.com/policies/how-your-data-is-used-to-improve-model-performance/
7. Bundesamt für Sicherheit in der Informationstechnik (BSI), „Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden", aktualisierte Fassung 2025. Das BSI benennt Halluzinationen (plausibel klingende, aber falsche Inhalte) als technisches Risiko und empfiehlt eine menschliche Überprüfung der Ergebnisse. https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Generative_KI-Modelle.html
8. Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung, DSGVO), Artikel 6 „Rechtmäßigkeit der Verarbeitung". https://eur-lex.europa.eu/eli/reg/2016/679/oj
9. Strohm, O.; Ulich, E. (1997): Unternehmen arbeitspsychologisch bewerten. Ein Mehr-Ebenen-Ansatz unter besonderer Berücksichtigung von Mensch, Technik und Organisation. vdf Hochschulverlag an der ETH Zürich. Grundlegendes Konzept der soziotechnischen Systemgestaltung (Mensch–Technik–Organisation, MTO). Überblick: „MTO-Analyse", Wikipedia (abgerufen Juni 2026). https://de.wikipedia.org/wiki/MTO-Analyse