KI-Richtlinie Unternehmen: In 7 Schritten zur eigenen Richtlinie (2026)

KI-Richtlinie Unternehmen: In 7 Schritten zur eigenen Richtlinie (2026)

Zuletzt aktualisiert: 29. September 2026

Kurze Zusammenfassung

Eine KI-Richtlinie für Unternehmen legt fest, welche KI-Anwendungen Mitarbeitende nutzen dürfen, welche Daten dabei tabu sind und wer Ergebnisse prüft. Sie ist gesetzlich nicht verpflichtend, aber der praktischste Weg, um die Transparenzpflichten der europäischen KI-Verordnung, die ab dem 2. August 2026 greifen, im Arbeitsalltag umzusetzen. Kleine und mittlere Unternehmen brauchen dafür kein Großprojekt, sondern einen strukturierten Prozess in sieben Schritten.

Kurze Zusammenfassung

Die wichtigsten Kernaussagen

  • Eine KI-Richtlinie regelt erlaubte Tools, Datenregeln, Freigabeprozesse und Kennzeichnungspflichten, ist aber kein Gesetz.
  • Ab dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50 der KI-Verordnung für Chatbots, Deepfakes und KI-generierte Inhalte.
  • Der Digital Omnibus verschiebt die Pflichten für Hochrisiko-KI-Systeme auf Dezember 2027 beziehungsweise August 2028, an den Transparenzpflichten ändert sich dadurch nichts.
  • Fast jedes Unternehmen mit Mitarbeitenden, die ChatGPT, Copilot oder ähnliche Tools nutzen, ist als Betreiber von der KI-Verordnung betroffen.
  • Ohne klare Regeln entsteht Schatten-KI: Mitarbeitende nutzen private Konten, und sensible Daten landen unkontrolliert in fremden Systemen.
  • Kostenfreie Vorlagen von GDD, Bitkom und IHK-Organisationen erleichtern den Einstieg erheblich.
  • Die Kosten für eine erste Richtlinie halten sich in Grenzen: Der größte Aufwand ist Zeit, nicht Geld.
  • Verstöße gegen die KI-Verordnung können je nach Pflicht mit Bußgeldern bis in den Millionenbereich geahndet werden.

Was ist eine KI-Richtlinie und warum ist sie wichtig?

Eine KI-Richtlinie ist ein internes Regelwerk, das den Einsatz künstlicher Intelligenz im Unternehmen ordnet. Sie beantwortet die Fragen, die im Alltag wirklich auftauchen: Darf ich den Kundentermin von einem KI-Assistenten zusammenfassen lassen? Darf ich Vertragsentwürfe in ein Übersetzungstool kopieren? Ohne eine solche Regelung entscheidet jede Person im Betrieb für sich, und genau das führt zu Problemen.

Wichtig ist zu verstehen, was eine KI-Richtlinie nicht ist. Sie ersetzt keine rechtliche Einzelfallprüfung, etwa beim Einsatz von KI in Personalentscheidungen. Sie ersetzt auch keine Betriebsvereinbarung, denn sobald KI-Systeme Verhalten oder Leistung von Beschäftigten berühren, hat der Betriebsrat Mitbestimmungsrechte. Und sie ersetzt keine Schulung: Die KI-Verordnung verlangt laut IHK Schleswig-Holstein bereits seit Februar 2025, dass Mitarbeitende über ausreichende KI-Kompetenz verfügen.

Warum ist das Thema gerade jetzt wichtig? Weil in vielen Betrieben längst KI-Tools im Einsatz sind, oft ohne dass die Geschäftsführung davon weiß. Genau hier hilft eine klare KI-Richtlinie Unternehmen dabei, den Überblick zurückzugewinnen, statt Vorschriften nachträglich zu erlassen, wenn schon längst etwas passiert ist.

Welche Unternehmen brauchen eine KI-Richtlinie?

Praktisch jedes Unternehmen, dessen Mitarbeitende KI-Tools wie ChatGPT, Microsoft Copilot oder Übersetzungsdienste nutzen, sollte eine KI-Richtlinie haben. Das betrifft laut KOFA längst nicht nur große Konzerne, sondern auch kleine Handwerksbetriebe, Kanzleien, Vereine und gemeinnützige Organisationen.

Eine Richtlinie lohnt sich besonders, wenn:

  • Mitarbeitende bereits eigenständig KI-Tools nutzen, ohne Freigabe der Geschäftsführung
  • Kundendaten, Mandantendaten oder Personaldaten im Spiel sind
  • Texte, Bilder oder Videos öffentlich veröffentlicht werden, die mit KI erstellt wurden
  • ein Betriebsrat oder eine ähnliche Vertretung existiert

Nicht jedes Ein-Personen-Unternehmen braucht ein zehnseitiges Dokument. Aber auch Freiberufler und kleine Vereine profitieren von einer kurzen, schriftlich festgehaltenen Regelung, allein schon um im Streitfall zeigen zu können, dass man sich Gedanken gemacht hat.

KI-Richtlinie für kleine Unternehmen vs. große Unternehmen

Kleine Unternehmen mit bis zu 20 Beschäftigten kommen oft mit einer kurzen, zwei bis drei Seiten langen Richtlinie aus, die eine Person verantwortet. Größere Mittelständler mit eigener IT-Abteilung brauchen dagegen häufig ein kleines Gremium, das Tools prüft, sowie einen dokumentierten Freigabeprozess.

Der Unterschied liegt vor allem im Detaillierungsgrad, nicht im Grundprinzip. Ein Handwerksbetrieb mit 20 Beschäftigten, dessen Büroteam Angebotstexte mit einem KI-Assistenten formuliert, braucht klare Datenregeln und eine Prüfperson vor dem Versand. Eine Steuerberatungskanzlei mit acht Beschäftigten, die Mandantengespräche mit einem KI-Transkriptionsdienst zusammenfassen lässt, braucht zusätzlich eine Klärung der berufsrechtlichen Verschwiegenheitspflichten und der Datenschutz-Grundverordnung.

KI-Richtlinie und DSGVO: Wo liegt der Unterschied?

Die KI-Richtlinie regelt die interne Organisation des KI-Einsatzes, die DSGVO regelt den Umgang mit personenbezogenen Daten. Beide Regelwerke überschneiden sich, sind aber nicht identisch, und eine gute Richtlinie sollte immer mit den bestehenden Datenschutzregelungen abgestimmt sein statt parallel dazu zu existieren.

KI-Richtlinie und DSGVO: Wo liegt der Unterschied?

Sobald personenbezogene Daten in KI-Systeme gelangen, etwa Namen in einem Besprechungsprotokoll oder Bewerbungsunterlagen, gelten die bekannten DSGVO-Pflichten unverändert weiter. Die KI-Richtlinie übernimmt dann praktisch die Kategorien, die im Unternehmen ohnehin für den Datenumgang gelten, und macht sie für den KI-Kontext konkret. Vattenfall beschreibt diesen Zusammenhang treffend: Die Richtlinie ist das Bindeglied zwischen bestehendem Datenschutz und neuen KI-Werkzeugen.

Ein praktisches Beispiel: Wenn ein Mitarbeiter ein Kundengespräch mit einem KI-Tool transkribieren lässt, greift zunächst die DSGVO (Rechtsgrundlage, Informationspflicht gegenüber der betroffenen Person). Die KI-Richtlinie legt zusätzlich fest, welches Transkriptionstool überhaupt genutzt werden darf und wer die Ergebnisse kontrolliert. Beides zusammen ergibt erst ein rundes Vorgehen.

Der rechtliche Rahmen: Fristen und Zeitplan der KI-Verordnung

Die europäische KI-Verordnung gilt gestaffelt: Verschiedene Pflichten werden zu unterschiedlichen Zeitpunkten anwendbar, und für die meisten kleinen und mittleren Unternehmen sind vor allem drei Termine relevant. Seit dem 2. Februar 2025 gelten Verbote bestimmter KI-Praktiken sowie die Pflicht zur KI-Kompetenz nach Artikel 4.

Die EU-Kommission hat laut Bitkom-Umsetzungsleitfaden 2025 erläuternde Hinweise zur Auslegung der Kompetenzpflicht veröffentlicht. Unternehmen sollten seitdem sicherstellen, dass Mitarbeitende die Grundlagen, Chancen und Grenzen der eingesetzten KI-Systeme verstehen, etwa durch kurze interne Schulungen.

Ab August 2026: Transparenzpflichten für Chatbots und KI-Inhalte

Ab dem 2. August 2026 werden die Transparenzpflichten nach Artikel 50 anwendbar und unterscheiden drei Fallgruppen. Bei interaktiven Systemen wie Chatbots im Kundenkontakt muss erkennbar sein, dass eine Person mit einer KI interagiert, nicht mit einem Menschen.

Bei synthetischen Inhalten, also KI-generierten Bildern, Videos, Audiodateien oder Texten, müssen Anbieter laut IHK Lüneburg-Wolfsburg sicherstellen, dass Ausgaben maschinenlesbar gekennzeichnet und als künstlich erzeugt erkennbar sind. Für Systeme, die vor dem 2. August 2026 auf den Markt kamen, gilt eine Übergangsfrist bis zum 2. Dezember 2026.

Für Deepfakes, also täuschend echte KI-generierte Darstellungen realer Personen oder Ereignisse, gilt eine besondere Offenlegungspflicht für Betreiber, nicht nur für Anbieter. Wer solche Inhalte im Unternehmen einsetzt, muss deren künstliche Erzeugung offenlegen, unabhängig davon, ob der Hersteller selbst schon markiert hat.

Digital Omnibus: neue Fristen für Hochrisiko-KI

Mit dem sogenannten Digital Omnibus hat die EU zentrale Fristen verschoben. Das Europäische Parlament stimmte der Änderung am 16. Juni 2026 zu, der Rat am 29. Juni 2026, und die Änderung trat wenige Tage nach Veröffentlichung im Amtsblatt der EU im Juli 2026 in Kraft.

Nach dem geänderten Zeitplan greifen die Pflichten für eigenständige Hochrisiko-KI-Systeme, etwa in Personalauswahl oder Kreditvergabe, laut KPMG erst ab dem 2. Dezember 2027. Für KI, die in regulierte Produkte wie Medizinprodukte oder Spielzeug eingebettet ist, gilt der 2. August 2028. Wichtig: Diese Verschiebung betrifft nur die Hochrisiko-Fristen, die Transparenzpflichten und die KI-Kompetenz bleiben unverändert.

Hochrisiko-KI-Systeme: Was gilt besonders?

Ein KI-System zählt als Hochrisiko-Anwendung, wenn es in sensiblen Bereichen wie Personalauswahl, Kreditwürdigkeitsprüfung, Bildungszugang oder kritischer Infrastruktur eingesetzt wird. Für diese Systeme gelten deutlich strengere Anforderungen an Dokumentation, menschliche Aufsicht und Risikomanagement als für gewöhnliche Bürowerkzeuge.

Die meisten kleinen Unternehmen setzen keine Hochrisiko-Systeme ein, sondern nutzen Chatbots, Textassistenten oder Übersetzungstools, die unter die einfacheren Transparenzpflichten fallen. Wer unsicher ist, ob eine eingesetzte Anwendung als Hochrisiko gilt, etwa ein KI-gestütztes Bewerbermanagement-System, sollte das laut IHK Köln im Zweifel fachkundig prüfen lassen, statt eine Vermutung ins Blaue zur Grundlage zu machen.

In sieben Schritten zur eigenen KI-Richtlinie

Eine praxistaugliche KI-Richtlinie lässt sich in sieben klaren Schritten erarbeiten, ohne juristische Vorkenntnisse und meist innerhalb von zwei bis vier Wochen. Hier die Checkliste mit typischen Fehlern zu jedem Schritt.

Schritt 1: KI-Inventar erstellen. Fragen Sie in den Teams nach, welche KI-Werkzeuge bereits genutzt werden, offiziell und inoffiziell. Denken Sie auch an eingebaute KI-Funktionen in Office-Paketen, CRM-Systemen oder Grafikprogrammen. Typischer Fehler: nur eigenständige Tools abzufragen und eingebaute Funktionen zu übersehen.

Schritt 2: Verantwortlichkeiten klären. Benennen Sie eine feste Ansprechperson oder ein kleines Team für KI-Fragen, in kleinen Betrieben reicht oft die Geschäftsführung gemeinsam mit einer IT-affinen Fachkraft. Typischer Fehler: Zuständigkeit diffus im Raum stehen zu lassen, sodass am Ende niemand entscheidet.

Schritt 3: Datenregeln definieren. Legen Sie klare Kategorien fest: unkritische Inhalte, interne Inhalte (nur in freigegebenen Systemen mit Unternehmensaccount) und gesperrte Inhalte wie personenbezogene Daten oder Geschäftsgeheimnisse. Beziehen Sie, sofern vorhanden, die Datenschutzbeauftragte oder den Datenschutzbeauftragten ein.

Schritt 4: Freigabeprozess festlegen. Ein Whitelist-Ansatz hat sich bewährt: Genutzt werden darf, was geprüft und freigegeben wurde. Ergänzen Sie ein einfaches Verfahren, mit dem Mitarbeitende neue Werkzeuge vorschlagen können, inklusive kurzer Prüfung von Datenschutz und IT-Sicherheit.

Schritt 5: Kennzeichnungsregeln aufnehmen. Regeln Sie mindestens die ab August 2026 rechtlich relevanten Fälle: Chatbots im Kundenkontakt und öffentlich eingesetzte KI-generierte Medieninhalte. Faustregel: Immer prüfen, wenn Inhalte das Unternehmen verlassen.

Schritt 6: Schulung und Kompetenzaufbau verankern. Verankern Sie, dass neue Mitarbeitende eine Einführung erhalten und alle Beschäftigten regelmäßig geschult werden. Kurze interne Formate oder die kostenfreien Angebote der Mittelstand-Digital Zentren reichen dafür meist aus.

Schritt 7: Richtlinie testen, veröffentlichen und aktualisieren. Lassen Sie den Entwurf von zwei, drei Personen aus unterschiedlichen Abteilungen gegenlesen, bevor Sie ihn verbindlich machen. Ein kurzer Praxistest zeigt oft, dass Formulierungen zu abstrakt sind oder wichtige Anwendungsfälle fehlen.

Was kostet die Umsetzung einer KI-Richtlinie?

Für die meisten kleinen und mittleren Unternehmen ist der größte Kostenfaktor die investierte Zeit, nicht Geld. Mit den kostenfreien Vorlagen von GDD, Bitkom oder IHK-Organisationen lässt sich eine erste Version in wenigen Arbeitstagen erstellen.

Was kostet die Umsetzung einer KI-Richtlinie?

Realistische Aufwandsschätzung für ein kleines Unternehmen mit bis zu 20 Beschäftigten:

  • Erstellung der Richtlinie mit Vorlage: etwa ein bis drei Arbeitstage, verteilt über zwei bis drei Wochen
  • Interne Abstimmung mit Betriebsrat oder Team: ein bis zwei zusätzliche Termine
  • Externe Beratung bei komplexeren Fragen, etwa Hochrisiko-Einordnung: variiert je nach Anbieter, oft im dreistelligen bis niedrigen vierstelligen Bereich
  • Laufende Schulung: kann über kostenfreie Angebote der Mittelstand-Digital Zentren abgedeckt werden

Größere Unternehmen mit eigener Rechtsabteilung investieren naturgemäß mehr Zeit, weil dort mehr Systeme und Abteilungen betroffen sind. Wer allerdings ganz auf externe Beratung verzichtet, spart zwar Geld, trägt aber ein höheres Risiko, wichtige Details zu übersehen.

Welche Strafen drohen bei Verstößen gegen die KI-Verordnung?

Verstöße gegen die KI-Verordnung können mit Bußgeldern geahndet werden, deren Höhe sich nach der Art der verletzten Pflicht richtet. Bei Verstößen gegen verbotene KI-Praktiken nach Artikel 5 drohen die höchsten Sätze, bei anderen Pflichten wie den Transparenzanforderungen fallen die Bußgelder gestaffelt niedriger aus.

Für die praktische Arbeit im Betrieb ist weniger die abstrakte Bußgeldhöhe entscheidend als die Frage, ob überhaupt jemand die Verantwortung übernimmt. Unternehmen ohne dokumentierte Richtlinie tun sich im Streitfall deutlich schwerer, nachzuweisen, dass sie sich um Compliance bemüht haben. Das gilt auch gegenüber Kunden, Mandanten oder Aufsichtsbehörden, die im Zweifel nachfragen, wie mit KI-generierten Inhalten umgegangen wird.

Kostenfreie Vorlagen und Arbeitshilfen im Überblick

Wer keine eigene Richtlinie von Grund auf schreiben möchte, findet mehrere kostenfreie, anbieterneutrale Vorlagen. Die Auswahl richtet sich danach, wie detailliert das Ergebnis sein soll und wie viel Rechtssprache Sie im eigenen Betrieb wollen.

  • Die GDD-Musterrichtlinie zum Einsatz von Künstlicher Intelligenz eignet sich für Unternehmen, die eine rechtlich fundierte, ausführliche Vorlage suchen, auch mit Blick auf Mitbestimmung und Datenschutz.
  • Der Bitkom-Umsetzungsleitfaden zur KI-Verordnung bietet einen guten Überblick über die gesetzlichen Pflichten, gut geeignet als Grundlage für die rechtliche Einordnung.
  • Regionale IHK-Organisationen wie die IHK Osnabrück stellen praxisnahe Übersichten und teils Checklisten bereit, die sich gut für kleine Betriebe eignen.
  • Das Mittelstand-Digital Netzwerk bietet kostenfreie Webinare und Workshops, in denen Vorlagen direkt am eigenen Fall durchgesprochen werden können.

Als Tool zur laufenden Kontrolle reicht in vielen kleinen Unternehmen ein einfaches Freigabe-Dokument, etwa eine gemeinsam gepflegte Tabelle mit erlaubten Tools, Verantwortlichen und Prüfdatum. Größere Betriebe setzen teils auf spezialisierte Compliance-Software, die aber für die meisten KMU noch kein Muss ist.

Typische Stolpersteine aus der Praxis

Die häufigsten Fehler bei der Einführung einer KI-Richtlinie entstehen nicht durch fehlendes Wissen, sondern durch zu viel Regelungswut oder zu wenig Verbindlichkeit. Wer diese Stolpersteine kennt, vermeidet die typischen Nachbesserungen im ersten halben Jahr.

Typische Stolpersteine aus der Praxis
  • Nur Verbote statt Nutzungsregeln: Wer KI nur verbietet, treibt Mitarbeitende in die Schatten-KI, also die Nutzung nicht freigegebener Werkzeuge über private Konten.
  • Verbotslisten statt Whitelist-Prinzip: Eine Liste einzelner verbotener Tools veraltet innerhalb von Wochen, weil ständig neue Werkzeuge auf den Markt kommen.
  • Abstrakte Formulierungen: Sätze wie „sensible Daten vermeiden“ helfen im Alltag wenig, wenn niemand weiß, was konkret gemeint ist.
  • Kennzeichnung für alles vorschreiben: Das erhöht den Aufwand unnötig und senkt die Akzeptanz im Team.
  • Richtlinie einmal schreiben und dann liegen lassen: Ohne regelmäßige Prüfung veraltet die Richtlinie schneller, als man denkt, gerade angesichts der aktuellen Fristenverschiebungen.

Wie oft sollte man die KI-Richtlinie prüfen und aktualisieren?

Eine KI-Richtlinie sollte mindestens einmal jährlich überprüft werden, zusätzlich immer dann, wenn neue gesetzliche Fristen greifen oder neue Tools im Unternehmen eingeführt werden. Angesichts der aktuellen Entwicklungen, etwa der Transparenzpflichten ab August 2026 und der verschobenen Hochrisiko-Fristen, empfiehlt sich sogar ein halbjährlicher Blick auf die eigene Regelung.

Praktisch bedeutet das: Legen Sie einen festen Termin fest, etwa im Rahmen einer bestehenden Teambesprechung, an dem die verantwortliche Person kurz prüft, ob neue Tools im Umlauf sind, ob sich Fristen geändert haben und ob das Team die Regeln noch kennt. Das dauert oft nicht mehr als eine halbe Stunde, verhindert aber, dass die Richtlinie zum reinen Papiertiger wird.

Braucht mein Unternehmen wirklich eine KI-Richtlinie?

Ja, klares Ja, wenn in Ihrem Betrieb bereits KI-Tools genutzt werden oder Sie planen, welche einzuführen. Selbst ohne gesetzliche Pflicht ist eine Richtlinie der einfachste Weg, um Kontrolle über Daten und Ergebnisse zu behalten, statt im Nachhinein Schäden zu begrenzen.

Wenn Ihr Unternehmen bislang komplett ohne KI arbeitet und das auch so bleiben soll, ist eine ausführliche Richtlinie weniger dringend, ein kurzer schriftlicher Hinweis auf die geltenden Regeln schadet trotzdem nicht. Sobald aber auch nur eine Person im Team ChatGPT, Copilot oder ähnliche Werkzeuge nutzt, sollten Sie nicht länger warten.

Häufige Fragen

Ist eine KI-Richtlinie gesetzlich vorgeschrieben? Nein, eine KI-Richtlinie selbst ist nicht gesetzlich vorgeschrieben. Sie ist aber der praktischste Weg, um Pflichten aus der KI-Verordnung, etwa zur KI-Kompetenz und Transparenz, im Betrieb umzusetzen.

Ab wann gelten die Transparenzpflichten der KI-Verordnung? Die Transparenzpflichten nach Artikel 50 werden ab dem 2. August 2026 anwendbar und betreffen Chatbots, Deepfakes und bestimmte KI-generierte Inhalte.

Was ist der Digital Omnibus? Der Digital Omnibus ist eine Änderung der EU, mit der zentrale Fristen der KI-Verordnung für Hochrisiko-Systeme verschoben wurden, auf Dezember 2027 beziehungsweise August 2028.

Betrifft die KI-Verordnung auch kleine Unternehmen? Ja, die meisten kleinen Unternehmen gelten als Betreiber von KI-Systemen und müssen organisatorische Pflichten wie KI-Kompetenz und Transparenz erfüllen, auch ohne selbst KI zu entwickeln.

Was passiert, wenn wir keine Richtlinie haben? Ohne Richtlinie steigt das Risiko von Schatten-KI, unkontrolliertem Datenabfluss und Schwierigkeiten, im Streitfall Compliance-Bemühungen nachzuweisen.

Ersetzt eine KI-Richtlinie den Datenschutz? Nein, die KI-Richtlinie ergänzt die DSGVO, ersetzt sie aber nicht. Sobald personenbezogene Daten verarbeitet werden, gelten die DSGVO-Pflichten zusätzlich und unverändert.

Muss der Betriebsrat bei einer KI-Richtlinie beteiligt werden? Sobald KI-Systeme das Verhalten oder die Leistung von Beschäftigten berühren, hat der Betriebsrat Mitbestimmungsrechte, die über die reine Richtlinie hinausgehen können.

Wie finde ich heraus, ob unser KI-System als Hochrisiko gilt? Im Zweifel sollte das fachkundig geprüft werden, etwa über eine IHK-Beratung oder externe Rechtsberatung, da die Einordnung von Details des jeweiligen Einsatzzwecks abhängt.

Fazit

Ehrlich gesagt lohnt sich der Aufwand für eine KI-Richtlinie in fast jedem Betrieb, egal ob Handwerksfirma, Kanzlei oder Verein. Mit den kostenfreien Vorlagen von GDD und Bitkom sowie den sieben Schritten aus diesem Beitrag kommen auch kleine Teams ohne Rechtsabteilung in wenigen Wochen zu einer praxistauglichen Regelung. Das war’s im Grunde: klare Datenregeln, eine verantwortliche Person, ein einfacher Freigabeprozess, und schon ist der größte Teil der Arbeit erledigt.

References

  1. GDD-Musterrichtlinie: Betriebliche Richtlinie zum Einsatz von Künstlicher Intelligenz
  2. Bitkom: Umsetzungsleitfaden zur KI-Verordnung (EU) 2024/1689
  3. IHK Schleswig-Holstein: KI-Verordnung (AI Act), Schulungspflicht und Leitlinien
  4. KOFA: EU AI Act verstehen und umsetzen, KI-Strategie für KMU
  5. IHK Lüneburg-Wolfsburg: Die Europäische KI-Verordnung
  6. Vattenfall: KI rechtssicher im Unternehmen nutzen
  7. IHK Osnabrück: Artificial Intelligence Act, das müssen Unternehmen wissen
  8. KPMG: EU AI Act, was Unternehmen 2026 strategisch vorbereiten sollten
  9. Europäische Kommission: KI-Gesetz, Gestaltung der digitalen Zukunft Europas
  10. IHK Köln: Künstliche Intelligenz, Regelungen der KI-Verordnung

CLIENT PROFIL KI-THOMAS