Sicherheit, Wirtschaft und Technologie gehören zusammen. Wer sie zusammen denkt, führt seinen Betrieb in die Zukunft.

Begriff und Abgrenzung

Der Begriff „künstliche Intelligenz“ wird in der Alltagssprache, im Recht und in der amtlichen Statistik unterschiedlich verwendet. Werden die Ebenen vermischt, entstehen Fehleinschätzungen über den eigenen Pflichtenkreis.

In der Alltagssprache bezeichnet „KI“ meist ein Textdialogsystem wie ChatGPT. Diese Verwendung ist verbreitet, hat aber weder rechtliche noch statistische Bedeutung.

Im Recht gilt die Begriffsbestimmung des Artikels 3 Nummer 1 der KI-Verordnung. Danach ist ein KI-System ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie betrieben wird, nach seiner Einführung anpassungsfähig sein kann und aus den erhaltenen Eingaben ableitet, wie Ausgaben zu erzeugen sind — Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen, die physische oder virtuelle Umgebungen beeinflussen können.

Das maßgebliche Tatbestandsmerkmal ist das Ableiten. Ein System, das aus Eingaben erschließt, wie es antwortet, fällt unter die Definition. Ein System, das ausschließlich zuvor festgelegte Regeln ausführt, in aller Regel nicht.

Die amtliche Statistik misst wiederum Technologien: Textanalyse, Bilderkennung, Spracherkennung, Sprachgenerierung, maschinelles Lernen. Erhebungseinheit sind Unternehmen ab zehn Beschäftigten. Diese Systematik ist keine Rechtsdefinition und war nie als solche gedacht.

Was eine Richtlinie leisten kann und was nicht

Eine Nutzungsregelung ändert nicht, was ein KI-Werkzeug kann. Sie ändert, wer es wofür einsetzt, welche Angaben hineingelangen und wer die Folgen trägt.

Sie macht sichtbar, was ohnehin geschieht. Die deutsche Datenschutzaufsicht beschreibt den Ausgangszustand ungewöhnlich direkt: Ohne klare Regelungen bestehe das Risiko, dass Beschäftigte KI-Anwendungen „eigenmächtig und unkontrolliert“ nutzen, und es sei davon auszugehen, dass dies „derzeit Realität in vielen Unternehmen und Behörden“ sei. Eine Regelung, die dienstliche Werkzeuge benennt und Meldewege eröffnet, holt diese Nutzung aus dem Unsichtbaren.

Sie verlagert Entscheidungen dorthin, wo sie hingehören. Ohne Regelung entscheidet jede Mitarbeiterin im Einzelfall selbst, ob eine Kundenanschrift in ein fremdes System darf. Mit Regelung entscheidet das der Betrieb — einmal, vorab und für alle gleich. Die österreichische Wirtschaftskammer formuliert denselben Gedanken für die Werkzeugauswahl: Über die Zulässigkeit einer Anwendung entscheide allein die Unternehmensleitung.

Sie kann selbst eine Schutzmaßnahme sein, an die Rechtsfolgen anknüpfen. Nach dem Unionsrecht ist eine Information nur dann ein Geschäftsgeheimnis, wenn sie unter anderem „Gegenstand von den Umständen entsprechenden angemessenen Geheimhaltungsmaßnahmen durch die Person“ ist, „die die rechtmäßige Kontrolle über die Informationen besitzt“. Der Schutz hängt damit an einer Handlung des Inhabers, nicht allein am Wert der Information.

Eine schriftliche, bekannt gemachte und durchgesetzte Regel darüber, was in fremde Dienste eingegeben werden darf, ist der Sache nach eine solche Maßnahme. Eine gerichtliche Entscheidung, die eine KI-Nutzungsregelung ausdrücklich unter diesen Buchstaben fasst oder ihr Fehlen zum Verlust des Geheimnisschutzes führen lässt, wurde nicht gefunden. Der Zusammenhang bleibt deshalb eine Frage, die ein Betrieb für sich beantworten muss, und keine belegte Rechtsfolge (Abschnitt 13).

Drei Gesetze, ein Mechanismus

Der Fragebogen kommt nicht, weil Ihr Kunde Ihnen misstraut, und nicht, weil ein Gesetz Sie zu etwas verpflichtet. Er kommt, weil Ihr Kunde etwas belegen muss, das er ohne Sie nicht belegen kann: dass er die Sicherheitsrisiken kennt, die von seinen Lieferanten ausgehen, und dass er sie beherrscht. Dieser Abschnitt zeigt den Mechanismus an der NIS2-Richtlinie, weil er dort am deutlichsten formuliert ist. Die beiden anderen Rechtsakte — DORA für Finanzkunden, der Cyber Resilience Act für Herstellerkunden — folgen demselben Muster und werden in den Abschnitten 3 und 4 behandelt.

Die Richtlinie (EU) 2022/2555 richtet sich an die Mitgliedstaaten und über sie an „wesentliche und wichtige Einrichtungen“. Das sind Betriebe und Organisationen aus bestimmten Sektoren ab einer bestimmten Größe, dazu einige Arten von Einrichtungen unabhängig von ihrer Größe. Welche das sind, behandelt Abschnitt 2. Für diesen Abschnitt genügt ein Satz: In der Regel ist Ihr Auftraggeber eine solche Einrichtung, und Sie sind es nicht.

Die zentrale Bestimmung ist Artikel 21. Sein erster Absatz lautet:

„Die Mitgliedstaaten stellen sicher, dass wesentliche und wichtige Einrichtungen geeignete und verhältnismäßige technische, operative und organisatorische Maßnahmen ergreifen, um die Risiken für die Sicherheit der Netz- und Informationssysteme, die diese Einrichtungen für ihren Betrieb oder für die Erbringung ihrer Dienste nutzen, zu beherrschen und die Auswirkungen von Sicherheitsvorfällen auf die Empfänger ihrer Dienste und auf andere Dienste zu verhindern oder möglichst gering zu halten.“

Der Adressat jedes Satzes ist die Einrichtung. Nirgends in Artikel 21 steht ein Satz, der einen Lieferanten dieser Einrichtung verpflichtet. Was Sie bekommen, ist die Wirkung einer fremden Pflicht — und das ist der erste Satz, den Sie sich für jedes Gespräch mit Ihrem Kunden merken sollten: Die Anforderung hat einen Adressaten, und der sind nicht Sie.

Warum Grundschutz vor KI kommt

Wer sich mit dem Einsatz künstlicher Intelligenz im Betrieb beschäftigt, stößt schnell auf eine Reihenfolge, die nicht verhandelbar ist: zuerst das Fundament der Informationstechnik, dann die Risiken, die neue Werkzeuge mitbringen. Band 1 dieser Reihe hat das in einem Satz gesagt und in fünf Punkten ausgeführt. Dieses Handbuch ist die Ausführung dieser fünf Punkte in der Tiefe, die ein Betrieb ohne IT-Abteilung braucht, um sie selbst umzusetzen — oder um zu prüfen, ob sein Dienstleister sie umgesetzt hat.

Band 1 stellt in Abschnitt 12 „Informationssicherheit“ fest, die Reihenfolge sei „fachlich vorgegeben: zunächst das grundlegende Fundament der Informationstechnik, danach die KI-spezifischen Risiken. Nicht ersatzweise.“ Vor jeder KI-spezifischen Maßnahme seien fünf Punkte zu ordnen, die „unspektakulär“ seien und „den überwiegenden Teil der tatsächlich eintretenden Vorfälle“ abdeckten:

Datensicherung, getrennt vom Netz vorgehalten, mit mindestens einmal erfolgreich erprobter Wiederherstellung. — Aktuelle Software auf allen Geräten — Betriebssysteme, Browser, Server, auch selten genutzte Geräte. — Zugänge: personengebundene Konten, Zwei-Faktor-Anmeldung, unverzügliche Sperrung bei Ausscheiden. — Zuständigkeit: eine namentlich benannte verantwortliche Person, auch wenn externe Unterstützung hinzugezogen wird. — Notfallregelung: festgelegte Erreichbarkeiten für den Fall eines Ausfalls.

Diese fünf Punkte sind die Gliederung von Teil II und III dieses Handbuchs: Zugänge (Abschnitte 4 und 5), Sicherung (6), aktuelle Software und Geräte (7), Zuständigkeit (9), Notfall (10 und 11). Dazu kommt ein Punkt, den Band 1 unter den KI-spezifischen Risiken führt, der aber jeden Betrieb trifft, ob er KI nutzt oder nicht: E-Mail und Betrug (8).