Sensible Daten und KI: Was ist möglich und unter welchen Bedingungen?
Personalakten, Verfahrensdaten, interne Dokumente oder vertrauliche Fachinformationen: Gerade dort, wo KI besonders viel Arbeit abnehmen könnte, werden häufig Daten verarbeitet, die nicht unkontrolliert an Externe übermittelt werden dürfen.
Das führt schnell zu zwei gegensätzlichen Annahmen: Entweder sensible Daten dürften grundsätzlich nicht mit KI verarbeitet werden – oder die Nutzung sei unproblematisch, solange ein Anbieter Datenschutz und Sicherheit zusichert.
Beides greift zu kurz.
Ob und wie sensible Daten mit KI verarbeitet werden können, hängt vom konkreten Anwendungsfall, der Art der Daten, dem Zweck der Verarbeitung und der technischen und organisatorischen Ausgestaltung der Lösung ab.
Kurz gesagt
Sensible oder personenbezogene Daten schließen den Einsatz von KI nicht grundsätzlich aus.
Werden personenbezogene Daten verarbeitet, gelten jedoch die Anforderungen der DSGVO – unabhängig davon, ob dabei KI eingesetzt wird. Unter anderem müssen Zweck und Rechtsgrundlage der Verarbeitung geklärt, die Verarbeitung auf das notwendige Maß begrenzt und angemessene technische und organisatorische Schutzmaßnahmen getroffen werden.
Bei KI kommt neben der DSGVO-Anforderungen noch eine zusätzliche Frage hinzu: Was geschieht mit den Daten innerhalb der konkreten Lösung? Entscheidend ist nicht allein das verwendete Modell, sondern der gesamte Datenfluss von der Eingabe über die Verarbeitung bis zu Speicherung, Protokollierung und möglichen Zugriffen.
„Sensibel“ kann Unterschiedliches bedeuten
Im Alltag wird der Begriff „sensible Daten“ häufig für alles verwendet, was besonders vertraulich behandelt werden soll. Datenschutzrechtlich ist die Einordnung genauer.
Die DSGVO unterscheidet personenbezogene Daten und besondere Kategorien personenbezogener Daten, etwa Gesundheitsdaten, biometrische Daten zur eindeutigen Identifizierung oder Angaben zur religiösen oder politischen Überzeugung. Daneben können Organisationen mit Informationen arbeiten, die zwar nicht unter diese besonderen Kategorien fallen, aber trotzdem einen hohen Schutzbedarf haben – beispielsweise interne Verwaltungsdaten, Geschäftsgeheimnisse oder vertrauliche Verfahrensinformationen.
Für ein KI-Projekt sollte deshalb zuerst geklärt werden, welche Daten tatsächlich verarbeitet werden und welcher Schutzbedarf daraus entsteht.
Entscheidend ist der Datenfluss
Bei einer klassischen Softwareanwendung lässt sich häufig relativ klar beschreiben, wo Daten gespeichert und verarbeitet werden. Bei einer KI-Anwendung kommen je nach Architektur weitere Komponenten hinzu.
Eine Eingabe kann beispielsweise an ein extern bereitgestelltes Modell übermittelt werden. Inhalte können protokolliert werden und sogar für zukünftige KI-Trainings gespeichert. Oder das Modell läuft vollständig innerhalb einer kontrollierten Infrastruktur und erhält nur die Informationen, die es für eine konkrete Aufgabe benötigt.
Deshalb reicht die Frage „Ist dieses KI-Modell datenschutzkonform?“ für eine belastbare Bewertung nicht aus.
Relevant ist vielmehr:
- Welche Daten gelangen überhaupt in die Anwendung?
- Wo werden sie verarbeitet?
- Wer erhält Zugriff?
- Werden Eingaben oder Ausgaben gespeichert?
- Werden Daten für andere Zwecke wie dem Training einer KI weiterverwendet?
- Welche weiteren Dienstleister sind beteiligt?
- Wann werden Daten wieder gelöscht?
Erst wenn dieser Datenfluss nachvollziehbar ist, lassen sich Datenschutz und Informationssicherheit sinnvoll bewerten.
So wenig Daten wie nötig
Ein wichtiger Grundsatz der DSGVO ist die Datenminimierung: Personenbezogene Daten sollen auf das für den jeweiligen Zweck notwendige Maß beschränkt werden. Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen sollen diesen Grundsatz bereits bei der Gestaltung der Verarbeitung berücksichtigen.
Für KI-Anwendungen ergibt sich daraus eine praktische Frage: Muss das Modell tatsächlich alle vorhandenen Informationen erhalten, um seine Aufgabe zu erfüllen?
Manchmal können Daten vor der Verarbeitung reduziert, pseudonymisiert, anonymisiert oder anderweitig auf die benötigten Informationen begrenzt werden. In anderen Fällen lässt sich eine Aufgabe möglicherweise so gestalten, dass besonders schützenswerte Inhalte gar nicht an das Modell übermittelt werden müssen.
Das kann die Architektur einer KI-Lösung grundlegend beeinflussen.
Ein Beispiel dafür ist die Dokumentenklassifizierung: Soll lediglich erkannt werden, um welchen Dokumenttyp es sich handelt, kann je nach Verfahren möglicherweise mit Strukturmerkmalen gearbeitet werden, ohne sämtliche personenbezogenen Inhalte für die Klassifizierung auszuwerten.
Der Speicherort allein löst das Problem nicht
Ein Server innerhalb Deutschlands oder der EU kann für bestimmte Anforderungen wichtig sein. Für die datenschutzrechtliche und sicherheitstechnische Bewertung reicht der Standort allein jedoch nicht.
Relevant sind unter anderem der Anbieter, mögliche Unterauftragnehmer, Zugriffsrechte, vertragliche Regelungen, technische Schutzmaßnahmen und gegebenenfalls internationale Datenübermittlungen.
Auch ein lokal betriebenes Modell ist nicht automatisch datenschutzkonform. Die Organisation muss weiterhin klären, ob die Verarbeitung rechtmäßig ist, welche Daten erforderlich sind und wie diese geschützt werden.
Umgekehrt ist eine Cloud-Lösung nicht allein deshalb ungeeignet, weil sie extern betrieben wird. Entscheidend ist, ob die konkrete Lösung die Anforderungen des jeweiligen Einsatzes erfüllt.
Damit wird die Betriebsform zu einem wichtigen Teil der Bewertung – aber nicht zu ihrer einzigen Antwort.
Welche Fragen sollten vor dem Einsatz geklärt werden?
Statt sensible Daten pauschal von KI-Anwendungen auszuschließen, sollte der konkrete Einsatz strukturiert geprüft werden.
Dazu gehören insbesondere:
- Zweck: Welche Aufgabe soll die KI erfüllen und welche Daten benötigt sie dafür tatsächlich?
- Datenarten: Werden personenbezogene Daten, besondere Kategorien personenbezogener Daten oder andere vertrauliche Informationen verarbeitet?
- Rechtsgrundlage: Auf welcher Grundlage erfolgt die Verarbeitung personenbezogener Daten?
- Betrieb: Wo werden Daten und Modell verarbeitet und gespeichert?
- Zugriffe: Welche internen und externen Stellen können auf die Daten zugreifen?
- Weiterverwendung: Werden Eingaben oder Ausgaben gespeichert oder für andere Zwecke genutzt?
- Sicherheit: Welche technischen und organisatorischen Maßnahmen schützen Daten und Systeme?
- Löschung: Wie lange werden Informationen gespeichert und wie werden sie gelöscht?
- Verantwortung: Wer ist innerhalb der Organisation für Betrieb, Datenschutz, Informationssicherheit und fachliche Kontrolle zuständig?
Welche zusätzlichen Prüfungen erforderlich sind, hängt vom jeweiligen Einsatz ab. Bei Verarbeitungen, die voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge haben, sieht die DSGVO beispielsweise eine Datenschutz-Folgenabschätzung vor.
Datenschutz beginnt vor der Modellauswahl
Gerade in Justiz, Verwaltung und anderen regulierten Organisationen sollte die Frage nach sensiblen Daten deshalb nicht erst gestellt werden, wenn ein Modell bereits ausgewählt wurde.
Sie gehört an den Anfang.
Wenn bekannt ist, welche Daten verarbeitet werden sollen, welcher Schutzbedarf besteht und welche rechtlichen und organisatorischen Rahmenbedingungen gelten, lässt sich die technische Lösung entsprechend gestalten.
Dann kann sich beispielsweise ergeben, dass bestimmte Daten gar nicht an ein Modell übermittelt werden müssen oder nur anonymisierte Daten, ein anderes Betriebsmodell sinnvoll ist oderzusätzliche Schutzmaßnahmen erforderlich sind.
Sensible Daten sind damit nicht automatisch ein Ausschlusskriterium für KI. Sie sind eine Anforderung, die von Anfang an bestimmen muss, wie die Lösung gestaltet wird.
