Charakteristika von KI-Systemen

Die Datenverarbeitungen, die für Entwicklung und Einsatz von KI-Systemen notwendig sind, führen zT zu erheblichen Spannungen mit datenschutzrechtlichen Grundsätzen.

Im vorliegenden Forschungsprojekt werden die wesentlichen technologischen Rahmenbedingungen von KI-Systemen, für den hier (datenschutz-)rechtlich interessierenden Kontext, umrissen. Die hierbei festgemachten technologischen Eigenschaften zeigen, sowohl bei der Entwicklung als auch beim Einsatz der Technologie, (rechtliche) Risiken und Spannungsfelder auf: Va die Notwendigkeit der Verarbeitung großer (allenfalls personenbezogener) Datenmengen tritt augenscheinlich hervor und löst Friktionen mit dem Datenschutzrecht aus („Datenintensität“). Weitere Dissonanzen ergeben sich aufgrund der „Komplexität“ der Systeme, zumal die Entwicklung von KI-Modellen, ebenso wie dessen spätere Vorhersagen, über statistische Zusammenhänge unter erschwerter Erklärbarkeit und Nachvollziehbarkeit erfolgt. Verschärfend kommt hinzu, dass im gesamten Lebenszyklus von KI-Systemen erhebliche Probleme mit der Robustheit bzw Informationssicherheit der Systeme bestehen („Fragilität“).

Konfligierende datenschutzrechtlicher Grundsätze

Datenintensität: Die Verarbeitung großer Datenmengen ist sowohl für die Entwicklung[1] als auch den Einsatz[2] von KI notwendig.

• Konfliktpunkt: Grundsatz der Datenminimierung
• Konfliktpunkt: Grundsatz der Speicherbegrenzung
• Konfliktpunkt: Grundsatz der Zweckbindung

Komplexität: Die Entwicklung von KI-Modellen erfolgt, ebenso wie dessen spätere Vorhersagen, über statistische Zusammenhänge[3] unter erschwerter Erklärbarkeit und Nachvollziehbarkeit.

• Konfliktpunkt: Grundsatz der Verarbeitung nach Treu und Glauben, bzw Transparenz

Fragilität: Im gesamten Lebenszyklus von KI-Systemen existieren große Probleme mit der Robustheit bzw Informationssicherheit der Systeme.

• Konfliktpunkt: Grundsatz der Integrität und Vertraulichkeit
• Konfliktpunkt: Grundsatz der Datenrichtigkeit

Auch wenn diese Gegenüberstellung den Einsatz von KI-Systemen prima facie bedenklich erscheinen lässt, soll keineswegs eine grundsätzliche Rechtswidrigkeit der Technologie an sich induziert werden.[4] Allfällige Friktionen, welche diese Charakteristika mit datenschutzrechtlichen Grundsätzen erzeugen, sind aber in den konkreten Interessenabwägungen, welche die DSGVO abverlangt, zu berücksichtigen.

[1]      Hier ist von Trainingsdaten zum Erlernen des Modells die Rede.

[2]      Auch fertig entwickelte KI-Modelle müssen im laufenden Betrieb während der Einsatzphase noch verarbeiten; vgl „Datenverarbeitende KI“.

[3]      So besteht insb auch das Risiko von sog Scheinkausalitäten, also einer Korrelation von verschiedenen Informationen die aber eigentlich nicht kausal zusammenhängen.

[4]      Im Übrigen schlägt nicht jede Datenschutzwidrigkeit auch in die Sphäre der Datenschutz-Grundsätze durch; vgl für ein „enges Verständnis“ der Datenschutz-Grundsätze etwa Herbst in Kühling/Buchner, DS-GVO3 Art 5 Rz 10.