Nichtwissen bei maschinellem Lernen

Iva Kostov analyses the legal implications of different gaps in knowledge, often addressed with catchwords like "blackbox" or "opacity", that go hand-in-hand with the implementation of machine learning. By using the analytical perspective of non-knowledge and focusing on a specific implementation context, she identifies the crucial legal issues, suggests solutions and excludes widely discussed but ultimately legally irrelevant aspects from this complex and interdisciplinary field of research.

"Blackbox", "Opazität" oder "Intransparenz" - der Technologie des maschinellen Lernens ist Nichtwissen inhärent. Aus dieser soziologisch geprägten analytischen Perspektive bringt Iva Kostov verschiedene soziale Praktiken und technologische Eigenschaften bei maschinellem Lernen auf einen gemeinsamen Nenner und untersucht ihre Bedeutung für das Recht. Dies erfolgt unter Bezugnahme auf einen für die Analyse der Thematik besonders anschlussfähigen Bereich sicherheitsbehördlicher Tätigkeit. Unter Systematisierung der verschiedenen interdisziplinären Diskussionen entwickelt sie eine für das Recht produktive Typologie verschiedener Nichtwissensausprägungen, arbeitet die jeweils maßgeblichen rechtlichen Fragestellungen heraus und zeigt Mechanismen zum Umgang damit auf. Zugleich entlarvt sie einige vieldiskutierte Themen als rechtlich irrelevante Scheinprobleme.

Autorentext
Geboren 1993; Studium der Rechtswissenschaften in Hamburg; Wissenschaftliche Mitarbeiterin am Lehrstuhl für öffentliches Recht, Medien- und Telekommunikationsrecht; 2023 Promotion; Rechtsreferendariat beim Hanseatischen Oberlandesgericht Hamburg.

Inhalt
A. Einführung
I. Forschungsfrage
II. Forschungsstand
III. Zu Nichtwissen als Ausgangspunkt der Fragestellung
IV. Das Sicherheitsrecht als Referenzfeld
V. Gang der Untersuchung

B. Regelungsstrukturen der Fluggastdatenverarbeitung
I. Rechtsrahmen
II. Institutioneller Rahmen
III. Wissensgenerierung und Komplexitätsbewältigung

C. Technologischer Rahmen
I. Muster
II. Annäherung an die einschlägigen technologischen Ansätze
III. Theoriegeleitete Ansätze
IV. Ansätze des maschinellen Lernens
V. Kombination theoriegeleiteter und lernender Ansätze

D. Intendiertes Nichtwissen
I. Nichtwissen bei Systemoutsidern
II. Nichtwissen bei Systeminsidern
III. Ergebnis

E. Unabsichtliches Nichtwissen
I. Komplexitätsbedingtes Nichtwissen
II. Korrelationsbedingtes (Nicht)Wissen
III. Ergebnis

F. Rechtliche Bedeutung von Nichtwissen bei maschinellem Lernen
I. Zusammenfassung der Ergebnisse
II. Bedeutung für weitere sicherheitsbehördliche Einsatzkonstellationen
III. Anschlussfähigkeit für sonstige behördliche Einsatzbereiche

G. Ausblick