Das Thema künstliche Intelligenz (KI) und Internet of Things (IoT) waren wohl selten so präsent, wie es aktuell der Fall ist. Aus datenschutzrechtlicher Sicht wird es vor allem spannend, wenn eine KI Nutzerverhalten analysiert oder sogar Bewerber bewertet und nach Geeignetheit klassifiziert. Daher hätte das Leitmotiv der 20. Herbstakademie „Die Macht der Daten und Algorithmen, Regulierung von IT, IoT und KI“ nicht passender und zeitgemäßer sein können. Ein kurzer Einblick:
Der Inhalt im Überblick
Herbstakademie – was ist das eigentlich?
Die Deutsche Stiftung für Recht und Informatik (DSRI) veranstaltet regelmäßig die Herbstakademie und dieses Jahr sogar zum 20. Mal – Glückwunsch zum Jubiläum. Jedes Jahr treffen sich hier Datenschützer und Informatiker aus der Wirtschaft, Wissenschaft und öffentlichen Verwaltung für gepflegten interdisziplinären Fachaustausch. Dabei dreht sich die Herbstakademie nicht nur darum, jedes Jahr Vorträge der gleichen alteingesessenen Experten zu präsentieren. Gerade junge Fachleute werden hier ermutigt, die aktuellen Probleme in allen Schnittmengen von IT und Recht zu präsentieren. Es ist dabei eben nicht schädlich, wenn es sich um die erste wissenschaftliche Veröffentlichung handelt, oder der Vortragende nicht der perfekte Entertainer ist. Außerdem erreicht die Herbstakademie damit, dass die Vorträge stets am Puls der Zeit sind.
Dieses Jahr erreichte die Veranstaltung eine Größe von 350 Teilnehmern und insgesamt 65 Vorträgen. Der Tagungsband, in dem alle Aufsätze veröffentlicht werden, umfasst geballte 902 Seiten IT-Recht in allen Facetten und Formen. Neben den vielen Vorträgen und fachlichem Austausch, bot die Herbstakademie ein angenehmes Rahmenprogramm mit ausreichend Speis und Trank und vielen Möglichkeiten zum Knüpfen neuer Kontakte.
Was ist eine KI?
Unter anderem beschäftigte sich die Herbstakademie mit allen rechtlichen Fragen rund um das Thema KI. Wenn man über KI redet, stellt sich dabei jeder grundsätzlich etwas anderes vor. Manche denken dabei an Alexa, Siri oder Cortana. Anderen wiederrum kommen Dinge wie i,Robot oder Skynet in den Sinn. Um überhaupt über eine Regulierung reden zu können, muss man deshalb zunächst verstehen, was mit KI gemeint ist und auf welchem Stand wir uns technisch aktuell befinden.
Denn grundsätzlich unterscheidet man zwischen „starken“ und „schwachen“ KIs. Schwache KIs sollen Probleme in begrenzten Anwendungsgebieten lösen. Dabei wird eine KI mittels verschiedener Methoden angelernt, um dann die ihr zugeteilte Aufgabe erledigen zu können. Das sind beispielsweise Programme, die das Auto automatisch fahren lassen, oder selbstständig die Wohnung saugen. Bewegt man sich jedoch außerhalb dieses festgelegten Anwendungsbereichs, endet die Fähigkeit einer schwachen KI.
Eine starke KI hingegen, wäre ein System das selbstständig auf die verschiedensten Szenarien reagieren kann, ohne dafür explizit „angelernt“ zu werden. Hier driftet man jedoch schon in den Bereich der Spekulation ab, denn wie genau eine starke KI aussieht, ist zurzeit schwer abzuschätzen. Wir befinden uns aktuell eben noch im Bereich der schwachen KI.
Regulierung von IT, IoT und KI
Bereits im Jahr 2018 hatte die EU-Kommission ein Experten-Gremium beauftragt, eine Leitlinie für ethische Grundsätze bei der Entwicklung und späteren Anwendung von KI-Systemen zu formulieren (wir berichteten). Zudem veröffentlichte dieses Jahr die Konferenz der unabhängigen Datenschutzbehörden des Bundes und der Länder (DSK) Anfang April die Hambacher Erklärung zur Künstlichen Intelligenz, welche sieben datenschutzrechtlichen Anforderungen an KI aufstellt.
So verwundert es nicht, dass die immer noch unbeantwortete Frage, wie man KI am besten regulieren könne, ein zentraler Punkt vieler Vorträge der Herbstakademie war. Es wurde sich mit der ethischen Ausrichtung von KI beschäftigt und wie sinnvoll es ist eine KI unserem westlich-christlichen Moralvorstellungen zu unterwerfen. Zu diesem Thema gibt es verschiedenste Leitlinien und Vorstellungen, wie die ethische Regulierung einer KI geschehen könnte. Zurückzuführen ist das ganze übrigens auf die bekannten Robotergesetze von Isaac Asimov, welcher sich schon vor fast 80 Jahren mit dem Thema Ethik und KI auseinandergesetzt hat.
Viel gesprochen hat man auch über das Thema Transparenz. Denn bspw. gibt Art. 13 Abs. 2 lit. f DSGVO vor, dass Betroffene im Falle einer automatisierten Entscheidungsfindung über die involvierte Logik zu informieren hat. Problematisch ist dabei, dass auch oft den Einsetzenden bzw. den Entwicklern einer KI nicht im Detail klar ist, warum die KI sich in einem Einzelfall so entscheidet wie sie es tut.
Ein möglicher Ansatz dazu soll die selbsterklärende KI sein. Anders als bei Versuchen eine fertige KI quasi von außen zu beschreiben, soll der KI in der Entwicklung beigebracht werden, ihre Entscheidungen zu begründen. So könne man die komplizierte Aufgabe, Transparenz über den Entscheidungsweg der KI herzustellen, einfach der KI überlassen. Eine solche Lösungsmöglichkeit klingt zumindest sehr vielversprechend. Allerdings müssen Entwickler diese Selbsterklärung schon zu Beginn der Entwicklung mit einplanen.
Zudem sei anzumerken, dass wir bei der wissenschaftlichen Diskussion um die Regulierung von IT, IoT und KI wohl erst noch am Anfang stehen. Das legen die drei Milliarden Euro nahe, mit welchen die Bundesregierung in den nächsten Jahren Projekte rund um „Künstlicher Intelligenz“ fördern möchte (insbesondere die Pläne für „100 neue KI-Professuren“).
Weitere Themen
Auch wenn das Leitmotiv sich rund um die Regulierung von KI, IoT und IT im Allgemeinen drehte, so waren dennoch auch andere datenschutzrechtliche Fragestellungen auf der Vortragstagesordnung. Gelungene Vorträge zum Thema Transparenz in Datenschutzerklärungen, dem Einsatz von Dynamic Pricing oder dem nemo tenetur-Grundsatz (erhielt den Best Paper Award) im Rahmen der Meldepflicht bei Datenschutzvorfällen, zeigen die große Bandbreite, die hier abgedeckt wurde. Für alle Interessierten lohnt es sich den gebundenen Tagungsband zu erwerben, in dem alle Aufsätze zusammengefasst wurden.
Zum Schluss bleibt ein großes Dankeschön an die Veranstalter, Vortragenden und Teilnehmer für eine äußerst gelungene Veranstaltung, bis nächstes Jahr!
