Künstliche Intelligenz – was sie ist (aus rechtlicher Sicht) und wie die Welt mit ihr umgeht

Im sich schnell entwickelnden Technologiebereich ist künstliche Intelligenz (KI) eine bahnbrechende Kraft, die nicht nur Branchen verändert, sondern auch viele Fragen und rechtliche Herausforderungen aufwirft.“

Chat GPT bat darum, künstliche Intelligenz im Zusammenhang mit rechtlichen Herausforderungen zu präsentieren.

Gibt es eine Definition von künstlicher Intelligenz?

Derzeit gibt es weder in Polen noch in der Europäischen Union einerechtlicheDefinition von künstlicher Intelligenz. Eine ähnliche Situation besteht auch in anderen wichtigen Rechtssystemen auf der ganzen Welt. Am ehesten kommt die Definition von „automatisierter Entscheidungsfindung“ in der RODO, die einige KI-Systeme einschließen kann, der KI nahe.

Die RODO definiert in Artikel 22 die automatisierte Entscheidungsfindung als:

„… eine Entscheidung, die ausschließlich auf einer automatisierten Verarbeitung einschließlich Profiling beruht und die gegenüber einer Person rechtliche Wirkungen entfaltet oder diese Person in ähnlicher Weise erheblich beeinträchtigt“.

Diese Definitionist jedoch in ihrer derzeitigen Formnicht spezifisch genug, um das Konzept der Systeme der künstlichen Intelligenz, wie wir sie heute kennen, hinreichend „abzudecken“.

Aus rechtlicher Sicht ist künstliche Intelligenz daher „nur“ eine Technologie oder eine Reihe von Technologien und wird wie jede andere Technologie reguliert – durch eine Reihe verschiedener Regeln, die für bestimmte Kontexte oder Anwendungen gelten. Sie kann für gute Zwecke eingesetzt werden oder Schaden anrichten, ihr Einsatz kann legal oder illegal sein – alles hängt von der jeweiligen Situation und dem Kontext ab.

Warum ist die Regulierung der künstlichen Intelligenz so wichtig?

Die Entwicklung der künstlichen Intelligenz schreitet immer schneller voran. Und weil künstliche Intelligenz eine „disruptive Kraft“ ist, kämpfen verschiedene Länder damit, die Technologie für gesetzgeberische Zwecke zu beschreiben. In der Vergangenheit zogen die Gesetzgeber nur selten in Erwägung, neue Rechtsvorschriften auf internationaler Ebene speziell für eine einzelne Technologie zu schaffen. In den letzten Jahren hat sich jedoch gezeigt, dass immer mehr technologische Durchbrüche eine rasche rechtliche Reaktion erfordern – man braucht nicht lange zu suchen, man denke nur an Cloud Computing, Blockchain und jetzt künstliche Intelligenz.

So können verschiedene Teile oder Komponenten dieser Technologie im Besitz verschiedener Personen oder Unternehmen sein (z. B. das Urheberrecht an einem bestimmten Programmcode oder das Eigentum an Datenbanken), aber die Idee der künstlichen Intelligenz ist öffentlich. Und da immer mehr KI-Werkzeuge und Wissen für jedermann zugänglich gemacht werden, kann theoretisch jeder KI-Werkzeuge nutzen oder neue Werkzeuge entwickeln. Das birgt die Gefahr des Missbrauchs, weshalb die Regulierung der Technologie so wichtig ist.

Warum sonst? Alle sind sich einig, dass die künstliche Intelligenz das Potenzial hat, die wirtschaftliche und soziale Landschaft auf der ganzen Welt zu verändern. Natürlich ist dies bereits der Fall, und der Prozess beschleunigt sich täglich – was ebenso aufregend wie beängstigend ist. Die Geschwindigkeit, mit der sich neue Technologien entwickeln, macht es schwierig, die Ergebnisse vorherzusagen. Daher ist es von entscheidender Bedeutung, dass einige Rechtsgrundsätze vorhanden sind, um sicherzustellen, dass die künstliche Intelligenz in einer Weise genutzt wird, die allen zugute kommt. Und da es sich um ein „globales Phänomen“ handelt, wäre es am besten, wenn es zumindest eine universelle Vereinbarung darüber gäbe, was künstliche Intelligenz aus rechtlicher Sicht ist.

Es ist jedoch unwahrscheinlich, dass dies auf globaler Ebene geschieht. Einige Länder versuchen, künstliche Intelligenz anhand ihres Zwecks oder ihrer Funktionen zu definieren, andere anhand der verwendeten Technologien, und wieder andere kombinieren verschiedene Ansätze. Viele wichtige Rechtsordnungen versuchen jedoch, sich auf eine Definition von KI zu einigen und gemeinsame Grundsätze zu finden. Dies ist wichtig, um praktische Probleme zu vermeiden, vor allem für Anbieter globaler KI-Lösungen, da sie bald mit zahlreichen Compliance-Problemen konfrontiert sein werden. Nur wenn zumindest eine grundlegende Interoperabilität zwischen den Rechtsordnungen besteht, kann KI ihr volles Potenzial entfalten.

EU-Ansatz

Verschiedene Länder in der Europäischen Union haben versucht, das Thema KI auf unterschiedliche Weise anzugehen. Wenn wir jedoch nach einer schnellen Antwort auf die Frage suchen, was die wahrscheinlichste Definition von KI in der EU ist, werden uns die meisten auf das Gesetz über künstliche Intelligenz (Artificial Intelligence Act, AI Act) bzw. auf dessen Entwurf verweisen. Die Mitgliedstaaten verschieben konkrete Entscheidungen bis zur Verabschiedung der endgültigen Fassung des KI-Gesetzes, das die Technologie auf europäischer Ebene in allen Mitgliedstaaten umfassend regeln wird.

Die derzeit öffentlich zugängliche Fassung des KI-Gesetzes enthält folgende Definition eines Systems der künstlichen Intelligenz:

„Ein KI-System ist ein maschinengestütztes System, das so konzipiert ist, dass es mit einem unterschiedlichen Grad an Autonomie operiert und nach seiner Einführung eine Anpassungsfähigkeit aufweisen kann, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen können.“

Quelle: https://www.linkedin.com/feed/update/urn:li:activity:7155091883872964608/

Was übersetzt werden kann als: „Ein System mit künstlicher Intelligenz ist ein maschinelles System, das so konzipiert ist, dass es mit einem unterschiedlichen Grad an Autonomie operieren kann, das beim Einsatz Anpassungsfähigkeit zeigen kann und das für explizite, implizite oder verborgene Zwecke aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können.“

Dies steht im Gegensatz zum letzten Text des KI-Gesetzes von 2023, in dem ein System der künstlichen Intelligenz definiert wurde als „Software, die unter Verwendung einer oder mehrerer der in Anhang I aufgeführten Techniken und Ansätze entwickelt wurde und die für eine bestimmte Reihe von durch den Menschen definierten Zwecken Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen erzeugen kann, die sich auf die Umgebungen auswirken, mit denen sie interagiert.“

Damit hat sich die EU in ihrer Definition eines Systems der künstlichen Intelligenz dem OECD-Standard angenähert.

Und was ist dieser Standard? Im November 2023. Die OECD (Organisation für wirtschaftliche Zusammenarbeit und Entwicklung) hat die in den OECD AI Principles enthaltene Definition von KI aktualisiert. Dies ist der erste zwischenstaatliche Standard zu KI (er wurde 2019 angenommen). Zahlreiche Behörden auf der ganzen Welt haben sich verpflichtet, diese Definition direkt oder mit geringfügigen Änderungen anzuwenden. Auch die Europäische Union gehört zu dieser Gruppe.

Quelle: https://oralytics.com/2022/03/14/oced-framework-for-classifying-of-ai-systems/

OECD-Definition für ein KI-System:

„Ein KI-Systemist ein maschinengestütztes System, das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können. Verschiedene KI-Systeme unterscheiden sich in ihrem Grad an Autonomie und Anpassungsfähigkeit nach dem Einsatz“.

(DE: „EinSystemder künstlichen Intelligenz(KI) ist ein maschinengestütztes System, das zu expliziten oder impliziten Zwecken aus empfangenen Eingaben ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können. Verschiedene Systeme künstlicher Intelligenz unterscheiden sich in ihrem Grad an Autonomie und Anpassungsfähigkeit, sobald sie eingesetzt werden“).

Aktuelles OECD-Modell für Systeme künstlicher Intelligenz

Zusätzlich zu dieser Definition werden in den OECD-Empfehlungen fünf weitere wertorientierte Grundsätze für den verantwortungsvollen Umgang mit vertrauenswürdiger künstlicher Intelligenz festgelegt.

Dazu gehören:

Integratives Wachstum, Nachhaltigkeit und Wohlstand;

menschenzentrierte Werte und Gerechtigkeit;

Transparenz und „Erklärbarkeit

Robustheit, Sicherheit und Schutz;

Rechenschaftspflicht.

Vor diesem Hintergrund sollten Länder, die sich zu den OECD-Leitsätzen für künstliche Intelligenz verpflichtet haben, die aufgeführten Aspekte (zumindest theoretisch) berücksichtigen. In diesem Zusammenhang ist die EU auf dem richtigen Weg.

Wie wird künstliche Intelligenz auf globaler Ebene interpretiert?

Die Vereinigten Staaten

Laut der Website der National Conference of State Legislatures haben mindestens 25 Bundesstaaten, Puerto Rico und der District of Columbia im Jahr 2023 Gesetze zur künstlichen Intelligenz eingebracht, und 15 Bundesstaaten und Puerto Rico haben Resolutionen in diesem Bereich verabschiedet. Einzelne Bundesstaaten haben mehr als 120 Initiativen zu allgemeinen KI-Themen ergriffen (die Gesetzgebung zu spezifischen KI-Technologien wie Gesichtserkennung oder autonome Autos wird separat verfolgt).

Der Ansatz in den Vereinigten Staaten ist also unterschiedlich. Interessanterweise wurde im Mai 2023 in Kalifornien ein Gesetzesentwurf eingebracht, der die US-Regierung auffordert, ein sofortiges Moratorium für die Ausbildung von Systemen der künstlichen Intelligenz, die leistungsfähiger als GPT-4 sind, für mindestens sechs Monate zu verhängen, um Zeit für die Entwicklung eines KI-Managementsystems zu haben – sein Status ist derzeit „anhängig“, aber es scheint nicht wahrscheinlich, dass er angenommen wird.

Was die Definition von künstlicher Intelligenz betrifft, so gibt es in den USA keine einheitliche rechtliche Definition. Allerdings wurde mit einem der wichtigsten Gesetze im Zusammenhang mit KI – dem National AI Initiative Act of 2020. – hat das National Artificial Intelligence Initiative Office eingerichtet und definiert künstliche Intelligenz als „ein maschinenbasiertes System, das für eine gegebene Reihe von vom Menschen definierten Zielen Vorhersagen, Empfehlungen oder Entscheidungen treffen kann, die reale oder virtuelle Umgebungen betreffen“. Weiter heißt es: „Systeme der künstlichen Intelligenz verwenden maschinelle und menschliche Eingaben, um – (A) reale und virtuelle Umgebungen wahrzunehmen; (B) diese Wahrnehmungen durch Analyse auf automatisierte Weise zu Modellen zu abstrahieren; und (C) durch Modellinferenz Informations- oder Handlungsoptionen zu formulieren“. Das Dokument konzentriert sich jedoch hauptsächlich auf die Organisation des KI-Büros zur Unterstützung der Entwicklung dieser Technologie in den Vereinigten Staaten und weniger auf die Regulierung der künstlichen Intelligenz selbst.

Die USA haben sich zu den OECD-Grundsätzen für künstliche Intelligenz verpflichtet. Es gibt jedoch auch andere Hinweise darauf, was von bundesstaatlichen KI-Vorschriften zu erwarten ist. „The Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People“ ist die richtige Anlaufstelle. Er wurde vom Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses im Oktober 2022 veröffentlicht und enthält eine Liste von fünf Grundsätzen, die als Orientierungshilfe dienen sollen, wenn automatisierte Systeme die Rechte, Möglichkeiten oder den Zugang zu wichtigen Bedürfnissen der Öffentlichkeit erheblich beeinträchtigen können“. Zu diesen Grundsätzen gehören:

1. sichere und effiziente Systeme

2. Schutz vor algorithmischer Diskriminierung

3. Datenschutz

4. Benachrichtigung und Erklärung

5. menschliche Alternativen, Überlegungen und Ausweichlösungen

Die Definition von Systemen der künstlichen Intelligenz, die unter den Blueprint fallen, umfasst zwei Elemente: (i) es hat das Potenzial, die Rechte, Fähigkeiten oder den Zugang von Einzelpersonen oder Gemeinschaften erheblich zu beeinträchtigen und (ii) es ist ein „automatisiertes System“. Ein automatisiertes System wird weiter definiert als „jedes System, jede Software oder jeder Prozess, der/die Computer als Ganzes oder als Teil eines Systems einsetzt, um Ergebnisse zu ermitteln, Entscheidungen zu treffen oder zu unterstützen, über die Umsetzung von Maßnahmen zu informieren, Daten oder Beobachtungen zu sammeln oder anderweitig mit Einzelpersonen und/oder Gemeinschaften zu interagieren. Automatisierte Systeme umfassen unter anderem Systeme, die auf maschinellem Lernen, Statistik oder anderen Datenverarbeitungstechniken oder künstlicher Intelligenz beruhen, und schließen passive Datenverarbeitungsinfrastrukturen aus“. Zur Klarstellung: „Passive Datenverarbeitungsinfrastruktur ist jede zwischengeschaltete Technologie, die nicht das Ergebnis einer Entscheidung beeinflusst oder bestimmt, eine Entscheidung trifft oder dabei hilft, eine Entscheidung zu treffen, die Umsetzung einer Politik informiert oder Daten oder Beobachtungen sammelt“, einschließlich z. B. Webhosting.

Was andere wichtige Rechtsordnungen betrifft, so gibt es für keine der folgenden eine allgemein anerkannte rechtliche Definition, aber:

China

China hat auf nationaler Ebene Normen und lokale Anpassungen festgelegt, die auf bestimmten Definitionen in Bezug auf die Funktionalität von Systemen der künstlichen Intelligenz beruhen;

Hongkong

hat Leitlinien für die ethische Entwicklung und Nutzung künstlicher Intelligenz erstellt, in denen künstliche Intelligenz definiert wird als „eine Familie von Technologien, die den Einsatz von Computerprogrammen und Maschinen zur Nachahmung der Problemlösungs- und Entscheidungsfähigkeiten des Menschen beinhalten“.

Japan

Japan hat eine „KI-Strategie 2022“ aufgestellt. Sie wurde vom Integrated Innovation Strategy Promotion Council des Kabinetts herausgegeben. Darin wird vorgeschlagen, dass sich „KI“ auf ein System bezieht, das in der Lage ist, als intelligent geltende Funktionen auszuführen.

Singapur

Singapur hingegen hat versucht, „KI“ als eine Reihe von Technologien zu definieren, die menschliche Eigenschaften wie Wissen, logisches Denken, Problemlösung, Wahrnehmung, Lernen und Planung simulieren und je nach KI-Modell ein Ergebnis oder eine Entscheidung (z. B. eine Vorhersage, Empfehlung und/oder Klassifizierung) hervorbringen sollen. Diese Definition findet sich im Modellrahmen für den Umgang mit künstlicher Intelligenz, der von der Infocomm Media Development Authority und der Kommission für den Schutz personenbezogener Daten herausgegeben wurde.

***

Auf der ganzen Welt wird versucht, eine rechtliche Definition von künstlicher Intelligenz zu schaffen. Einer der jüngsten Vorschläge ist derjenige der OECD. Die Verabschiedung des KI-Gesetzes in seiner endgültigen Fassung wird den Prozess der Vereinheitlichung des Ansatzes für die Definition von KI weltweit sicherlich beschleunigen. Es bleibt jedoch die Frage offen, ob sich einige Länder nicht mit einem stark liberalen Ansatz für KI „profilieren“ wollen, um die Erfinder dieser Technologie anzuziehen (ohne sich besonders um die rechtlichen und ethischen Aspekte zu kümmern).

Autoren: Mateusz Borkiewicz, Agata Jałowiecka, Grzegorz Leśniewski