Ab dem 2. Februar 2025 gelten die Artikel 1-5 des AI-Gesetzes, deren Nichteinhaltung mit hohen Strafen geahndet werden kann

🚨WICHTIGER HINWEIS – Ab dem 2. Februar gelten die Artikel 1-5 des AI-Gesetzes, und die Nichteinhaltung kann zu hohen Strafen führen. Viele Unternehmen in der EU haben die geforderten Maßnahmen noch nicht ergriffen – hier sind die wichtigsten Punkte.

Ab dem 2. Februar 2025 gelten die ersten Bestimmungen der Verordnung über künstliche Intelligenz (KI-Gesetz), die die Sicherheit erhöhen und den KI-Markt in der Europäischen Union regulieren sollen.

Zu den wichtigsten Änderungen gehören:

• Verbotene Praktiken – Verbot der Nutzung und Vermarktung oder des Inverkehrbringens von KI-Systemen, die die Kriterien für verbotene Praktiken erfüllen. Beispiele hierfür sind Manipulationssysteme, die menschliche Schwachstellen ausnutzen, soziale Bewertungssysteme und Systeme, die Emotionen am Arbeitsplatz oder in der Ausbildung analysieren. Verstöße gegen diese Vorschriften werden mit hohen Geldstrafen geahndet – bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes eines Unternehmens.

• Verpflichtung zur KI-Kompetenz. Arbeitgeber müssen dafür sorgen, dass ihre Mitarbeiter angemessen geschult sind und über KI Bescheid wissen, damit sie KI-Systeme am Arbeitsplatz sicher nutzen können. Ein Mangel an KI-Schulungen kann zur Nichteinhaltung von Vorschriften führen und das Risiko einer unangemessenen Nutzung von KI-Systemen erhöhen. In Bezug auf die KI-Kenntnisse sollte auch sichergestellt werden, dass die KI-Nutzungsrichtlinie des Unternehmens umgesetzt wird. Wie lässt sich das bewerkstelligen?

Siehe Artikel:

• Was sollte eine Richtlinie zur Nutzung von KI-Systemen enthalten?
• Künstliche Intelligenz – was sie ist (aus rechtlicher Sicht) und wie die Welt mit ihr umgeht

Eine Richtlinie für den Einsatz von KI in einem Unternehmen kann z. B. klare Verfahren, Regeln für den Einsatz von KI, Bedingungen für die Freigabe von Systemen, den Umgang mit Zwischenfällen und die Ernennung einer Person, die für die wirksame Umsetzung und Nutzung von KI in der Organisation verantwortlich ist (KI-Botschafter), enthalten.

Bedeutung der KI-Aufklärung (Artikel 4 KI-Gesetz)

Bewusstsein und Wissen über KI sind nicht nur eine gesetzliche Anforderung, sondern auch eine strategische Notwendigkeit für Organisationen. Artikel 4 des KI-Gesetzes verlangt von den Unternehmen die Durchführung von Schulungsprogrammen, die auf das Wissen, die Rolle und die Erfahrung der Mitarbeiter zugeschnitten sind.

„Anbieter und Anwender von KI-Systemen haben Maßnahmen zu ergreifen, um so weit wie möglich ein angemessenes Niveau an KI-Kompetenz bei ihren Mitarbeitern und anderen Personen sicherzustellen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, und zwar unter Berücksichtigung ihrer technischen Kenntnisse, ihrer Erfahrung, ihrer Aus- und Weiterbildung und des Kontexts, in dem die KI-Systeme eingesetzt werden sollen, sowie unter Berücksichtigung der Personen oder Personengruppen, gegen die die KI-Systeme eingesetzt werden sollen.“

Das Versäumnis, in dieser Hinsicht zu handeln, hat schwerwiegende Folgen, darunter:

• Risiko von Verstößen gegen Datenschutz- und Privatsphäre-Vorschriften.

• Erhöhte Wahrscheinlichkeit von Rechtsverstößen und Geldstrafen.

Neben der Einhaltung von Vorschriften trägt die Aufklärung über KI dazu bei, eine Kultur des verantwortungsvollen Technologieeinsatzes aufzubauen und potenzielle betriebliche Risiken zu minimieren.

Wo kann man nach einer Anleitung suchen?

Die Norm ISO/IEC 42001 für ein Managementsystem für künstliche Intelligenz kann dabei helfen. In Bezug auf die angemessenen Kompetenzen derjenigen, die in einer Organisation mit KI zu tun haben, verweist die Norm zum Beispiel auf Folgendes:

• Mentoring
• Schulung
• Zuweisung von Mitarbeitern zu relevanten Aufgaben innerhalb der Organisation auf der Grundlage einer Analyse ihrer Kompetenzen.

Gleichzeitig sollten relevante Rollen oder Kompetenzbereiche z.B. Folgendes betreffen:

• Aufsicht über das KI-System
• Sicherheit
• Schutz
• Datenschutz.

Verbotene KI-Praktiken (Artikel 5 KI-Gesetz)

Die Verordnung zum KI-Gesetz verbietet die Verwendung bestimmter KI-Systeme, die zu ernsthaften Risiken für die Öffentlichkeit führen können. Anbieter und Unternehmen, die KI einsetzen, müssen sicherstellen, dass sie weder direkt noch indirekt an der Entwicklung oder Implementierung beteiligt sind. Das KI-Gesetz führt unter anderem bestimmte verbotene Praktiken auf, die als besonders gefährlich gelten. Dazu gehören:

• Unterschwellige oder manipulative Techniken – KI-Systeme, die das Verhalten eines Nutzers unbewusst so verändern, dass dieser eine Entscheidung trifft, die er sonst nicht treffen würde.
• Ausnutzung menschlicher Schwächen – Systeme, die die Behinderung, die soziale oder wirtschaftliche Situation einer Person ausnutzen.
• Soziales Scoring – Systeme, die Bürger bewerten und ihnen auf der Grundlage ihres Verhaltens bestimmte Rechte zugestehen.
• Bewertung des kriminellen Risikos – Systeme, die Profile von Personen erstellen und ihre individuellen Merkmale ohne legitime Grundlage bewerten.
• Erstellung von Gesichtsbilddatenbanken – ungezielte Erfassung von Bildern aus dem Internet oder der Stadtüberwachung zur Erstellung von Gesichtserkennungssystemen.
• Emotionsanalyse am Arbeitsplatz oder im Bildungswesen – KI-Systeme, die die Emotionen von Arbeitnehmern oder Schülern analysieren.
• Biometrische Kategorisierung sensibler Daten – Einsatz von Biometrie zur Gewinnung von Informationen über Ethnie, politische Ansichten usw.
• Biometrische Identifizierung aus der Ferne in Echtzeit – Einsatz von Gesichtserkennungssystemen in öffentlichen Räumen zu Strafverfolgungszwecken.

Wo kann man nach Leitlinien suchen?

• Entwurf von Leitlinien zu verbotenen Praktiken der künstlichen Intelligenz (KI) – 4. Februar 2025. Die Kommission hat Leitlinien zu verbotenen Praktiken der künstlichen Intelligenz (KI) veröffentlicht, die eine kohärente, wirksame und einheitliche Anwendung des KI-Gesetzes in der gesamten EU gewährleisten sollen.

Wichtige Fristen:

• Ab 2. Februar 2025. – Kapitel II (verbotene Praktiken)
• Ab dem 2. August 2025. – Kapitel V (Modelle für allgemeine Zwecke), Kapitel XII (Sanktionen) ohne Artikel 101
• Ab dem 2. August 2026. – Artikel 6 Absatz 2 und Anhang III (Hochrisikosysteme), Kapitel IV (Transparenzverpflichtungen)
• Ab 2. August 2027 – Artikel 6 Absatz 1 (Systeme mit hohem Risiko) und entsprechende Verpflichtungen

Wichtige Lehren für Unternehmen:

• Die Einhaltung der Artikel 1-5 des AI-Gesetzes ist obligatorisch und kann nicht ignoriert werden.
• KI-Schulungen sind der Schlüssel zur Vermeidung von Fehlern aufgrund mangelnder Sensibilisierung der Mitarbeiter sowie einer möglichen Haftung des Unternehmens.
• DieDurchführung von Audits bei Technologieanbietern ist notwendig, um sicherzustellen, dass die KI-Systeme konform sind.
• Implementieren Sie eine Richtlinie für den Einsatz von KI, indem Sie eine klare Dokumentation erstellen, um die Risiken zu organisieren. Die Richtlinien können beispielsweise klare Verfahren, Regeln für den Einsatz von KI, Bedingungen für die Freigabe von Systemen, den Umgang mit Vorfällen und die Ernennung einer für die Aufsicht zuständigen Person (KI-Botschafter) umfassen.
• Rechtliche Entwicklung von KI-Tools – Unternehmen, die KI-Tools entwickeln, müssen in jeder Phase der Entwicklung rechtliche und ethische Aspekte berücksichtigen. Dazu gehören unter anderem die Analyse der Rechtmäßigkeit der Ziele des Systems, die Rechtmäßigkeit der Datenbanken, die Cybersicherheit und die Systemtests. Es ist wichtig, dass bei der Entwicklung von KI-Systemen die Grundsätze des „eingebauten Datenschutzes“ (Privacy by Design) und des „eingebauten Datenschutzes“ (Privacy by Default) des RODO – How to develop AI tools legal?

Sehen Sie sich unbedingt diese Quellen an:

• https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX:32024R1689
• https://digital-strategy.ec.europa.eu/pl/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act
• https://digital-strategy.ec.europa.eu/en/events/third-ai-pact-webinar-ai-literacy
• https://www.gov.pl/attachment/9bb34f05-037d-4e71-bb7a-6d5ace419eeb