Die neue EU-KI-Verordnung

28.01.2025, 11:29 Uhr

Die EU-KI-Verordnung ist am 01.08.2024 in Kraft getreten und stellt das weltweit erste Regelungswerk zur Regulierung von Künstlicher Intelligenz (KI) dar.

Die Vorschriften sollen gewährleisten, dass KI-Systeme sicher, ethisch, vertrauensvoll und grundgesetzkonform erstellt sowie betrieben werden. Die Verordnung adressiert demnach Produkthersteller ebenso wie Anbieter, Betreiber und Händler von KI-Systemen, die Produkte mit KI-Fähigkeiten in den Verkehr bringen.

Die KI-Verordnung definiert ein KI-System in Art. 3 Nr. 1 KI-VO als „ein maschinengestütztes System, das für einen in unterschiedlichem Grad autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.“ Diese komplizierte Definition beschreibt in erster Linie die Lernfähigkeit von KI-Systemen. Sie bezieht sich darauf, dass KI sich durch die Eingabe und Verarbeitung von Trainingsdaten kontinuierlich weiterentwickeln kann. Dabei baut sie eine immer größere und komplexere Datenbasis auf, die sie eigenständig strukturiert und nutzt, um sich immer weiter zu verbessern.

Unter die auf dem Markt bekanntesten Anbieter von KI-Systemen fallen derzeit OpenAI mit dem Dienst ChatGPT, vereinfacht gesagt einem Chatbot, der mittels KI Antworten auf durch Nutzer im Chat eingegebene Fragen bietet und auch komplexere Aufgaben lösen kann. Als Reaktion auf den Erfolg von ChatGPT zog Google im März 2023 mit seiner eigenen KI-Anwendung Google-Gemini nach, ebenfalls einem Chatbot, der in gesprächsähnlicher Art vielfältige Fragen beantworten kann und seit Februar 2024 in 40 Sprachen verfügbar ist. Daneben dürfte auch Microsoft Copilot der breiten Masse inzwischen ein Begriff sein.

Dieses KI-Tool bietet produktivitätsorientierte Unterstützung bei sämtlichen Funktionen und Anwendungen von Microsoft 365, wie bspw. der Erstellung von Powerpoint-Präsentationen oder Textarbeiten, und ist in der Lage, alle Dokumente, E-Mails und Notizen eines Anwenders auf Wunsch auf bestimmte Inhalte zu durchforsten. So viel nur zu den bekanntesten KI-Tools der großen Diensteanbieter. Neue KI-Tools sprießen in sämtlichen Bereichen, auch auf spezielle Branchen zugeschnitten, seit Kurzem aus dem Boden. Das veranlasste den EU-Gesetzgeber mit der KI-Verordnung, auch Nutzer von KI-Tools gewissen Anwendungsregelungen zu unterwerfen, von denen im Februar 2025 zwei in Kraft treten werden und zwar Art. 4 und 5:

• Art. 4 KI-VO regelt das Erfordernis der Sicherstellung der KI-Kompetenz in Unternehmen. Anbieter und Betreiber, die in ihrem Unternehmen KI-Systeme einsetzen, sind verpflichtet, bei ihren Beschäftigten sowie sonstigen Personen, die in deren Auftrag tätig werden, sicherzustellen, dass diese über die notwendigen Fähigkeiten, Kenntnisse und das Verständnis verfügen, die KI sachkundig einzusetzen und sich der Chancen und Risiken sowie möglicher Schäden durch den Einsatz von KI, bewusst zu werden sowie darauf basierende verantwortungsvolle Entscheidungen zu treffen. Zu berücksichtigen sind dabei die Branche des Unternehmens, der genaue Einsatzbereich des KI-Systems im Unternehmen, die technischen Kenntnisse der betroffenen Beschäftigten, der Kontext, in dem das KI-System im Unternehmen eingesetzt werden soll, sowie aus diesen Aspekten resultierende Risiken.
  
  Ein Verstoß gegen die Vorschrift des Art. 4 KI-VO ist weder bußgeld- noch strafbewehrt, d.h. es drohen Unternehmen keine unmittelbaren Folgen bei unzureichender oder unterlassener Umsetzung. ABER, entsteht in einem konkreten Fall ein Schaden durch die fehlerhafte Bedienung eines KI-Systems oder einer unzureichenden Risikobewertung, kann der Arbeitgeber aufgrund Verletzung seiner allgemeinen Sorgfaltspflicht in die Haftung genommen werden, wenn angemessene Maßnahmen diesen Schaden hätten verhindern können.

• Des Weiteren normiert Art. 5 der KI-VO einen Katalog an absolut verbotenen Praktiken im KI-Bereich. Darunter fällt u.a. das sogenannte Social Scoring bzw. Bewerten oder Einstufen von Personen oder Personengruppen über einen bestimmten Zeitraum aufgrund ihres Sozialverhaltens oder bekannter, abgeleiteter oder vorhergesagter persönlicher Eigenschaften oder Persönlichkeitsmerkmale, wenn diese Bewertung zu einer Schlechterstellung oder Benachteiligung der betroffenen Person/en führt. Dieses Verbot findet sich übrigens seit 2018, unabhängig von dem Einsatz von KI, auch bereits in Art. 22 Abs. 1 Datenschutz-Grundverordnung (DSGVO). Danach hat jede natürliche Person das Recht, nicht ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Die Missachtung der Verbote nach Art. 5 KI-VO wird mit einer Geldbuße in Höhe von 35.000.000,00 Euro oder bis zu 7% des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet, je nachdem, welcher Betrag höher ist.
  
  Die Verbote des Art. 5 KI-VO bieten einen Grund mehr, seine Mitarbeiter hinsichtlich eines verantwortungsvollen und zulässigen, aber auch produktiven und für das eigene Unternehmen förderlichen Einsatzes von KI zu schulen und Grundsätze gegebenenfalls in Richtlinien für eine sichere Nutzung von KI-Systemen für alle kollektiv festzuhalten. Denn mit der KI ist es wie mit allen bisherigen technischen Neuerungen, die sich über kurz oder lang in der Praxis durchgesetzt haben: Ziehen Unternehmen mit dem technischen Fortschritt nicht mit und generieren keine eigenen Vorteile aus den Potentialen zügigerer, vereinfachter und automatisierter oder zumindest technik-unterstützter Prozesse, werden sie früher oder später auf dem Markt durch sonstige Wettbewerber abgehängt werden. Sehen Sie die Chancen und Potentiale, die sich für Ihr Unternehmen aus der Anwendung von Künstlicher Intelligenz in ihrem beruflichen Alltag ergeben – aber unter angemessener Berücksichtigung der allgemeinen Risiken. Damit schaffen Sie sich nicht nur Wettbewerbsvorteile, sondern sichern Ihr Unternehmen in Haftungsfällen ab. Denn neben der KI-VO sind die bisher geltenden Gesetze, wie u.a. die DSGVO und das Urheberrechtsgesetz im Zusammenhang mit dem Einsatz von KI weiterhin einschlägig und zu berücksichtigen, die den Einsatz und die Nutzung der Ergebnisse der KI zusätzlich regeln.

Das Bildungszentrum für künstliche Intelligenz (BZKI) bietet eine zu 100% geförderte KI-Weiterbildung an, um den Einsatz von KI in Unternehmen zu fördern und Mitarbeiter entsprechend auf den Einsatz von KI vorzubereiten. Über folgenden Link erhalten Sie Informationen zu der Weiterbildung und die Möglichkeit, ein unverbindliches und kostenloses Erstgespräch bezüglich der Weiterbildung zu vereinbaren: https://www.bzki.org