Neue Ära der KI-Überwachung: Einblicke in den europäischen AI-Act
Der AI-Act der EU: Einführung und Überblick
Das Gesetz über künstliche Intelligenz, weitläufig auch als AI-Act bekannt, ist jene EU-Verordnung, die sich bereits seit einiger Zeit in aller Munde befindet, und voraussichtlich noch vor dem Sommer 2024 in Kraft tritt. Das Gesetz gilt für sämtliche Marktteilnehmer in der Europäischen Union, die künstliche Intelligenz entwickeln, einsetzen oder nutzen werden. Der Begriff „künstliche Intelligenz“ ist dabei recht breit und kryptisch definiert und umfasst sämtliche maschinenbasierte Systeme, die entworfen wurden, um mit unterschiedlichen Autonomiegraden zu arbeiten, nach Bereitstellung anpassungsfähig sind und von einer Eingabe ableiten, wie eine Ausgabe in Form von beispielsweisen Vorhersagen, Inhalten, Empfehlungen oder Entscheidungen generiert werden kann, die eine physische oder virtuelle Umgebung beeinflusst.
Klassifizierung und Regulierung von KI-Anwendungen
Der Kern des Gesetzes beschäftigt sich damit KI-Anwendungen basierend auf diversen Kriterien in unterschiedliche Risikokategorien zu klassifizieren. Dabei wird zwischen KI-Systemen mit inakzeptablem Risiko, solche mit hohem Risiko, mit Transparenzanforderungen und mit keinem oder geringem Risiko unterschieden.
KI-Anwendungen mit inakzeptablem Risiko
Anwendungen, die als solche mit inakzeptablem Risiko eingestuft werden, sind verboten. Darunter fallen beispielsweise Social Scoring, Emotionserkennung am Arbeitsplatz und Gesichtserkennung in öffentlichen Räumen.
KI-Systeme mit hohem Risiko
Hochrisikoanwendungen müssen bestimmte Sicherheits-, Transparenz- und Qualitätsverpflichtungen erfüllen und Konformitätsbewertungen durchlaufen. In diese Kategorie fallen vor allem Anwendungen im Gesundheitswesen, im Bildungssektor und des Managements kritischer Infrastruktur.
KI-Anwendungen mit begrenztem Risiko
KI-Anwendungen mit begrenztem Risiko haben nur Transparenzverpflichtungen, um Nutzer darüber zu informieren, dass sie mit künstlicher Intelligenz interagieren; und solche mit minimalem Risiko werden nicht reguliert.
General Purpose AI und zukünftige Herausforderungen
Als Reaktion auf die rasche Entwicklung von Generative AI, wird darüber hinaus General Purpose AI, die in letzter Zeit vor allem durch ChatGPT bekannt wurde und mit sehr vielen Daten für unterschiedlichste Anwendungszwecke trainiert wurde, voraussichtlich zusätzlichen regulatorischen Maßnahmen unterworfen werden, auf die sich Unternehmen entsprechend vorbereiten müssen.
Bedeutung, Kritik und Ausblick des AI-Acts
Insgesamt markiert der AI-Act einen wichtigen Schritt der EU, um den Einsatz von KI in Europa zu regulieren und dabei den Schutz der Bürgerrechte und -freiheiten zu gewährleisten. Er soll Vertrauen in KI-Technologien stärken und gleichzeitig ein Umfeld schaffen, in der Innovation gefördert und ethische Standards gewahrt werden. Die EU versucht sich mit dieser Verordnung als weltweiter Vorreiter im Bereich der KI-Regulierung zu platzieren, was ihr eine führende Rolle bei der Gestaltung der Zukunft der KI einbringen könnte.
Kritische Perspektiven und potenzielle Risiken des AI-Acts
Jedoch trifft das Gesetz nicht überall nur auf Zustimmung. Einige Kritiker befürchten, dass die strengen Regulierungsanforderungen die Innovation und den wirtschaftlichen Wettbewerb behindern könnten. Steigende Anforderungen an die Compliance bergen das Risiko, dass insbesondere kleinere Unternehmen Schwierigkeiten dabei haben könnten in der Branche Fuß zu fassen oder KI für die Bereitstellung ihrer Produkte und Services zu nutzen. Darüber hinaus besteht die Gefahr, dass Europa im Vergleich zu weniger regulierten Märkten, wie etwa in den USA, einen erheblichen Wettbewerbsnachteil erleidet. Im Gegensatz zur DSGVO, die ebenfalls vielfach als Innovationshemmer bekrittelt wird, sieht der AI-Act mit 7% des weltweiten Umsatzes oder 35 Millionen Euro noch höhere Strafen bei groben Verstößen vor.
Momentan bleibt es nur abzuwarten, wie sich der AI-Act auf die KI-Innovation in Europa auswirken wird und ob die potenziellen negativen Folgen durch die angestrebten Ziele des Gesetzes aufgewogen werden können. Es bleibt zu hoffen, dass die frühe Regulierung künstlicher Intelligenz zu einem Zeitpunkt, zu welchem Generative AI sich gerade am Höhepunkt der Erwartungshaltung befindet, dazu beiträgt, dass Europa ins Licht eines weltweiten Vorbilds rückt und dadurch für eine Weiterentwicklung der Technologie sorgt, die ethische Grundsätze und Risikominimierung by-Design berücksichtigt. Jedenfalls ist der AI-Act ein entscheidender Schritt in Richtung einer verantwortungsvollen Nutzung von KI.
