In der
Europäischen Union gelten seit diesem Sonntag neue Regeln im Umgang mit künstlicher
Intelligenz. Ab sofort sind KI-Systeme verboten, die “unannehmbare Risiken” für
die Sicherheit, Gesundheit oder Grundrechte darstellen, außer wenn es um die “nationale
Sicherheit” geht.
Die EU untersagt den Einsatz von KI-Programmen, die eine
Bewertung nach sozialem Verhalten vornehmen, ähnlich dem Social Scoring in
China. Es soll zudem keine Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen
geben. Auf der Verbotsliste der EU stehen auch KI-Systeme, die die Schwäche von
Menschen oder Gruppen ausnutzen. Dazu gehören automatisierte “Robo-Calls”,
die zum Betrug älterer Menschen eingesetzt werden können.
Gesichtserkennung in Ausnahmefällen erlaubt
Ein besonders umstrittenes Thema war die Gesichtserkennung
im öffentlichen Raum, die grundsätzlich auch nicht erlaubt sein soll. Ausnahmen gibt es aber. So sollen Sicherheitsbehörden sie einsetzen dürfen, wenn das der Aufklärung von Straftaten wie
Menschenhandel oder Terrorismus dient.
Unternehmen, die KI einsetzen oder entwickeln, müssen ab dem
heutigen Stichtag zudem den Grad des Risikos ihrer genutzten KI-Systeme bewerten und wenn nötig
Gegenmaßnahmen ergreifen. Je riskanter die KI-Anwendung ist, desto stärker auch die Regulierung. Das soll nicht nur dem Schutz der
EU-Verbraucherinnen und Verbraucher dienen, sondern auch einen
verantwortungsvollen Umgang mit KI sicherstellen.
Regulierung in der Kritik
Der AI Act der EU ist das weltweit umfassendste Gesetzwerk zur Regulierung künstlicher Intelligenz – und steht gerade deshalb auch in der Kritik. Der Branchenverband Bitkom kritisierte das KI-Gesetz, weil es keine
Rechtssicherheit biete. Es sei unklar, für welche Anwendungen das
gesetzliche Verbot tatsächlich gelte. Das Risiko würden nun die Unternehmen tragen, die KI entwickeln oder
einsetzen.
“Während in den USA mit dreistelligen Milliardenbeträgen KI
ausgebaut werden soll und in China extrem leistungsfähige Sprachmodelle
veröffentlicht werden, werfen wir in Deutschland und Europa den
KI-Unternehmen Knüppel zwischen die Beine”, monierte der Verband. Apple hatte angekündigt, seine neuen iPhones vorerst ohne KI-Funktionen anbieten zu wollen. Als Grund nannte das Unternehmen damals “regulatorische Unsicherheiten”.
Zuletzt hatten die Präsidentin der EU-Kommission, Ursula von der Leyen, und die
Präsidentin der Europäischen Zentralbank, Christine Lagarde, in
einem gemeinsamen Blogeintrag eingeräumt, dass die Wettbewerbsfähigkeit Europas
in Gefahr sei. “Während sich eine globale Revolution der künstlichen
Intelligenz entfaltet, könnte die EU ins Abseits geraten.” Europa verfüge jedoch auch über die notwendigen Voraussetzungen, um im
technologischen Wettlauf aufzuholen, schrieben von der Leyen und
Lagarde.
