Warum das KI-Gesetz in der EU notwendig ist
Das EU-Parlament hat das weltweit erste KI-Gesetz auf den Weg gebracht - für DFKI-Geschäftsführer Antonio Krüger ein wichtiger Schritt. Damit könne zwar Innovation in der EU gehemmt werden, gleichzeitig gehe es aber darum, zentrale europäische Werte zu bewahren. Für den Forschungsstandort Saarbrücken erwartet Krüger eher positive Impulse.
Ein geplantes Gesetz zu schärferen Regeln für Künstliche Intelligenz (KI) innerhalb der EU hat vergangene Woche eine weitere Hürde genommen. Das Europaparlament legte am Mittwoch in Straßburg seine Position für die Verhandlungen mit den EU-Ländern über die endgültige Form des sogenannten KI-Gesetzes fest.
Künftig soll etwa die Gesichtserkennung im öffentlichen Raum verboten sein. Auch andere Anwendungen, die mit hohen Risiken für die Sicherheit von Menschen verbunden sind, sollen verboten oder stark eingeschränkt werden. Geplant sind hierfür verschiedene Risiko-Kategorien.
Wir sprechen mit Professor Antonio Krüger, dem Geschäftsführer (CEO) des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI), über das neue Gesetz, seine Notwendigkeit und seine Auswirkungen.
SR.de: Das EU-Parlament hat vergangene Woche erstmals ein Gesetz zur Regulierung der Künstlichen Intelligenz verabschiedet, das nun in die Abstimmung mit der Kommission und den Staats- und Regierungschefs geht. Brauchen wir ein solches Gesetz überhaupt - und wenn ja, warum?
Professor Antonio Krüger: Es ist gut, sich das als Gesetzgeber in größerem Maßstab anzuschauen, weil KI-Systeme, die wir jetzt schon in Gebrauch haben, und insbesondere KI-Systeme, die noch kommen werden, auch Aspekte betreffen, die eine Regulierung notwendig machen.
Um ein paar Beispiele zu nennen, die auch im Gesetz enthalten sind: Wollen wir zum Beispiel akzeptieren, dass jedes Privatunternehmen und jede Privatperson flächendeckend biometrische Systeme einsetzen kann, mit denen Gesichter und Personen auf der Straße erkannt werden können? Oder nehmen wir ein KI-System, das einen Arzt dabei unterstützt, Tumordiagnosen und Therapiepläne zu erstellen. Dann ist angebracht, zu überlegen, welche Anforderungen wir an solche System stellen wollen.
Und es ist auch gut, das nicht nur auf nationaler Ebene zu regeln, sondern innerhalb der EU, die ja auch ein großer Wirtschaftsraum ist.
Natürlich ist das prinzipiell auch ein Innovationshemmnis.
SR.de: Aber wäre es dann nicht besser, es gleich global zu regeln? Geraten Forscher und Unternehmen innerhalb der EU nicht ins Hintertreffen, wenn nur hier Vorgaben gemacht werden, in anderen Staaten aber nicht?
Krüger: Ja, eigentlich müsste das global reguliert werden. Und es gibt auch Anstrengungen, das zum Beispiel über die OECD anzugehen, die ja eine der globalen Organisationen ist, die das Zusammenleben organisiert.
Aber global gibt es auch noch einmal andere Interessen als nur in der EU - und es ist schon schwierig genug, hier in Europa alle Interessen unter einen Hut zu bringen. Deshalb ist es gut, dass wir uns zumindest auf EU-Ebene schon mal Gedanken machen.
Aber natürlich ist das prinzipiell auch ein Innovationshemmnis.
SR.de: Aber ist es dann richtig, dass die EU das jetzt für sich regelt - oder sollte man darauf warten, bis es eine globale Lösung gibt?
Krüger: Es ist schon wichtig, weil es einfach auch zentrale europäische Werte betrifft. Aber man muss da vorsichtig regulieren - man darf auch den Innovationsaspekt in so einem wichtigen Feld wie der künstlichen Intelligenz nicht unter den Tisch fallen lassen.
SR.de: Jetzt gibt es ja schon Ansätze, sich nicht nur in der EU abzustimmen - sondern zum Beispiel auch über das CSIS AI Council, in dem führende Köpfe großer weltweiter Unternehmen und führende Forscher vertreten sind. Gibt es hier Ergebnisse oder zumindest Bewegung?
Krüger: Ich bewerte die Arbeit im CSIS AI Council sehr positiv. Ich habe dort mitgearbeitet und darauf hingewirkt, dass das Thema beim letzten G7-Gipfel in Hiroshima auf die Tagesordnung gekommen ist. Ich bin frohen Mutes, dass wir dort auch weitere Schritte machen.
Je mehr globale Player wir zusammenbekommen - insbesondere, wenn es uns gelingt, mit den USA einen gemeinsamen Regulierungsrahmen zu schaffen - reduziert das natürlich das Risiko, dass zukünftige Innovationen an Europa vorbei passieren.
Die Energie, die man in die Regulierung reinsteckt, muss man unbedingt auch in die KI-Innovationsförderung stecken
In dem jetzt verabschiedeten KI-Gesetz in der EU gibt es zum Glück auch schon Überlegungen, wie man Innovationen fördert. Dort sind zum Beispiel Ausnahmen für kleinere Firmen vorgesehen. Oder sogenannte Versuchsumgebungen, in denen laxere Regeln gelten.
Das ist gut - mir persönlich aber noch zu wenig. Die Energie, die man in die Regulierung reinsteckt, muss man unbedingt auch in die KI-Innovationsförderung stecken - am besten noch potenziert. Da sehe ich aber tatsächlich noch Defizite innerhalb der Europäischen Union.
SR.de: Sie haben bereits einzelne Details aus dem KI-Gesetz angesprochen - wie bewerten Sie denn insgesamt das neue Gesetz?
Krüger: Es ist ein ganz guter erster Aufschlag. Die Einteilung in Hochrisikosysteme und andere Systeme ist im Prinzip gut. Und es ist auch gut, dass nicht die KI-Technologie selbst reguliert wird, sondern Anwendungsgebiete.
Es wird aber schon so sein, dass bei den Hochrisikoanwendungen große, etablierte Firmen im Vorteil sind, da sie die ganzen Regularien viel leichter einhalten können als kleine Firmen. Da muss man mit Innovationsmaßnahmen ein Gegengewicht schaffen. Ich würde mir daher noch etwas mehr Innovationsbezug wünschen und nicht nur reine Regulierung.
SR.de: Schauen wir zum Abschluss noch ganz konkret auf das Saarland. Inwieweit wird sich das jetzt vorliegende KI-Gesetz auf die Forschung und Entwicklung am DFKI in Saarbrücken auswirken?
Krüger: Das wird eine Rolle für uns spielen. Wir sind am DFKI schon länger bei Standardisierung und Normung von KI sehr aktiv und zum Beispiel im Austausch mit den Normungsinstitutionen in Deutschland. Und durch das neue Gesetz geht es nun auch darum, wie man bestimmte Vorgaben umsetzt - zum Beispiel bei der Transparenz von KI-Systemen, so dass man genau erklären kann, wie die KI zu einem Vorschlag oder einer Lösung kommt.
Das sind zum Teil noch offene Forschungsfragen. Und an diesen Themen, vertrauenswürdige KI oder transparente KI, arbeiten wir beim DFKI. Insofern glaube ich, dass die Regulierung da sogar einen Impuls geben wird.
Hintergrund
Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon jetzt in vielen Bereichen eingesetzt. Zum Beispiel können solche Programme Aufnahmen von Computertomografen schneller und mit einer höheren Genauigkeit als Menschen auswerten. Auch selbstfahrende Autos versuchen so, das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Und Chatbots oder automatische Playlists von Streaming-Diensten arbeiten ebenfalls mit KI.
