Werte und Wirtschaftsinteressen: Wie weit soll Künstliche Intelligenz gehen dürfen?

G20, OECD, Berliner KI-Enquetekommission: Der Ruf nach geregelten KI-Anwendungen wird immer lauter, ohne ins Konkrete zu gehen. Bis jetzt. Der EU-Kommission liegen detaillierte Expertenratschläge vor.

KI schaffte es auf die Tagesordnung der G20 in Japan. Eine gemeinsame Erklärung der G20-Minister formuliert Regeln zum Umgang mit Künstlicher Intelligenz, der Mensch soll demnach generell im Mittelpunkt von Entwicklungen und Anwendungen stehen. Auch andere Instanzen wie die OECD adressieren Vorschläge, die EU hat sogar eine Ethik-Leitlinie aufgestellt und unterzieht die Empfehlungen der eingeschalteten Experten nun intensiven Fallstudien. Das war überfällig.

33 Vorschläge von 52 Experten – EU prüft rote Linien für KI

Vor einem Jahr war die Expertengruppe aus Forschung und Industrie eingesetzt worden. Das Ergebnis: 33 Empfehlungen, die den Datenschutz ebenso umfassen wie die Notwendigkeit von fortlaufenden Folgeabschätzungen zur Gefahreneinschätzung auf den KI-Gebieten, die gesetzlich noch nicht reguliert sind. Unabhängige Auditsysteme werden ebenso gefordert wie die Kontrolle und Einschränkung der Entwicklung von Killer-Robotern. Und Investitionen: Die EU solle ihre Pläne, in den nächsten zehn Jahren 20 Milliarden Euro für die KI-Forschung zu mobilisieren, weiterverfolgen. Die Expertenvorschläge gehen damit sehr viel weiter als die im April verabschiedeten Ethik-Regeln, müssen ihre Praxistauglichkeit aber noch unter Beweis stellen. Nun folgen Fallstudien, dann soll das Feintuning folgen.

Die Ansätze geben Anlass zur Hoffnung. Über 300 Behörden und Unternehmen sollen sich bereits zur Teilnahme an den Fallstudien bereiterklärt haben, die Ergebnisse werden Anfang 2020 erwartet. 

Aus meiner Sicht muss sichergestellt werden, dass ...

• der Mensch die Kontrolle über KI-Systeme behält.
• nachvollziehbar ist, wie eine KI-Anwendung welche Aufgabe löst und zu welcher Entscheidung kommt.
• die genutzten Trainingsdaten und eingesetzten KI-Verfahren transparent und nachprüfbar sind.
• jeder Mensch zu jeder Zeit entscheiden kann, welche persönlichen Daten er für welche Verarbeitung freigibt.
• Datensätze den KI Diversity-Vorgaben absolut entsprechen müssen, um Biases weitgehend zu vermeiden.
• die europäischen Staaten aus den EU-Empfehlungen konkrete umsetzbare verbindliche Regeln ableiten.
• die EU Fördergelder für KI-basierte Forschung bereitstellt, die den EU-Empfehlungen folgt.