Warum Digitalminister Wissing einen Tüv für KI vorantreibt
Eine Gruppe von Prüfern und Experten soll ein Gütesiegel für Künstliche Intelligenz entwickeln. Dahinter steht die Sorge vor Fehlern der KI – und ein aussichtsreiches Geschäft.
Frankfurt, München. Digitalminister Volker Wissing (FDP) treibt die Idee eines Tüv für Künstliche Intelligenz (KI) voran. Eine Gruppe von Forschungs-, Prüf- und Zertifizierungsorganisationen soll Standards entwickeln, mit denen KI geprüft und zertifiziert werden kann. Das geplante Gütesiegel ist Teil der nationalen Initiative „Mission KI“, die die Entwicklung von Künstlicher Intelligenz in Deutschland stärken und vorantreiben soll.
„AI made in Germany“ – also KI aus Deutschland – „kann ein internationaler Wettbewerbsvorteil werden, wenn wir es unseren heimischen KI-Unternehmen erleichtern, hochwertige, sichere und leistungsstarke KI-Anwendungen auf den Markt zu bringen“, sagte Wissing.
Noch hemmen Unsicherheiten den Einsatz und Umgang mit KI. So ist oft unklar, wie KI-Systeme zu spezifischen Entscheidungen kommen. Deshalb wird KI oft als „Blackbox“ bezeichnet. Das neue Gütesiegel soll eine Entscheidungshilfe bieten, welche KI-Systeme verlässlich eingesetzt werden können.
Im Fokus stehen dabei Systeme und Modelle, die nicht unter die KI-Regulierung der Europäischen Union fallen. Der geplante „AI Act“ soll KI nach ihrem Risikoniveau einstufen. Er sieht etwa Transparenzpflichten für KI mit hohen Risiken vor und verbietet die Entwicklung von KI in Anwendungen mit inakzeptablen Risiken.
Jetzt Handelsblatt Premium zum Vorteilspreis sichern - Zum Angebot
Das neue Gütesiegel soll hingegen auf KI anwendbar sein, bei deren Einsatz nur ein geringes oder mittleres Risiko besteht. Dabei ist bislang noch völlig offen, wie entsprechende Prüfverfahren aussehen könnten. In den kommenden zwei Jahren sollen zunächst Kriterien und Methoden dafür von den Partnern der Initiative entwickelt werden. Dazu zählen unter anderem die Prüfungs- und Beratungsgesellschaft PwC Deutschland, das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS) und das Tüv AI Lab.
PwC-Partner: Sicherheitslücke zwischen unregulierter und regulierter KI
Getestet und geprüft werden sollen sowohl KI-Modelle als auch KI-Systeme. Zur ersten Gruppe zählen etwa große Sprachmodelle. Das sind sogenannte neuronale Netze, die mit großen Datenmengen trainiert werden und dann in der Lage sind, Fragen zu beantworten und Antworten auf menschlichem Niveau zu formulieren. Auch vortrainierte Modelle zur Bilderkennung fallen in diese Gruppe.
Zur zweiten Gruppe zählen etwa Prognosesysteme zur Vorhersage von Lieferzeiten sowie KI-basierte Systeme, die den Verkehr analysieren oder Kunden in Onlineshops bestimmte Produkte empfehlen.
Auch ein Chatbot ist ein KI-System, der wiederum auf einem Sprachmodell basieren kann. Laut PwC-Partner Hendrik Reese entsteht hier eine Sicherheitslücke, wenn auf einem potenziell unregulierten KI-Modell eine regulierte und hochriskante Anwendung aufgesetzt werden soll. Reese sagt: „Auch freiwillige Standards schaffen einen Mehrwert für faire und vergleichbare Wettbewerbsbedingungen.“
Doch die Prüfung von KI-Modellen ist bisher eine ungelöste Herausforderung. Je nachdem, mit welchen Daten sie trainiert sind, können die Antworten verzerrt werden. Vor allem, wenn zu einem bestimmten Thema nur wenige Daten im Trainingssatz vorhanden waren, sind die Modelle auch fehleranfällig.
Chatbots, die auf großen Sprachmodellen beruhen, können deshalb Unsinniges formulieren oder gar Informationen preisgeben, die die Allgemeinheit gefährden. Ein viel zitiertes Beispiel ist die Anleitung zum Bau einer Bombe. Anbieter sehr großer Sprachmodelle argumentieren, dass sich solche Fälle erst auf Ebene der Systeme mit Filterfunktionen verhindern lassen.
Doppeltes Geschäft für Wirtschaftsprüfungs- und Beratungsgesellschaften
Insbesondere Wirtschaftsprüfern bieten die Unsicherheiten im Umgang mit KI gute Chancen, Geschäft zu machen. Sie können gleich in zwei Bereichen Dienstleistungen anbieten. Im Consulting können sie Kunden zur Integration von KI-Technologien in deren Prozesse beraten. In der Wirtschaftsprüfung wiederum können die Experten die KI-Systeme bei den Unternehmen testen. Sie dürfen nach gesetzlichen und eigenen Vorgaben allerdings nicht beides zugleich bei einem Kunden machen.
Nach einem vergleichbaren Prinzip steuern die Prüfungsgesellschaften schon das Geschäft mit Berichtssystemen zur Nachhaltigkeit (ESG). Ab dem Geschäftsjahr 2024 gilt für börsennotierte Unternehmen in der EU die gesetzliche Pflicht, ein festgelegtes ESG-Reporting vorzulegen und es von ihren Abschlussprüfern testieren zu lassen. Gesellschaften wie PwC können dabei entweder an Kunden verdienen, die sie beim Aufbau der ESG-Systeme beraten, oder wenn sie das ESG-Reporting prüfen.
Vorstöße zu einer vergleichbar gesetzlichen Regelung auch für KI-Reporting bei einer Abschlussprüfung sind zwar noch nicht erkennbar. Doch dazu könnte es kommen, wenn diese Technologie wie erwartet zum einflussreichen Faktor der Rechnungslegung wird.
Das Institut der Wirtschaftsprüfer (IDW) hat bereits einen ersten Standard für eine freiwillige Prüfung von KI-Systemen vorgelegt, der Mindestanforderungen und ein standardisiertes Vorgehen enthält.
Jetzt Handelsblatt Premium zum Vorteilspreis sichern - Zum Angebot
Jetzt Handelsblatt Premium zum Vorteilspreis sichern - Zum Angebot
