Was der EU AI Act für Unternehmen in Bezug auf ihren kulturellen und technischen Wandel bedeutet

Um Wirtschaft Gesellschaft vor möglichen Risiken von KI-Systemen zu schützen, verabschiedete die EU im August 2024 die europäische KI-Verordnung (EU AI Act). Diese EU-Verordnung sieht seit dem 2. Februar 2025 vor, dass alle Personen, die mit dem Betrieb oder der Nutzung von KI-Systemen befasst sind, einen Nachweis für eine ausreichende KI-Kompetenz sicherstellen müssen. KI-Anwendungen werden in vier Risikoklassen mit jeweils unterschiedlichen Anforderungen eingeteilt, die schrittweise erfüllt werden müssen. Die Anforderungen an Transparenz, Risikomanagement und Kennzeichnung von KI-generierten Inhalten treten allerdings erst im August 2026 in Kraft. Bei der Pflicht zur KI-Kompetenz werden Teil der ersten Stufe des AI Acts die Abschnitte in Kapitel I und II wirksam:

Kapitel I: enthält allgemeine Bestimmungen wie den Gegenstand der Regulierung, ihren Anwendungsbereich, Begriffsbestimmungen sowie in Artikel 4 Regelungen zur KI-Kompetenz.

Kapitel II: besteht nur aus Artikel 5, der "Verbotene Praktiken im KI-Bereich" benennt. Darin wird z.B. die Anwendung von KI für zum Beispiel Social-Scoring-Systeme untersagt.

Zu KI-Kompetenzen gehören:

• Verstehen der technischen Anwendung

• ethisches Bewusstsein

• rechtliche Kenntnisse (Urheberrecht, Datenschutz)

• kritische Hinterfragung von KI-Technologien

• Wissen, wie KI-Entscheidungen betroffene Personen beeinflussen

• individuelles Prompting

• strategisches Verständnis für SEO im KI-Zeitalter.

Adressaten der KI-Kompetenz-Pflicht sind Anbieter und Betreiber von KI-Systemen. Bei Verletzungen drohen Haftungsansprüche und Schadensersatzforderungen, Bußgelder und sonstige Sanktionen. Vor allem von Betreibern und ihren Mitarbeitenden von Hochrisiko-KI-Systemen (nach der Einschätzung der EU hochriskant für die Gesundheit, Sicherheit oder Grundrechte der EU-Bürger, deren großer sozioökonomischer Nutzen diese Risiken aber überwiegt) sind besondere KI-Kompetenzen gefordert. Sie müssen fähig sein, fundierte Entscheidungen zur KI zu treffen, und die Befugnis haben, ein System im Notfall abzuschalten. Personen, die nicht über die konkret erforderliche KI-Kompetenz verfügen, dürfen nicht mit dem Betrieb von Hochrisiko-KI-Systemen betraut werden dürfen. Der Gesetzgeber sieht ein Wechselspiel zwischen menschlicher KI-Kompetenz und dem Vorhandensein technischer Eingriffs-, Kontroll- und Stoppmechanismen vor, wenn es um den Einsatz von Hochrisiko-KI-Systemen geht.

Die Schwächen des EU AI Act stellen Unternehmen vor zahlreiche Herausforderungen:

• die enthaltenen Definitionen von KI u General Purpose Artifical Intelligence (KI-Systeme mit allgemeinem Verwendungszweck, die besonderen Auflagen unterliegen) sind unklar oder aus Expertensicht willkürlich

• zeitlich ist nicht absehbar, wann mit welchen konkreten Ergebnissen wie KI-Verhaltenskodizes seitens der EU gerechnet werden kann (Unternehmen sind weitgehend auf anderweitige Unterstützung angewiesen, wenn sie die ausreichende KI-Kompetenz nicht selbst festlegen und vermitteln können)

• Unsicherheiten durch das wachsende Angebot an KI-Beratungen und Trainings, Unternehmen wissen nicht, ob ihre Anwendungen den Regularien entsprechen

• unkonkrete Vorgaben: was KI-Kompetenz im Detail umfassen soll sowie fehlendes einheitliches Schema, wie diese Pflicht umzusetzen ist  

• Gefahr von massiven Wettbewerbsnachteilen gegenüber Unternehmen, die außerhalb Europas tätig sind.

Wie sich ein sicherer Umgang mit KI fördern lässt:

• Bias prüfen: Berücksichtigung der Entstehung, Perspektiven und Verzerrungen der KI-generierten Inhalte

• Nutzung von Faktenchecks

• Prüfung von Logik und Konsistenz

• zugeschnittene Antworten und Konzepte auf Unternehmen

• Erstellung klarer Strategien und Leitlinien

• Quellenprüfung und Quellenvergleiche

• regelmäßige Weiterbildungen (technischer, rechtlicher und ethischer Fokus, Anpassung an die Vorkenntnisse der Mitarbeitenden und den konkreten Einsatzkontext)

• Verankerung von KI-Wissen in der Unternehmenskultur https://www.linkedin.com/pulse/ki-mit-k%C3%B6pfchen-einsetzen-st%C3%A4rkt-euere-ki-kompetenzen-aurxe/

Die digitale Welt kann als Möglichkeitsraum nur dann nachhaltig genutzt werden, wenn sie nicht nur als technologisches Phänomen betrachtet wird, sondern auch als Ausdruck eines übergreifenden kulturellen Wandels, dessen Verhältnis zum technologischen bislang nur unzureichend begriffen ist.

Kultureller und technischer Wandel sollten nicht getrennt voneinander betrachtet werden.

Die Herausforderungen der Digitalisierung lassen sich nur meistern, wenn die Zusammenarbeit der Menschen richtig organisiert ist. Um global wettbewerbsfähig zu bleiben, müssen Unternehmen ihr Transformationstempo entscheidend beschleunigen. Das ist jedoch nur möglich, wenn Veränderungsprozesse strategisch auf allen Ebenen greifen und die Unternehmensführung die Entwicklung fördert statt ausbremst. Eine Unternehmenskultur, die Beschäftigungsfähigkeit im Digitalisierungszeitalter fördert und fordert, zeigt sich vor allem in folgenden Punkten:

• Förderung der Übernahme von Verantwortung

• eindeutige Zuständigkeiten

• mehr Qualifizierung beim Aufbau digitaler Kompetenzen

• übergreifendes Lernen

• Offenheit und Vertrauen

• Fehlertoleranz

• Unterstützung von werteorientiertem und reflektiertem Handeln

• Förderung von Netzwerkstrukturen.

Weiterführende Informationen:

• Fehlerhaft oder falsch: Kaum Vertrauen in KI-generierte Ergebnisse

• Die Zukunft der Künstlichen Intelligenz

• Bauchgefühl im Management. Die Rolle der Intuition in Wirtschaft, Gesellschaft und Sport. Hg. von Alexandra Hildebrandt und Werner Neumüller. SpringerGabler Verlag, Berlin, Heidelberg 2021.

• CSR und Digitalisierung. Der digitale Wandel als Chance und Herausforderung für Wirtschaft und Gesellschaft. Hg. von Alexandra Hildebrandt und Werner Landhäußer. 2. Auflage. SpringerGabler Verlag. Berlin Heidelberg 2021.