Frankfurt, Düsseldorf. Die Experten sind sich einig: Die rasante Entwicklung der Künstlichen Intelligenz (KI) wird auch die Finanzbranche umkrempeln. Deshalb treiben auch die 351 deutschen Sparkassen das Thema voran. Allerdings gehen sie dabei einen Sonderweg, der sich als teuer und komplex herausstellen könnte. Das Sparkassen GPT, also der hauseigene generative Chatbot, ähnlich Chat GPT, soll im Rechenzentrum des Sparkassen-IT-Dienstleisters Finanz Informatik (FI) laufen und nicht – wie sonst üblich – bei einem der großen Public-Cloud-Anbieter.

Etliche deutsche Unternehmen, darunter Banken, haben bereits generative KI implementiert – als firmeneigenes GPT für ihre Angestellten wie die Drogeriekette DM und der Pharmakonzern Merck oder in Form eines KI-Shoppingassistenten für die Endkunden wie der Onlinehändler Otto. Anders als klassische KI kann generative KI Daten nicht nur klassifizieren und Muster erkennen, sondern auch selbst Daten erzeugen und letztlich selbst erkennen, welche Lösung am besten geeignet für ein Problem ist.

Jetzt Handelsblatt Premium zum Vorteilspreis sichern - Zum Angebot

Die meisten Unternehmen gehen dabei so vor: Die neuen KI-Anwendungen funktionieren erstens auf Basis der Sprachmodelle von OpenAI. Das amerikanische Start-up hatte mit seinem Chatbot ChatGPT den Hype um KI im November 2022 ausgelöst. Zweitens mieten die Unternehmen ihre Rechenkapazitäten zum Großteil über die US-Tech-Riesen und setzen auf die Cloud-Dienste von Amazon (AWS) sowie auf Microsofts Azure oder auf Google Cloud. Die KI-Anwendungen laufen dann in einem abgeschirmten, privaten Teil der jeweiligen Cloud. Bezahlt wird die Menge der genutzten Rechenkapazität.

Sparkassen setzen auf Mistral und Meta

Die Sparkassen weichen bei beiden Punkten ab. Die FI nutzt mit Meta und Mistral frei zugängliche KI-Modelle, deren Quellcode offen einsehbar ist und bearbeitet werden kann. Auf diese Weise können KI-Entwickler die Modelle besser an ihre Aufgaben anpassen und für das Unternehmen personalisieren. Zudem setzen die Sparkassen nicht auf die Cloud-Anbieter, sie wollen die KI-Anwendungen in ihren durch die Nvidia-Chips aufgerüsteten Rechenzentren laufen lassen.

„Wir wollen im Sommer auch den Einsatz von generativer KI starten. Dabei setzt die FI auf vortrainierte Open-Source-KI-Modelle von Meta und Mistral, die wir für unsere Bedürfnisse anpassen“, sagte FI-Chef Andreas Schelling dem Handelsblatt. Die FI werde die KI-Modelle „komplett in unseren eigenen Rechenzentren betreiben“, kündigte Schelling an.

Die FI hat rund 5300 Beschäftigte und ist der zentrale IT-Dienstleister der Sparkassen und einiger Landesbanken. Die Sparkassen führen rund 36 Millionen Girokonten und sind Marktführer im Geschäft mit privaten Kundinnen und Kunden. Der geplante Chatbot nennt sich „Sparkassen-KIPilot“.

Als Voraussetzung für den eigenen KI-Betrieb muss die FI sich mit Chips des US-Konzerns Nvidia eindecken. Für den Einsatz generativer KI im eigenen Rechenzentrum habe die FI kürzlich einige Hundert Prozessoren bei Nvidia bestellt, die ab Juni ausgeliefert würden, sagte Schelling. Die rechenintensiven KI-Anwendungen laufen auf den Grafikprozessoren von Nvidia, den sogenannten GPUs, schneller als bei der Konkurrenz.

Experten halten Sparkassen-Modell für teuer

Schelling führt für den Sonderweg der Sparkassen zwei Argumente an: Datenhoheit und Prüfbarkeit. „Erstens ist den Sparkassen Datensicherheit sehr wichtig. Zweitens gehen wir davon aus, dass es durch den AI Act der EU Dokumentationspflichten gibt, die Unternehmen besser erfüllen können, wenn sie die KI selbst betreiben.“ Der AI Act, das EU-Gesetz zur KI-Regulierung, soll bis Sommer in Kraft treten. Es sieht unter anderem vor, dass Unternehmen eine technische Dokumentation mit detaillierten Angaben zu den verwendeten Daten und Modellen vorlegen.

Benedikt Bonnmann, Vorstand des IT-Dienstleisters Adesso, sieht den Weg der Sparkassen dennoch skeptisch. Es gebe zwar durchaus Fälle, in denen sich die Anschaffung eigener KI-Rechenkapazitäten lohne. „Doch der Weg über Microsoft, Amazon und Co. ist deutlich kostengünstiger und schneller umsetzbar.“ 95 Prozent seiner Kunden, außerhalb streng regulierter Bereiche, würden so vorgehen. Denn schon ein einziger Grafikprozessor von Nvidia koste 30.000 Euro. Zum Training großer Sprachmodelle würden mehrere Hundert oder sogar Tausende solcher Chips benötigt, sagt Bonnmann, der im Adesso-Vorstand für das Thema Datenanalyse verantwortlich ist.

Auch innerhalb der Finanzbranche sorgt das Vorgehen der Sparkassen für Aufsehen. Ein hochrangiger Bankmanager hält es für „nicht besonders clever“, dass die Sparkassen KI im eigenen Rechenzentrum vorantreiben. Einerseits könnten die Sparkassen die neuesten technischen Entwicklungen beispielsweise von Microsoft und Google dann nicht sofort nutzen. „Technisch sind sie dann immer ein Stück weit hinten dran.“

Zum anderen sei die Entwicklung KI-basierter Anwendungen im eigenen Rechenzentrum sehr teuer. „Die Sparkassen sind zwar extrem finanzstark, aber nicht so finanzstark wie Microsoft oder Google“, warnt der Bankmanager.

Mit der Größe der KI-Modelle steigt auch der Bedarf an Fachleuten. So brauche auch die FI zunehmend KI-Spezialisten, sagte Schelling, zum Beispiel Expertinnen und Experten für Deep Learning. „Das schließt potenziell auch den Kauf einer auf KI spezialisierten Firma ein.“

Banken nutzen bereits Künstliche Intelligenz

Klassische KI nutzen die Banken bereits lange, besonders bei der Geldwäscheprävention, wie Klaus-Georg Meyer, Innovationsspezialist beim Berater Capgemini, sagt. „Das Thema generative KI ist mit dem Hype um ChatGPT überall in den Vorstandsetagen angekommen. Es beschäftigen sich alle Banken damit. Aber bei den meisten ist das Ganze noch im Experimentierstatus.“

Zum einen wollten die Geldhäuser ihre Beschäftigten an den Umgang mit KI gewöhnen – über ein firmeneigenes GPT – und zum anderen interne Prozesse optimieren. Ziel sei es, einen Teil der Prozesse bei Sparkassen, die heute noch nicht ausreichend digitalisiert sind, weitgehend zu automatisieren, erklärt Schelling.

„Damit steigern wir die Effizienz in den Sparkassen, und die Sparkassen haben auf Dauer die Chance, offene Stellen und einzelne Lücken, die durch den Personalmangel entstehen, nicht auffüllen zu müssen.“ Es gehe beispielsweise darum, Antwortvorschläge für E-Mails zu erstellen, Dokumente zusammenzufassen, Texte in mehrere Sprachen zu übersetzen. Die Onlinebank ING Deutschland wiederum scannt und sortiert Kunden-E-Mails mithilfe von KI nach Themen.

Auch DZ Bank und Deka starten eigenes GPT

Andere Banken haben bereits eigene Chatbots gestartet oder stehen kurz davor – und nutzen dafür meist OpenAI und einen abgeschirmten Bereich der Azure-Cloud. Die DZ Bank, das Spitzeninstitut der Volks- und Raiffeisenbanken, hat im vergangenen September mit „DZ Chat“ losgelegt. Mitarbeiterinnen und Mitarbeiter könnten ChatGPT so in einem gesicherten Rahmen nutzen und anfangen, Erfahrungen damit zu sammeln, erklärt der IT-Chef der Bank, Holger Kumm.

„Es gibt aber auch schon erste konkrete Anwendungen. Zum Beispiel kann der DZ Chat helfen, die richtigen Stellen in Geschäftsberichten von Firmenkunden zu finden, die man für bestimmte Informationen braucht“, sagt der Bereichsleiter IT. „Wir werden uns nach und nach darüber klar, wo der Einsatz generativer KI viel Nutzen bringt und wo weniger.“

Gleichwohl ziehen die Banken mit Blick auf Datensicherheit Grenzen beim KI-Einsatz. „Wir setzen die Modelle nur dort ein, wo wir uns sicher sind, dass wir die Datenhoheit sicherstellen können“, sagt DZ-Manager Kumm. Die Volks- und Raiffeisenbanken selbst planen ebenfalls den Start von „GenoGPT“. Sie entwickeln KI-Modelle sowohl in der Cloud als auch im eigenen Rechenzentrum ihres IT-Dienstleisters Atruvia, dem genossenschaftlichen Pendant zur Finanz Informatik.

Die Deka, der zentrale Fonds- und Zertifikatedienstleister der Sparkassen, nennt sein Pendant, das auch auf OpenAI beruht, „DekaGPT“. Die Pilotphase soll im April starten. DekaGPT läuft der Deka zufolge in einem abgeschirmten Bereich der Azure-Cloud. Den Zugang dazu stellt mit FI-TS eine Tochterfirma der Finanz Informatik bereit – was als Sicherheitsvorteil gilt.

Jetzt Handelsblatt Premium zum Vorteilspreis sichern - Zum Angebot

Jetzt Handelsblatt Premium zum Vorteilspreis sichern - Zum Angebot