Sparkassen gehen bei Entwicklung von KI-Modellen eigenen Weg

Die Sparkassen in Deutschland entwickeln eigene Chatbots auf Basis von künstlicher Intelligenz (KI). Anders als viele Unternehmen, die auf Cloud-Dienste von großen US-Technologiekonzernen setzen, betreiben die Sparkassen ihre KI-Modelle in eigenen Rechenzentren. Diese Entscheidung basiert auf den hohen Anforderungen an Datensicherheit und der EU-Regulierung durch den AI Act, der bereits in Kraft getreten ist.

Das Sparkassen GPT, der hauseigene generative Chatbot, wird vom Sparkassen-IT-Dienstleister Finanz Informatik (FI) betrieben. Anstatt die beliebten Cloud-Dienste von Amazon (AWS), Microsoft (Azure) oder Google Cloud zu nutzen, setzen die Sparkassen auf frei zugängliche KI-Modelle von Meta und Mistral. Diese Modelle sind Open Source, was bedeutet, dass der Quellcode einsehbar und anpassbar ist.

Technisch stützen sich die Sparkassen auf leistungsfähige Rechenzentren, die mit Nvidia-Grafikprozessoren (GPUs) ausgestattet sind. Diese Chips ermöglichen eine schnellere Verarbeitung der rechenintensiven KI-Anwendungen im Vergleich zu anderen Lösungen. FI-Chef Andreas Schelling betont, dass dieser Ansatz zwei Hauptvorteile bietet: die Hoheit über die eigenen Daten und die Fähigkeit, den Anforderungen des AI Act gerecht zu werden. Dieser EU-Gesetzesentwurf verlangt von Unternehmen eine detaillierte technische Dokumentation der verwendeten Daten und Modelle.

Ab Herbst wird die Finanz Informatik allen 353 Sparkassen einen „Sparkasse-KI-Piloten“ anbieten, der ähnliche Funktionalitäten wie ChatGPT haben wird. FI-Chef Andreas Schelling bestätigte gegenüber Lars M. Heitmüller, dass dieser Rollout im September, sprich im dritten Quartal 2024 erfolgen wird.

InnovationDays des Sparkassen Innovation Hub in Hamburg: Andreas Schelling von der Finanz Informatik im Interview

Trotz der potenziellen Vorteile sehen einige IT-Experten diesen Weg kritisch. Benedikt Bonnmann, Vorstand des IT-Dienstleisters Adesso, argumentiert, dass die Nutzung von Cloud-Diensten wirtschaftlicher und schneller umsetzbar sei. Ein einziger Nvidia-Grafikprozessor kostet rund 30.000 Euro, und für das Training großer Sprachmodelle werden mehrere Hundert oder sogar Tausende solcher Chips benötigt. Dies mache die Anschaffung eigener KI-Rechenkapazitäten kostspielig und komplex.

Die Entscheidung der Sparkassen zeigt, dass sie bereit sind, erhebliche Investitionen zu tätigen, um die Kontrolle über ihre Daten zu behalten und regulatorische Anforderungen zu erfüllen. Ob dieser Weg langfristig erfolgreich sein wird, bleibt abzuwarten.