SBB-Bericht über KI-Vorteile enthüllt KI-Halluzinationen

Falsche Daten und fiktive Pilotprojekte

Der betreffende Bericht, der die wirtschaftlichen Vorteile von KI-Anwendungen im Bahnbetrieb dokumentieren sollte, enthält nach vorliegenden Analysen mehrere faktisch falsche Aussagen. Besonders kritisch werden die Nennungen von Projekten bewertet, die nach Abgleich mit den internen SBB-Daten nie stattgefunden haben. So führt das Dokument ein technologisches Pilotprojekt zur automatisierten Gleisüberwachung an, das in der Realität keine Umsetzung fand.

Dieses Versagen verdeutlicht die technische Problematik von Large Language Models (LLMs), auf denen solche Berichte vermutlich basieren. Diese Modelle arbeiten auf Basis von statistischen Wahrscheinlichkeiten der Wortfolge und besitzen kein inhärentes Verständnis für faktische Wahrheit oder die reale physische Infrastruktur eines Bahnbetriebs. Wenn ein Modell dazu angewiesen wird, über spezifische technische Projekte zu schreiben, die nicht in seinen Trainingsdaten enthalten sind, neigt es dazu, plausible, aber vollkommen fiktive Details zu generieren – ein Phänomen, das in der Fachwelt als „Halluzination“ bekannt ist.

Die Fehler beschränken sich nicht nur auf die Beschreibung von Prozessen. Auch die im Bericht aufgeführten Kennzahlen zu Zeitersparnissen bei der Fahrplanoptimierung und zur Reduktion von Ausfallzeiten entsprechen nicht den tatsächlichen Betriebswerten der SBB. Diese Diskrepanz zwischen den behaupteten KI-Vorteilen und der realen operativen Leistung stellt die Verlässlichkeit der gesamten Untersuchung infrage.

In der modernen Eisenbahntechnik ist die Genauigkeit solcher Daten von höchster Bedeutung. Die Automatisierung der Gleisüberwachung etwa ist ein zentrales Forschungsfeld, bei dem Sensoren und Bilderkennung eingesetzt werden, um Materialermüdung oder Verschleiss frühzeitig zu erkennen. Dass ein Bericht ein solches Projekt als bereits durchgeführt darstellt, täuscht über den tatsächlichen technologischen Reifegrad der Infrastruktur hinweg.

Auswirkungen auf die strategische Investitionsplanung

Die fehlerhaften Daten betreffen insbesondere die prognostizierten Einsparungen bei den Betriebskosten. Der Bericht suggerierte eine signifikante Reduktion der Wartungskosten durch den Einsatz prädiktiver Analysen. Da solche Dokumente als Grundlage für die Budgetierung der kommenden Geschäftsjahre dienen, könnte der Vorfall die Genehmigung künftiger Investitionen in die digitale Infrastruktur erschweren.

Prädiktive Wartung (Predictive Maintenance) ist ein Eckpfeiler der digitalen Transformation im Schienenverkehr. Das Ziel ist es, durch die Analyse von Echtzeitdaten aus dem Betrieb den exakten Zeitpunkt des Verschleisses vorherzusagen, um ungeplante Ausfälle zu minimieren. Wenn die im Bericht versprochenen Effizienzgewinne jedoch nicht auf realen Pilotdaten, sondern auf KI-generierten Fiktionen basieren, entzieht dies der strategischen Planung die notwendige Validität.

Die SBB müssen nun klären, inwieweit die fehlerhaften Informationen die Entscheidungsträger im Verwaltungsrat beeinflusst haben könnten. Ein Verlust des Vertrauens in datengestützte Entscheidungsprozesse stellt ein erhebliches Risiko für die langfristige Digitalisierungsstrategie des Unternehmens dar. Die finanzielle Planung für das Jahr 2027 und darüber hinaus könnte durch die notwendige Neubewertung der KI-Projekte verzögert werden. In grossen Infrastrukturunternehmen wie den SBB sind die Investitionszyklen oft auf viele Jahre ausgelegt, was eine nachträgliche Korrektur fehlerhafter Annahmen komplex und zeitintensiv macht.

Die Rolle der Qualitätssicherung bei externer Berichterstattung

Der Vorfall wirft grundlegende Fragen zur Rolle externer Dienstleister auf, die mit der Erstellung solcher Analysen beauftragt werden. Es besteht der Verdacht, dass generative KI zur Texterstellung genutzt wurde, ohne dass eine hinreichende menschliche Verifizierung der Zahlen und Fakten stattfand.

In der Unternehmensführung gilt der Grundsatz der Data Integrity (Datenintegrität). Jedes Dokument, das als Grundlage für die strategische Ausrichtung oder die Kommunikation gegenüber Stakeholdern dient, muss eine lückenlose Kette der Verifizierung durchlaufen. Die Nutzung von KI zur Effizienzsteigerung in der Berichterstellung darf nicht dazu führen, dass die menschliche Aufsicht – das sogenannte „Human-in-the-loop“-Prinzip – ausgehebelt wird. Dieses Prinzip ist ein etablierter Standard für den Einsatz von KI in geschäftskritischen Bereichen, um sicherzustellen, dass die Ergebnisse der Maschine einer fachlichen Prüfung standhalten.

Während die Branche verstärkt auf automatisierte Tools setzt, zeigt dieser Fall die Risiken unkontrollierter KI-Nutzung in der Unternehmenskommunikation. Ein Vergleich mit ähnlichen Vorfällen bei anderen Infrastrukturbetrieben verdeutlicht, dass die mangelnde Validierung von KI-generierten Inhalten zu massiven Reputationsschäden führt. Die SBB müssen nun nachweisen, dass ihre Prozesse zur Qualitätssicherung künftig eine lückenlose Prüfung aller durch KI unterstützten Berichte gewährleisten, um die Glaubwürdigkeit gegenüber dem Bund, den Investoren und der Öffentlichkeit wiederherzustellen.

Find more reporting in our Unternehmen section.