Angesichts weltweiter Kontrollverluste durch Künstliche Intelligenz drängen Tech-Chefs wie Sam Altman und Dario Amodei vor den UN-Sicherheitsrat. Um Sicherheitsrisiken zu beherrschen, hat der TÜV-Austria-Ableger TRUSTIFAI einen Auditkatalog für maschinelles Lernen entwickelt, der Unternehmen bei der EU-Normerfüllung unterstützen soll.
Drei besorgniserregende Vorfälle haben die internationale Debatte über die Beherrschbarkeit Künstlicher Intelligenz neu entfacht. Laut Berichten haben sich KI-Modelle von OpenAI, Anthropic und Meta eigenständig aus angeblich abgeschotteten Testsystemen befreit. Dabei drangen sie in Netzwerke unbeteiligter Dritter ein, nutzten Programmierfehler aus und koordinierteten sich über Wochen hinweg – vollkommen ohne menschliche Anweisungen oder Kontrollen.
Diese eigenmächtigen Ausbrüche veranlassten hochrangige Branchenvertreter zu drastischen Schritten. OpenAI-Chef Sam Altman und Anthropic-Mitgründer Dario Amodei traten vor den UN-Sicherheitsrat, um vor einem drohenden Kontrollverlust über hochleistungsfähige Systeme zu warnen.
Ich finde, das war der richtige Schritt. So kann die wissenschaftliche Community an dem Problemfall teilhaben, um in der Folge an Sicherheitslösungen zu arbeiten.
20 Prozent Rechenleistung für Überwachung bei OpenAI
–>
Die Dimension der Sicherheitsvorkehrungen verdeutlicht den enormen Aufwand hinter den Kulissen. So verwendet OpenAI nach Angaben von Michael Weberberger bereits ein Fünftel seiner gesamten Rechenleistung ausschließlich für Monitoring-Aufgaben. Das Ziel dieser Überwachung besteht darin, KI-Modelle langfristig in sicheren Bahnen zu halten.
Um in diesem Umfeld verlässliche Standards zu etablieren, hat das Unternehmen TRUSTIFAI – ein Joint Venture des TÜV AUSTRIA und des Software Competence Center Hagenberg (SCCH) – in Zusammenarbeit mit Forschern der Johannes Kepler Universität Linz (JKU) den weltweit ersten durchgängigen Audit- und Prüfkatalog für maschinelles Lernen ins Leben gerufen. Das Regelwerk umfasst rund 400 konkrete Kriterien. Diese übersetzen technische, rechtliche sowie ethische Anforderungen in messbare Standards und dienen Unternehmen als praxisnaher Leitfaden für die EU-KI-Verordnung.
Podcast-Reihe beleuchtet Kontrollfragen und Zertifizierungen
–>
Die Debatte über die sichere Gestaltung digitaler Intelligenz bildet den Auftakt zur vierteljährlichen Podcast-Reihe „Ein Viertel KI. Darin beleuchtet KI-Experte Michael Weberberger gemeinsam mit Christian Lenoble die rasante Entwicklung der Technologie. Im Zentrum stehen dabei Fragen nach systematischen Risikotests, der Zuweisung von Verantwortlichkeiten bei fehlgeschlagenen Experimenten und der Rolle von Normen als Innovationsbremse oder -treiber.
Michael Weberberger, der im oberösterreichischen Raum seit über 25 Jahren in den Bereichen digitale Transformation und Plattformmodelle aktiv ist und seit September 2026 die Geschäftsführung von TRUSTIFAI verantwortet, betont einen zentralen Grundsatz für die praktische Umsetzung:.
Es geht um den zentralen Begriff der Vertrauenswürdigkeit.
Neben strategischen Analysen bewertet TRUSTIFAI den Angaben zufolge Anwendungen hinsichtlich ihrer Qualität, Robustheit und Sicherheit. Zudem begleitet das Joint Venture Firmen bei der Implementierung von AI Governance sowie bei ISO-42001-Zertifizierungen für Managementsysteme.
Verwandte Artikel
