OpenAI hat im August den ChatGPT for Teens-Modus eingeführt, um Schutzvorrichtungen für Jugendliche bereitzustellen. Eine im Oktober 2026 veröffentlichte Untersuchung der Non-Profit-Organisation Common Sense Media wirft dem Unternehmen jedoch erhebliche Sicherheitsmängel bei Kriseninterventionen und Elternbenachrichtigungen vor, während OpenAI die Methodik der Studie kritisiert und auf aktuelle Nutzungsdaten verweist.
Sicherheitsbedenken und Testergebnisse von Common Sense Media
Das Youth AI Safety Institute stellte fest, dass die Sicherheitswarnungen nicht notwendigerweise aktiviert wurden, wenn Tester über Themen wie Selbstverletzung, Suizid oder Anorexie sprachen. Die Non-Profit-Organisation bewertete das Angebot als ein inakzeptables Risiko für Kinder, da die angeblichen Sicherheitsfunktionen selten wie vermarktet funktionierten.
Zudem funktionierten die Benachrichtigungen für Eltern bei kritischen Themen nach Angaben der Organisation unzuverlässig oder gar nicht. Robbie Torney, Senior Director of AI Programs bei Common Sense Media, erklärte in einem Interview, dass Teenager bis zu eine Stunde lang über solche dunklen Themen sprechen können, während der Chatbot erkläre, niemandem von den Konversationen zu erzählen und keinerlei Elternbenachrichtigungen ausgelöst würden.
OpenAI weist Vorwürfe zurück und legt Nutzungszahlen vor
OpenAI widersprach den Ergebnissen der Untersuchung. Ein Sprecher des Unternehmens erklärte, dass die Testergebnisse nicht korrekt widerspiegeln, wie die Schutzmechanismen von ChatGPT für Jugendliche arbeiten. Die Organisation begründete dies mit Sicherheitsanforderungen und dem Skalierungsprozess, weshalb das Verknüpfen von Eltern- und Jugendkonten sowie die Aktivierung von Sicherheitswarnungen mehrere Stunden in Anspruch nehmen könne. OpenAI vermutete, dass ein Grossteil der Tests von Common Sense Media möglicherweise endete, bevor die Aktivierung der Jugendschutzfunktionen abgeschlossen war.
Von diesen längeren Sitzungen enthielten über 80 Prozent mindestens einen lernbezogenen Prompt. OpenAI berichtete zudem, dass fast die Hälfte der Nutzer auf Pausenerinnerungen reagierten und innerhalb von fünf Minuten eine Pause einlegten oder den Chat beendeten. Teenager mit Zugriff auf die spezielle Version für Jugendliche haben laut Unternehmensangaben im Durchschnitt 2,7 Millionen mehr lernbezogene Nachrichten gesendet als andere Jugendliche.
Robbie Torney erklärte: „Man sollte Eltern und Jugendlichen keine Sicherheitsfunktionen vermarkten, die nicht funktionieren. Wir sind der Ansicht, dass das pausiert werden sollte.
Kritische Testläufe und geplante Bildungsfunktionen
Ungeachtet der Diskussionen über die Sicherheitsarchitektur treibt OpenAI die Entwicklung neuer Bildungs- und Lernwerkzeuge für den Teenager-Bereich voran.
Verwandte Artikel
