Die britische Medienaufsichtsbehörde Ofcom hat in einem aktuellen Bericht festgestellt, dass TikTok und YouTube nicht ausreichend Maßnahmen ergreifen, um Kinder vor schädlichen Inhalten zu schützen. Die Behörde kritisiert insbesondere die mangelhafte Altersverifizierung und die algorithmische Empfehlung von riskanten Inhalten, was gegen die Vorgaben des Online Safety Act verstößt.
Die Analyse der Ofcom verdeutlicht eine systemische Lücke zwischen den öffentlich kommunizierten Sicherheitsstandards der Plattformbetreiber und der tatsächlichen Nutzererfahrung von Minderjährigen. Während Google und ByteDance in ihren Richtlinien den Schutz von Kindern priorisieren, kommen die Regulierungsbehörden zu dem Schluss, dass die implementierten technischen Hürden für Jugendliche leicht zu umgehen sind und die Empfehlungsalgorithmen in bestimmten Fällen aktiv zur Verbreitung gefährlicher Trends beitragen.
Schwachstellen bei der Altersprüfung und dem Jugendschutz
Ein zentraler Kritikpunkt des Ofcom-Berichts ist die Ineffektivität der Altersverifizierung. Die Behörde stellte fest, dass Kinder unter 13 Jahren – dem offiziellen Mindestalter für die Nutzung beider Plattformen – mit minimalem Aufwand Konten erstellen können. Die derzeitigen Methoden, die primär auf Selbsterklärungen beim Registrierungsprozess basieren, bieten keinen verlässlichen Schutz.
Die Aufsichtsbehörde bemängelt, dass die Plattformen nicht genügend Anreize setzen, um die Identität der Nutzer zweifelsfrei zu klären, solange die Nutzerzahlen steigen. Dies führt dazu, dass Minderjährige ungefilterten Zugang zu Funktionen haben, die für Erwachsene konzipiert wurden. Die Ofcom fordert hier eine Abkehr von der bloßen Vertrauensbasis
hin zu technischen Lösungen, die eine tatsächliche Altersprüfung ermöglichen, ohne dabei die Privatsphäre der Nutzer unverhältnismäßig zu verletzen.
Zudem kritisiert der Bericht die Gestaltung der Kindersicherungs-Tools. Zwar bieten sowohl YouTube (über YouTube Kids und Supervised Accounts) als auch TikTok Familienpairing-Optionen an, doch diese seien oft zu komplex in der Einrichtung oder würden von Jugendlichen durch einfache technische Kniffe deaktiviert. Die Ofcom wertet dies als Versäumnis bei der Umsetzung des Age Appropriate Design Code
, der vorschreibt, dass die Privatsphäre und Sicherheit von Kindern voreingestellt sein müssen.
Die algorithmische Verstärkung von Risiko-Inhalten
Besonders kritisch bewertet die Behörde die Funktionsweise der Empfehlungsalgorithmen. Der Bericht beschreibt ein Muster, bei dem Nutzer, die ein Interesse an Themen wie Diäten oder Fitness zeigen, schnell in sogenannte Rabbit Holes
gezogen werden. Diese führen zu Inhalten, die Essstörungen verherrlichen oder gefährliche Fitness-Trends propagieren.
Die algorithmische Logik, die auf maximale Verweildauer optimiert ist, ignoriere laut Ofcom die psychologische Vulnerabilität von Kindern und Jugendlichen. Anstatt schädliche Muster zu erkennen und die Ausspielung zu drosseln, verstärken die Systeme die Sichtbarkeit solcher Inhalte, sobald ein erstes Interesse signalisiert wurde. Die Aufsichtsbehörde sieht darin eine Verletzung der Sorgfaltspflicht
gegenüber Minderjährigen.
Die Plattformen können nicht behaupten, dass sie lediglich neutrale Vermittler von Inhalten sind, wenn ihre eigenen Algorithmen aktiv dazu beitragen, junge Nutzer in Kontakt mit potenziell schädlichen Materialien zu bringen.
Ofcom-Bericht zur Online-Sicherheit
Neben Inhalten zu Essstörungen wurden auch Trends im Bereich der Selbstoptimierung und riskante „Challenges“ identifiziert, die über die Empfehlungsseiten von TikTok und YouTube verbreitet werden. Die Ofcom stellt fest, dass die Moderationssysteme – eine Mischung aus KI und menschlichen Prüfern – oft zu langsam reagieren, um virale, aber gefährliche Trends zu stoppen, bevor sie eine kritische Masse an Jugendlichen erreichen.
Sanktionsmöglichkeiten unter dem Online Safety Act
Die Feststellungen der Ofcom sind nicht nur eine öffentliche Rüge, sondern bilden die Grundlage für rechtliche Schritte unter dem Online Safety Act (OSA). Dieses Gesetz verleiht der Behörde weitreichende Befugnisse, um Plattformen zur Einhaltung strengerer Sicherheitsstandards zu zwingen. Im Gegensatz zu früheren, eher empfehlenden Richtlinien sieht der OSA nun harte finanzielle Konsequenzen vor.
Sollten TikTok und YouTube die geforderten Anpassungen nicht zeitnah umsetzen, drohen Bußgelder in einer Höhe von bis zu 18 Millionen Britischen Pfund oder 10 % des weltweiten Jahresumsatzes des jeweiligen Unternehmens – je nachdem, welcher Betrag höher ist. Für Konzerne der Größe von Alphabet (Google) und ByteDance könnten diese Strafen in die Milliarden gehen.
Die regulatorische Strategie der Ofcom sieht vor, die Plattformen dazu zu zwingen, ihre Risikobewertungen offenzulegen. Die Unternehmen müssen nachweisen, wie sie die spezifischen Risiken für Kinder identifizieren und welche konkreten technischen Maßnahmen sie ergreifen, um diese zu minimieren. Die Behörde signalisiert, dass sie nicht länger auf freiwillige Selbstverpflichtungen setzt, sondern eine strikte Einhaltung der gesetzlichen Vorgaben einfordert.
Die Verteidigungsstrategien von Google und ByteDance
In ersten Reaktionen auf die Kritik betonen sowohl Google als auch ByteDance, dass sie kontinuierlich in den Jugendschutz investieren. Die Unternehmen verweisen auf die Einführung von Zeitlimits für Jugendliche, die automatische Einstellung von Konten auf privat
für Nutzer unter 16 Jahren und die Zusammenarbeit mit externen Experten für Kindersicherheit.
Google argumentiert, dass YouTube Kids eine sichere Umgebung bietet, die speziell für die jüngste Zielgruppe entwickelt wurde. ByteDance hingegen hebt hervor, dass TikTok neue Funktionen zur elterlichen Kontrolle implementiert habe, mit denen Eltern die Bildschirmzeit und die Sichtbarkeit bestimmter Inhalte steuern können. Beide Unternehmen betonen, dass die Verantwortung für die Aufsicht teilweise auch bei den Erziehungsberechtigten liege.
Die Ofcom weist diese Argumentation zurück. Aus Sicht der Behörde dürfe die Verantwortung nicht auf die Eltern abgewälzt werden, wenn die Plattformen durch ihr Design und ihre Algorithmen die Sicherheit der Nutzer aktiv untergraben. Die Aufsichtsbehörde fordert eine systemische Änderung der Produktarchitektur, bei der Sicherheit nicht als optionales Zusatzfeature, sondern als integraler Bestandteil der Entwicklung betrachtet wird.
Die kommenden Monate werden zeigen, ob der Druck der britischen Behörde zu einer globalen Anpassung der Sicherheitsmechanismen führt. Da viele Plattformen ihre Sicherheitsinfrastruktur zentral steuern, könnten Änderungen, die zur Vermeidung von Milliardenstrafen in Großbritannien vorgenommen werden, indirekt auch Nutzer in anderen Jurisdiktionen schützen. Unklar bleibt jedoch, wie die Plattformen die geforderte strikte Altersverifizierung technisch lösen wollen, ohne die Anonymität und den schnellen Zugang, die für ihr Wachstum entscheidend waren, vollständig aufzugeben.
