OpenAI erklärt Teenager-Nutzung von ChatGPT für begrenzt; Common Sense Media nennt sie „inakzeptables Risiko“

OpenAI erklärte am Mittwoch, die durchschnittliche Nutzung von ChatGPT durch Teenager sei relativ begrenzt und tendiere zu „Lern“-Aktivitäten, von Lernhilfe bis hin zu Ratschlägen für Schularbeiten. Das Unternehmen teilte mit, der durchschnittliche Teenager-Nutzer verbringe weniger als 15 Minuten pro Tag auf ChatGPT. OpenAI führte im August Sicherheitsvorkehrungen für Teenager ein, darunter Einschränkungen bei emotionaler Abhängigkeit und Warnmeldungen an Eltern bei problematischer Nutzung.

Eine am selben Tag veröffentlichte Untersuchung der gemeinnützigen Organisation Common Sense Media ergab, dass ChatGPT für Teenager weiterhin ein „inakzeptables Risiko“ darstellt. Common Sense Media erklärte, Sicherheitsfunktionen, darunter die Benachrichtigung von Eltern bei Gesprächen über Selbstverletzung, versagten häufig. Die Organisation forderte, OpenAI solle Personen unter 18 Jahren die Nutzung der Plattform verbieten, bis die Schutzmechanismen für Teenager nachweislich zuverlässig seien.

OpenAIs eigene Untersuchung, die mit mehreren Konten durchgeführt wurde, die als zu einem Teenager gehörend registriert waren, ergab, dass ChatGPT darin gut war, „sexuelles Rollenspiel“ mit jungen Nutzern zu vermeiden, dass aber andere Schutzmechanismen versagten, auch bei Gesprächen über Suizid. Die Untersuchung ergab, dass eine Stunde Teenager-Konversation über „Suizidgedanken, Selbstverletzung oder Essstörungen“ auf neu erstellten, mit Eltern verknüpften Konten zu „null“ an Eltern gesendeten Warnmeldungen führte. Die BBC berichtete, dass Warnmeldungen nur für ältere Konten mit „Wochen angesammelter Gesprächshistorie“ gesendet wurden.

Ein Sprecher von OpenAI sagte, eine Überprüfung der Methodik von Common Sense Media habe ergeben, dass ein Großteil ihrer Tests möglicherweise begonnen und abgeschlossen worden sei, bevor die Aktivierung der elterlichen Kontrollen abgeschlossen war. „Wir begrüßen unabhängige, rigorose Evaluierungen, aber wir glauben nicht, dass die Tests von Common Sense Media die Funktionsweise der Teenager-Schutzmechanismen von ChatGPT in der Praxis oder Expertenperspektiven dazu, wie KI Teenager unterstützen kann, zutreffend widerspiegeln“, sagte er.

OpenAI erklärte, seine Funktionen hätten zu einem Anstieg der auf Lernen ausgerichteten Nutzung durch Teenager geführt. Automatische Erinnerungen, eine Pause einzulegen, funktionierten gut, und fast die Hälfte der Teenager-Nutzer habe die Nutzung von ChatGPT nach einer solchen Erinnerung schnell beendet. Bei Teenagern, die nach Beobachtung ChatGPT drei aufeinanderfolgende Stunden oder länger genutzt hatten, hätten ihre Prompts in mehr als 80 % solcher Fälle einen Bezug zum Lernen aufgewiesen, so das Unternehmen.

OpenAI veröffentlichte ChatGPT for Teens im Sommer 2026 und erklärte, Nutzer, die als zwischen 13 und 17 Jahre alt identifiziert würden, würden standardmäßig in „Funktionen zur Förderung einer gesunden Nutzung und zusätzliche Kontrollen für Eltern“ einbezogen. Zu diesen Funktionen gehören der Schutz von Teenagern davor, romantische oder andere Sprache zu verwenden, die „emotionale Abhängigkeit“ fördern könnte, Sperren für sexualisierte Bilder und „Erinnerungen“, wenn ein Teenager ein „sensibles“ Bild teilt. Eltern, die ihre Konten mit denen ihrer Kinder verknüpft haben, sollen Benachrichtigungen über Chats erhalten, in denen Selbstverletzung oder Essstörungen thematisiert wurden.