OpenAI hat neue Änderungen zum Schutz jugendlicher ChatGPT-Nutzer angekündigt, wobei CEO Sam Altman Maßnahmen wie automatische Altersbestimmung und eingeschränkte Versionen des Assistenten für Minderjährige detailliert beschreibt.
Im Detail:
OpenAI entwickelt Technologie, die das Alter der Nutzer anhand von Nutzungsmustern schätzt und bei Unsicherheit standardmäßig auf Teenie-Beschränkungen setzt.
Neue Kindersicherungen ermöglichen Kontenverknüpfung, Anpassungen und Benachrichtigungen an Eltern oder Behörden bei wahrgenommenen psychischen Krisen.
Teenie-Konten blockieren explizite und selbstschädigende Chats, selbst bei kreativen Nutzungen – Altman sagt, dass nicht jeder mit den Kompromissen einverstanden sein wird.
Altman bemerkte, dass „einige von (OpenAIs) Prinzipien im Konflikt stehen“, wobei die neuen Entscheidungen ein Gleichgewicht zwischen Freiheit, Sicherheit und Privatsphäre anstreben.
Warum es wichtig ist
Es war ein Sommer voller beunruhigender Schlagzeilen über die Beteiligung von KI an psychischen Gesundheitssituationen, und diese Maßnahmen kommen inmitten von regulatorischer Prüfung und Nutzerklagen. Doch angesichts der Vielzahl an Chatbot-Optionen (einschließlich Open-Source-/privater Modelle) und Workarounds ist dies leider ein Problem, das nicht so leicht verschwindet.
OpenAI ChatGPT Teen Controls