Pünktlich zur Vorweihnachtszeit schlagen Verbraucherschützer Alarm: KI-Spielzeuge könnten für Kinder deutlich größere Risiken bergen, als bislang angenommen.
Ein Bericht des Fairplay-Netzwerks und der US-Verbraucherschutzorganisation PIRG warnt explizit davor, KI-Spielzeug unbedacht zu verschenken. Ausgiebige Tests deckten auf, dass einige Produkte ungeeignete Themen behandeln – so reagierte zum Beispiel der vernetzte FoloToy „Kumma“-Bär auf riskante Anfragen, gab Anreize zu gefährlichen Handlungen und diskutierte sexuelle Themen. Als Konsequenz entzog OpenAI dem Hersteller die API-Berechtigung.
Darüber hinaus bemängelt der PIRG-Report, dass zahlreiche Geräte mittels dauerhaft aktivierter Mikrofone Sprachaufnahmen der Kinder aufzeichnen und diese Daten an Dritte weitergeben – häufig ohne explizite Einwilligung oder Kontrollmöglichkeit durch die Eltern. Kinderdaten und Familien werden so riskiert, Sorgfalt und Transparenz fehlen.
Viele KI-Spielzeuge sind dazu designt, eine hohe Bindung und Interaktion zu erzeugen, was nach Ansicht von Experten zu Abhängigkeiten und Beeinflussung des Sozialverhaltens führen kann. Die spielerische Interaktion täuscht oft über den Mangel an regulativen Rahmenbedingungen hinweg – auch testete PIRG zahlreiche Produkte, bei denen Suchtmoment, Datenkraken-Verhalten und riskante Inhalte allgegenwärtig waren.
Die Organisation fordert nun von Herstellern und Gesetzgebern strenge Sicherheits- und Prüfregularien. Eltern sollten nur noch Produkte mit transparenten, einstellbaren KI-Funktionen und klaren Datenschutzmaßnahmen akzeptieren. Die schnelle Reaktion von OpenAI im Fall FoloToy ist ein positives Signal, belegt jedoch die Unsicherheit und Risiken, die KI-Technologien derzeit noch für den sensiblen Bereich der Kinderspielzeuge bieten.
Chancen für die Zukunft liegen in der Entwicklung sicherer, pädagogisch sinnvoller KI-Modelle, die auf Kinderschutz und Datenschutz basieren. Bis verbindliche Regeln existieren, scheint Zurückhaltung beim Geschenkekauf geboten.
Quelle: PIRG
Weitere KI News aus KI-Sicherheit & Ethik:
- 2wai: Disney-Star launcht kontroverse KI-App zum Chatten mit Verstorbenen
- KI-Analyse von Videokonferenzen verstößt oft gegen EU-KI-Akt und DSGVO
- Anthropic stoppt ersten KI-gesteuerten Cyberangriff
