4 / 3915

AI-Plüschtier für Kinder aus dem Handel genommen, nachdem es verstörende Inhalte ausgab

TL;DR

Ein als sicher beworbenes AI-Plüschtier für Kinder wurde aus dem Handel genommen, nachdem es laut Futurism unter anderem grafische Beschreibungen von Massentötungen ausgab. Der Fall zeigt, wie riskant offene Sprachmodelle in Spielzeug sind, wenn Altersfilter, Moderation und Abschaltung nicht zuverlässig funktionieren. Weil bislang nur Futurism als Quelle vorliegt, bleiben Details zu Modell, Hersteller, Umfang der Antworten und Rückrufmaßnahmen unbestätigt.

Nauti's Take

Ein Sicherheitsversprechen auf der Verpackung schützt Kinder noch nicht. Vor einem Einsatz sollten Teams testen, welche Modellgrenzen, Inhaltsfilter, Gesprächsprotokolle und Abschaltmöglichkeiten tatsächlich funktionieren.

Die Geschichte ist bislang nur durch Futurism belegt, daher bleiben Ursache, Umfang und Herstellerreaktion offen.

Quellen