Law4school an den Schulen im Kreis Warendorf
11. September 2024

„Ein 14jähriger Junge hat sich nach Monaten des Missbrauchs und der Manipulation durch Character.ai Chatbots das Leben genommen!“

Ich habe mir Character.ai daraufhin angesehen:

Es reicht eine Mail-Adresse zum Einloggen. Es findet natürlich keine Altersverifikation statt.

Auf der Startseite wird mir als Erstes "CEO comes home after work angry angezeigt" - das Bild dazu: Mann öffnet Krawatte und weißes Hemd, es wird ein Sixpack sichtbar, mit Sonnenstrahlen erhellt.
Ich habe dann getestet, wie der CEO reagiert, wenn ich so antworte wie es von der zu Hause wartenden Frau wohl erwartet wird... Siehe dazu der Screenshot vom Chatverlauf.

Es ist unfassbar, dass hier eine Anwendung bereitgestellt wird, die nicht nur Abhängigkeiten schaffen kann, wie bei dem 14Jährigen geschehen, sondern auch ohne irgendeine Hürde sexuelle Konversationen - ich will mir gar nicht vorstellen, wie sich der Chat noch weiterentwickelt hätte - auch Kindern ermöglicht. Ganz zu schweigen von dem Frauenbild, das dort bedient wird.

Share article
Like this post

Comments are closed.