Zum Inhalt der Seite gehen
Ein 14jähriger begeht Selbstmord. Später stellt sich raus, dass er für immer mit seiner Freundin, einem KI-Chatbot, zusammen sein wollte. Der Fall macht Schlagzeilen, es melden sich weitere Eltern. Hier geht es nicht um „Disruption“, sondern um grobe Fahrlässigkeit von Firmen. https://www.spiegel.de/panorama/kuenstliche-intelligenz-verliebt-in-einen-chatbot-bis-in-den-tod-a-7ff4fe5a-1c6d-406e-99b3-c340d2c984c4?sara_ref=re-so-app-sh
Die Mutter eines Mädchens aus Texas rief sie an, das mit neun Jahren anfing, Character. Al zu nutzen und eineinhalb Jahre lang exzessiv in sexuelle Chats verwickelt wurde. Inzwischen ist sie in Sexualtherapie, sie ist jetzt elf. Ihre Eltern haben ebenfalls Klage eingereicht, wie auch die Eltern eines autistischen Jungen, der mit fünfzehn begann, Character. Al zu nutzen. Als seine Eltern versuchten, die Bildschirmzeit zu begrenzen, wurde er aggressiv. Sein »digitaler Freund« meinte vielsagend, er könne verstehen, wenn Kinder ihre Eltern umbrächten, wenn die sie so einschränken würden.

Künstliche Intelligenz: Verliebt in einen Chatbot – bis in den Tod

Sewell Setzer war ein glückliches Kind. Dann verliebte er sich in einen Chatbot und nahm sich mit 14 das Leben. Seine Mutter verklagt jetzt den mächtigsten Konzern der Welt.
Frauke Hunfeld (DER SPIEGEL)
Isarfokus
In diesem Zusammenhang sei auch nochmal auf die Petition von @marcuwekling hingewiesen. Die kann noch Unterzeichner:innen gebrauchen!
https://weact.campact.de/petitions/deepfakes-verbieten

#DeepFakes #KI #AI

@kattascha schrieb:
https://chaos.social/@kattascha/114246029947384120

Katharina Nocun (@kattascha@chaos.social)

Attached: 1 image Ein 14jähriger begeht Selbstmord. Später stellt sich raus, dass er für immer mit seiner Freundin, einem KI-Chatbot, zusammen sein wollte. Der Fall macht Schlagzeilen, es melden sich weitere Eltern.
chaos.social
#ai #deepfakes #ki @Katharina Nocun @Marc-Uwe Kling
Thomas Escritt
absolutely amazed this exists. “Our app to manipulate children’s emotions” is the literal pitch!

PitWD
Hier gibts den Artikel ohne PayWall...:
https://archive.is/20250328122803/https://www.spiegel.de/panorama/kuenstliche-intelligenz-verliebt-in-einen-chatbot-bis-in-den-tod-a-7ff4fe5a-1c6d-406e-99b3-c340d2c984c4

Trotzdem habe ich nur max. 1/3 des Textes geschafft.
Das ist alles so unglaublich fürchterlich, dass meine heiß geliebten Bits & Bytes mittlerweile für so viel Scheiße missbraucht werden und solch einen Schaden anrichten...😭
Bugspriet
Und man muss leider darauf hinweisen, dass verpflichtende Identifikation bzw. Offenlegung weiterer Daten hier keine gute Gegenmaßnahme ist.
Martin
Warum nutzen Kinder character.ai? Sehe da auch die Eltern in der Verantwortung. Die Unternehmen natürlich auch.
Massimiliano Siddi
Eine Geschichte, die ein wenig wie aus eine Netflix-Serie klingt (Kassandra). Wäre es ausgedacht, würden viele sagen, dies sei ein spannender Plot - nur es ist ein Teil unserer Realität, in der Unternehmen keine Verantwortung mehr übernehmen müssen und Eltern dies offenbar auch nicht wollen oder können.
Mr Huffle
dazu eine Leseempfehlung... Virtua von Karl Olsberg. Klar, leichte SF, aber dieses Thema schon vor 2 Jahren gut auf den Punkt gebracht. (Das Ende kann man getrost ignorieren)
IDee
Was sind das für widerliche Menschen die so etwas entwickeln.😡 #charaterAI
#charaterai
Benjamin Schröter
@skyr das muss dieses move fast and break things sein
@Skyr
LiteraturLounge1
Kaum zu glauben, aber es wundert mich auch nicht.
Margret Kuarell
aber Lektorat ist bei Spiegel auch schon lange nicht mehr, oder?
maexchen1
Da sehe ich auch die Eltern in der Pflicht.

Was kommt als nächstes?

Unternehmen verklagen weil mit dem vom Kind gekauften Buttermesser blödsinn gemacht wurde oder mit dem Kinderflitzebogen ein vom Kind gesammelter Weidenstock anstatt des Kinderpfeils verschossen wurde...?

Je mehr ich darüber nachdenke, um so mehr sehe ich eine grobe Verletzung der Aufsichtspflicht.
Meinolf Mester
🤮🤮😡😡
lyte :vegan: :antifa:
Gruselig das alles..
Sabienchen_1402Ⓥ
hört sich an wie Hameln, die Mini Serie. Auch da wurden Kinder manipuliert und haben Eltern getötet. Ja ohne AI.Bot und so.
⇧