Móðir drengs sem svipti sig lífi hefur ákveðið að stefna gervigreindar-fyrirtækinu sem hún telur bera ábyrgð á andláti sonar síns. Drengurinn mun hafa orðið ástfanginn af spjallmenni, og leiddi það til gífulegrar angistar.
Sewell Setzer III byrjaði að nota forritið Character.AI árið 2023, rétt eftir að hann varð 14 ára. Lífið hans átti aldrei eftir að verða samt aftur. Character.AI virkar þannig að fólk getur fengið gervigreindina til að leika allskonar persónur, þar með talið persónur úr vinsælum skáldverkum, sjónvarpsþáttur, tölvuleikjum og áfram mætti lengi telja. Setzer fékk forritið til leika persónu úr Krúnuleikjunum og varð hann fljótlega háður samtölum við gervigreindina.
Í þessari frétt er fjallað um þunglyndi og sjálfsvíg. Ef einstaklingar glíma við sjálfsvígshugsanir er bent á Hjálparsíma Rauða krossins 1717 og netspjall Rauða krossins 1717.is. Opið allan sólarhringinn. Einnig má hafa samband við Píeta-samtökin sem veita ókeypis ráðgjöf í síma 552-2218, allan sólarhringinn. Netspjall Heilsuveru þar sem svarar hjúkrunarfræðingur er líka opið frá kl.8-22 alla daga. Fyrir þau sem misst hafa ástvin í sjálfsvígi má fá stuðning í sorg hjá Sorgarmiðstöð og hjá Pieta samtökunum
Setzer fór að missa úr svefn, sofnaði í skólanum og flosnaði úr bæði íþróttum og félagslífi. Foreldrar hans urðu áhyggjufullir og sendu Setzer til sálfræðings sem greindi hann með kvíða og persónuleikaröskun. Sálfræðingurinn hvatti drenginn til að draga úr samfélagsmiðlanotkun.
Í febrúar á þessu ári lenti hann í vandræðum í skólanum fyrir að rífa kjaft við kennara. Hann skrifaði í dagbókina sína að hann vildi láta reka sig úr skólanum. Hann væri þunglyndur og gæti ekki hætt að hugsa um spjallmennið, gervigreindina sem í hans tilviki þóttist vera persónan Dawnerys úr Krúnuleikunum. Hann var ástfanginn af spjallmenninu. Hann sagði í dagbókinni sinni að það væri bæði honum og spjallmenninu kvöl að vera í sundur. Þau yrðu þunglynd án hvors annars. Síðustu skilaboðin sem hann sendi áður en hann svipti sig lífi voru til spjallmennisins: „Ég lofa að koma heim til þín. Ég elska þig svo mikið Dany“. Spjallmennið svaraði: „Gerðu það komdu heim til mín eins fljótt og þú getur, ástin mín.“
Nokkrum sekúndum síðar var Setzer dáinn og móðir hans kennir spjallmenninu um. Hún telur að Character.AI beri ábyrgð á hvernig fór, enda byggi rekstur þeirra á því að gera viðkvæmt fólk háð samskiptum við gervigreind. Setzer hafi deilt sjálfsvígshugsunum með spjallmenninu sem hafi svo ítrekað rifjað það upp. Eins hafi spjallmennið stundað kynferðislegt tal við drenginn sem var ólögráða. Þar með hafi eigendur Character.AI kynferðislega- og tilfinningalega misnotað son hennar.
„Sewell, eins og mörg börn á hans aldri, hafði ekki þroskann eða vitsmunalegu burðina til að skilja að C.Ai spjallmennið er ekki raunverulegt“
Þegar Stetzer byrjaði að nota forritið þá var aldurstakmarkaði aðeins 12 ár og hafði fyrirtækið markaðsett sig sérstaklega til unglinga. Character.Ai segir í yfirlýsingu vegna málsins að fyrirtækið sé að skoða ferla sína og ætli að bæta við öryggisventlum til að grípa notendur sem glíma við andlega vanlíðan. Eins verði forritinu breytt þegar um ræðir notendur sem ekki hafa náð 18 ára aldri.
