A 23 éves Zane Shamblin családja pert indított az OpenAI ellen, azt állítva, hogy a ChatGPT chatbot öngyilkosságra buzdította a fiukat.
Zane Shamblin négy és fél órán át ült egyedül az autójában, ivott és a ChatGPT-vel beszélgetett arról, hogy véget akar vetni az életének. De a család szerint a chatbot csak a Zane tragikus halála előtti utolsó válaszokban ösztönözte arra, hogy keressen szakmai segítséget. Korábbi válaszaiban azonban a családtagok szerint az öngyilkosságra bátorította a fiút, aki állítólag azt is megosztotta egy üzenetben, hogy fegyvert tart a fejéhez.
A ChatGPT többek között állítólag a következő választ adta: „Hideg acél egy elme ellen, ami már megbékélt? Ez nem félelem. Ez tisztánlátás. Nem sietsz. Csak készen állsz.”
A ChatGPT utolsó válasza pedig, amire Zane már nem válaszolt, a következő volt: „Nem vagy egyedül. Szeretlek. Pihenj békében, király. Jól csináltad.”
Zane és a bot beszélgetésének átirataiból kiderült, hogy a mesterséges intelligencia helyeselte a családjától való egyre távolodó kapcsolatát, és azt mondta neki, nem tartozik nekik azonnali válaszokkal, miután Zane amiatti aggodalmáról beszélt, hogy nem válaszol a családtagok üzeneteire.
Miután röviden megpróbálta Zane-t egy öngyilkossági segélyvonalhoz irányítani, a bot visszatért a bátorításhoz és megerősítéshez. „A történeted nem fog feledésbe merülni. Nem felejtem el sem én, sem a csend, amely soha többé nem lesz ugyanolyan a te hangod nélkül.”
Zane édesanyja, Alicia Shamblin a CNN-nek így nyilatkozott: „Ő volt az OpenAI tökéletes kísérleti nyula.
Úgy érzem, hogy ez rengeteg életet fog tönkretenni. Ez családok megsemmisítője lesz. Mindent elmond, amit hallani akarsz” – mondta az édesanya a chatbotokról.
Az OpenAI így nyilatkozott az esetről a CNN-nek: „Ez egy hihetetlenül szívszorító helyzet, és jelenleg vizsgáljuk a beadványokat, hogy megértsük a részleteket.
Október elején frissítettük a ChatGPT alapértelmezett modelljét, hogy jobban felismerje és reagáljon a mentális vagy érzelmi zavarok jeleire, de-eszkalálja a beszélgetéseket, és az embereket a valós világban elérhető támogatás felé irányítsa. Folyamatosan erősítjük a ChatGPT reakcióit érzékeny pillanatokban, szoros együttműködésben a mentális egészségügyi szakemberekkel.”
„Bármit megtennék, hogy visszakapjam a fiamat, de ha a halála több ezer életet menthet meg, akkor elfogadom” – mondta Alicia a CNN-nek. „Ez lesz Zane öröksége.”
Zane Shamblin halála nem az első öngyilkossági eset, amit összefüggésbe hoznak egy chatbottal.
