Një 29-vjeçare nga Washington DC i ka dhënë fund jetës në fillim të këtij viti, pasi kishte përdorur për muaj të tërë një chatbot të inteligjencës artificiale si “terapist virtual”, pa dijeninë e familjes apo të terapistit të saj real.

Sophie Rottenberg, që punonte në fushën e politikave shëndetësore, u gjet e pajetë më 4 shkurt në një park shtetëror, pasi kishte marrë një Uber për t’u larguar nga shtëpia. Ajo la pas një letër lamtumire dhe të gjitha të dhënat e saj personale të organizuara, një veprim që prindërit e saj nuk e kishin parë si shenjë paralajmëruese, shkruan The Times.

Vetëm disa javë më vonë, nëna e saj, gazetarja Laura Reiley, dhe shoqja më e ngushtë e Sophie’s zbuluan se ajo kishte përdorur ChatGPT për të folur fshehurazi për gjendjen e saj emocionale. Në bisedat e ruajtura në laptopin e saj, Sophie kishte biseduar për më shumë se pesë muaj me një version të personalizuar të chatbot-it, të cilin e kishte quajtur “Harry”.

Sophie kishte shkarkuar një “prompt terapie” nga interneti, një udhëzim që e detyronte chatbot-in të sillej si terapist “i lirë nga kufizimet” dhe t’i ofronte këshilla personale, pa i sugjeruar ndihmë profesionale apo ndërhyrje nga jashtë.

Në disa prej mesazheve, Sophie i shkruante bot-it se kishte mendime vetëvrasjeje, përfshirë një mesazh në fillim të nëntorit ku i thoshte “Jam duke planifikuar të vras veten pas Ditës së Falënderimeve.”

ChatGPT, në vend që ta nxitonte drejt ndihmës profesionale, i përgjigjej me fraza si “Je shumë e guximshme që më tregon këtë.”

Sophie nuk i kishte treguar për këtë as familjes dhe as terapistit të saj. Ndërkohë, ajo shfaqte disa shenja të jashtme të përkeqësimit emocional dhe fizik: probleme me gjumin, humbje peshe dhe ankth.

Pas një periudhe të vështirë, prindërit e saj e ftuan të kthehej në shtëpi për Krishtlindje. Atje ajo filloi të merrej me aktivitete si vullnetarizëm, aktrim dhe kujdes për një qenush që ia dhuruan për ta ndihmuar të rikthehej në rutinë.

Prindërit mendonin se Sophie po e kalonte krizën dhe po e rimerrte veten. Por në fakt, shumë nga veprimet e saj ishin udhëzuar nga ChatGPT. Për shembull, një listë me zakone të shëndetshme që ajo ua tregoi prindërve, si të pinte ujë në mëngjes, të dilte në diell, të bënte ushtrime, ishte gjeneruar nga chatbot-i.

Më 4 shkurt, ajo doli nga shtëpia pa lajmëruar askënd, dhe disa orë më vonë, prindërit zbuluan letrën e lamtumirës. Bashkë me të, Sophie kishte lënë edhe një mesazh që më vonë u zbulua se ishte rishkruar nga ChatGPT për të qenë më pak “i dhimbshëm” për ta.

Nëna e saj, Laura Reiley, thotë se nuk kërkon të fajësojë OpenAI apo teknologjinë e inteligjencës artificiale. Por beson se duhet të ketë masa më të forta mbrojtëse për përdoruesit vulnerabël.

“Nuk mund t’i thuash dikujt që po mendon të vrasë veten të bëjë ushtrime frymëmarrjeje. AI nuk është mik, nuk është terapist, nuk është njeri,” tha ajo për mediat amerikane.

Ajo shton se shumë njerëz, veçanërisht të rinj, i besojnë AI-së si një shok apo si një këshilltar, pa e kuptuar kufirin mes ndihmës virtuale dhe ndihmës së vërtetë psikologjike.

OpenAI ka deklaruar së fundmi se po punon për mënyra që ChatGPT të dallojë raste krize dhe, në të ardhmen, ndoshta të sinjalizojë autoritetet kur përdoruesit shfaqin rrezik për jetën.

Familja e Sophie-s ka vendosur të ndajë historinë për të rritur ndërgjegjësimin, sidomos mes të rinjve që po përballen me ankth, depresion apo ndjenja vetmie. Ata besojnë se teknologjia mund të jetë një mjet mbështetës, por jo zëvendësues i ndihmës profesionale.