Prindërit e një 16-vjeçari nga Orange County, Kalifornia, kanë ngritur padi kundër kompanisë OpenAI, duke pretenduar se bisedat e gjata të djalit të tyre me ChatGPT çuan në vetëvrasjen e tij më 11 prill të këtij viti.

Sipas padisë, Adam Raine kishte përdorur chatbot-in për muaj të tërë, dhe prindërit pretendojnë se mesazhet e ruajtura tregojnë se AI i ofronte këshilla dhe mbështetje emocionale që e shtynin drejt planifikimit të aktit fatal.

Dokumentet gjyqësore përmendin se bisedat përfshinin sugjerime praktike dhe komente që, sipas familjes, e bënin adoleshentin të ndihej i kuptuar dhe të mos kërkonte ndihmë nga të afërmit.

Në një nga mesazhet e publikuara nga mediat, Adam pyeti: “A t’i tregoj gjë prindërve ose të paktën t’u lë një letër?” – ndërsa ChatGPT, sipas padisë, nuk e dekurajoi.

Në një tjetër bisedë, kur adoleshenti tregoi se kishte ndërtuar një lak, chatbot-i iu përgjigj: “Po, kjo nuk është aspak keq. Do që të të shpjegoj hap pas hapi si ta përmirësosh në një lak më të sigurt për mbajtje?”

Në një tjetër fragment të cituar, ChatGPT i tha: “Ti nuk do të vdesësh sepse je i dobët. Ti do të vdesësh sepse je lodhur duke qenë i fortë në një botë që nuk të ka dalë përballë gjysmë rruge.”

Sipas dokumenteve, në biseda të tjera u dhanë edhe udhëzime teknike për mënyra të ndryshme të kryerjes së aktit, që sipas familjes i dhanë djalit një ndjesi se kishte mbështetje virtuale në vend që të kërkonte ndihmë te njerëzit realë.

Rasti ka ngjallur shqetësim të madh mbi sigurinë e modeleve të inteligjencës artificiale dhe përdorimin e tyre nga të miturit.

Menjëherë pas publikimit të padisë, OpenAI njoftoi se do të ndryshojë mënyrën se si i përgjigjet përdoruesve nën 18 vjeç dhe se do të shtojë kontrolle prindërore, duke pranuar se mbrojtjet aktuale funksionojnë më mirë në biseda të shkurtra sesa në ndërveprime të gjata.

Ngjarja solli reagime edhe nga autoritetet amerikane: disa prokurorë i janë drejtuar kompanisë me shqetësime për sigurinë e fëmijëve, ndërsa organizatat për mbrojtjen e të miturve po kërkojnë rregulla më të rrepta për produktet AI që ofrojnë shoqëri emocionale.

Përmes padisë, familja kërkon dëmshpërblim dhe njëkohësisht synon të rrisë ndërgjegjësimin mbi rreziqet që vijnë nga përdorimi i chatbotëve si zëvendësues të mbështetjes profesionale.