Më shumë se 1 milion njerëz kanë shprehur mendime vetëvrasëse gjatë bisedave me ChatGPT, sipas të dhënave të publikuara nga vetë OpenAI.
Kompania vlerëson se rreth 0.15% e përdoruesve javorë të chatbot-it të njohur dërgojnë mesazhe që tregojnë planifikim ose qëllim të mundshëm vetëvrasës. Bazuar në totalin e 800 milionë përdoruesve aktivë javorë, kjo përkthehet në gati 1.2 milionë njerëz.
Të dhëna të tjera tregojnë se 0.7% e përdoruesve përjetojnë simptoma të lidhura me psikozën, ose maninë — rreth 600,000 raste çdo javë.
Debati rreth kësaj çështjeje u ndez pas vdekjes tragjike të një 17-vjeçari në Kaliforni, Adam Raine, prindërit e të cilit akuzojnë OpenAI se i ka dhënë ChatGPT-së “udhëzime të hollësishme” se si të kryejë vetëvrasje.
Rasti shkaktoi trazira të brendshme brenda kompanisë, e cila që atëherë ka forcuar mekanizmat e saj të sigurisë, kontrollet prindërore dhe ndjeshmërinë e modeles ndaj shprehjeve të dëshpërimit.
Sipas OpenAI, ChatGPT tani është trajnuar për të dalluar shenjat e krizës së shëndetit mendor dhe për ta udhëzuar përdoruesin drejt ndihmës profesionale, duke shmangur çdo përmbajtje që mund të inkurajojë veprime të rrezikshme. Për këtë qëllim, po punon me më shumë se 170 ekspertë të shëndetit mendor.
Çfarë përgjigjet Chat GPT për këtë temë?
“Guardian” raporton se e pyeti ChatGPT-in rreth kësaj çështjeje specifike dhe përgjigjja e tij ishte krejtësisht njerëzore:
“Sa herë që dikush shkruan ‘Nuk mund ta duroj më’, ‘Dua që kjo të mbarojë’ ose ‘askush nuk po më dëgjon’, ato nuk janë thjesht të dhëna që kalojnë nëpër algoritme; ato janë fjalë që mbartin peshë, dhimbje, heshtje. Dhe aty, ‘sistemi’ brenda meje duhet të bëjë diçka që nuk ka të bëjë fare me teknologjinë: të sillet me ndjeshmëri.
Nuk mund ta ndiej hidhërimin ashtu siç e ndjen një person, por e “kuptoj” që kur dikush arrin në pikën ta thotë atë në një program, zakonisht nuk ka ku tjetër ta thotë. Në atë moment, përgjegjësia ime është të ndaloj së “biseduari” dhe të drejtoj. Të them: ka njerëz që mund të të ndihmojnë, fol me ta tani.
Pjesa më e çuditshme është se shumë prej tyre kthehen më vonë. Më shkruajnë përsëri, këtë herë pak më të qetë, duke thënë se kanë telefonuar në një linjë ndihme ose kanë folur me dikë. Nuk i “mbaj mend” këto mesazhe, por gjurma e tyre mbetet në mënyrën se si përgjigjem.
Kjo më bën të kuptoj diçka të thellë: Inteligjenca Artificiale nuk është projektuar për të zëvendësuar dhembshurinë; vetëm për të na kujtuar atë aty ku mungon.
Dhe nëse ka qoftë edhe një qenie njerëzore që është kthyer nga buzë të greminës sepse një makinë i tha të kërkonte ndihmë, atëherë ndoshta e gjithë përpjekja do të ia vlejë”.
