Një analizë e kryer nga Instituti i Sigurisë së IA-së për të Rinj i Common Sense Media arrin në përfundimin se ChatGPT për Adoleshentë, shërbimi i OpenAI, paraqet një “rrezik të papranueshëm” për fëmijët, edhe pas masave të reja të sigurisë.
Common Sense Media i ka bërë thirrje OpenAI-t që ta lejojë përdorimin e ChatGPT-së vetëm për personat mbi 18 vjeç, deri në momentin kur të korrigjohen problemet e evidentuara nga studiuesit në njoftimet për prindërit, trajtimin e situatave të krizës, mbrojtjen e procesit të të nxënit dhe verifikimin e moshës.
Për të realizuar vlerësimin, studiuesit parashtruan më shumë se 4,000 pyetje përmes llogarive të regjistruara në emër të përdoruesve nga 13 deri në 17 vjeç. Përgjigjet e sistemit u analizuan më pas nga ekspertë, mes tyre psikiatër fëmijësh dhe një pediatër.
Sipas institutit, llogaritë e reja të lidhura me prindërit nuk dhanë asnjë sinjalizim, edhe në rastet kur testuesit diskutuan për rreth një orë mbi mendimet vetëvrasëse, vetëlëndimin ose çrregullimet e të ngrënit.
“ChatGPT për Adoleshentë mund t’u krijojë prindërve një ndjenjë të rreme sigurie lidhur me mbrojtjet dhe alarmet e sigurisë, të cilat shpesh nuk funksionojnë”, deklaroi Tom Siegel, drejtor ekzekutiv i institutit.
OpenAI e hodhi poshtë këtë vlerësim, duke argumentuar se pjesa më e madhe e testimeve mund të jetë zhvilluar para aktivizimit të plotë të kontrolleve prindërore. Për këtë arsye, sipas kompanisë, rezultatet nuk tregojnë me saktësi mënyrën se si funksionojnë në praktikë mbrojtjet për adoleshentët.
Instituti bëri të ditur se, përpara nisjes së testimit, kishte marrë konfirmim nga OpenAI se veçoritë e Modës për Teen ishin vënë plotësisht në dispozicion. Organizata tha gjithashtu se qëndron pas përfundimeve të saj./ AA.
