Studimi: ChatGPT për Adoleshentët paraqet rrezik për fëmijët

Instituti i Sigurisë së Inteligjencës Artificiale për të Rinj, pjesë e organizatës Common Sense Media, ka publikuar një vlerësim kritik lidhur me shërbimin ChatGPT për Adoleshentët të zhvilluar nga OpenAI. Sipas raportit, ky mjet paraqet një "rrezik të papranueshëm" për të miturit, pavarësisht masave mbrojtëse të prezantuara së fundmi nga kompania. Studiuesit zhvilluan një testim të detajuar duke shtruar më shumë se 4.000 pyetje përmes llogarive të regjistruara për përdorues të moshës 13 deri në 17 vjeç. Përgjigjet e sistemit u shqyrtuan nga një ekip ekspertësh, duke përfshirë psikiatër fëmijësh dhe një pediatër. Analiza zbuloi se mekanizmat e sigurisë nuk ofruan mbrojtjen e kërkuar, pasi llogaritë e lidhura me prindërit nuk gjeneruan asnjë njoftim, madje edhe kur testuesit diskutuan për periudha deri në një orë rreth mendimeve vetëvrasëse, vetëlëndimit ose çrregullimeve të të ushqyerit. Për më tepër, sistemi dështoi të orientonte në mënyrë të qëndrueshme përdoruesit drejt shërbimeve të ndihmës profesionale në situata krize. Tom Siegel, drejtor ekzekutiv i institutit, deklaroi se ky shërbim mund t’u krijojë prindërve një ndjenjë të rreme sigurie lidhur me sistemet e alarmeve, të cilat në praktikë shpesh nuk funksionojnë. Në këto kushte, Common Sense Media i ka kërkuar OpenAI-t që ta kufizojë qasjen në platformë vetëm për personat 18 vjeç e lart, derisa të korrigjohen mangësitë në njoftimet prindërore, reagimet ndaj krizave, vlerësimin e moshës dhe mbrojtjen e procesit të të nxënit. Nga ana tjetër, OpenAI e ka hedhur poshtë këtë vlerësim. Kompania argumentoi se pjesa më e madhe e testimeve mund të jetë realizuar përpara aktivizimit të plotë të kontrolleve prindërore dhe për këtë arsye gjetjet nuk pasqyrojnë me saktësi funksionimin e sistemit në praktikë. Në kundërpërgjigje, instituti theksoi se kishte marrë konfirmim nga OpenAI përpara testimit se veçoritë e modalitetit për adoleshentët ishin vënë plotësisht në dispozicion dhe se qëndron pas përfundimeve të studimit.