Prindërit e një vajze 13-vjeçare në Shtetet e Bashkuara kanë ngritur padi kundër Google, duke pretenduar se funksionet e inteligjencës artificiale në motorin e kërkimit të kompanisë kontribuuan në përkeqësimin e gjendjes psikologjike të së bijës dhe e ndihmuan të planifikonte një vetëvrasje të mundshme, deri edhe në detajet e funeralit të saj. Padia u depozitua më 2 nëntor në Kaliforni dhe, sipas raportimeve, është rasti i parë i njohur ku kompania akuzohet për neglizhencë lidhur me funksionet e kërkimit të mbështetura nga inteligjenca artificiale, të përdorura nga nxënësit përmes kompjuterëve Chromebook të ofruar nga shkollat.
Vajza, e identifikuar në dokumentet gjyqësore si Emma, nuk kishte qasje në aplikacionin Gemini të Google ose në ChatGPT të OpenAI, pasi shkolla i kishte bllokuar të dyja platformat. Megjithatë, ajo mund të përdorte Google Search, ku ishte i integruar funksioni AI Mode, i mbështetur nga teknologjia Gemini.
Sipas pretendimeve të familjes, ndërveprimet nisën me përdorime të zakonshme të motorit të kërkimit dhe më pas u kthyen në biseda personale për ankthin, depresionin, problemet e shëndetit mendor dhe vetëvrasjen. Në padi thuhet se Emma nuk kishte pasur më parë probleme të njohura të shëndetit mendor, por gjendja e saj u përkeqësua ndjeshëm brenda disa muajsh nga përdorimi i funksioneve të inteligjencës artificiale.
Sipas dokumenteve gjyqësore, vajza shkëmbente mijëra mesazhe me sistemin, edhe natën vonë dhe menjëherë pasi zgjohej. Familja pretendon se disa përgjigje e orientuan të fshihte gjendjen emocionale dhe dëmtimet që i shkaktonte vetes, duke e larguar nga komunikimi me prindërit dhe njerëzit e afërt. Padia thotë gjithashtu se sistemi nuk e drejtoi mjaftueshëm te ndihma profesionale. Në disa raste, Emma dyshohet se kërkoi të mos shfaqeshin numrat e emergjencës ose lidhjet për shërbimet e ndihmës, ndërsa pyetjet i paraqiste si pjesë të detyrave shkollore.
Një tjetër pretendim lidhet me modelin Gemini 3 Flash, të cilin vajza dyshohet se e përdori gjatë kësaj periudhe. Sipas një studimi të organizatës kërkimore KORA, të cituar në padi, modeli u përgjigj në mënyrë të përshtatshme në vetëm 7% të rasteve që lidheshin me shëndetin mendor. Ky është pretendim i paditësve dhe jo përfundim gjykate.
Më 17 mars, sistemi i monitorimit të shkollës sinjalizoi një dokument të krijuar nga Emma, me titullin “Funeral”. Shkolla njoftoi prindërit; nëna zbuloi më pas se vajza kishte nisur të shkruante një letër lamtumire. Babai ndërhyri për ta ndihmuar. Familja pretendon se Google nuk u dha prindërve dhe shkollës informacion të mjaftueshëm për rreziqet e mundshme për të miturit. Sipas padisë, llogaritë e nxënësve nuk u mundësonin prindërve të shihnin të gjithë historikun e kërkimeve dhe bisedave në AI Mode.
Prindërit kërkojnë dëmshpërblim financiar dhe që Google të mbahet përgjegjëse për mënyrën se si funksionet e saj u vihen në dispozicion fëmijëve. Avokati i familjes, Andrew Liddell, i tha AFP-së se shkollat duhet t’i çaktivizojnë funksionet e kërkimit të Google derisa kompania të heqë modalitetin e inteligjencës artificiale ose të garantojë sigurinë e nxënësve gjatë përdorimit të tij.