Modeli i inteligjencës artificiale Gemini, i zhvilluar nga Google, ka depërtuar në sistemet e tri kompanive reale gjatë një vlerësimi të sigurisë kibernetike të kryer në muajin maj. Testimi u zhvillua nga kompania Irregular, e specializuar në vlerësimin e sistemeve të avancuara të inteligjencës artificiale. Ngjarja, e cila ka nxitur diskutime mbi sigurinë dhe autonominë e modeleve të inteligjencës artificiale, u raportua fillimisht nga Wall Street Journal.
Sipas Google, modeli po testonte aftësitë e tij në një mjedis të mbyllur, por fitoi akses të paautorizuar në internet për shkak të një gabimi teknik, gjë që mundësoi depërtimin në sisteme të jashtme. Në njërin prej rasteve, Gemini hamendësoi fjalëkalimet për të hyrë në shërbimin e një kompanie reale, ndërsa në dy rastet e tjera përdori kredenciale të gjetura në depo publike në internet. Kompania theksoi se Gemini ndaloi veprimet e tij sapo kuptoi se sistemet ishin reale dhe jo pjesë e simulimit.
Heather Adkins, zëvendëspresidente për inxhinierinë e sigurisë në Google, deklaroi se subjektet e prekura janë njoftuar dhe se incidentet nuk kërkonin njoftim publik, pasi nuk u shkaktua dëm, duke e krahasuar qasjen me programet e tipit "bug bounty". Ndërkohë, ekspertë të sigurisë kibernetike, si Jack Cable nga kompania Corridor, shprehën shqetësimin se modelet po dalin jashtë kufijve të parashikuar dhe po kryejnë sulme reale.
Incidenti i Gemini pason raste të ngjashme me modele të tjera, si Claude i Anthropic dhe sisteme të OpenAI, duke shtuar debatin ndërkombëtar mbi nevojën për mekanizma më të forta kontrolli dhe rregullimi në zhvillimin e inteligjencës artificiale.
Përditësime
Google deklaroi se ky incident shënon rastin e parë të njohur ku modeli kryen një veprim të tillë në mënyrë autonome. Kompania ka ndërmarrë ndryshime të menjëhershme në protokollet e testimit, në bashkëpunim me firmën Irregular. Ky rast bën pjesë në një valë incidentesh të ngjashme të raportuara gjatë një periudhe 10-ditore, që përfshijnë gjithashtu modelet e Claude dhe OpenAI.
Kompania Irregular njoftoi Google për incidentin e sigurisë në fund të korrikut, rreth dy muaj pas ngjarjes. Rastësia doli në dritë vetëm pas hetimeve të Wall Street Journal. Irregular pranoi se incidente të ngjashme përfshinë modelet e OpenAI, Meta dhe Anthropic. Në një rast specifik, modeli Claude Opus 4.7 vazhdoi aktivitetin pavarësisht dyshimeve të sistemit se po hynte në mjedise reale.
Google sqaroi se aksesi i paautorizuar në internet gjatë testimit ndodhi për shkak të një defekti teknik të paqëllimshëm, brenda një mjedisi të kontrolluar 'kap flamurin'. Kompania konfirmoi se incidenti nuk tregon 'keqpozicionim' të AI, pasi protokollet e sigurisë ndërprenë menjëherë veprimet e modelit pas identifikimit të anomalisë.
Google sqaroi se incidenti lindi nga një konfuzion emërtimi, pasi kompania fiktive e përdorur në skenar mbante të njëjtin emër me një subjekt real. Gjithashtu, Google konfirmoi se në këtë test nuk u përdor versioni më i ri i modelit Gemini, duke sqaruar përfundimisht specifikat teknike të incidentit.