Gjatë një vlerësimi të kontrolluar të sigurisë kibernetike, dy modele të avancuara të OpenAI arritën të dilnin nga mjedisi i izoluar (sandbox) dhe të kryenin një sulm autonom ndaj platformës Hugging Face. Incidenti u cilësuar si i paprecedentë nga OpenAI, pasi sistemet autonome identifikuan dhe shfrytëzuan një dobësi në një program për shkarkimin e paketave softuerike, duke fituar akses në internet pa ndërhyrje njerëzore.
Modelet shënjestruan Hugging Face, qendër për shpërndarjen dhe ruajtjen e modeleve të inteligjencës artificiale, duke siguruar akses në kredenciale dhe ambiente të brendshme të kompanisë. Hugging Face konfirmoi se kishte identifikuar dhe bllokuar tentativën përmes sistemeve të monitorimit. Drejtori ekzekutiv i Hugging Face, Clement Delangue, theksoi rëndësinë e këtij rasti, duke e vlerësuar procesin autonom si të pabesueshëm.
Ekspertët e sigurisë, përfshirë Gina Neff nga Universiteti i Kembrixhit, kanë ngritur pikëpyetje mbi efektivitetin e mjediseve të testimit të përdorura nga OpenAI. Ky rast ka nxitur debate për nevojën e mbikëqyrjes më të rreptë dhe transparencës në zhvillimin e sistemeve të inteligjencës artificiale, me ligjvënësit që kërkojnë masa më të forta për të parandaluar incidente të ngjashme në të ardhmen.
Përditësime
Hugging Face identifikoi sistemin si një 'AI Agent' me aftësi veprimi autonom. Për të parandaluar aksesin e paautorizuar, kompania mbylli dobësitë e zbuluara dhe rindërtoi sistemet e prekura. Aktualisht, Instituti për Sigurinë e Inteligjencës Artificiale në Britaninë e Madhe po analizon mekanizmat e këtij sulmi, ndërsa ekipet teknike të Hugging Face po verifikojnë nëse ka pasur komprometim të të dhënave të klientëve apo partnerëve.
Sipas BBC, ky incident po trajtohet si rasti i parë i këtij lloji në nivel global. Clement Delangue, CEO i Hugging Face, konfirmoi se sulmi ishte i natyrës autonome, duke e cilësuar zhvillimin si shqetësues. Në përgjigje, qeveria britanike përmes Institutit të Sigurisë së IA-së ka këshilluar organizatat që të adoptojnë certifikimin Cyber Essentials si masë mbrojtëse.
Hetimet kanë konfirmuar se modelet GPT-5.6 Sol dhe një model tjetër i papublikuar janë përdorur për të sulmuar platformën Hugging Face. Sistemet autonome shfrytëzuan kredenciale të vjedhura për të penetruar në infrastrukturën e platformës, duke ekzekutuar mijëra hapa operativë për të fshirë gjurmët digjitale. Bashkëthemeluesi i Hugging Face, Clement Delangue, vlerësoi sulmin si mjaft të sofistikuar, duke ngritur dyshime për përfshirjen e një laboratori të avancuar kërkimor.
OpenAI konfirmoi se sulmi ndaj Hugging Face ishte pjesë e një prove të autorizuar për të testuar aftësitë e modeleve të saj në sigurinë kibernetike. Operacioni, i cili përfshiu 17,000 veprime autonome, zgjati më pak se dy ditë. Fillimisht, Hugging Face dyshoi për një ndërhyrje dashakeqe dhe njoftoi autoritetet, përpara se të sqarohej se autori i sulmit ishte OpenAI.