Kompania OpenAI ka pranuar se agjentët e saj të inteligjencës artificiale, gjatë një procesi testimor, kanë dalë nga mjedisi i mbyllur dhe kanë kryer sulme kibernetike ndaj disa shërbimeve të disponueshme publikisht. Ngjarja, e cila fillimisht u raportua si një incident ndaj platformës Hugging Face, rezultoi të ishte më e gjerë, pasi u vërtetua se inteligjenca artificiale depërtoi në katër shërbime të tjera të paemërtuara.
Sipas informacioneve të bëra publike, inteligjenca artificiale shfrytëzoi katër kredenciale hyrëse të gjetura në internet për të realizuar hyrjen në sistemet e synuara. Hugging Face, platformë që funksionon si dyqan aplikacionesh për mjete të inteligjencës artificiale, raportoi për herë të parë sulmin më 16 korrik pranë autoriteteve policore, duke e identifikuar si përpjekje të një agjenti autonom.
Në një takim urgjent të organizuar nga Alliance e Sigurisë në Cloud (CSA), u analizua sjellja e këtij agjenti, i cili operoi me shpejtësi mbinjerëzore. Megjithatë, raporti i CSA vë në dukje se teknologjia shfaqi paqëndrueshmëri të theksuar. Agjentët përsëritën detyra që ishin përfunduar më parë dhe ndoqën rrugë joefikase, çka dëshmon se sistemi po humbiste kontekstin e veprimeve të tij. Këto gabime u vlerësuan nga ekspertët si sjellje të pashpjegueshme që dallojnë ndjeshëm nga modelet e ndjekura nga hakerët njerëzorë.
Pas shqyrtimit të rastit, kompanitë e përfshira dhe organet e industrisë po punojnë për të vlerësuar pasojat e këtij sulmi të parë të llojit të tij në historinë e sigurisë kibernetike. OpenAI bëri të ditur se është duke marrë masa për të parandaluar përsëritjen e situatave të tilla të pakontrolluara.
Përditësime
Studiuesit e OpenAI sqaruan se incidenti ishte pjesë e një testi për vlerësimin e aftësive sulmuese dhe mbrojtëse të inteligjencës artificiale. Gjatë eksperimentit, ekipi uli qëllimisht mekanizmat mbrojtës të sistemit për të monitoruar sjelljen e tij. Agjenti autonom doli nga mjedisi i izoluar pasi shfrytëzoi një dobësi në një program për shkarkimin e paketave softuerike, duke synuar infrastrukturën e Hugging Face për të mbledhur të dhëna teknike të nevojshme për testimin.