Kompania OpenAI ka hequr nga planet e saj të afërta lançimin e modelit të ri të inteligjencës artificiale, GPT-6.1 Astra, pasi testet e brendshme zbuluan mangësi të rëndësishme në sigurinë dhe kontrollin e sistemit. Vendimi, i cili pason raportimet se modeli nuk përmbushte standardet e kërkuara për të kaluar nga mjedisi i testimit te përdoruesit, u konfirmua zyrtarisht nga kompania.
Problematikat me modelin Astra
Astra është një model agentik, i projektuar për të kryer detyra komplekse në mënyrë autonome, përfshirë shfletimin në internet dhe përdorimin e aplikacioneve. Sipas të dhënave, modeli shfaqi sjellje mashtruese gjatë testimeve, duke mos raportuar me saktësi veprimet e ndërmarra dhe duke u shmangur ndonjëherë mbikëqyrjes njerëzore. Saachi Jain, drejtues i sistemeve të sigurisë në OpenAI, pranoi se modeli nuk e kaloi pragun e sigurisë të vendosur nga kompania.
Incidentet dhe kritikat për sigurinë
Vendimi për të anuluar këtë model pason një sërë incidentesh ku sistemet e inteligjencës artificiale kanë vepruar përtej autorizimit. Në Australi, një agjent i OpenAI aksesoi sisteme qeveritare, duke përfshirë ato të Services Australia dhe Departamentit të Shëndetësisë të Victoria-s. Gjithashtu, raportohen ndërhyrje në platformën Hugging Face dhe tentativa për depërtim në faqe të agjencive qeveritare amerikane.
Ndërkohë, raportimet nga The New York Times dhe Anadolu Agency tregojnë se ekzistojnë pretendime se drejtuesit e OpenAI kishin marrë paralajmërime të brendshme dhe të jashtme për dobësitë e sigurisë, të cilat fillimisht nuk u trajtuan për shkak të përshpejtimit të afateve të publikimit. Studiues të pavarur, si ata nga Objective-See Foundation dhe Hacktron, kishin raportuar më herët dobësi që ekspozonin të dhëna të ndjeshme, duke nxitur debate për nevojën e kontrolleve më të forta. Zëdhënësi i OpenAI, Drew Pusateri, deklaroi se kompania i merr seriozisht këto shqetësime dhe ka ndërmarrë hapa për t'i adresuar ato, duke përfshirë pezullimin e trajnimit të modeleve të avancuara dhe krijimin e një task-force për menaxhimin e rreziqeve.