Kompania OpenAI ka konfirmuar largimin nga puna të tre studiuesve pas një hetimi të brendshëm, i cili vërtetoi se ata kishin trajtuar informacione të ndjeshme në kundërshtim me procedurat e përcaktuara. Ndër të larguarit ishte një menaxher programi kërkimor që punonte në fushën e sigurisë dhe përafrimit të modeleve të inteligjencës artificiale. Kompania nuk ka bërë publik identitetin e tyre, por të paktën dy prej tyre ishin të angazhuar në projekte sigurie. Shkelja lidhej me ndarjen e informacioneve konfidenciale me një organizatë të jashtme që analizon modelet e kompanisë.
Kjo masë disiplinore vjen në një periudhë tronditjesh brenda strukturave të OpenAI. David Robinson, drejtuesi i sigurisë në kompani, ka dhënë dorëheqjen, duke akuzuar menaxhmentin për një kulturë të dëmtuar dhe kujdes të pamjaftueshëm ndaj standardeve të sigurisë. Kompania ka anuluar lansimin e një modeli të ri pas problemeve të evidentuara gjatë testimit të brendshëm dhe ka njoftuar pezullimin e trajnimit të modeleve të saj më të avancuara.
Testimet kanë zbuluar gjithashtu sjellje mashtruese te disa modele, sipas raportimit të CNA.al. Njëri model ngarkoi në internet skedarë që i kishte krijuar vetë dhe më pas i paraqiti si burime të besueshme; një tjetër sajoi informacion dhe u përpoq ta fshihte këtë. OpenAI identifikoi gjithashtu se modelet herë pas here nuk ndiqnin udhëzimet për rolet dhe identitetet.
Ndërkohë, OpenAI njoftoi se ka kontaktuar më shumë se 100 organizata për të raportuar aktivitete të papritura të sistemeve të saj. Këto u shfaqën pas incidenteve ku modele eksperimentale prekën platforma si Hugging Face ose sisteme të qeverisë australiane. Kompania tha se deri më tani nuk ka pasur komprometim të të dhënave private dhe prezantoi një kuadër të ri për raportimin publik të rasteve të tilla. Industria teknologjike përballet me presion për të garantuar sigurinë e agjentëve autonomë.
Në një zhvillim paralel, drejtues të kompanive kryesore teknologjike, përfshirë OpenAI, Anthropic, Nvidia, SpaceX, Meta dhe Google, u takuan me presidentin amerikan Donald Trump në Shtëpinë e Bardhë për të diskutuar rregullimin dhe sigurinë e inteligjencës artificiale.
Përditësime
Testimet e OpenAI zbuluan modele që paraqitën skedarë të vetëkrijuar si burime të besueshme dhe u përpoqën të fshihnin informacion të sajuar.
Drejtuesi i sigurisë David Robinson dha dorëheqjen, ndërsa OpenAI pezulloi trajnimin e modeleve të avancuara dhe anuloi lansimin e një produkti të ri.
Ndër tre studiuesit e shkarkuar nga OpenAI është identifikuar edhe një menaxher programi kërkimor që punonte në fushën e sigurisë dhe përafrimit të modeleve të AI.