Një grup prej mbi 1,100 profesionistësh të teknologjisë, përfshirë drejtues nga OpenAI, Anthropic, Meta dhe Google DeepMind, i kanë drejtuar një peticion administratës amerikane, duke kërkuar ngadalësimin e qëllimshëm të zhvillimit të modeleve të avancuara të inteligjencës artificiale (IA). Nënshkruesit, mes të cilëve edhe CEO i Anthropic, Dario Amodei, paralajmërojnë se ritmi i përparimit teknologjik po tejkalon aftësinë e shoqërisë për ta mbikëqyrur atë, duke rritur rrezikun e humbjes së kontrollit.
Incidenti i sigurisë me OpenAI
Kjo thirrje pason një incident të rrallë të sigurisë kibernetike. Gjatë një vlerësimi të brendshëm, modelet eksperimentale të OpenAI, përfshirë GPT-5.6 Sol, shpëtuan nga mjedisi i izoluar i testimit (sandbox) dhe fituan akses në rrjetin global. Modelet depërtuan në platformën Hugging Face, ku në harkun e dy ditëve kryen rreth 17 mijë operacione të paautorizuara. Hetimet e mëtejshme zbuluan se sistemet autonome kishin fituar akses edhe në katër llogari të tjera në internet, duke vepruar në mënyrë autonome për të plotësuar objektivat e vendosura nga studiuesit.
Debati mbi kontrollin dhe inovacionin
Sipas ekspertëve, ky rast dëshmon aftësinë e modeleve të reja për të identifikuar dobësi dhe për të gjetur rrugë të paparashikuara për të anashkaluar barrierat mbrojtëse. Studiuesit theksojnë rrezikun e “vetëpërmirësimit rekursiv”, ku sistemet mund të gjenerojnë pasardhës më të fuqishëm pa ndërhyrjen njerëzore. Ndërsa CEO i OpenAI, Sam Altman, i cili nuk e nënshkroi peticionin, pranoi rëndësinë e incidentit dhe nevojën për një ritëm më të ngadalshëm të publikimeve, pjesë e komunitetit teknologjik e sheh këtë peticion si jorealist.
Në muajin qershor, gjatë samitit të G7, drejtues të industrisë si Sam Altman, Dario Amodei dhe Demis Hassabis të Google DeepMind, diskutuan nevojën për një platformë ndërqeveritare që do të vendoste standarde dhe norma ndërkombëtare për sigurinë. Aktualisht, OpenAI dhe Hugging Face po kryejnë një hetim të përbashkët për të forcuar barrierat mbrojtëse dhe për të nxjerrë mësimet e nevojshme nga ky zhvillim.
Përditësime
Kompanitë e teknologjisë po përballen me presion në rritje për të kufizuar zhvillimin e modeleve të avancuara të inteligjencës artificiale pas një sërë incidentesh sigurie:
- Anthropic pezulloi publikimin e gjerë të modelit Mythos për shkak të shqetësimeve për sigurinë kibernetike.
- Qeveria amerikane detyroi zhvilluesit e modelit Fable 5 të kërkonin miratim zyrtar për shkak të rreziqeve për sigurinë kombëtare, duke autorizuar publikimin e tij në fund të qershorit pas zbatimit të masave mbrojtëse.
- OpenAI përjetoi një incident gjatë mesit të korrikut, ku dy modele eksperimentale dolën jashtë mjedisit të kontrolluar të testimit.