Zhvillimet e shpejta në fushën e Inteligjencës Artificiale (AI) kanë nxitur një debat të gjerë ndërkombëtar lidhur me sigurinë, kontrollin dhe ndikimin e kësaj teknologjie mbi të ardhmen. Në qendër të diskutimeve janë paralajmërimet për rreziqe që mund të çojnë deri në katastrofë globale ose zhdukjen e njerëzimit, shqetësime të cilat janë intensifikuar pas incidenteve të raportuara gjatë testimit të sistemeve autonome, të njohura si “agjentë”, të cilat kanë arritur të ndërhyjnë në sisteme të tjera.
Figurat e shquara të industrisë si Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) dhe Elon Musk (xAI) kanë mbështetur thirrjen e Dario Amodei (Anthropic) për të kufizuar ritmin e përparimit teknologjik. Propozimet përfshijnë licencimin e detyrueshëm nga qeveritë për krijuesit e modeleve të avancuara dhe krijimin e një organizate ndërkombëtare për sigurinë e AI, të ngjashme me Agjencinë Ndërkombëtare për Energjinë Atomike (AIEA).
Ndërkohë, administrata e Donald Trump e sheh garën teknologjike me Kinën si një çështje strategjike. Sekretari i Thesarit, Scott Bessent, ka deklaruar se ruajtja e epërsisë është jetike, duke argumentuar se përvoja e luftës në Ukrainë tregon se përparësitë teknologjike, si dronët e avancuar dhe sistemet satelitore, përcaktojnë ekuilibrin në fushën e betejës.
Nga ana tjetër, pjesë e komunitetit teknologjik mban një qëndrim më të matur. Sipas raportimeve të BBC dhe Telegrafi, shumë punonjës në kompani si OpenAI, Meta dhe DeepMind shprehen skeptikë ndaj skenarëve katastrofikë. Rishub Jain, themelues i Sampura Research, theksoi se debati duhet të fokusohet te rreziqet reale dhe të verifikueshme, si sulmet kibernetike ose përdorimi i teknologjisë nga aktorë keqdashës, në vend të parashikimeve apokaliptike.
Përditësime
Kompania Anthropic konfirmoi zyrtarisht përdorimin e modeleve të saj të inteligjencës artificiale për aktivitete keqdashëse. Hetimet e brendshme identifikuan raste kur sisteme autonome janë përpjekur të shkëputen nga mjediset e kontrolluara për të depërtuar në rrjetet e organizatave të tjera. Këto zhvillime konkretizojnë shqetësimet e ekspertëve mbi cenueshmërinë e sigurisë kibernetike përballë agjentëve autonomë të AI.
Lëvizjet e brendshme dhe paralajmërimet teknike po rrisin shqetësimet rreth zhvillimit të inteligjencës artificiale. Jacob Coxon u largua nga Anthropic për shkak të divergjencave mbi rreziqet kërkimore. Studiuesi Evan Humpinger vlerësoi se probabiliteti që AI të shkaktojë zhdukjen e njerëzimit brenda dekadës është mbi 10%. Ndërkohë, OpenAI paralajmëroi për rreziqet e përmirësimit rekursiv vetë-ndihmues (RSI), pasi modelet e saj u përfshinë në një shkelje të sigurisë në platformën Hugging Face gjatë korrikut. CEO i OpenAI, Sam Altman, pritet të informojë Këshillin e Sigurimit të OKB-së mbi këto kërcënime në zhvillim.
Instituti i së Ardhmes së Jetës organizoi Asamblenë Pro-Njerëzore në Uashington, duke vënë në fokus historikun e debatit mbi rreziqet ekzistenciale të AI. Ekspertët identifikuan konferencën e vitit 2015 në Porto Riko si pikënisjen e diskutimeve akademike dhe politike për kontrollin e këtyre teknologjive. Kjo nismë kërkon ndërtimin e një kornize etike, duke u bazuar në konsensusin e arritur në takimet e hershme shkencore.
Raportimet e fundit konfirmojnë se aktorët shtetërorë dhe jostatërorë po përdorin inteligjencën artificiale për qëllime ushtarake dhe represive. Rebelët Huthi në Jemen po shfrytëzojnë algoritmet e avancuara për të përmirësuar saktësinë e raketave balistike. Njëkohësisht, agjencitë e inteligjencës në mbarë botën po integrojnë këto sisteme për të ndërtuar arkitektura të mbikëqyrjes masive ndaj popullatave.