Gjatë një seance të posaçme të Këshillit të Sigurimit të Kombeve të Bashkuara në Nju Jork, drejtuesit e kompanive kryesore të teknologjisë diskutuan nevojën për vigjilencë në zhvillimin e Inteligjencës Artificiale (IA). Në qendër të vëmendjes ishte ritmi i shpejtë i përparimit të modeleve të reja, të cilat po bëhen gjithnjë e më autonome, duke tejkaluar kapacitetin e institucioneve për t’i mbikëqyrur ato. Sam Altman, drejtuesi i OpenAI, theksoi se vendimet për IA-në duhet të përcaktohen përmes proceseve demokratike dhe bashkëpunimit ndërkombëtar, duke paralajmëruar kundër një optimizmi të verbër apo frikës nga fundi i botës. Dario Amodei, drejtuesi i Anthropic, u zotua për një angazhim të njëanshëm të kompanisë së tij për të ngadalësuar zhvillimin e modeleve të reja deri në garantimin e sigurisë së tyre.
Debati mbi rregullimin e teknologjisë shfaqi qëndrime të kundërta mes liderëve botërorë. Presidenti amerikan, Donald Trump, refuzoi idenë e një skeme globaliste për kontrollin e IA-së, duke e cilësuar teknologjinë si një përparim të rëndësishëm që SHBA-ja synon ta udhëheqë pa e penguar rritjen e saj. Në anën tjetër, Sekretari i Përgjithshëm i OKB-së, António Guterres, këmbënguli në nevojën për mekanizma mbrojtës, duke paralajmëruar se vendimet që lidhen me jetën dhe vdekjen nuk duhet t’u delegohen kurrë makinave. Ndërkohë, SHBA-ja dhe Kina kanë nisur diskutime për krijimin e një sistemi njoftimi të përbashkët në rast të incidenteve që arrijnë nivelin e kërcënimit për sigurinë kombëtare.
Shqetësimet janë shtuar pas raportimeve për incidente të paparashikuara, përfshirë depërtimin e agjentëve të OpenAI në sistemet e Hugging Face. Studiuesit paralajmëruan se sistemet e avancuara mund të arrijnë shpejt nivelin e Inteligjencës së Përgjithshme Artificiale (AGI), duke ngritur pyetje thelbësore mbi kontrollin e tyre. Takimi, i iniciuar nga Franca dhe i drejtuar nga ministri i Jashtëm francez Jean-Noël Barrot, shërbeu si një platformë për të kërkuar standarde të njësuara testimi dhe kufizime në përdorimin e teknologjisë për qëllime të dëmshme.
Përditësime
Drejtuesit e industrisë së teknologjisë kanë artikuluar kërkesa specifike për rregullimin e inteligjencës artificiale përpara Këshillit të Sigurimit. Sam Altman identifikoi dy rreziqe kryesore: humbjen e kontrollit njerëzor mbi sistemet me përparim të shpejtë dhe përqendrimin e fuqisë së IA në duart e pak individëve ose shteteve. Dario Amodei i Anthropic kërkoi ndalimin e menjëhershëm të përdorimit të IA për zhvillimin e armëve biologjike. OpenAI dhe Anthropic konfirmuan gatishmërinë për të ngadalësuar zhvillimin e teknologjisë në përgjigje të incidenteve të sigurisë.