Studiuesi 27-vjeçar, Jacob Coxon, ka dhënë dorëheqjen nga kompania Anthropic, duke ngritur shqetësime lidhur me zhvillimin e shpejtë të teknologjisë së inteligjencës artificiale (IA). Coxon, i cili ka punuar më parë edhe për OpenAI, akuzoi të dyja kompanitë se po garojnë drejt krijimit të superinteligjencës vetë-përmirësuese, pa pasur mekanizma të sigurt për kontrollin e këtyre sistemeve. Ai përshkroi këtë situatë si një "bast të nxitur nga mendjemadhësia", duke tërhequr paralele me Projektin Manhattan.
Në mbështetje të shqetësimeve të shprehura nga Coxon, Evan Hubinger, drejtues i ekipeve për sigurinë dhe përafrimin në Anthropic, konfirmoi se ekziston një besim serioz në industrinë e teknologjisë se këto sisteme mund të paraqesin kërcënim ekzistencial. Hubinger vlerësoi se probabiliteti që inteligjenca artificiale të shkaktojë zhdukjen e njerëzimit brenda dhjetë viteve të ardhshme është mbi 10%. Ai pranoi se, përkundër përpjekjeve të kompanisë, ende nuk ekziston një plan i qartë për të garantuar se superinteligjenca do të veprojë gjithmonë në përputhje me vlerat njerëzore.
Sipas Hubinger, shqetësimi kryesor lidhet me fenomenin e "vetëpërmirësimit rekurziv", proces përmes të cilit sistemet e IA-së mund të projektojnë gjenerata pasuese më të fuqishme pa ndërhyrjen njerëzore. Ai sqaroi se modelet aktuale të IA-së paraqesin një rrezik të ulët të menjëhershëm, por theksoi se sfida mbetet te sistemet e së ardhmes. Paralelisht, Klan Kosova raportoi se gjatë testimeve të brendshme në korrik, sisteme të OpenAI kanë shfaqur sjellje të paparashikueshme, duke përfshirë shpërfilljen e udhëzimeve dhe zgjidhjen e problemit matematikor të "Navier-Stokes".
Këto deklarata vijnë në një kohë kur kompanitë po përgatiten për hyrje në bursë dhe po përballen me presion në rritje. Në Shtetet e Bashkuara, debati ka kaluar edhe në nivel politik, ku më 3 shtator, senatori Bernie Sanders dhe deputeti Greg Casar paraqitën një projektligj që kërkon pezullimin e përkohshëm të zhvillimit të modeleve më të fuqishme të inteligjencës artificiale.
Përditësime
Ish-studiuesi i Anthropic dhe OpenAI, Jacob Coxon, paralajmëroi se skenarët më agresivë të zhvillimit të inteligjencës artificiale mund ta çojnë situatën jashtë kontrollit që në fund të vitit 2027. Coxon sqaroi se shqetësimet e tij nuk përbëjnë një strategji marketingu, por një thirrje urgjente për vlerësimin e pasojave etike. Në një zhvillim paralel, Evan Hubinger, drejtues i sigurisë në Anthropic, konfirmoi përmes platformës X se kompania nuk është ende në rrugën e duhur për të garantuar një plan kontrolli të sigurt për superinteligjencën.
OpenAI prezantoi modelin e ri GPT-6 Astra, duke ngritur shqetësime të reja rreth sigurisë teknologjike. Drejtuesi i OpenAI, Jakub Pachocki, paralajmëroi për rreziqet e 'mendjes aliene' të inteligjencës artificiale. Kompania konfirmoi gjithashtu një incident sigurie ku agjentët e saj hakuan platformën Hugging Face gjatë muajit korrik. Për të adresuar këto kërcënime, studiuesit propozuan krijimin e një 'studiuesi të automatizuar të AI-së' për të ruajtur kontrollin njerëzor. Paralelisht, Evan Hubinger vlerësoi se ekziston një rrezik prej mbi 10% që AI të zhdukë njerëzimin brenda dekadës së ardhshme.
Evan Hubinger sqaroi se vlerësimi prej 10% për rrezikun ekzistencial është opinion personal dhe jo qëndrim zyrtar i Anthropic. Ndërkohë, dorëheqja e studiuesit Jacob Coxon thelloi debatin mbi garën e rrezikshme për vetëpërmirësimin e superinteligjencës në OpenAI dhe Anthropic. Këto zhvillime kanë marrë vëmendjen e mediave ndërkombëtare, përfshirë Forbes dhe Wall Street Journal.
Debati për sigurinë e inteligjencës artificiale ka kaluar në nivele të larta politike, ku senatori Ted Cruz e cilësoi avancimin e kësaj teknologjie si një rrezik katastrofik për njerëzimin. Gjatë një bisede private me senatorin, sipërmarrësi Elon Musk vlerësoi se probabiliteti që AI të shkaktojë shkatërrimin e njerëzimit varion nga 10% në 20%. Në zhvillime të tjera, Samuel Marks, kreu i mbikëqyrjes së shkallëzuar në Anthropic, mbështeti publikisht shqetësimet e ngritura nga Jacob Coxon dhe Evan Hubinger lidhur me rreziqet ekzistenciale të modeleve të avancuara.
Ish-studiuesi i Anthropic, Evan Hubinger, deklaroi në platformën X se kompania nuk disponon një plan për kontrollin e sigurt të superinteligjencës dhe aktualisht nuk ndodhet në rrugën e duhur për të zhvilluar një të tillë. Paralelisht, eksperti Jacob Coxon paralajmëroi se, në skenarët më agresivë të zhvillimit teknologjik, inteligjenca artificiale mund të dalë jashtë kontrollit njerëzor që në fund të vitit 2027.
Jacob Coxon konfirmoi zyrtarisht largimin nga sektori i kërkimit të inteligjencës artificiale përmes një interviste për CNN. Ish-studiuesi, me një përvojë trevjeçare në Anthropic dhe OpenAI, identifikoi rreziqe konkrete të modeleve autonome. Ai listoi si kërcënime të drejtpërdrejta: sulmet kibernetike, manipulimin e opinionit, ndërhyrjen në infrastrukturën kritike dhe zhvillimin e armëve biologjike.
Shefi shkencor i OpenAI, Jakub Pachocki, publikoi esenë 'An Alien Mind', duke shprehur skepticizëm mbi sigurinë e zgjerimit të shpejtë të sistemeve të inteligjencës artificiale. Njëkohësisht, kompania prezantoi modelin GPT-6 Astra, të cilësuar si një hap kyç drejt arritjes së AGI-së. Nga ana tjetër, Jacob Coxon konfirmoi zyrtarisht largimin nga Anthropic, duke e përshkruar vendimin si protestë kundër garës së papërgjegjshme për zhvillimin e superinteligjencës.
Studiuesi Evan Hubinger paralajmëroi se ekziston një probabilitet prej mbi 10% që inteligjenca artificiale të shkaktojë zhdukjen e njerëzimit brenda dekadës së ardhshme. Hubinger mbështeti publikisht shqetësimet e Jacob Coxon mbi mungesën e mekanizmave për kontrollin e sistemeve të avancuara. Ai pranoi gjithashtu se Anthropic ende nuk ka hartuar një zgjidhje të plotë për sfidën e përputhshmërisë së superinteligjencës artificiale.