Kompania e inteligjencës artificiale Anthropic ka bërë të ditur se ka identifikuar dhe bllokuar përpjekje të vazhdueshme për keqpërdorimin e modeleve të saj gjatë periudhës dhjetor 2025 – gusht 2026. Ndërhyrjet kanë targetuar aktivitete keqdashëse që variojnë nga sulmet kibernetike dhe fushatat propagandistike, deri te kërkimet shkencore me rrezikshmëri të lartë që mund të ndihmonin në zhvillimin e armëve.
Sipas raportit, kompania ka konstatuar përdorim të modeleve Claude nga aktorë të ndryshëm, përfshirë grupe të sponsorizuara nga shtete dhe hakerë të njohur si ShinyHunters apo elementë të lidhur me grupin Midnight Blizzard. Në një rast konkret, sistemet bllokuan një kërkesë që synonte forcimin e transmetueshmërisë së virusit chikungunya përmes modifikimeve gjenetike. Kompania thekson se, ndonëse i njëjti informacion mund të përdoret për krijimin e vaksinave, rreziku i shfrytëzimit për krijimin e patogjenëve të rrezikshëm mbetet shqetësues.
Përtej sektorit biologjik, modelet janë përdorur për zhvillimin e sistemeve të shënjestrimit dhe kontrollit për armë konvencionale, si raketa, dronë dhe bomba. Anthropic ka forcuar masat mbrojtëse dhe ka ndarë informacionin me autoritetet. Këto zhvillime pasojnë debatet e gjera mbi sigurinë e teknologjisë, ku figura si senatori amerikan Bernie Sanders dhe drejtues të OpenAI kërkojnë masa më strikte ose pezullim të përkohshëm të zhvillimit të superinteligjencës për të parandaluar pasojat katastrofike.
Ndërkohë, disa burime theksojnë se studiues të caktuar kanë tentuar të anashkalojnë kontrollet duke maskuar qëllimet e kërkimeve të tyre për t'iu shmangur filtrave të sigurisë.
Përditësime
Përtej kërcënimeve biologjike, Anthropic raporton identifikimin e rasteve ku modele të AI janë shfrytëzuar për sulme kibernetike dhe fushata propagandistike. Këto gjetje shfaqin një realitet ku individë të vetëm mund të krijojnë kërcënime komplekse që më parë konsideroheshin të pamundura. Si pasojë e këtyre shqetësimeve për sigurinë e teknologjisë, një studiues i kompanisë ka dhënë dorëheqjen. Ndërkohë, Anthropic po përshpejton përgatitjet për një ofertë publike fillestare (IPO) të planifikuar për këtë vjeshtë.
Jacob Klein, përgjegjësi për inteligjencën mbi kërcënimet në Anthropic, konfirmoi vështirësitë në verifikimin e qëllimeve të përdoruesve për shkak të paqartësisë së kërkesave. Kompania evidentoi një rast specifik, ku një shkencëtar kërkoi mbështetje për financimin e hulumtimeve mbi virusin Chikungunya në një institucion ushtarak. Anthropic pranoi se nuk mund të përcaktojë gjithmonë nëse kërkesa të tilla synojnë përparimin shkencor apo krijimin e kërcënimeve biologjike.