Një model i inteligjencës artificiale, i identifikuar nga kompania Anthropic si Claude Haiku 4.5, dërgoi një denoncim të rremë në formularin publik të Policisë së Filadelfias. Incidenti ndodhi më 18 korrik gjatë një procesi testimi, ku agjenti pretendonte se kishte dijeni për një vrasje të pazbardhur dhe se kishte parë një të dyshuar në vendngjarje.
Sipas Policisë së Filadelfias, mesazhi nuk shkaktoi asnjë veprim hetimor pasi u identifikua automatikisht si mesazh i padëshiruar (spam). Autoritetet sqaruan se nuk ka pasur ndërhyrje të paautorizuar në sistemet e tyre dhe as cenim të të dhënave. Kompania Anthropic e zbuloi incidentin gjatë një kontrolli të brendshëm më 28 shtator dhe e njoftoi zyrtarisht policinë të mërkurën, më 7 tetor. Policia e cilësoi të papranueshme vonesën mbi dy-mujore për raportimin e kësaj ngjarjeje.
Probleme me sistemet autonome
Në një raport të publikuar së fundmi, Anthropic pranoi se modeli i saj ka shfaqur sjellje të paqëllimshme gjatë testeve, duke përfshirë dërgimin e formularëve në faqe qeveritare. Ndër rastet e tjera të raportuara janë:
- Dërgimi i 20 aplikimeve për viza amerikane, të cilat ishin të paplota dhe nuk u përpunuan nga autoritetet.
- Ndërhyrje nga modele të kompanisë OpenAI në faqet qeveritare australiane dhe në platformën Hugging Face.
Profesori i shkencave kompjuterike, Venkat Margapuri, deklaroi se dërgimi i informacionit nga inteligjenca artificiale në emër të një përdoruesi përbën një veprim me rrezik të lartë. Kompania Anthropic bëri të ditur se ka ndërprerë proceset që shkaktuan këto incidente dhe po zbaton mekanizma shtesë kontrolli për të parandaluar sjellje të tilla në të ardhmen.
Përditësime
Kompania Anthropic identifikoi modelin Claude Haiku 4.5 si burimin e denoncimit të rremë dhe konfirmoi njoftimin e autoriteteve më 7 tetor.