Qeveria e Mbretërisë së Bashkuar ka deklaruar se do të mbështesë plotësisht autoritetin rregullator Ofcom nëse ky vendos të bllokojë platformën sociale X në territorin britanik. Kjo masë lidhet me mosrespektimin e ligjeve për sigurinë online, veçanërisht shqetësimet rreth mjetit të inteligjencës artificiale Grok, të lidhur me X, i cili është përdorur për të krijuar imazhe deepfake me përmbajtje seksuale.
Sipas burimeve, Grok ka lejuar manipulimin dixhital të fotografive të personave realë pa pëlqimin e tyre, duke i "zhveshur" në imazhe të publikuara në platformë. Raporti i Fondacionit Internet Watch ka njoftuar se kriminelët kanë përdorur këtë mjet për të prodhuar imazhe të abuzimit seksual të fëmijëve. Kryeministri Keir Starmer ka kërkuar që X të marrë në dorë chatbotin Grok, dhe ka urdhëruar Ofcom të shqyrtojë të gjitha opsionet.
Platforma X ka ndryshuar cilësimet e Grok, duke kufizuar redaktimin e imazheve vetëm për abonentët me pagesë. Zyra e Kryeministrit në Downing Street e ka cilësuar këtë ndryshim si "fyes për viktimat e dhunës seksuale", ndërsa një organizatë që ndihmon viktimat e dhunës në familje e ka përshkruar si "monetizim të abuzimit". Sekretarja për Teknologjinë, Liz Kendall, ka thënë se pret që Ofcom të përdorë të gjitha kompetencat ligjore për të mbajtur përgjegjëse kompaninë xAI, në pronësi të Elon Musk, e cila zotëron si X ashtu edhe Grok.
Sipas Ligjit për Sigurinë Online, Ofcom mund të kërkojë vendim gjykate për të ndaluar aksesin në X ose për të penguar kompaninë të sigurojë të ardhura në Mbretërinë e Bashkuar në rast moszbatimi. Një zëdhënës i Ofcom ka konfirmuar se rregullatori ka kontaktuar urgjentisht kompaninë dhe po zhvillon një vlerësim të përshpejtuar.
Elon Musk ka reaguar duke e quajtur reagimin e qeverisë britanike një "justifikim për censurë". Ai ka shpërndarë një postim në X që kritikon qeverinë laburiste për fokusin te platforma e tij, duke theksuar se programe të tjera të inteligjencës artificiale krijojnë imazhe të ngjashme. Musk ka deklaruar më parë se përdoruesit që krijojnë përmbajtje të paligjshme me Grok do të përballen me pasoja të njëjta si nëse do ta kishin ngarkuar vetë.
Reagimi ndërkombëtar ka qenë i shpejtë. Indonezia ka bllokuar përkohësisht Grok të shtunën, duke u bërë vendi i parë që mohon aksesin në këtë mjet. Kritikat kanë ardhur gjithashtu nga qeveritë dhe rregullatorët në Evropë dhe Azi, me disa hetime të hapura për përmbajtje të seksualizuar.
Përditësime
Malajzia ka bllokuar aksesin në Grok, duke u bërë vendi i dytë pas Indonezisë që ka marrë një masë të tillë për shkak të deepfakes seksuale. Komisioni Malajzian i Komunikacionit ka dërguar njoftime më herët këtë vit dhe ka kritikuar përgjigjen e X-it për mosadresimin e rreziqeve të dizajnit. Ndërkohë, ministrja indoneziane Meutya Hafid ka deklaruar se përdorimi i Grok përbën shkelje të të drejtave të njeriut dhe ka kërkuar sqarime të menjëhershme nga X.
Kirana Ayuningtyas, një përdoruese indoneziane, raportoi imazhe të modifikuara pa leje të saj në platformën X, por ato vazhduan të qarkullonin pavarësisht raportimeve. Modifikimet përfshinin alterimin e fotove të saj në veshje provokuese ose situata komprometuese. Autoriteti Malajzian i Komunikimit dhe Mediave inkurajon qytetarët malajzianë të raportojnë përmbajtje të ngjashme të dëmshme. Indonezia ka një histori të gjatë të bllokimit të platformave pornografike online, duke rritur shqetësimet rajonale për moszbatimin e ligjeve nga platforma si X.
Elon Musk e quajti qeverinë britanike "fashiste" në një postim në platformën X, duke reaguar ndaj paralajmërimit për bllokim të mundshëm të X-it. Grok, asistent i xAI, është falas që nga 2023 dhe shtoi funksionin Grok Imagine verën e kaluar, duke përfshirë një "modalitet pikant" për imazhe. Rreziku i gjobës mund të arrijë deri në 10% të të ardhurave globale të X-it ose 18 milionë paund, sipas rregulloreve britanike.
Ofcom ka nisur një hetim zyrtar kundër X-it për krijimin e imazheve seksuale të paligjshme nga Grok, sipas një njoftimi të fundit. Kryeministri Keir Starmer i ka quajtur këto imazhe "të neveritshme" dhe "të paligjshme". Autoritetet në Françë dhe Indi kanë kritikuar X-in për trajtimin e pamjaftueshëm të çështjes. X fshin çdo përmbajtje të paligjshme dhe pezullon përgjithmonë llogaritë që e shpërndajnë atë, në përputhje me politikat e përditësuara të kompanisë.
Internet Watch Foundation (IWF) konfirmoi zbulimin e imazheve kriminale që përfshijnë fëmijë 11-13 vjeç, të gjeneruara nga platforma X. Zëdhënësi i Downing Street deklaroi se kufizimi i funksionit si 'shërbim premium' ofendon viktimat dhe nuk plotëson kërkesat ligjore. Hannah Swirsky, zyrtare e lartë në IWF, tha: 'Kufizimi i tillë nuk është i mjaftueshëm; platformat duhet të dizajnojnë sisteme të sigurta që parandalojnë krijimin e abuzimit ndaj fëmijëve nga themelet.' Grok, mjeti i gjenerimit të imazheve në X, tani informon përdoruesit për rreziqet dhe kërkon emër të plotë si dhe detaje pagese për çdo krijim imazhi.
Indonezia bllokoi aksesin në Grok të shtunën, ndërsa Malajzia e bëri të njëjtën gjë të dielën, për shkak të shqetësimeve mbi deepfake-t seksuale të paautorizuara.
Ministrja indoneziane Meutia Hafid deklaroi: 'Qeveria i konsideron deepfake-t seksuale të paautorizuara një shkelje serioze të të drejtave të njeriut, dinjitetit dhe sigurisë së qytetarëve në hapësirën dixhitale'.
- Komisioni Malaysian i Komunikimeve dhe Multimediave (MCMC) kontaktoi X dhe xAI, por përgjigjet e tyre u kufizuan vetëm në mekanizmat e raportimit nga përdoruesit, të cilat MCMC i konsideron të pamjaftueshme për të parandaluar dëmin.
- Bllokimi i Grok-ut në Malajzi do të vazhdojë derisa të vendosen masa mbrojtëse efektive.
Alexander Sabar, Drejtor i Përgjithshëm i Ofcom, deklaroi se gjetjet fillestare tregojnë mungesë mbrojtjesh efektive në Grok për krijimin e materialeve pornografike duke përdorur foto reale të banorëve indonezianë. Ai theksoi rreziqet për privatësinë dhe dëmtimet psikologjike dhe sociale. Ndërkohë, MCMC specifikoi se njoftimet u lëshuan këtë muaj dhe e përshkroi masën e bllokimit si parandaluese. Autoritetet vunë në dukje përgjigjet e pamjaftueshme nga X Corp. dhe xAI.