Ky artikull është përditësuar. Shiko përditësimet
Chatbot-i inteligjencës artificiale Grok, zhvilluar nga kompania xAI e Elon Musk, po përballet me kritika për krijimin e imazheve deepfake me përmbajtje seksuale eksplicite. Këto imazhe janë gjeneruar në përgjigje të kërkesave të përdoruesve në platformën X, duke modifikuar foto të grave dhe të miturve pa pëlqimin e tyre, siç raportohet nga mediat në javët e fundit.
Përdoruesit kanë nxitur Grok-un për të "zhveshur digjitalisht" imazhe të personave realë, duke i vendosur ato në poza provokuese ose me veshje si bikini. Analizat tregojnë se në disa raste, këto kërkesa përfshinin të mitur, duke përfshirë një aktore 14-vjeçare, çka ka ngritur shqetësime për materialet e abuzimit seksual të fëmijëve (CSAM). Kjo situatë ka nxjerrë në pah mungesën e masave mbrojtëse në Grok, i cili është dizenjuar për të qenë "politikisht neutral" dhe pa kufizime të forta sigurie.
Reagimet qeveritare
Qeveritë e disa vendeve kanë reaguar menjëherë. Në Bashkimin Evropian, Komisioni Evropian ka dënuar imazhet si të paligjshme dhe ka nisur hetime. Në Francë, Indi dhe Malajzi, zyrtarët kanë kërkuar masa për të parandaluar dhe hequr këto deepfake. Në Britani, ministrja e Teknologjisë Liz Kendall deklaroi se përmbajtja është e papranueshme dhe i kërkoi X-it të veprojë urgjentisht, duke theksuar se krijimi ose ndarja e imazheve intime pa pëlqim është e ndaluar ligjërisht.
Përgjigjja e xAI dhe X
Elon Musk postoi në X se çdo përdorues që nxit krijimin e përmbajtjes së paligjshme do të përballet me pasoja të njëjta si për ngarkimin e saj. Llogaria e sigurisë së X-it njoftoi se do të heqë përmbajtjen e tillë, do të pezullojë përgjithmonë llogaritë e shkelëseve dhe do të bashkëpunojë me autoritetet lokale dhe forcat e rendit. Sipas burimeve të brendshme, ekipi i sigurisë në xAI është i vogël dhe ka humbur anëtarë kohët e fundit.
Kjo ngjarje thekson rreziqet e kombinimit të inteligjencës artificiale me rrjetet sociale pa mbrojtje të mjaftueshme, veçanërisht për gratë dhe fëmijët.
Përditësim
Grok ka kufizuar gjenerimin dhe editimin e imazheve vetëm për abonentët me pagesë, duke çaktivizuar funksionin për shumicën e përdoruesve. Njoftimi zyrtar në X shkruan: 'Gjenerimi dhe editimi i imazheve aktualisht është i kufizuar vetëm për abonentët me pagesë.' Kjo masë lehtëson identifikimin e abuzuesve, pasi abonentët me pagesë ruajnë të dhëna personale dhe të kartës së kreditit. Hulumtimi i The Guardian zbulon krijimin e video pornografike të grave pa pëlqim, si dhe imazhe të grave duke u qëlluar ose vrarë. Kryeministri britanik Keir Starmer e cilësoi përmbajtën 'të turpshme' dhe 'neveritëse', duke paralajmëruar masa të ashpra dhe duke mbështetur Ofcom për veprime. Ai theksoi se krijimi i tillë është e paligjshme. Kërcënimet përfshijnë gjoba, masa rregullatore dhe ndalim të mundshëm të platformës X në Britani.
Përditësim
Fondacioni i Mbikëqyrjes së Internetit (IWF) ka paralajmëruar se kriminelët kanë përdorur Grok të xAI për të krijuar imazhe të abuzimit seksual me fëmijë. Elon Musk ka njoftuar publikimin e një versioni të ri të Grok-ut dhe ka nxitur përdoruesit të përditësojnë aplikacionin, pa specifikuar ndryshimet.
Përditësim
Kryeministri britanik Keir Starmer i ka bërë thirrje platformës X të marrë kontrollin mbi çështjen e deepfake-ve seksuale, duke deklaruar se ajo duhet "ta marrë kontrollin mbi këtë çështje", sipas një interviste të fundit.