Malajzia dhe Indonezia kanë ndaluar përdorimin e mjetit të inteligjencës artificiale Grok, i lidhur me rrjetin social X të Elon Musk, për shkak se është përdorur për të krijuar imazhe të rreme me përmbajtje seksuale, duke përdorur fytyra dhe foto të personave realë, pa lejen e tyre.
Autoritetet e të dy vendeve thanë se Grok është keqpërdorur për të ndryshuar foto të grave, duke i paraqitur ato në veshje provokuese ose situata të turpshme. Sipas tyre, ekziston edhe rreziku serioz që ky mjet të përdoret për përmbajtje të ndaluara që mund të përfshijnë fëmijë, gjë që përbën shkelje të rëndë të dinjitetit njerëzor dhe sigurisë në internet.
Malajzia dhe Indonezia janë vendet e para në botë që marrin një masë të tillë. Autoriteti Malajzian i Komunikimit dhe Mediave njoftoi se kishte paralajmëruar më herët rrjetin X për keqpërdorim të përsëritur të këtij mjeti, por përgjigjja e marrë nuk ishte e mjaftueshme. Sipas tyre, platforma nuk mori masa konkrete për të parandaluar rrezikun.
Si pasojë, autoritetet vendosën që Grok të mbetet i ndaluar derisa të vendosen masa të forta mbrojtëse për përdoruesit. Qytetarët u nxitën gjithashtu të raportojnë çdo përmbajtje të dëmshme që hasin në internet. Në Indonezi, ministrja e Komunikimit dhe Çështjeve Digjitale, Meutya Hafid, deklaroi se përdorimi i Grok për krijimin e imazheve seksuale pa pëlqim është shkelje e të drejtave të njeriut dhe e sigurisë publike. Ajo bëri të ditur se autoritetet kanë kërkuar sqarime zyrtare nga kompania që administron rrjetin X.
Indonezia ka ndërmarrë edhe më parë masa të forta kundër përmbajtjeve pornografike në internet, duke ndaluar platforma të njohura të këtij lloji. Disa përdorues indonezianë kanë treguar se janë ndjerë të fyer dhe të turpëruar pasi kanë gjetur foto të tyre të ndryshuara pa leje në rrjet. Një prej tyre, Kirana Ayuningtyas, tha se pavarësisht përpjekjeve për të raportuar rastin dhe për të mbrojtur privatësinë e saj, imazhet vazhduan të qarkullojnë.
Ndërkohë, edhe vende të tjera, përfshirë Mbretërinë e Bashkuar, po shqyrtojnë masa ndaj Grok dhe rrjetit X për mosrespektim të rregullave të sigurisë në internet. Kryeministri britanik e ka dënuar ashpër këtë praktikë, duke e quajtur të turpshme dhe të papranueshme. Elon Musk ka reaguar më herët duke thënë se kritikat ndaj platformës së tij janë përpjekje për censurë, ndërsa kompania nuk ka dhënë ende një reagim zyrtar për ndalimin në Malajzi dhe Indonezi.
