Malezja i Indonezja stały się pierwszymi krajami, które zablokowały Grok, sztuczną inteligencję chatbota stworzonego przez firmę xAI Elona Muska, po tym jak władze poinformowały, że jest on wykorzystywany do generowania seksualizowanych i niekonsensualnych obrazów.
Regulatorzy w obu krajach stwierdzili, że zabezpieczenia Grok nie powstrzymały tworzenia i rozpowszechniania zmanipulowanych treści pornograficznych, w tym zdjęć z udziałem kobiet i nieletnich. Indonezja podjęła działania pierwsze w weekend, a następnie Malezja, powołując się na ryzyko dla prywatności, godności i bezpieczeństwa publicznego, gdy prawdziwe zdjęcia są zmieniane bez zgody.
Indonezyjski minister komunikacji Meutya Hafid nazwał niezgodne z konsensualną seksualną deepfake'ami poważne naruszenie praw człowieka, ostrzegając, że nadużycia AI wykraczają poza obecne zabezpieczenia. Urzędnicy poinformowali, że wstępne kontrole wykazały, że Grok można łatwo wykorzystać do fałszowania jawnych zdjęć zwykłych obywateli.
Malezyjski urząd ds. komunikacji wskazał na powtarzające się nadużycia chatbota i poinformował, że już wydał zawiadomienia do X Corp. i xAI, domagając się zaostrzenia kontroli. Dostęp pozostanie zablokowany, jak stwierdzono, dopóki nie zostaną wprowadzone skuteczne zabezpieczenia zapobiegające dalszym nadużyciom.
Represje w Azji Południowo-Wschodniej dodatkowo potęgują presję w innych miejscach. Wielka Brytania wszczęła śledztwo wobec Groka i podejmuje działania przeciwko tzw. "aplikacjom nudyfikacji", podczas gdy regulatorzy w Europie i Indiach również uważnie obserwują, zamieniając chatbota Muska w globalny przypadek testowy dotyczący tego, jak daleko rządy są w stanie się posunąć, by kontrolować treści generowane przez AI.
