Jako pierwszy kraj na świecie, Indonezja zdecydowała się całkowicie zablokować dostęp do Groka.
W ostatnim czasie czatbot dostępny dla użytkowników platformy X generował roznegliżowane wersje zdjęć, wliczając w to materiały spełniające definicję pornografii dziecięcej.
Cytowany przez CBS News Meutya Hafid, minister ds. cyfryzacji Indonezji stwierdził, że „decyzję podjęto w związku z chęcią zapewnienia ochrony kobietom, dzieciom i innym osobom przed pornograficznymi deepfake’ami”.
Deepfake jest generowaną na żądanie zawartością, która choć może wyglądać na realną, w rzeczywistości przedstawia wydarzenia, które nigdy nie miały miejsca.
W ostatnich miesiącach wybuchły kontrowersje związane z deepfake’iem w jednej z podwarszawskich szkół, gdzie uczniowie wygenerowali pornograficzną wersję zdjęcia jednej ze swoich rówieśniczek i namawiali do jego rozpowszechniania na Instagramie.
W sprawę zaangażował się prezes UODO, Mirosław Wróblewski, który stwierdził, że „policja i prokuratura nie podjęły żadnych działań”.
W odpowiedzi na zapytanie wysłane do Komendy Stołecznej Policji otrzymaliśmy wtedy informację, że „[KSP] nie posiada wystarczających informacji dotyczących tej sprawy, żeby nam ich udzielić”. Komenda Główna Policji nie udzieliła nam żadnego komentarza.
Według doniesień serwisu 404media.co, w związku z niedawnymi kontrowersjami wokół Groka funkcje związane z generowaniem i edycją zdjęć miały zostać ograniczone tylko dla osób posiadających płatną subskrypcję na platformie X.
W sprawę włączyła się też Komisja Europejska, która zażądała wyjaśnień ze strony przedstawicieli serwisu X.
Moderacja serwisu X na swoim oficjalnym koncie nadmieniła w oświadczeniu z 4 stycznia 2026 roku, że „wszyscy, którzy wysyłają żądania wygenerowania nielegalnych treści, będą traktowani tak samo, jakby sami udostępniali takie treści”.
Kilka dni temu wysłaliśmy zapytanie do przedstawicieli serwisu X o szerszy komentarz dotyczący tej sprawy, ale nie dostaliśmy żadnej odpowiedzi.
Źródła
Zdjęcie tytułowe zostało zrobione przez Solen Feyissę i jest ono dostępne na Wikimedia Commons na licencji CC BY-SA 2.0 Generic. Treść artykułu powstała na podstawie następujących źródeł tekstowych i/lub audiowizualnych:
- Indonesia suspends Grok AI over sexualized images, opublikowany w serwisie cbsnews.com w dniu 10.01.2025
- Pornograficzny deepfake z udziałem jednej z nastolatek w podwarszawskiej szkole. Według PUODO „służby odmówiły działań”, opublikowany w serwisie kontrabanda.net przez Oliwiera Jaszczyszyna w dniu 29.11.2025
- Komisja Europejska „żąda wyjaśnień” dotyczących Groka generującego roznegliżowane zdjęcia, opublikowany w serwisie kontrabanda.net przez Oliwiera Jaszczyszyna w dniu 9.01.2026
- Wpis na platformie X od konta @Safety z dnia 4.01.2026