Wspomniana w zajawce aplikacja o nazwie Crushmate umożliwia wygenerowanie nagiego zdjęcia jakiejkolwiek osoby, zazwyczaj bez jej wiedzy lub zgody. Za sprawą reportażu opublikowanego przez Emanuela Maiberga na łamach 404 Media, jeden z amerykańskich senatorów – Dick Durbin – przesłał formalne zapytanie do dyrektora generalnego firmy Meta Platforms, Marka Zuckerberga, w którym wezwał do udzielenia odpowiedzi na następujące pytania do 11 marca 2025 roku:
- Jakie zabezpieczenia są stosowane w platformach Mety celem zapobieżenia reklam platform umożliwiających wygenerowanie pornograficznych deepfake’ów takich jak Crushmate?
- Jak Meta weryfikuje wiarygodność reklamodawców?
- Jakie procedury w platformach Mety zostały wdrożone celem wykrycia i usuwania fałszywych kont reklamodawców?
- Jakich kroków podjęła się firma Meta Platforms, żeby zapobiec przekierowaniu ruchu na strony niezgodne z prawem lub regulaminem serwisu?
- Co firma Meta robi w kierunku edukowania w szczególności młodzieży na temat szkodliwości pornograficznych deepfake’ów?
Jak Meta Platforms napisała w odpowiedzi na zapytanie o komentarz dla redakcji 404 Media, przestrzeń reklam „jest obarczona wieloma ryzykami i ci, którzy nie mają dobrych zamiarów, cały czas opracowują nowe strategie celem zapobieżenia wykrycia ewentualnych naruszeń naszych standardów społeczności”.
Według wyżej wspomnianego reportażu, choć automatyczna moderacja Mety rzeczywiście podejmowała się usunięcia niektórych reklam kierujących do strony Crushmate, tak reklamodawca wdrożył strategię mającą na celu wykupywanie kolejnych domen i prezentowanie reklam, żeby omijać blokadę nałożoną na domenę prezentującą wspomniany serwis.
Jednak jak wskazało badanie przeprowadzone na platformach Facebooka przez organizację AI Forensics w styczniu 2025 roku, treści pornograficzne w normalnym trybie są niemal natychmiastowo usuwane, jednak gdy zostaną one zaprezentowane jako płatna reklama – system automatycznej moderacji nie podejmował żadnej konkretnej akcji. Próbę przeprowadzono na około 3 tysiącach kampanii reklamowych. Wyniki badania sugerują, że regulaminy serwisów należących do Facebooka nie są wystarczająco egzekwowane, gdy mowa o treściach promowanych, wbrew raportom, których corocznego opracowywania muszą podejmować się firmy odpowiedzialne za wielkie platformy, obsługujące przynajmniej 45 milionów aktywnych użytkowników w krajach Unii Europejskiej.
Kończąc swój list skierowany do Marka Zuckerberga, senator Durbin napisał:
Ponieważ takie oprogramowanie, które jest łatwo dostępne głównie za sprawą serwisów takich jak Facebook, Instagram czy Threads, szkoły średnie w całych Stanach Zjednoczonych zmagają się z szokującymi aktami nadużyć. Te zdjęcia mogą zostać użyte do nękania ofiar i zniszczyć ich reputację, lub co gorsza – doprowadzić je nawet do samobójstwa.
Źródła
Zdjęcie tytułowe zostało zrobione przez użytkownika o pseudonimie Anurag R Dubey i jest ono dostępne na Wikimedia Commons na licencji CC BY-SA 4.0 International. Treść artykułu powstała na podstawie następujących źródeł tekstowych i/lub audiowizualnych:
- Senator Pushes Zuckerberg on „Perverse Abuse” of Nudify Ads After 404 Media Report, opublikowany w serwisie 404 Media przez Emanuela Maiberga w dniu 11.02.2025
- Pay-to-Play: Meta’s Community (double) Standards on Pornographic Ads opublikowany w serwisie AI Forensics w dniu 8.01.2025