Hviezda Teen Marvel Xochitl Gomez je najnovšou obeťou deepfake porna. Po zistení nekonsenzuálnych, sexuálne explicitných deepfakes kolujúcich na X, predtým Twitteri, bola zmätená, keď platforma nepodnikla žiadne kroky a neodstránila ich.
Popri vzostupe umelej inteligencie sa vyskytlo veľa problémov, no jedným z najviac znepokojujúcich je deepfake porno. Zatiaľ čo deepfake existujú už nejaký čas, pokrok v technológii ich urobil dostupnejšími a presvedčivejšími. V dôsledku toho mnohí jednotlivci, najmä ženy, zistili, že ich podobizeň bola odobratá alebo znovu vytvorená bez ich súhlasu a použitá v pornografickom obsahu. Stal sa obrovským problémom pre ženské celebrity, ale aj pre bežné ženy, ktoré zažili, že ich podobizeň sa používa v sexuálne explicitnom obsahu na pomstychtivé porno, obťažovanie a šikanovanie. Veľkým problémom je aj používanie deepfakes na zobrazenie zneužívania detí.
Žiaľ, v súčasnosti neexistujú žiadne federálne zákony proti nekonsenzuálnemu hlbokému falošnému pornu a len niekoľko štátov má legislatívu, ktorá pred ním chráni občanov. Mnohé ženy, ktoré sa stali obeťami falošnej pornografie, sa ocitli bez možnosti proti nej bojovať kvôli nedostatočnej regulácii a nezákonnosti internetu. Väčšina z nich nemá finančné prostriedky na právne kroky. Dokonca aj celebrity ako Scarlett Johansson vyhlásili, že je zbytočné snažiť sa bojovať proti deepfakes.
Jedna malá úroveň ochrany žien pochádza z platforiem sociálnych médií, ktoré zakázali deepfake a umelou inteligenciou generované porno. Ak by tieto stránky presadzovali takéto zákazy, sťažilo by to obeh tohto škodlivého obsahu. Gomezove skúsenosti však ukazujú, že sociálne médiá nepresadzujú svoje pravidlá.
Xochitl Gomez hovorí o svojej skúsenosti s hlboko falošným pornom
(Axelle/Bauer-Griffin/Getty)
Keď sa objavil v podcaste Taylora Lautnera a jeho manželky, The Squeeze Xochitl Gomez (aka America Chavez) otvorila svoje skúsenosti ako obeť falošnej pornografie. 17-ročná žena prezradila, že našla sexuálne explicitný materiál, ktorý koloval na X, predtým Twitteri, ale má mimoriadne ťažké ho odstrániť. X zakázal porno generované umelou inteligenciou už v roku 2018 a má zásady proti sexuálne explicitným hlboko falošným obrázkom a videám, ako aj zavádzajúcim médiám a nahote bez súhlasu. Vzhľadom na to, že obrázky Gomeza jasne porušujú pravidlá X a že tento obsah obsahoval neplnoletú osobu, človek by si myslel, že platforma okamžite začne konať.
Gomez však zostala v šoku, keď zistila, že jej tím sa už pokúsil zakročiť proti obsahu bezvýsledne. Správy NBC nahlásené že ešte 19. januára 2024 sa fotky dali ešte nájsť na X, ktorý nereagoval na žiadosti o komentár. Gomez vysvetlila, že jej obsah zostal čudný a zúfalo si želala, aby bol odstránený, pretože to pre ňu nebolo dobré. Spýtala sa: Prečo je také ťažké dať dole? Celá moja myšlienka na to bola: ‚Prečo je to dovolené?'
Nakoniec však rezignovala na to, aby akceptovala, že obsah sa jednoducho nedá stiahnuť, čím odhalila, že sa na to len snaží nemyslieť a odkladá telefón, aby problém vyriešila. Otázky, ktoré položila, však zostávajú veľmi aktuálne. Prečo? je také ťažké odstrániť tento obsah? Je to morálne odsúdeniahodné a nechutné, keď je hlboko falošné porno vyrobené z akéhokoľvek nesúhlasného jednotlivca. Je to priam strašné, keď sa to týka maloletého. Na X koluje skutočná detská pornografia a platforma s tým, bizarne, nič nerobí, aj keď by to mala byť najpálčivejšia otázka.
Sotva to znie ako zložitá situácia, ak jednotlivec nahlási sexuálne explicitný materiál a oznámi platforme, že s tým nesúhlasil. Materiál je v rozpore s viacerými pravidlami na webovej stránke. Čo ešte treba preskúmať alebo určiť? Pre jednotlivca je už dosť traumatizujúce nájsť tento druh obsahu na sociálnych sieťach; to najmenšie, čo môžu tieto platformy urobiť, je splniť ich požiadavky na odstránenie. Žiadny jednotlivec, najmä nie neplnoletý, by nemal len akceptovať, že obsah existuje, pretože X a iné platformy sociálnych médií vytrvalo a zmätene odmietajú chrániť svojich používateľov.
(hlavný obrázok: Axelle/Bauer-Griffin/FilmMagic / Getty)
