Generatívna umelá inteligencia zásadne zmenila spôsob, akým vznikajú a šíria sa vizuály. A spolu s tým otvorila aj vážne otázky zodpovednosti, súhlasu a ochrany ľudskej dôstojnosti. Prípad AI nástroja Grok na platforme X ukazuje, ako rýchlo sa môže technológia dostupná „na pár kliknutí“ stať nástrojom sexuálneho zneužívania, normalizácie objektifikácie a vážneho zásahu do psychického bezpečia najmä žien a detí.

Odkedy sa generatívna umelá inteligencia stala nástrojom dostupným pre všetkých ľudí s prístupom na internet, hocikto si dokáže vytvoriť prakticky akýkoľvek vizuál aj bez pokročilých technologických zručností. Je to len otázka pár kliknutí. Firmy, ktoré AI nástroje vyvíjajú a sprístupňujú verejnosti, sú postupne konfrontované s otázkami zodpovednosti – teda s tým, ako chránia súkromie, dôstojnosť a bezpečie ľudí, ktorých sa ich technológie môžu dotknúť. 

V posledných týždňoch sa pozornosť verejnosti, médií aj legislatívnych regulátorov niekoľkých krajín výrazne sústredila na Elona Muska a platformu X, ktorá využíva AI nástroj Grok. Práve ten sa stal predmetom ostrej kritiky pre spôsob, akým umožňoval generovanie a úpravu obrázkov.

Umelá inteligencia vyzlieka ľudí

Používatelia totiž začali upozorňovať na to, že Grok dokáže z bežných fotografií vytvárať sexualizovaný obsah bez súhlasu zobrazovaných osôb, vrátane tzv. „AI undressingu“ – teda digitálneho „vyzliekania“ ľudí na obrázkoch. Tento obsah sa následne šíril priamo na platforme X aj mimo nej, často bez toho, aby si dotknuté osoby vôbec uvedomovali, že niečo také vzniklo. Šlo o deepfake fotky známych osobností, aj bežných ľudí, väčšinou žien. Ešte o úroveň problémovejší je však fakt, že Grok dokáže údajne bez väčších zábran vygenerovať aj obsah zobrazujúci sexuálne zneužívanie a násilie na deťoch.

Opatrenia sú nedostatočné

Po vlne kritiky platforma dodatočne zaviedla určité obmedzenia, tie však prišli až po tom, čo sa problém masovo prejavil. Navyše, obmedzenia sa ani zďaleka nezdajú dostačujúce, dokonca takmer ani súvisiace s problémom. Možnosť generovať AI nudes (z ang. slangu nahé fotky) bola presunutá pod takzvaný paywall. To v skratke znamená, že používateľ si musí zakúpiť platenú verziu produktu, aby mal k prémiovej možnosti prístup. Ani platená verzia však nedáva nikomu právo ubližovať online alebo generovať materiál, ktorý má potenciál ublížiť, či dokonca prekročiť zákon.

Zároveň sa však obete takýchto vygenerovaných obrázkov musia naučiť žiť s vedomím, že ich fotografia sa môže objaviť kdekoľvek a nemajú nad tým žiadnu kontrolu, ako vyplýva z podstaty internetu. 

Aj falošné fotky majú dopad na človeka

Aj keď sú obrázky, na ktorých je niekto „vyzlečený“ alebo sexualizovaný pomocou AI, v skutočnosti falošné, dopad na človeka, ktorého zobrazujú, je veľmi podobný, ako keby išlo o skutočné intímne fotografie zverejnené bez jeho súhlasu.

Keď niekto vytvorí a šíri sexualizovaný alebo „vyzlečený“ obraz človeka bez jeho súhlasu, nejde len o nepríjemnú skúsenosť, ale o zásah, ktorý môže mať vážne psychické následky. Výskumy o sexuálnom zneužívaní prostredníctvom obrazového materiálu ukazujú, že obete často zažívajú úzkosť, stres, hanbu, stratu pocitu bezpečia a kontroly nad vlastným telom a identitou. Typické sú aj obavy z toho, kde všade sa obraz môže šíriť a kto ho mohol vidieť, čo vedie k dlhodobému napätiu a vyhýbaniu sa online priestoru (Hellevik et al., 2025; Mitchell et al., 2025).

Je pravdepodobné, že pri bežnej konzumácii AI-generovaného sexuálneho obsahu časť publika nevenuje otázke súhlasu okamžitú pozornosť. Pornografický vizuálny rámec totiž môže automaticky aktivovať očakávanie dobrovoľnosti, vychádzajúce zo skúsenosti s bežnou pornografiou. Zároveň samotná skutočnosť, že ide „len o AI“, môže viesť k tomu, že divák otázku súhlasu spracuje oneskorene alebo ju vôbec neidentifikuje, keďže pri syntetických obrazoch nie sú prítomné bežné signály vzniku bez súhlasu, ktoré by boli zrejmejšie pri reálnych fotografiách. Tento mechanizmus však zatiaľ nebol priamo experimentálne testovaný a zostáva na úrovni teoretickej hypotézy (van der Nagel, 2020; Kira, 2024).

Z človeka sa stáva materiál

Zároveň dochádza k postupnej normalizácii objektifikácie. Ak je možné kohokoľvek „vyzliecť“ alebo sexualizovať pomocou pár kliknutí, telo prestáva byť vnímané ako súčasť konkrétneho človeka so svojimi hranicami a právami. Stáva sa z neho materiál, s ktorým možno ľubovoľne manipulovať. To má dopad nielen na obete, ale aj na publikum. Posúva sa hranica toho, čo je považované za prijateľné správanie voči druhým. Tento jav nadväzuje na dlhodobo popisovaný proces objektifikácie tela v médiách (Fredrickson & Roberts, 1997), ktorý je v prípade generatívnej AI technologicky zosilnený spôsobom, akým sú modely trénované na existujúcich dátach.

Používatelia umelej inteligencie častejšie vyzliekajú dievčatá

Keď kolektív Wolfe et al. (2022) testoval modely typu CLIP, zistili, že prompty s dievčatami a ženami vedú k sexualizovaným obrazom oveľa častejšie než rovnaké prompty s chlapcami a mužmi. Sexualizované výstupy sa objavili pri zadaniach obsahujúcich slová “dievča” a “žena“ až v 73% prípadov, zatiaľ čo pri pojmoch „chlapec“ a “muž” išlo len o jednociferné percentá. Samotné prompty pritom vôbec nezahŕňali inštrukcie so sexuálnym podtónom. To naznačuje, že AI nielen preberá sexualizáciu (najmä) ženských tiel z internetu, ale ju aj ďalej zosilňuje a robí normálnou.

Niektoré krajiny Grok zakázali

Kým mnohé technologické firmy v posledných rokoch aspoň deklarovali záujem o ochranu wellbeingu používateľov a zavedenie preventívnych opatrení, Elon Musk sa k tejto debate stavia otvorene odmietavo. Kritiku obmedzení v Groku označil za snahu o cenzúru a zásah do slobody prejavu. 

Malajzia a Indonézia sa s problémom vysporiadali zablokovaním služby Grok, pričom na pôde mnohých ďalších krajín aktuálne prebieha intenzívna diskusia o legislatíve a o následkoch sexuálneho zneužívania prostredníctvom obrazového materiálu.

Literatúra:

Brigham, N. G., Wei, M., Kohno, T., & Redmiles, E. M. (2024). “Violation of my body”: Perceptions of AI-generated non-consensual (intimate) imagery. In Proceedings of the Twentieth Symposium on Usable Privacy and Security (SOUPS 2024). USENIX Association.
https://www.usenix.org/conference/soups2024/presentation/brigham

Fredrickson, B. L., & Roberts, T.-A. (1997). Objectification theory: Toward understanding women’s lived experiences and mental health risks. Psychology of Women Quarterly, 21(2), 173–206. https://doi.org/10.1111/j.1471-6402.1997.tb00108.x

Hellevik, P. M., Haugen, L. E. A., & Överlien, C. (2025). Outcomes of image-based sexual abuse among young people: a systematic review. Frontiers in Psychology, 16, Article 1599087. DOI: 10.3389/fpsyg.2025.1599087 

Kira, B. (2024). When non-consensual intimate deepfakes go viral. Computer Law & Security Review, 52, 105954. https://doi.org/10.1016/j.clsr.2024.105954

Mitchell, K. J., Colburn, D., Finkelhor, D., Gewirtz-Meydan, A., Turner, H. A., & Jones, L. M. (2025). Links between image-based sexual abuse and mental health in childhood among young adult social media users. Child Abuse & Neglect, 164, Article 107471. https://doi.org/10.1016/j.chiabu.2025.107471

Emily van der Nagel (2020). Verifying images: deepfakes, control, and consent. Porn Studies, 7(4), 424–429. DOI: 10.1080/23268743.2020.1741434

Wolfe, R., Yang, Y., Howe, B., & Caliskan, A. (2022). Contrastive visual-language pretraining models exhibit sexual objectification bias. In Proceedings of the 2022 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’22) (pp. 19–32). DOI:10.48550/arXiv.2212.11261 https://arxiv.org/abs/2212.11261