Používanie generatívnej umelej inteligencie na tvorbu škodlivého a rasistického obsahu sa opäť dostáva do popredia po tom, čo nezisková organizácia Media Matters odhalila virálne videá vytvorené pomocou stále celkom nového nástroja Google Veo 3. Tieto videá, zamerané na stereotypizáciu černochov a ďalších menšín, dosiahli milióny videní na TikToku, pričom niektoré z nich prekročili aj 14 miliónov pozretí, informuje TheVerge.
Mohlo byt vás zaujímať:
- Nothing Headphone (1): Dôraz na dizajn, zvuk aj pohodlné ovládanie
- Samsung možno predstaví viac skladacích zariadení, než sa očakávalo
- Huawei spúšťa na Slovensku bezkontaktné platby cez smart hodinky
Z videí je zrejmé, že boli vytvorené pomocou nástroja Veo 3, čo potvrdzuje aj viditeľný vodoznak priamo vo videách, a tiež používanie tagov ako „Veo 3“ alebo „AI“ v popisoch. Program umožňuje generovať krátke osemdesiatsekundové klipy len pomocou textového zadania a podľa Googlu má implementovanú ochranu proti škodlivému obsahu. Aj napriek tomu sa takéto videá šíria na populárnych platformách.
TikTok proti tomu bojuje
TikTok síce deklaruje nulovú toleranciu voči nenávistnému obsahu a stereotypom, no prax ukazuje, že algoritmy neraz odporúčajú aj problematické videá. Hovorkyňa TikToku uviedla, že viaceré účty zodpovedné za tieto videá už boli zablokované, niektoré ešte pred zverejnením samotného reportu. Podobný obsah sa objavil aj na YouTube a Instagrame, hoci s menším dosahom ako na čínskej platforme.
Situácia nám tak ukazuje, že ani silné bezpečnostné mechanizmy v AI nástrojoch a sociálnych sieťach nie sú stopercentné. Zneužitie generatívnych modelov na šírenie nenávisti, antisemitizmu a rasizmu je realitou, ktorú musia firmy adresovať nielen technologicky, ale aj zodpovedným dohľadom a transparentnosťou.
Rastúci počet takýchto incidentov zároveň zdôrazňuje potrebu regulácie v oblasti AI. Ak sa AI nástroje budú bežne využívať na vytváranie obsahu, musia byť prísnejšie pravidlá nielen pre vývojárov, ale aj pre platformy, ktoré tieto výstupy šíria. Inak hrozí, že sa z generatívnej AI stane nástroj na masové šírenie predsudkov a nenávisti.
