Tohtoročný nástup nástrojov generatívnej AI má nielen svoje pozitíva, ale aj negatíva. Na internete vďaka ním koluje čoraz viac deep fake videí a ďalší obsah, ktorý môže budiť falošný dojem, že ide o realitu. Vďaka takýmto nástrojom umelej inteligencii je dnes možné vytvoriť aj falošné videá reálnych osôb. Služba YouTube v reakcii na tento trend na svojom blogu oznámila opatrenia, ktoré by mali na platforme obsah s umelou inteligenciou viac kontrolovať.
Štítky pre realistický obsah AI
YouTube chce odlíšiť realistický obsah a preto požiada tvorcov, aby zverejnili obsah vytvorený AI nástrojom ako syntetický. To zahŕňa aj videá udalosti alebo skutočných ľudí, ktorí na videu hovoria alebo robia niečo, čo v skutočnosti nikdy neurobili. Videá vytvorené AI nástrojom budú mať diskrétny štítok, ktorý ich ako také identifikuje. Videá o citlivejších témach získajú ešte výraznejšie označenia.
Tvorcom, ktorí opakovane neoznačia obsah vytvorený AI, bude ich obsah odstránený. Okrem iných sankcií môžu byť tiež odstránení z Partnerského programu YouTube. Obmedzenia budú platiť aj pre určité typy obsahu. Napríklad násilné alebo krvavé videá vytvorené AI nebudú tolerované a budú okamžite odstránené.
Žiadosti o odstránenie deep fake videí
YouTube tiež pridá novú vrstvu ochranu; ktorou bude možnosť požiadať o odstránenie videa. Tieto požiadavky môžu byť kladené na deep fake videá ľudí vygenerované pomocou AI. YouTube tvrdí, že nie všetky žiadosti budú prijaté a obsah bude odstránený iba v určitých prípadoch. Každé video verejne známej osoby, preto nemusí byť automaticky odstránené.
Umelci však budú môcť požiadať o odstránenie videí simulujúcich ich hlasy v rámci hudobného videoklipu. Toto zabezpečenie zabráni ľuďom vytvárať hudbu pomocou cudzieho hlasu bez ich povolenia. Funkciu budú s najväčšou pravdepodobnosťou môcť využívať aj dabingoví herci, pretože nedávno začali byť generované aj hlasy známych hercov. Tým pádom by hrozí, že dabingoví herci prídu o prácu.
Vlastné AI nástroje služby YouTube
YouTube zároveň vyvíja svoje vlastné AI nástroje na moderovanie AI obsahu. Tieto nástroje moderovania budú schopné samé automaticky identifikovať a odstrániť obsah, ktorý porušuje pokyny, ešte pred jeho zverejnením. YouTube tiež pracuje na nástrojoch AI, ku ktorým budú mať prístup tvorcovia obsahu. Tieto nástroje umožnia tvorcom vytvárať obsah generovaný AI priamo na platforme YouTube bez nutnosti externých AI nástrojov.
