V dnešnej dobe je umelá inteligencia stále viac prítomná v digitálnom svete a ľudia majú väčší problém rozoznať reálny obsah od toho umelo vytvoreného. Toto môže byť veľmi nebezpečné pri šírení rôznych dezinformácií a demagógií, ktoré sú napokon iba výtvorom generatívneho AI.
Preto veľké technologické spoločnosti ako napríklad Meta (materská spoločnosť pod ktorú spadajú rôzne sociálne platformy ako Facebook alebo Instagram) sa snažia zabezpečiť transparentnosť a označovať obsah vytvorený pomocou umelej inteligencie. Tieto platformy majú v pláne začať označovať AI-generované obrázky, videá a zvukové súbory. Informuje portál Androidauthority.
Meta, spoločnosť vlastniaca Instagram, Threads a Facebook, oznámila, že v nasledujúcich mesiacoch začne dôsledne označovať obrázky vytvorené pomocou umelej inteligencie. Toto označovanie umožní používateľom jednoduchšie rozpoznať, či daný obrázok bol vytvorený pomocou AI alebo nie.
Pri označovaní AI-generovaného obsahu Meta plánuje využívať rôzne štandardy. Medzi štandardy patrí napríklad okom neviditeľné vodoznaky, vložené metadáta alebo iné rozpoznateľné značky. Pokiaľ však obrázok neobsahuje tieto signály, môže byť pre tento systém oveľa ťažšie zistiť, či je daný obsah AI-generovaný.
Zaujímavé je, že Meta neplánuje obmedziť označovanie len na obsah vytvorený pomocou vlastných AI nástrojov. Podľa informácií sa program snaží byť schopný identifikovať aj AI-generované obrázky vytvorené nástrojmi od iných spoločností, ako napríklad Google, OpenAI alebo Adobe.
Označovanie AI-generovaných videí a zvukových súborov
Zatiaľ nie sú dostatočne vyvinuté princípy pre identifikáciu signálov použitia umelej inteligencie v AI videách a zvukoch. Meta preto plánuje zaviesť funkciu, ktorá umožní samotným používateľom označiť takéto video alebo zvuk a spoločnosť potom pridá k obsahu príslušný štítok. To či to používatelia budú využívať je však iba na ich úprimnosti a slušnosti, takže by som sa na to veľmi nespoliehal.
Našťastie však Meta zdôrazňuje, že označovanie videí a audia nebude dobrovoľné. Používatelia budú povinní použiť túto funkciu pri zdieľaní fotorealistického videa alebo umelého zvuku, ktorý bol digitálne vytvorený alebo upravený pomocou AI. Dokonca hrozí trestami pre používateľov, ktorí zverejnia takto vytvorené videá alebo hudbu, ktoré neboli označené.