Ochrana maloletých a detí pred nevhodným obsahom sa stáva stále väčšou prioritou internetových sociálnych služieb. Platí to aj pre spoločnosť Google a jej najpoužívanejšiu službu YouTube. Populárny videoportál na svojom blogu informuje o novej technológii, ktorá by mala automaticky určiť nevhodný obsah osobám mladším než 18 rokov.
Umelá inteligencia vyhodnotí či je video vhodné pre deti
YouTube sa už roky snaží zamedziť prístup maloletým k obsahu pre dospelých. Spolieha sa pri tom na samotných používateľov. Konzument obsahu musí sám potvrdiť svoj vek a používateľ, ktorý publikuje obsah, musí sám určiť, či je vhodný pre mladistvých. Evidentne je tento spôsob nedostatočný, a tak sa služba rozhodla proces zautomatizovať strojovým učením.
Umelá inteligencia s pomocou príslušných algoritmov skontroluje video pred publikovaním a vyhodnotí či je vhodné pre osoby mladšie ako 18 rokov. Vďaka tomu sa bude dať skontrolovať oveľa viac videí za rovnaký čas. Samozrejme sa takýmto spôsobom zvýši aj počet nesprávne ohodnotených videí. Pokiaľ si ale vlastník bude myslieť, že jeho video nie je nevhodné pre deti, tak sa bude môcť odvolať a služba urobí dodatočnú kontrolu.
YouTube si bude môcť vypýtať doklad totožnosti pre overenie veku
Ďalšia zmena mieri na sledovateľov videí. V prípade videa nevhodného pre mladistvých bude používateľ presmerovaný do webovej verzie služby YouTube, kde sa prihlási do svojho účtu na overenie veku. Služba si bude môcť tiež od používateľa vyžiadať doklad totožnosti alebo údaje k platobnej karte, aby si overila jeho vek. Tento krok je v súlade v smernicou Európskej únie o audiovizuálnych mediálnych službách (AVMSD), ktorá vstúpila do platnosti 18. 12. 2018.
Pravdepodobne sa tak ale bude diať len v prípadoch, keď služba z používateľských dát vyhodnotí, že používateľ o svojom veku klame. Všetky tieto opatrenia by mali viesť k tomu, aby sa deti nedostali k nevhodnému obsahu, ktorý by obsahoval napríklad násilie alebo nevhodné sexuálne scény. Ešte extrémnejším príkladom nevhodného obsahu je samovražedné video, ktoré sa nedávno niekoľko dni objavovalo na sociálnej sieti TikTok. Pre deti mladšie ako 13 rokov poskytuje služba platformu YouTube Kids, ktorá má aj samostatnú mobilnú aplikáciu.