Facebook sa sám chváli, že jeho umelá inteligencia (AI) efektívne zabraňuje šíreniu nenávistných príspevkov a komentárov. Tieto chvály sú podložené číslami, no oponenti poukazujú na fakt, že Facebook si tieto čísla robí a analyzuje sám. Dá sa tento stret vôbec vyhodnotiť?
Umelá inteligencia odhalila až 95 % nenávistných príspevkov, tvrdí Facebook
Porovnanie situácie iba tri roky spätne s rokom 2020 vyzerá byť až neuveriteľné. Facebook musel neskutočne zapracovať na svojom AI zameranom na odhaľovanie a mazanie komentárov, ktoré odporujú pravidlám. Číslo za rok 2017 je 24% a za rok 2020 až 95%. Teda v roku 2017 sa spoločnosti podarilo odhaliť vlastným AI necelú štvrtinu príspevkov, ktoré na túto sieť nepatria a vymazať ich.
O tri roky neskôr sa blížime k vrcholu, pretože 95% úspešnosť je vysoká a značí, že Facebook to má pod kontrolou. Je to skutočne tak? Sú totiž hlasy a komentáre, ktoré tvrdia, že spoločnosť si robí analýzu sama a ak by sa umožnil nestranný audit, mohli by sme byť prekvapení.
Ak si pozrieme samotné komentáre a ich výskyt, potom ich 10 až 11 nenávistných pripadá na 10 000 zobrazovaného obsahu. V reči percent je to 0,10 až 0,11 %. Takéto vyjadrenie však musí byť v kontexte celkových čísiel komentárov, ktorých sa to dotýka.
A tu je opätovne vidieť rozdiel, pretože napríklad na konci roka 2019 (október až december) bolo odstránených 645 000 nežiaducich komentárov, tretí kvartál (júl až september) toho súčasného roka zaznamenal hodnotu 6,5 milióna. Presne toľko musel Facebook mazať a odstraňovať. Tu však vstupujú do hry americké prezidentské voľby, ktoré vyvolali obrovské nárasty a kampaň sa viedla masívne aj na Facebooku.
Facebook sa snaží
Voči Facebooku sa neustále dvíha vlna kritiky práve za prístup a toleranciu k nedovoleným komentárom. To naráža neustále na fakt, že od spoločnosti je požadované, aby umožnila audit jej efektivity z vonku, čím by sa buď interné hodnoty potvrdili alebo vyvrátili. Niektoré jej aktivity však musíme hodnotiť pozitívne, ako napríklad v máji spustená súťaž pre vytvorenie vylepšení pre vlastné AI a výsledkom bolo oznámenie, že už inteligencia dokáže rozoznať a porovnať cez obrázkové makro aj takýto obsah.
Facebook dodáva, že musí pracovať s mnohými jazykmi a trendmi, aké sú v rôznych krajinách. Tým sa jeho AI musí neustále učiť a zdokonaľovať na lokálnych úrovniach, aby bol schopný plniť funkciu v Európe rovnako ako v Amerike. A preto má spoločnosť aj ľudských rozhodcov, ktorí nastupujú v prípadoch, kedy si AI nevie poradiť alebo určité správanie proste ignoruje a považuje za dovolené. Táto kombinácia bude zrejme ešte dlho pre Facebook potrebná.
Pravdu ukáže až nezávislý audit
Nech však bude robiť Facebook čokoľvek, nedokáže zachytiť všetok obsah, vždy niečo unikne. A to stačí k tomu, aby bol terčom kritiky, proste iba za to, že robí málo. Aby sme však vedeli, aká veľká snaha je za tým ukrytá a ako skutočne je spoločnosť úspešná, nesmie sa proste hodnotiť sama interne. Facebook cez svojho viceprezidenta pre integritu (Guy Rosen) sľubuje, že aj toto sa zmení a audit bude.
