Vyzerá to tak, že algoritmy sociálnej siete Instagram aktívne propagovali obsah na tému detskej pornografie. Konkrétnejšie sa do popredia dostali siete, ktoré mali spájať pedofilov a ponúkať im možnosti na predaj a kúpu obsahu zobrazujúceho tieto nechutné činy. Téme sa venovala stránka The Verge.
Instagram bol prostriedkom na predaj obsahu medzi pedofilmi
K samotným účtom, ktoré sa predajom detskej pornografie zaoberajú, sa bolo možné dostať pomocou veľmi nápadných hashtagov, ako #pedowhore, #preteensex či #pedobait. Na predaj boli rozličné videá zobrazujúce nielen pedofíliu, ale aj sebaubližovanie a beštialitu. Výskumníci chceli zistiť viac o algoritme, ktorý tento obsah odporúča, a vytvorili si testovacie účty, cez ktoré tento obsah zobrazovali. Instagram im ihneď odporučil ďalšie účty s podobnou tematikou.
Spoločnosť Meta na to reagovala veľmi znechutene a vznik situácie ju mrzí. Pracuje na zamedzení aktivít takýchto účtov a pravdepodobne aj trénuje algoritmus tak, aby sa podobné situácie neopakovali. V januári Meta údajne vymazala 490 000 účtov podieľajúcich sa na zneužívaní detí a za uplynulé dva roky zrušila 27 pedofilských sietí. Zrušené sú aj tisícky hashtagov smerujúcich na zneužívanie neplnoletých. Obmedzené bolo aj vyhľadávanie podobných hashtagov.
