Spoločnosť Facebook spúšťa na svojej sociálnej sieti nový systém umelej inteligencie (AI), ktorá bude rozpoznávať príspevky potencionálnych samovrahov.
Počet samovrážd je vo svete stále vysoký
V Európskej únii si za rok siahne na život takmer 60-tisíc ľudí. V drvivej väčšine ide o mužov. Takmer polovicu tvoria ľudia vo veku medzi 40. a 65. rokom života. Krajinou s najväčším počtom samovrážd je Nemecko. Pri zohľadnení počtu obyvateľov, má spomedzi členských štátov EÚ najvyššiu mieru samovrážd Litva, najnižšiu Grécko a Cyprus. Slovensko patrí k európskemu priemeru. U veľa ľudí sa dajú myšlienky na samovraždu spozorovať v predstihu hlavne ich okolím. Vďaka komunikácii s nimi sa dajú odhaliť negatívne myšlienky vedúce k takémuto radikálnemu kroku. A v 21. storočí už nie je bežná len verbálna komunikácia, ale v rovnakej miere aj internetová.
Proaktívna detekcia od Facebooku
Spoločnosť Facebook teraz spúšťa novú technológiu nazvanú Proaktívna detekcia, ktorá v príspevkoch a videách na sociálnej službe Facebook pomocou algoritmu a umelej inteligencie odhalí samovražedné myšlienky používateľov. Následne na to upozorní príslušných špecializovaných moderátorov a tí by mali kontaktovať konkrétnu osobu, respektíve jej priateľov a vyslať tam špecialistov. Medzi nich sa počíta aj polícia. Napríklad podľa policajtov v New Yorku takto Facebook pomohol zachrániť niekoľko životov. Facebook spolupracuje aj s organizáciami ako National Suicide Prevention Lifeline, National Eating Disorder Association či Crisis Text Line, ktoré dokážu pomôcť najmä anglicky hovoriacim ľuďom. Nový systém zatiaľ fungoval v testovacom režime len v USA a teraz by sa mal rozšíriť naostro aj do ďalších krajín. Výnimkou je Európska únia, kde kvôli GDPR a miestnym zákonom nie je možné takto skenovať a profilovať užívateľa. Systém algoritmu nie je známy, ale deteguje a vyhodnocuje aj príspevky ako „Je všetko v poriadku?”, „Môžem nejako pomôcť?” a tým pádom odhalí aj situácie, ktoré si bežne komunikujúci na Facebooku nevšimne. Budúci rok v máji by mal Facebook zamestnať ďalších 3000 expertov, ktorí budú vyhodnocovať upozornenia tohto systému.
Rozporuplné reakcie
Táto novinka samozrejme vyvoláva aj rozporuplné až odmietavé reakcie. Mnohí sa pýtajú, kam až Facebook pri skenovaní zájde. Či neskôr nebude skenovať aj napríklad politické názory. Vedúci bezpečnosti Facebooku Alex Stamos na to ale reagoval následujúcim tweetom:
The creepy/scary/malicious use of AI will be a risk forever, which is why it's important to set good norms today around weighing data use versus utility and be thoughtful about bias creeping in. Also, Guy Rosen and team are amazing, great opportunity for ML engs to have impact. https://t.co/N9trF5X9iM
— Alex Stamos (@alexstamos) November 27, 2017
Podľa neho bude nebezpečné zneužitie hroziť vždy a preto je treba už dnes stanoviť normy a mantinely. A taktiež treba zvážiť riziko zneužitia dát oproti ich užitočnosti.
zdroj: TechCrunch
