Umelá inteligencia a reálne možnosti strojového učenia (Machine Learning) už dlhšie ovplyvňujú rôzne oblasti, avšak svoj potenciál ešte ani zďaleka nenaplnili. Technológie, ktoré sú založené na strojovom učení, sa stále častejšie využívajú v boji proti veľkým podvodom, pomáhajú vyhodnocovať a optimalizovať obchodné procesy, zlepšovať testovacie postupy a vyvíjať nové riešnia existujúcich problémov.
Čo je umelá inteligencia
Umelá inteligencia je zatiaľ nedosiahnuteľný ideál všeobecne inteligentného a sebestačného stroja, ktorý sa dokáže samostatne rozhodovať a učiť, a to výlučne na základe vstupných informácií z prostredia a bez zapojenia človeka.
Čo je strojové učenie (Machine Learning)
Algoritmy spracovávania dát umožňujú počítačovým systémom vykonávať vybrané úlohy tým,
že identifikujú vzory a anomálie v obrovských množstvách dát, čím komplexné dáta pretvárajú na kompaktné zobrazenie v podobe modelu Strojové učenie sa považuje za jednu z technológií, ktoré môžu byť kľúčové na dosiahnutie skutočnej umelej inteligencie, hoci z pohľadu strojového učenia toto nie je konečným cieľom.
Ošiaľ umelej inteligencie vs realita strojového učenia
Umelá inteligencia je dnes často skloňovaným pojmom, pretože jednoducho povedané – znie to dobre. Naopak, oblasť strojového učenia a jej metóda “hĺbkového učenia” (DL) sú založené na pevných technických a vedeckých základoch.
- Strojové učenie dnes tvorí súčasť našej každodennej reality a priťahuje čoraz väčšiu pozornosť
V podnikateľskom prostredí je strojové učenie známym termínom a ide o všeobecne uznávanú technológiu. Prieskum spoločnosti ESET priniesol zaujímavé výsledky:
- 82 % respondentov je presvedčených o tom, že ich organizácia má vo svojej infraštruktúre implementovaný bezpečnostný produkt využívajúci strojové učenie
- Zo zvyšných respondentov 53 % uviedlo, že ich organizácia plánuje riešenie využívajúce strojové učenie implementovať
- Len 23 % zo zvyšku respondentov uviedlo, že v blízkej budúcnosti neplánujú implementovať bezpečnostné riešenie využívajúce strojové učenie
Strojové učenie a kybernetické útoky
Všetko má aj svoje odvrátené stránky, strojové učenie nie je výnimkou. Okrem toho, že ho využívajú bezpečnostné firmy, využívajú ho aj organizácie, ktoré sú zodpovedné za rôzne kybernetické útoky. Obavy začali narastať v roku 2003, s príchodom Trójskeho koňa Swizzor. Ten použil automatizáciu, pri ktorej bol škodlivý kód každú minútu nanovo zabalený a každá obeť tak dostala vairant daného malvéru v pozmenenej podobe. Swizzor bol jedným z prvých dôkazov toho, že nová technológia môže a bude v budúcnosti využitá aj na nekalé účely.
Existuje veľa možností, ako by kybernetickí zločinci mohli technológiu strojového učenia využiť vo svoj prospech:
Vytváranie a zdokonaľovanie škodlivého obsahu
- vytváranie nového malvéru
- vytváranie nového spamu
- identifikovanie opakujúcich sa charakteristík v spamovom/phishingovom obsahu
Vlastná ochrana
- ochrana infikovaných uzlov v infraštruktúre kybernetických zločincov
- identifikácia známych/detegovateľných príznakov
- säčasť mechanizmu samodeštrukcie malvéru
- vytváranie falošných príznakov poukazuúcich na iný malvér či skupinu kybernetických zločincov
- napodobňovanie vzorov pripomínajúcich legitímnu sieťovú komunikáciu v sieti s cieľom zakryť škodlivú aktivitu
Zdokonaľovanie malvéru a incýh škodlivých aktivít
- zvýšenie rýchlosti útoku
- lepšie zacielenie malvéru
- nájdenie najefektívnejšej techniky útoku
- vyhľadávanie nových zraniteľností
- delegovanie rozličných úloh na infikované zariadenia v rámci botnetu podľa úlohy v sieti
- možnosť nechať uzly v rámci botnetu kolektívne sa učiť a zdieľať nadobudnutné poznatky s cieľom identifikovať tie najefektívnejšie formy útoku
Príklad z reálneho sveta – SPAM
Práve spam je oblasťou, v ktorej strojové učenie určite zvýšilo kvalitu škodlivého obsahu. Spam môže byť efektívny, ak zaslaný e-mail vyzerá dôveryhodne. Spočiatku sa spam šíril v angličtine, kde obsahoval obstojnú úroveň gramatiky. V iných jazykoch bola však gramatika doslova mizerná.
E-mailom s mizernou gramatikou ľudia nevenovali pozornosť, ihneď vedeli, že ide o spam. Až do doby, kedy sa v tomto segmente začalo využívať strojové učenie. Takéto e-maily spočiatku vyzerali nejako takto:
Dnes sú na tom tieto e-maily podstatne lepšie a vyzerajú dôveryhodnejšie. V niektorých prípadoch sa dokonca snažia napodobniť logá overených spoločností či dokonca faktúry. E-maily, ktoré sú napísané takto, vzbudzujú podstatne väčšiu mieru dôveryhodnosti:
EMOTET – Trójan, ktorý využíva strojové učenie
Výskumníci ESETu majú podozrenie, že táto rodina malvéru používa strojové učenie na zlepšenie svojich schopností zacielenia na konkrétne obete. Denne infikuje tisícky zariadení, no stále je efektívny vo vyhýbaní sa zariadeniam výskumníkov.
EMOTET zhromažďuje dáta o svojich potenciálnych obetiach a odošle ich na analýzu na riadiaci server útočníka. Na základe týchto vstupov malvér nielen vyberá moduly, ktoré sa majú zapojiť pri finálnom vykonaní škodlivej akcie, ale zdá sa, že tiež dokáže rozlíšiť skutočné zariadenia ovládané používateľmi od virtuálnych zariadení a automatizovaných prostredí, ktoré sa používajú pri skúmaní malvéru.
Strojové učenie má svoje obmedzenia
Množina tréningových dát
Na to, aby bolo možné strojové učenie efektívne používať na účely kybernetickej bezpečnosti, treba mať k dispozícii veľké množstvo dát, ktoré sú správne rozdelené do príslušných kategórií.
Matematika nevyrieši všetko
Ani bezchybný stroj nebude vždy schopný s istotou rozhodnúť, či budúci neznámy vstup povedie k nežiaducemu správaniu.
Inteligentní a prispôsobiví útočníci
Dôležitým obmedzením je fakt, že na druhej strane stoja inteligenení útočníci. V rámci IT zabezpečenia neváhajú prispôsobiť si pravidlá hry bez varovania alebo ich porušovať.
Falošné poplachy
Zatiaľ čo je jasné, prečo je pre firmu problémom nedetegovaný malvér, už menej zrejmé je to v prípade falošných poplachov (FP), t j nesprávnych označení čistých (neškodných) položiek za škodlivé.
Samotné strojové učenie nestačí
Technológia strojového učenia nie je zázračné riešenie bezpečnostných produktov a určite nie je riešením na všetky problémy súvisiace s kybernetickou bezpečnosťou. V rámci IT zabezpečenia sa spoločnosť nemôže spoliehať len na jednu technológiu.
20 rokov výskumu strojového učenia v ESETe
Výskumníci spoločnosti ESET si potenciál strojového učenia uvedomili už v roku 1998, kedy ho začali implementovať do svojich produktov – začali využívať neurónové siete s cieľom zlepšiť detekcie.
Strojové učenie už teraz patrí medzi dôležité aspekty každodenného života
Povedať či budú v budúcnosti prevládať pozitívne alebo negatívne vplyvy strojového učenia teraz nevieme. Pokrok v oblasti strojového učenia odštartoval novú dobu, v ktorej sa takmer všetky získané dáta analyzujú prostredníctvom algoritmov, ktoré sú závislé od technológie strojového učenia.
Využívať sa bude pre dobro veci, ale aj pre efektívnejšie kybernetické útoky. A tento súboj bude pokračovať stále ďalej. Na jednej strane budú útočníci, ktorí budú zdokonaľovať svoje riešenia na na strane druhej spoločnosti, ktoré sa budú snažiť tieto hrozby odvrátiť. Technológia strojového učenia bude mať v tomto smere významnú úlohu.
