Google sa dlhodobo snaží o bezpečnosť svojich používateľov a prijíma rôzne opatrenia, aby boli jeho produkty spoľahlivé a bezpečné. Aj preto spoločnosť nedávno sprísnila pravidlá pre inštalovanie aplikácií z neoficiálnych zdrojov v Androide. Najnovší problém však ukazuje, že veľký jazykový model Gemini môže byť zraniteľný voči špecifickým kybernetickým útokom – Google tomu zatiaľ nepripisuje veľkú váhu. Na tému upozornil portál AndroidAuthority.
Zraniteľnosť veľkých jazykových modelov
Podľa portálu Bleeping Computer sa bezpečnostný expert Viktor Markopoulos zameral na testovanie obľúbených jazykových modelov z hľadiska ich odolnosti voči typu útoku nazývanému ASCII smuggling. Zistil, že Gemini, DeepSeek a Grok sú voči tejto technike náchylné, zatiaľ čo Claude, ChatGPT a Copilot už majú ochranné mechanizmy, ktoré podobné útoky blokujú a sú tak bezpečnejšie.
ASCII smuggling funguje tak, že útočník vie zamaskovať alebo "prepašovať" inštrukciu priamo do textu, ktorý bude analyzovať umelá inteligencia. Prakticky to znamená, že útok môže byť skrytý napríklad vo forme neviditeľného textu v e-maile. Ak následne používateľ použije AI nástroj typu Gemini na zhrnutie alebo spracovanie správy, samotná umelá inteligencia dokáže prečítať aj túto skrytú inštrukciu a nevedome podľa nej konať.
V čom je problém?
Tento typ útoku je nebezpečný, pretože útočník môže pomocou skrytého príkazu presvedčiť AI napríklad, aby prehľadávala obsah vašich správ v e-mailoch a hľadala citlivé údaje, alebo rovno poslal vaše kontakty či iné osobné informácie nepovolanej osobe. Gemini je prepojený so službami Google Workspace, preto podobná zraniteľnosť znamená väčšie riziko. Útočníci by sa mohli snažiť získať prístup k firemným dátam.
Je to chyba systému alebo používateľa?
Markopoulos na zistenú chybu upozornil priamo Google a poslal aj praktickú ukážku. Gemini dokázal presvedčiť, aby vrátil odkaz na podvodný web, ktorý sa vydával za výhodnú ponuku na mobilný telefón. Google klasifikoval tento prípad nie ako chybu svojho systému, ale ako prejav sociálneho inžinierstva. Firma tvrdí, že ide o problém, ktorý musí riešiť najmä samotný používateľ, pretože AI len plní pokyny zo vstupného textu. Momentálne tak neexistujú informácie, že by Google plánoval rýchlu aktualizáciu Gemini, ktorá by sama odstránila túto zraniteľnosť.
Mohlo by vás zaujímať:
- Tieto kroky nezabudnite spraviť po bezpečnostných aktualizáciách Samsung zariadení
- Google Gemini rozširuje podporu pre bluetooth slúchadlá tretích strán
- Zrejme ani netušíte, že Circle to Search môže byť špecialistou na herné tipy
Ak využívate Gemini na sumarizovanie e-mailov alebo udalostí z kalendára, odporúčam zvýšiť pozornosť a všimnúť si všetky nezvyčajné požiadavky či podozrivý obsah, ktorý vám AI zobrazí.
Diskutovať o tomto článku môžete aj na našej stránke AndroidForum. Ak hľadáte odpoveď na problém so svojím mobilným zariadením, aplikáciou alebo príslušenstvom, opýtajte sa v našom novom AndroidFóre.
