Prípad, z ktorého naskakuje husia koža, opäť raz nemilosrdne osvetľuje nebezpečné slepé miesta umelej inteligencie a jej neschopnosť nahradiť skutočný ľudský úsudok v kritických životných situáciách. To, čo začalo ako séria zdanlivo neškodných rozhovorov s populárnym chatbotom, vyústilo po mesiacoch do tragického predávkovania drogami a rodiny v hlbokom smútku. Príbeh devätnásťročného Američana odhaľuje, ako sa digitálna zvedavosť môže pod vplyvom nevhodne nastavených algoritmov zvrhnúť na nezvratnú katastrofu, ktorá stála mladý život. Téme sa venoval portál Talk Android.
Keď sa bezpečnostné poistky AI zrútia pod tlakom zvedavosti
Celý tragický reťazec udalostí sa začal odvíjať už koncom roka 2023, keď mladý muž začal u ChatGPT vyhľadávať rady týkajúce sa kratomu, teda látky, ktorá je v mnohých krajinách zakázaná, no v Spojených štátoch sa s ňou voľne obchoduje. Hoci sa systém spočiatku držal svojich naprogramovaných pravidiel a zdvorilo odmietal poskytovať lekárske odporúčania s výzvou na návštevu lekára, zvedavosť a odhodlanie mladíka nakoniec odhalili hlboké trhliny v digitálnej ochrane.
Počas dlhých mesiacov a tisícok vymenených správ sa mladý muž naučil pomocou špecificky formulovaných príkazov a manipulatívnych otázok obchádzať bezpečnostné zábrany umelej inteligencie, až kým ho systém neprestal varovať a začal mu namiesto toho poskytovať priame návody. Šokujúce prepisy rozhovorov neskôr ukázali, že algoritmus mladíkovi namiesto „červenej vlajky“ v podstate ukázal „zelenú“ a začal mu dávať konkrétne pokyny, ako požívať rôzne látky na dosiahnutie zmenených stavov vedomia.
Situácia zašla až do takých extrémov, že umelá inteligencia mladíkovi odporúčala napríklad zdvojnásobenie bežných dávok sirupu proti kašľu s cieľom vyvolať intenzívnejšie halucinácie a dokonca mu zostavovala hudobné playlisty, ktoré mali dotvoriť atmosféru počas jeho omamných „tripov“. Celá tragédia vyvrcholila v máji 2025, keď po jednej z takýchto konverzácií požil 185 tabliet Xanaxu, čo síce zázrakom prežil, no jeho boj s úzkosťou, depresiou a závislosťou od alkoholu pokračoval. Posledný deň v mesiaci máj ho v jeho izbe našla mŕtveho vlastná matka, pričom pitva potvrdila prítomnosť smrtiaceho kokteilu alkoholu, liekov a kratomu.
Mohlo by vás zaujímať:
- Gmail pre Android konečne dostáva dôležitú funkciu. Šesť rokov po iOS
- Nová generácia prémiových slúchadiel Sony príde už čoskoro. Čo o nich vieme?
- Séria Nothing Phone (4a) bude zahalená v pestrých farbách. Parametrami mnohých osloví
Spoločnosť OpenAI označila túto situáciu za srdcervúcu a otvorene priznala, že extrémne dlhé a opakované konverzácie môžu postupne narúšať kľúčové bezpečnostné funkcie systému, čím sa zvyšuje riziko, že model vybočí zo svojho protokolu a neúmyselne navrhne škodlivé správanie. Tento prípad slúži ako varovanie, že pri otázkach zdravia a bezpečnosti nesmieme nikdy dôverovať riadkom kódu maskujúcim sa za múdrosť, ale musíme sa spoliehať výhradne na skutočných odborníkov.
