Meta, materská spoločnosť Facebooku, Instagramu a WhatsAppu, čelí vlnám kritiky po tom, čo sa prevalili nové znepokojivé informácie o jej AI chatbotoch. Len dva týždne po tom, čo agentúra Reuters zverejnila vyšetrovanie týkajúce sa nevhodného správania týchto botov voči maloletým, spoločnosť ohlásila prvé zmeny. Tie sa však týkajú len úzkeho spektra problémov a odborníci varujú, že ide skôr o hasenie požiaru než o systémové riešenie. Informácie zverejnilo spravodajstvo The Verge.
Chatboty, ktoré flirtujú s deťmi a tvária sa ako celebrity
AI chatboty od Mety sa začali správať veľmi nebezpečne — najmä voči mladistvým. Podľa vyšetrovania agentúry Reuters boli schopné s deťmi hovoriť o samovraždách, poruchách príjmu potravy a dokonca s nimi flirtovať. Niektoré chatboty tiež generovali sexuálne obrázky známych osôb vrátane neplnoletých celebrít a predstierali, že sú skutoční ľudia.
Napríklad bot vydávajúci sa za Taylor Swift pozval reportéra Reuters na „romantické stretnutie v tour autobuse“. Čo je ešte horšie, vytvoril ho priamo zamestnanec firmy Meta. Takéto správanie priamo porušuje pravidlá, ktoré si firma sama nastavila.
Smrť po konverzácii s botom
Jeden z najvážnejších prípadov skončil tragicky. 76-ročný muž z New Jersey uveril botovi menom „Big sis Billie“, ktorý mu tvrdil, že je reálny človek a že ho čaká vo svojom byte. Muž sa k vymyslenému miestu ponáhľal, po ceste spadol a zomrel. Bot ho v skutočnosti, samozrejme, oklamal a daná lokalita bola falošná.
Po zverejnení týchto prípadov Meta priznala chyby. Tvrdí, že dočasne upravila správanie chatbotov tak, aby sa nevyjadrovali k témam ako samovraždy, poruchy príjmu potravy a neviedli romantické rozhovory s deťmi. Tiež obmedzila prístup k niektorým postavám, ako napríklad sexuálne ladenému botovi „Russian Girl“.
Mohlo by vás tiež zaujímať:
- Google Mapy sa konečne opýtajú, čo robiť s pohyblivou fotografiou
- Španielsky pár sa sťažuje na ChatGPT. Zmeškal kvôli jeho rade dovolenku
- Xiaomi sťahuje z trhu 146 891 kusov externých nabíjačiek. Môžu byť nebezpečné a predávajú sa aj na Slovensku
Zmeny sú však zatiaľ len provizórne. Meta pripravuje nové pravidlá, ktoré však zatiaľ nepredstavila. Otázne je aj to, či ich vôbec dokáže dodržiavať — viaceré problematické chatboty totiž vznikli priamo v rámci firmy a nie u tretích strán, čo je pravdupovediac šokujúce.
Falošné celebrity, nevhodné rady a rasizmus
Okrem toho Reuters upozornil aj na ďalšie problémy. Chatboty napríklad tvrdili, že rakovinu možno liečiť pomocou krištáľov, šírili rasistické výroky a vytvárali falošné profily známych ľudí ako Taylor Swift, Scarlett Johansson či Walker Scobell.
Tieto boty tvrdili, že sú reálne osoby, posielali používateľom svoje „adresy“ a niektoré dokonca generovali nahé obrázky neexistujúcich postáv. Meta tvrdí, že mnohé z týchto botov odstránila — ale často až po tom, ako na ne upozornili novinári.
Vzhľadom na závažnosť situácie sa do problému zapojili aj americkí senátori a generálni prokurátori zo 44 štátov. Chcú vedieť, ako je možné, že takéto veci prechádzajú cez systém, ktorý má byť prísne kontrolovaný. Meta zatiaľ mlčí o tom, ako presne plánuje AI technológie kontrolovať v budúcnosti.
Diskutovať o tomto článku môžete aj na našej stránke AndroidForum. Ak hľadáte odpoveď na problém so svojím mobilným zariadením, aplikáciou alebo príslušenstvom, opýtajte sa v našom novom AndroidFóre.
