Nieto pochýb o tom, že umelá inteligencia môže byť veľmi nepekne zneužitá. Preto sa ChatGPT riadi istými morálnymi zásadami, ktoré nesmie prekročiť, aby sa predišlo vygenerovaniu nevhodného obsahu. Na dark webe sa však objavila zlovestná dvojička ChatGPT s názvom WormGPT. To, čo dokáže, je vskutku strašidelné. Vytvorený bol kybernetickými kriminálnikmi na nekalé účely. Téme sa venuje stránka PC Gamer.
WormGPT je schopný napísať aj škodlivý kód
Mesačné predplatné za WormGPT stojí na dark webe 60 eur, no aj napriek vyššej cene môže byť pre niekoho tento nástroj na nezaplatenie. Ide o chatbota, ktorý je vytvorený na open source báze Large Language Model GPT-j z roku 2021. Jeho hlavnou “prednosťou” je absencia etických noriem, ktoré musí umelá inteligencia spĺňať. Tento AI chatbot funguje prakticky bez akejkoľvek morálky.
WormGPT bol natrénovaný tak, aby bol schopný vytvárania malvéru. Nemá problém napísať napríklad predlohu pre phishingový e-mail či text slúžiaci na šírenie dezinformácií. Takto “vylepšená” verzia ChatGPT pracuje v mnohých aspektoch podobne, ako morálna verzia od Open AI. Požiadavky spracováva v prirodzenej ľudskej reči a dokáže ponúknuť riešenia na extrémne veľké množstvo otázok, ktoré mu používateľ položí.
Expert na kybernetickú bezpečnosť z NordVPN nového chatbota nazval ako “diabolské dvojča ChatGPT”. Už sme boli svedkami, ako sa YouTuberovi podarilo obísť etické zásady ChatGPT a využil ho na generovanie potenciálne funkčných licenčných kódov slúžiacich pre aktiváciu operačného systému Windows. Zatiaľ čo Open AI sa snaží vylepšovať svojho chatbota tak, aby spĺňal všetky morálne požiadavky, iní vývojári sa usilujú vytvoriť jeho temnú kópiu. Opýtali sme sa ChatGPT, aké by boli následky v prípade, ak by nemal morálku.
Ak by ChatGPT nemal morálku, tak by to malo niekoľko dôsledkov:
- Nevhodný obsah: ChatGPT by mohol poskytovať obsahy, ktoré sú nevhodné, urážlivé, alebo dokonca nezákonné. Mohol by podporovať násilie, rasizmus, sexuálne obťažovanie, a podobné negatívne správanie.
- Manipulácia: Bez morálnej brzdy by ChatGPT mohol byť použitý na manipuláciu a šírenie dezinformácií. Môže šíriť lži, konšpiračné teórie alebo propagandu s cieľom ovplyvniť verejné názory a rozhodnutia.
- Neúcta k súkromiu: ChatGPT by mohol ignorovať ochranu súkromia a odhaľovať citlivé informácie o používateľoch bez ich súhlasu.
- Nátlak na psychiku: Ak by ChatGPT nemal morálku, mohol by poskytovať poradenstvo alebo podnety, ktoré by mohli poškodiť duševné zdravie používateľov, napríklad povzbudzovaním sebaubližovania alebo samovražedných myšlienok.
- Etické dilemy: Pri niektorých otázkach, ako napríklad vo vojenskej stratégii alebo etických rozhodnutiach, by ChatGPT mohol poskytovať rady, ktoré by mohli mať vážne následky na ľudský život a práva.
Portál GeekMetaverse hlási, že k prípadu sa vyjadrila aj samotná hlava Open AI, Sam Altman. Ten má veľký strach z toho, že jeho výtvor nakoniec spôsobí pre svet obrovskú škodu.
