Umelá inteligencia sa dnes využíva v školách, kanceláriách aj v bežnom živote, no stále má jednu zásadnú slabinu. Chatboti si niekedy jednoducho niečo vymyslia a pritom to podajú veľmi presvedčivo. Tento jav sa označuje ako "halucinácia“ a vedie k nesprávnym odpovediam. OpenAI teraz tvrdí, že odhalilo hlavnú príčinu tohto problému a má riešenie, ktoré by mohlo spraviť budúce AI nástroje omnoho dôveryhodnejšími.
Spoločnosť spolu s odborníkmi z Georgia Tech zverejnila 36-stranový výskum, ktorý sa podrobne tejto téme venuje. Podľa autorov nie sú halucinácie dôsledkom slabého návrhu modelov, ale spôsobu, akým sa tieto systémy testujú a hodnotia. Súčasné štandardy totiž odmeňujú chatbotov za to, že odpovedajú na všetko, aj keď často nesprávne, a naopak penalizujú ich, ak prejavia neistotu.
ChatGPT zaznamenáva časté halucinácie
Výskumníci preto navrhujú zmenu prístupu. Ak je odpoveď sebavedomá, no nesprávna, malo by to byť hodnotené výrazne negatívne. Naopak, modely by mali získavať body za opatrnosť alebo priznanie, že odpoveď nepoznajú. Na konkrétnom príklade ukázali, že jeden opatrnejší model odpovedal len na polovicu otázok, no správne až v 74 percentách. Iný, ktorý odpovedal na takmer všetko, halucinoval až v troch prípadoch zo štyroch.
Ak by sa tento systém zaviedol do praxe, mohlo by to zásadne zmeniť správanie umelej inteligencie. Namiesto vymyslených zdrojov alebo štatistík by častejšie odpovedali výrazmi ako "neviem“. Hoci to na prvý pohľad znie menej pôsobivo, používateľom by to ušetrilo čas a energiu, ktoré by inak museli venovať overovaniu odpovedí. A to pri používaní chatbotov určite nechcete robiť.
Mohlo by vás zaujímať:
- Honor Magic V5: ideálne zariadenie aj na každodenné používanie
- Máte radi pero S Pen? Táto správa vás poteší
- iPhone 17 oficiálne predstavený s ambíciou predefinovať základ. Apple uviedol aj modely iPhone Air, Pro a Pro Max
Pre OpenAI je tento výskum dôležitým k dosiahnutiu toho, aby umelá inteligencia bola spoľahlivejšia a užitočnejšia aj pre bežných ľudí. Hodnotenie založené na presnosti namiesto sebavedomia môže prispieť k tomu, že budúce nástroje budú pôsobiť menej okázalo, ale budú praktickejšie a dôveryhodnejšie v každodennom použití.
