- Analýza platformy BrightEdge odhalila desetiprocentní chybovost odpovědí Gemini od Googlu
- Systém trpí halucinacemi a často uživatelům předkládá zastaralé informace
- Největší riziko představují nesprávné odpovědi v oblasti zdraví a financí
Obsah článku
Gemini selhává
Google se snaží proměnit svůj vyhledávač pomocí generativní umělé inteligence. Výsledky však zatím nejsou dobré. Rozsáhlá analýza platformy BrightEdge ukázala, že nástroj, který má uživatelům šetřit čas, poměrně často selhává. Přibližně v deseti procentech případů totiž generuje fakticky nesprávné nebo zavádějící informace. Pro firmu, která si zakládá na relevanci, je to vážný problém.
Chybovost Google AI Overviews dosahuje deseti procent
Výzkumníci podrobili systém testu na vzorku deseti tisíc dotazů. Zjistili, že zhruba tisícovka odpovědí obsahovala chyby. Nedostatky mají různou podobu. Někdy jde o drobné nepřesnosti, jindy o naprosté nesmysly. Gemini přitom tyto automaticky generované přehledy umisťuje na samotný vrchol výsledků vyhledávání. Uživatelé jim tak věnují největší pozornost.
Míra chybovosti je alarmující vzhledem k měřítku, v jakém Google funguje. Každý den proběhnou miliardy vyhledávání. Deset procent se v takovém objemu rovná obrovskému množství dezinformací, které systém vypustí mezi lidi. Technologický gigant se sice snaží algoritmy ladit, ale eliminovat halucinace AI se mu nedaří. Je to vlastnost technologie, nikoliv jen dočasná závada.
Halucinace a zastaralá data jako hlavní překážka
Analýza identifikovala dva hlavní typy selhání. Prvním jsou klasické halucinace Gemini, kdy si model fakta prostě vymyslí. Působí u toho velmi sebevědomě. Druhým problémem je využívání neaktuálních zdrojů. V dynamických oborech, kde se informace mění každý den, AI často cituje měsíce staré články. Ty už ale v danou chvíli neplatí.
Problém prohlubuje i způsob, jakým AI přehledy skládají informace z různých webů. Často dojde k vytržení věty z kontextu. Tím se úplně změní původní význam sdělení. Pro běžného uživatele je téměř nemožné tyto chyby odhalit na první pohled, protože výsledek vypadá profesionálně a logicky uspořádaně.
Kritické rady v oblasti zdraví a peněz
Nejcitlivější jsou dotazy týkající se zdraví, financí nebo práva. Google pro tyto kategorie používá označení YMYL. Právě zde může špatná rada napáchat největší škody. BrightEdge upozorňuje, že AI Overviews se u těchto témat objevují méně často než u receptů nebo recenzí, ale stále k tomu dochází. Riziko špatné diagnózy nebo nevýhodné finanční investice na základě AI rady zůstává vysoké.
Zatímco Google tvrdí, že přesnost Gemini je jeho prioritou, data hovoří jasně. Integrace generativních modelů do vyhledávání snižuje celkovou spolehlivost informací. Uživatelé by se tedy neměli slepě spoléhat na to, co jim AI naservíruje pod horní lištou. Kontrola zdrojů v klasických odkazech je i v roce 2026 nezbytností.
Zdroj: arstechnica
Obrázky: vygenerováno Midjourney
