Lidé se ptají AI místo Googlu. Jak mohou firmy a politici ovlivnit, co o nich řekne jazykový model?

Pro firmy i politiky hraje stále důležitější roli, co o nich nebo o jejich produktech uvádějí konverzační jazykové modely. Internetoví uživatelé totiž při hledání informací stále častěji nespoléhají jen na klasické vyhledávače, ale obracejí se přímo na nástroje jako ChatGPT nebo Gemini. Jak mohou firmy a veřejně činné osoby odpovědi jazykových modelů ovlivnit a jsou tyto systémy náchylnější k šíření dezinformací? Odpovědi nabízí následující text.

Způsob, jakým lidé na internetu hledají informace, se v poslední době výrazně proměňuje. Stále více uživatelů už nespoléhá pouze na klasické vyhledávače, ale získává odpovědi přímo prostřednictvím konverzačních AI nástrojů, jako jsou ChatGPT, Claude, Perplexity nebo Gemini. Například letošní průzkum agentury STEM/MARK ukazuje, že 79 procent Čechů, kteří využívají AI nástroje, je alespoň občas používá k hledání informací místo tradičních vyhledávačů.

„S tím logicky roste i potřeba firem zajistit, aby se informace o nich, jejich produktech a službách dostávaly do AI přehledů a generovaných odpovědí,“ nastiňuje Jakub Lepš, generální ředitel divize datových analýz česko-americké společnosti Newsmatics. Právě tomu se věnuje disciplína označovaná jako GEO neboli Generative Engine Optimization, tedy optimalizace pro generativní vyhledávání.

Důvěryhodné zdroje, konzistence a přehlednost

Co o firmě, produktu nebo konkrétní osobě řekne jazykový model, nelze v praxi přímo řídit. Výslednou podobu jeho odpovědí však lze nepřímo ovlivňovat hlavně tím, jaké informace o firmě jsou na internetu dostupné. „Největší roli hrají zmínky v důvěryhodných a relevantních médiích. Právě nezávislé zdroje mají pro jazykové modely největší váhu, zvlášť pokud se stejná informace potvrzuje napříč více místy,“ vysvětluje Jakub Lepš.

Význam mají podle něj také platformy jako Wikipedie, Reddit nebo recenzní weby typu Google Reviews či Trustpilot. Důležitý je i vlastní obsah firmy na webu, zejména pokud je dobře strukturovaný a ideálně potvrzený externími zdroji. Roli hraje také aktuálnost informací a jejich forma, protože modely lépe pracují s jasně definovanými a aktualizovanými daty.

„Rozhodující je tedy kombinace důvěryhodnosti zdroje, konzistence informací napříč více kanály a jejich jasné, dobře strukturované podoby,“ shrnuje zástupce společnosti Newsmatics.

Riziko dezinformací a zkreslení

Vedle nových příležitostí ale s rozvojem jazykových modelů rostou i otázky spojené s důvěryhodností poskytovaných informací. Například analýza deníku The New York Times a startupu Oumi, která zkoumala faktickou správnost AI přehledů Googlu, ukázala, že v letošním únoru nástroj odpověděl správně v 91 procentech testovaných případů. Většina odhalených chyb přitom nespočívala v přímo nepravdivých tvrzeních. V některých případech AI přehledy vynechávaly důležité souvislosti nebo téma příliš zjednodušovaly.

Podle Jakuba Lepše nastává pro AI modely největší problém zejména ve chvíli, kdy se nepravdivý nebo zavádějící obsah rozšíří ve větším měřítku a začne působit jako potvrzená informace napříč více zdroji. „Problematická jsou však i nová, okrajová nebo reputačně citlivá témata, u nichž na internetu není k dispozici dostatek kvalitních a spolehlivých informací,“ doplňuje.

Do budoucna pak podle něj představují významnou hrozbu také koordinované dezinformační kampaně, takzvaný data poisoning. Jedná se o situace, kdy někdo systematicky šíří zkreslené nebo nepravdivé informace s cílem, aby je AI modely následně převzaly a reprodukovaly ve svých odpovědích. „Celkově platí, že kvalita informací poskytovaných jazykovými modely odpovídá kvalitě dostupných zdrojových informací. Pro firmy i politiky tak dále zůstává velkou výzvou zajistit, aby o nich byly na internetu dostupné přesné, aktuální a důvěryhodné podklady,“ uzavírá Jakub Lepš.