Základy umělé inteligence

1. Sběr dat: Všechno začíná daty. Chceme-li naučit model poznávat zvířata na obrázcích, musíme nejdřív shromáždit tisíce až miliony fotografií. Jazykové modely se stejným způsobem učí z obrovského množství textů.

Co vidíte: Ze všech stran se slétají obrázky do jedné sady. Většinou jsou to kočky, psi a ptáci, ale schovalo se mezi ně i auto, pizza a nečitelný obrázek s otazníkem.

2. Čištění dat: Ne všechna data jsou použitelná. Vyřadíme chybné, rozmazané, duplicitní a nesouvisející obrázky, například auto nebo pizzu. Co v datech zůstane špatně, to se model naučí špatně.

Co vidíte: Nevhodné obrázky, tedy auto, pizza a nečitelný obrázek, se červeně označí, přeškrtnou a zmizí. Zůstanou jen obrázky zvířat.

3. Anotace: Lidé ke každému obrázku připíšou správnou odpověď, takzvaný štítek: kočka, pes, nebo pták. Tato práce je pracná a dělají ji často tisíce lidí. Chyby v anotaci se později projeví jako chyby modelu.

Co vidíte: Pod každým obrázkem se postupně objeví barevný štítek se správnou odpovědí: oranžový pro kočku, modrý pro psa a zelený pro ptáka.

4. Rozdělení dat: Data rozdělíme na dvě části. Asi 80 % slouží k trénování a zbylých 20 % si schováme na testování, aby model při zkoušce viděl obrázky, které ještě nezná.

Co vidíte: Obrázky se přesunou do dvou krabic. Do levé, větší, jde deset obrázků na trénování. Do pravé, menší, jdou tři obrázky, které si schováme na závěrečnou zkoušku.

5. Trénování: Neuronová síť si prohlíží trénovací obrázky, hádá odpověď a porovnává ji se štítkem. Po každé chybě nepatrně upraví miliony svých vnitřních parametrů. Kolo za kolem se chybovost snižuje.

Co vidíte: Vlevo je neuronová síť. Kroužky jsou umělé neurony a čárkami mezi nimi proudí signály. Vpravo je graf chybovosti: ukazuje, kolik procent obrázků síť určí špatně. Na začátku se plete ve většině případů, ale s každým kolem trénování chyb ubývá. Počítadlo pod grafem ukazuje, kolikrát už síť prošla všechny trénovací obrázky.

6. Testování: Hotový model vyzkoušíme na testovacích obrázcích, které nikdy neviděl. Zjistíme, jak často odpovídá správně. Žádný model není neomylný, i ten nejlepší se občas splete.

Co vidíte: Model dostane čtyři obrázky, které nikdy neviděl, a ke každému napíše svůj odhad. Zelená fajfka znamená správnou odpověď, červený křížek chybu: ptáka si model spletl s kočkou.

7. Model: Výsledkem je model strojového učení: soubor naučených parametrů, který umí z nového obrázku odhadnout, co na něm je. Známé modely jsou například GPT (pohání ChatGPT), Gemini, Claude nebo Llama, které pracují s textem, a Stable Diffusion nebo Midjourney, které vytvářejí obrázky. Model nic „neví“ jako člověk, jen rozpoznává naučené vzory.

Co vidíte: Robot představuje hotový model. Blikající tečky v rámečku vedle něj představují miliony naučených čísel, takzvaných parametrů, ve kterých je uložené vše, co se model naučil. Pod rámečkem jsou názvy známých modelů.

8. Použití: Model se zabuduje do aplikace, například do telefonu. Když vyfotíte zvíře, aplikace odhadne, co na snímku je, a uvede i jistotu odhadu. Zpětná vazba od uživatelů pak slouží jako nová data a celý cyklus se opakuje.

Co vidíte: Uživatel v telefonu pošle fotku kočky. Aplikace chvíli „přemýšlí“ a odpoví, že na obrázku je kočka, s jistotou 97 %. Zelená šipka ukazuje, že zpětná vazba od uživatelů se stává novými daty.

1. Sběr textů: Jazykový model se učí z obrovského množství textů: z knih, webových stránek, novinových článků, encyklopedií i veřejných diskusí. U největších modelů jde o biliony slov, tedy víc, než by člověk dokázal přečíst za tisíce životů.

Co vidíte: Ze všech stran se slétají texty – knihy, weby, zprávy, články a diskuse. Mezi nimi se schovává i reklamní spam, duplicitní text a text s osobními údaji.

2. Čištění textů: Z dat se odstraní spam, duplicity, nesmyslné a škodlivé texty. Osobní údaje, například jména, e-maily nebo telefonní čísla, se mají odstranit nebo zakrýt. Kvalita dat přímo ovlivňuje, jak dobře bude model odpovídat.

Co vidíte: Skener kontroluje jeden text po druhém. Spam a duplicitní text odletí do koše, u textu s osobními údaji se citlivé informace začerní.

3. Tokenizace: Počítač nerozumí písmenům ani slovům. Text se proto rozdělí na malé kousky, takzvané tokeny, což jsou celá slova nebo jejich části. Každý token dostane své číslo a model pak pracuje jen s čísly.

Co vidíte: Věta „Kočka sedí na okně.“ se rozpadne na barevné kousky – tokeny. Pod každým tokenem se objeví číslo, se kterým model ve skutečnosti počítá.

4. Předtrénování: Model se učí jedinou věc: odhadnout, jaké slovo nejspíš následuje. Dostane začátek věty, tipne si pokračování a porovná ho se skutečným textem. Po každé chybě upraví miliardy svých parametrů. Takto projde obrovské množství textů.

Co vidíte: Věta „Kočka sedí na…“ čeká na další slovo. Sloupce ukazují, jak pravděpodobná jsou různá slova. Pak se ukáže správné slovo „okně“. Graf vpravo ukazuje, jak často model tipne špatné slovo: čím víc textů přečte, tím méně se plete.

5. Doladění podle lidí: Předtrénovaný model umí pokračovat v textu, ale ještě neumí dobře odpovídat. Lidé proto porovnávají jeho odpovědi a označují, která je užitečnější, pravdivější a bezpečnější. Model se z tohoto hodnocení učí, jak se chovat jako asistent.

Co vidíte: Model napsal dvě odpovědi na stejnou otázku. Člověk dá lepší odpovědi palec nahoru a horší palec dolů. Hodnocení putuje zpátky do modelu.

6. Testování: Hotový model se zkouší na tisících otázek z různých oborů a také na bezpečnostních testech, při kterých má odmítnout nebezpečné požadavky. Ani nejlepší modely nejsou bezchybné, a proto si důležité informace vždy ověřujeme.

Co vidíte: Testovací otázky jedna po druhé doběhnou k AI robotovi a vpravo se objeví jeho odpovědi. Tři jsou správně, jednu si model spletl – Babičku nenapsal Karel Čapek, ale Božena Němcová.

7. Velký jazykový model: Výsledkem je velký jazykový model (LLM) s miliardami parametrů. Známé jazykové modely jsou například GPT (pohání ChatGPT), Gemini, Claude, Llama, Mistral nebo DeepSeek. Model nemá vědomí ani názory, jen velmi dobře navazuje na text.

Co vidíte: AI robot představuje hotový jazykový model. V rámečku blikají jeho parametry a pod ním jsou názvy známých jazykových modelů.

8. Použití v chatu: Když se zeptáte chatbota, model píše odpověď slovo po slovu. Vždy odhadne nejpravděpodobnější další token, připojí ho a pokračuje. Proto odpovědi zní plynule a přesvědčivě, ale mohou obsahovat chyby, takzvané halucinace.

Co vidíte: Uživatel se v telefonu zeptá „Co je fotosyntéza?“ a odpověď se objevuje postupně, slovo po slově, přesně tak, jak ji model generuje.