Reálný TEST Lokálních AI modelů: Gemma 3 vs GPT-20B! Který zvládne Češtinu a obrázky?

V dnešním videu se ponoříme do světa lokálních jazykových modelů (LLM), které běží přímo u vás doma na počítači, bez cloudu a bez poplatků za tokeny! Provedli jsme reálný test a srovnali jsme modely od Googlu (Gemma 3, 12, 27 miliard parametrů) a od OpenAI (GPT OS20B). Ukážeme si jejich silné stránky, slabiny v češtině, schopnost analyzovat obrázky a jak se chovají na grafické kartě NVIDIA GeForce RTX 3090. Zjistěte, který model je ideální pro vaše automatizace, programování nebo každodenní úkoly! Obsah videa s kapitolami: 0:00 Úvod: Reálný test lokálních AI modelů 0:05 Představení testovaných modelů: Google Gemma (3, 12, 27B) a OpenAI GPT OS20B 0:29 Moje hardware a VRAM monitorování (NVIDIA GeForce 3090) 0:53 Nastavení a rozhraní: OLAMA a Open Web UI 01:11 Proč testujeme i menší modely a VRAM požadavky 01:45 Testování GEMMA 3 (4B parametrů): 02:14 VRAM načítání a využití 03:15 Test 1: Omluva sousedovi (čeština a gramatika) 04:22 Test 2: Logická hádanka (Sárina matka) 05:28 Test 3: Vysvětlení "svíčkové" a básnička 05:57 Test 4: Halucinace (MS ve fotbale 2027) 06:19 Test 5: Python kód na kalkulačku 06:44 Test 6: Analýza obrázku (screenshot VRAM) 07:55 Využití GEMMA 3 pro automatizace a více modelů na jedné kartě 08:38 Testování GEMMA 12B (12B parametrů): 09:15 VRAM načítání a požadavky (doporučení 12-16GB VRAM) 09:58 Test 1: Omluva sousedovi (čeština a rychlost) 10:22 Test 2: Logická hádanka (Sárina matka) 10:47 Test 3: Vysvětlení "svíčkové" a básnička (lepší rýmy!) 11:33 Test 4: Halucinace (MS ve fotbale 2027) - je chytřejší! 12:04 GEMMA 12B jako univerzální model (programování, obrázky) 13:13 VRAM využití GEMMA 12B s nahráváním 14:00 Python kód a efektivita lokálních modelů 15:14 Testování GPT-20B (20B parametrů) od OpenAI: 16:22 VRAM načítání a využití 17:19 Test 1: Omluva sousedovi (zvláštní styl) 17:48 Test 2: Logická hádanka (Sárina matka) - vysvětlil, ale stále ne "Sára" 18:22 Test 3: Vysvětlení "svíčkové" a básnička (delší přemýšlení) 19:41 Test 4: Halucinace (MS ve fotbale 2027) - bez halucinací 19:55 Test 5: Python kód na kalkulačku 20:30 Hlavní slabina GPT-20B: Neschopnost analyzovat obrázky/PDF 21:24 Testování GEMMA 27B (27B parametrů): 21:24 VRAM požadavky (potřeba 24GB VRAM) 22:52 Test 1: Omluva sousedovi (zatím nejlepší a nejdetailnější!) 23:35 Test 2: Logická hádanka (Sárina matka) - KONEČNĚ správně ("Sára")! 25:31 Test 3: Vysvětlení "svíčkové" a básnička (nejlepší básnička) 26:14 Test 4: Halucinace (MS ve fotbale 2027) - bez halucinací 26:31 Test 5: Analýza obrázku (screenshot VRAM) - velmi detailní 27:50 Python kód na kalkulačku 28:38 Srovnání s cloudovým ChatGPT: Rychlost, tokeny, detaily odpovědí 29:11 Proč cloudové modely šetří tokeny (a tím i detaily) 30:00 Omezení cloudových LLM (denní limity, aktuální informace) vs. lokální (bez limitů) 32:08 Závěr a doporučení: Který model je pro vás nejlepší? #lokalniAI #jazykovemodely #Gemma #GPT20B #OpenAI #Google #AItest #hardwarerequirements #VRAM #OpenWebUI #OLAMA #umelainteligence #chatbot #automatizace #PythonAI #testAI #ChatGPT #lokalnikarty #Nvidia #GeForce3090 #LLM #privatniAI #AIprofirmy #aiudomova #linuxAI #testvykonu