Qwen 3.8 už ukazuje budoucnost lokální AI | AI ta Krajta

Qwen3.8-Flash-Next má celkem 125 miliard parametrů, ale na jeden token aktivuje pouze 6 miliard. K tomu přidává 51 miliard N-gram embeddingů a 4 miliardy parametrů pro Multi-Token Prediction. Výsledkem je model, který se snaží využít kapacitu velkého modelu s náklady menšího. Zatím je ale tak velký, že se ani ve 4bitové kvantizaci nevejde na jeden DGX Spark. Je Qwen 3.8 první náznak toho, jak bude vypadat Qwen4 a budoucnost lokální AI? Celý náš díl, kde se novému modelu věnujeme, najdeš zde: #aitakrajta #qwen #qwen38 #ai #uměláinteligence #llm #openweights #opensourceai #localai #dgxspark #machinelearning #ngramembedding #aiagents