Mistral AI a NVIDIA uvedly na trh Mistral NeMo 12B, nejmodernější jazykový model navržený pro revoluci v podnikovém sektoru. AI aplikací. Tento pokročilý model se může pochlubit 12 miliard parametrů, slibuje bezkonkurenční přesnost, flexibilitu a efektivitu, což z něj činí všestranný nástroj pro různé podnikové potřeby.
Mistral NeMo 12B je navržen tak, aby vynikal v široké škále úkolů, včetně chatbots, vícejazyčné zpracování, kódování a sumarizace. Jednou z jeho výjimečných vlastností je působivost kontextové okno až 128,000 XNUMX tokenů, což modelu umožňuje zpracovávat a chápat rozsáhlé a komplexní informace koherentněji než jeho předchůdci.
Guillaume Lample, spoluzakladatel a hlavní vědec Mistral AI, zdůraznil význam této spolupráce:
Máme štěstí, že můžeme spolupracovat s týmem NVIDIA a využívat jejich špičkový hardware a software. Společně jsme vyvinuli model s bezprecedentní přesností, flexibilitou, vysokou efektivitou a podporou a zabezpečením na podnikové úrovni díky NVIDIA. AI Nasazení v podniku.
Mistral NeMo 12B byl trénován v cloudu NVIDIA DGX. AI platforma, která poskytuje škálovatelný přístup k nejnovější architektuře NVIDIA. Tento model využívá NVIDIA TensorRT-LLM pro zrychlený výkon odvození a vývojová platforma NVIDIA NeMo pro vytváření vlastních generativní AI modely. Tato kombinace zajišťuje, že Mistral NeMo 12B poskytuje vysoký výkon v různých aplikacích.
Jedním z klíčových technologických pokroků v modelu Mistral NeMo 12B je použití datového formátu FP8 pro inferenci modelu. To snižuje velikost paměti a urychluje nasazení bez kompromisů v přesnosti. Model navíc...'s architektura mu umožňuje umístit se na paměť jedné NVIDIA L40S, NVIDIA GeForce RTX 4090, popř. NVIDIA RTX 4500 GPU, což je vysoce efektivní a nákladově efektivní.
Mistral NeMo 12B je navržen pro globální aplikace, s robustní vícejazyčné schopnosti. Vyniká v jazycích, jako je angličtina, francouzština, němčina, španělština, italština, portugalština, čínština, japonština, korejština, arabština a hindština. Této široké jazykové znalosti je dosaženo prostřednictvím nového tokenizéru Tekken, který je založen na Tiktokenu a je vyškolen ve více než 100 jazycích. Tekken je přibližně o 30 % efektivnější při kompresi zdrojového kódu a několika hlavních jazyků ve srovnání s předchozími tokenizéry, což z něj činí významný pokrok v zpracování přirozeného jazyka.
Baleno jako inferenční mikroslužba NVIDIA NIM, Mistral NeMo 12B nabízí optimalizovanou inferenci s enginy NVIDIA TensorRT-LLM. Tento kontejnerizovaný formát umožňuje snadné nasazení v různých prostředích a poskytuje zvýšenou flexibilitu pro podnikové aplikace. Model je také dodáván s komplexní podporou a přímým přístupem k NVIDIA... AI experti a definované dohody o úrovni služeb, které zajišťují spolehlivý a konzistentní výkon.
Mistral NeMo 12B's uvolnění pod Apache 2.0 licence podporuje inovace a širší AI komunity. Tento přístup s otevřeným zdrojovým kódem pravděpodobně urychlí vývoj modelu's přijetí mezi výzkumníky a podniky, usnadnění vývoje pokročilých AI řešení. Model's váhy jsou hostovány na Objímání tváře, takže jsou snadno dostupné pro vývojáře a výzkumníky, aby s nimi mohli experimentovat a přizpůsobovat se jejich specifickým potřebám.
BONUS: Získejte našich 200 dolarůAI „Sada nástrojů pro mistrovství“ ZDARMA při registraci!
