Mistral NeMo 12B: NVIDIA och Mistral AI:s nya AI Modell

mistral AI och NVIDIA Mistral NeMo 12B-modellen

mistral AI och NVIDIA har lanserat Mistral NeMo 12B, en toppmodern språkmodell utformad för att revolutionera företag. AI applikationer. Denna avancerade modell, som skryter 12 miljarder parametrar, lovar oöverträffad noggrannhet, flexibilitet och effektivitet, vilket gör det till ett mångsidigt verktyg för olika företagsbehov.

Mistral NeMo 12B är utformad för att utmärka sig i en mängd olika uppgifter, inklusive chatbotar , flerspråkig bearbetning, kodning och sammanfattningar. En av dess framstående funktioner är det imponerande kontextfönstret på upp till 128 000 tokens , vilket gör att modellen kan bearbeta och förstå omfattande och komplex information mer sammanhängande än sina föregångare.

Guillaume Lample, medgrundare och chefsforskare på Mistral AI , betonade vikten av detta samarbete:

Vi har turen att samarbeta med NVIDIA-teamet och utnyttja deras förstklassiga hårdvara och mjukvara. Tillsammans har vi utvecklat en modell med oöverträffad noggrannhet, flexibilitet, hög effektivitet och support och säkerhet i företagsklass tack vare NVIDIA. AI Företagsdistribution.

Mistral NeMo-prestanda på flerspråkiga riktmärken
Img Source- Mistral AI Blogg

Mistral NeMo 12B tränades på NVIDIA DGX Cloud AI plattform, som ger skalbar åtkomst till den senaste NVIDIA-arkitekturen. Denna modell använder NVIDIA TensorRT-LLM för accelererad slutledningsprestanda och NVIDIA NeMo utvecklingsplattform för att bygga anpassade generativ AI modeller. Denna kombination säkerställer att Mistral NeMo 12B levererar hög prestanda för olika applikationer.

En av de viktigaste tekniska framstegen i Mistral NeMo 12B är dess användning av FP8-dataformatet för modellinferens. Detta minskar minnesstorleken och snabbar upp distributionen utan att kompromissa med noggrannheten. Dessutom gör modellens arkitektur att den kan användas i minnet på en enda NVIDIA L40S-, NVIDIA GeForce RTX 4090- eller NVIDIA RTX 4500-grafikkort , vilket gör den mycket effektiv och kostnadseffektiv.

Mistral NeMo 12B är designad för globala applikationer, med robusta flerspråkiga funktioner . Den utmärker sig på språk som engelska, franska, tyska, spanska, italienska, portugisiska, kinesiska, japanska, koreanska, arabiska och hindi. Denna breda språkliga kompetens uppnås genom den nya Tekken-tokeniseraren, som är baserad på Tiktoken och tränad på över 100 språk. Tekken är cirka 30 % effektivare på att komprimera källkod och flera större språk jämfört med tidigare tokeniserare, vilket gör den till ett betydande framsteg inom naturlig språkbehandling.

Mistral NeMo Tekken kompressionshastighet
Img Source- Mistral AI Blogg

Förpackad som en NVIDIA NIM-inferensmikrotjänst, Mistral NeMo 12B erbjuder prestandaoptimerad inferens med NVIDIA TensorRT-LLM-motorer. Detta containeriserade format möjliggör enkel distribution i olika miljöer, vilket ger ökad flexibilitet för företagsapplikationer. Modellen levereras också med omfattande stöd, direktåtkomst till NVIDIA AI experter och definierade servicenivåavtal, vilket säkerställer tillförlitlig och konsekvent prestanda.

Mistral NeMo 12B's frigivning under Apache 2.0 licens uppmuntrar innovation och stöder den bredare AI community. Denna öppen källkodsmetod kommer sannolikt att accelerera modellen's implementering bland forskare och företag, vilket underlättar utvecklingen av avancerade AI lösningar. Modellen's vikter finns på Kramar ansikte, vilket gör dem lättillgängliga för utvecklare och forskare att experimentera med och anpassa till deras specifika behov.

Lämna en kommentar

Din e-postadress kommer inte att publiceras. Obligatoriska fält är markerade med *

Gå med i Aimojo Stam!

Gå med i 76,000 XNUMX+ medlemmar för insidertips varje vecka! 
🎁 BONUS: Få våra 200 dollarAI ”Mastery Toolkit” GRATIS när du registrerar dig!

Trend AI Verktyg
AI Angels

Bygg en personlig AI flickvän som faktiskt kommer ihåg dig. Privata chattar, röstsamtal, anpassade fantasier. Vuxen AI sällskap med bestående minne och personlig romantik.

Öppen kod

Skicka pålitlig kod snabbare med flexibel AI medel. En kodningsagent, hundratals leverantörer. Automatisering av öppen källkodsarkiv i terminaler och arbetsflöden på datorer.

scribbr

Polska akademiska artiklar och upptäck citeringsfel tidigt. Hitta citeringsfel innan slutgiltig inlämning. Akademisk korrekturläsning, originalitetsgranskning och smartare referenshantering.

Framkalla

Förvandla komplex akademisk forskning till trovärdiga och handlingsbara insikter snabbare. Hitta dokument, extrahera bevis, generera rapporter. An AI forskningsassistent byggd för analys av vetenskapliga bevis.

Frigjord AI

Förvandla patientsamtal till organiserade anteckningar utan att behöva föra anteckningar sent på kvällen. Klinisk dokumentation som lär sig din stil. An AI medicinsk skrivare byggd för oberoende klinisk praxis.

© Upphovsrätt 2023 - 2026 | Bli en AI Proffs | Tillverkad med ♥