الميسترال ريح شمالية AI أطلقت شركة NVIDIA وMistral NeMo 12B، وهو نموذج لغة متطور مصمم لإحداث ثورة في مجال المؤسسات AI التطبيقات. هذا النموذج المتقدم، الذي يتميز 12 مليار معلمة، تعد بدقة ومرونة وكفاءة لا مثيل لها، مما يجعلها أداة متعددة الاستخدامات لتلبية احتياجات المؤسسات المختلفة.
تم تصميم ميسترال نيمو 12B للتفوق في مجموعة واسعة من المهام، بما في ذلك chatbotsوالمعالجة متعددة اللغات والترميز والتلخيص. واحدة من ميزاته البارزة مثيرة للإعجاب نافذة سياق تصل إلى 128,000 رمزًامما يسمح للنموذج بمعالجة وفهم المعلومات الشاملة والمعقدة بشكل أكثر تماسكًا من سابقاتها.
غيوم لامبل، المؤسس المشارك وكبير العلماء في ميسترال AIوشدد على أهمية هذا التعاون:
نحن محظوظون بالتعاون مع فريق NVIDIA، مستفيدين من أجهزتهم وبرامجهم عالية الجودة. معًا، طوّرنا نموذجًا يتميز بدقة ومرونة وكفاءة عالية ودعم وأمان على مستوى المؤسسات، وذلك بفضل NVIDIA. AI نشر المؤسسة.
تم تدريب Mistral NeMo 12B على NVIDIA DGX Cloud AI منصة توفر وصولاً قابلاً للتطوير إلى أحدث بنية NVIDIA. يستخدم هذا النموذج NVIDIA TensorRT-LLM لتسريع أداء الاستدلال ومنصة تطوير NVIDIA NeMo لبناء المنتجات المخصصة الذكاء الاصطناعي التوليدي عارضات ازياء. يضمن هذا المزيج أن يوفر جهاز Mistral NeMo 12B أداءً عاليًا عبر التطبيقات المتنوعة.
من أهم التطورات التكنولوجية في ميسترال نيمو 12B استخدامه لصيغة بيانات FP8 لاستنتاج النماذج. هذا يُقلل من حجم الذاكرة ويُسرّع النشر دون المساس بالدقة. بالإضافة إلى ذلك، فإن النموذج's الهندسة المعمارية تسمح لها بالتناسب مع ذاكرة NVIDIA L40S واحدة أو NVIDIA GeForce RTX 4090 أو نفيديا RTX 4500 GPU، مما يجعلها عالية الكفاءة وفعالة من حيث التكلفة.
تم تصميم ميسترال نيمو 12B للتطبيقات العالمية قدرات قوية متعددة اللغات. يتفوق في لغات مثل الإنجليزية والفرنسية والألمانية والإسبانية والإيطالية والبرتغالية والصينية واليابانية والكورية والعربية والهندية. يتم تحقيق هذه الكفاءة اللغوية الواسعة من خلال أداة Tekken tokenizer الجديدة، والتي تعتمد على Tiktoken وتم تدريبها على أكثر من 100 لغة. تعد Tekken أكثر كفاءة بنسبة 30% تقريبًا في ضغط التعليمات البرمجية المصدر والعديد من اللغات الرئيسية مقارنةً بأدوات الرموز المميزة السابقة، مما يجعلها تقدمًا كبيرًا في معالجة اللغة الطبيعية.
تم تعبئتها كخدمة استدلال صغيرة من NVIDIA NIM، ميسترال نيمو 12 ب يقدم استدلالًا مُحسَّن الأداء باستخدام محركات NVIDIA TensorRT-LLM. يتيح هذا التنسيق المُحاوي سهولة النشر عبر بيئات مُختلفة، مما يُوفر مرونة مُحسَّنة لتطبيقات المؤسسات. كما يأتي النموذج مع دعم شامل ووصول مُباشر إلى NVIDIA AI الخبراء، واتفاقيات مستوى الخدمة المحددة، لضمان الأداء الموثوق والمتسق.
ميسترال نيمو 12 ب's الافراج بموجب ترخيص Apache 2.0 يشجع الابتكار ويدعم على نطاق أوسع AI المجتمع. من المرجح أن يؤدي هذا النهج مفتوح المصدر إلى تسريع النموذج's التبني بين الباحثين والمؤسسات، مما يسهل تطوير التقنيات المتقدمة AI الحلول. النموذج's يتم استضافة الأوزان على تعانق الوجهمما يجعلها متاحة بسهولة للمطورين والباحثين لتجربتها والتكيف مع احتياجاتهم الخاصة.
BONUS: احصل على 200 دولارAI "مجموعة أدوات الإتقان" مجانية عند التسجيل!
