
Mistral AI และ NVIDIA ได้เปิดตัว Mistral NeMo 12B ซึ่งเป็นโมเดลภาษาที่ล้ำสมัยที่ออกแบบมาเพื่อปฏิวัติวงการองค์กร AI แอปพลิเคชัน รุ่นขั้นสูงนี้มีคุณสมบัติเด่น พารามิเตอร์ 12 พันล้านตัว รับประกันความแม่นยำ ความยืดหยุ่น และประสิทธิภาพที่เหนือชั้น ทำให้เป็นเครื่องมืออเนกประสงค์สำหรับความต้องการขององค์กรต่างๆ
โปรเซสเซอร์ Mistral NeMo 12B ได้รับการออกแบบมาให้ทำงานได้อย่างยอดเยี่ยมในหลากหลายด้าน รวมถึงแชทบอท การประมวลผลหลายภาษา การเขียนโค้ด และการสรุปข้อความ คุณสมบัติที่โดดเด่นอย่างหนึ่งคือหน้าต่างบริบทที่น่าประทับใจซึ่งรองรับโทเค็นได้มากถึง 128,000 โทเค็นทำให้โมเดลสามารถประมวลผลและเข้าใจข้อมูลที่กว้างขวางและซับซ้อนได้อย่างสอดคล้องกันมากกว่ารุ่นก่อนหน้า
กิโยม แลมเพิล ผู้ร่วมก่อตั้งและหัวหน้านักวิทยาศาสตร์ของMistral AIได้เน้นย้ำถึงความสำคัญของความร่วมมือครั้งนี้:
เราโชคดีที่ได้ร่วมงานกับทีมงาน NVIDIA โดยใช้ประโยชน์จากฮาร์ดแวร์และซอฟต์แวร์ระดับชั้นนำของพวกเขา เราได้ร่วมกันพัฒนาโมเดลที่มีความแม่นยำ ความยืดหยุ่น ประสิทธิภาพสูง และการรองรับและความปลอดภัยระดับองค์กรที่ไม่เคยมีมาก่อนด้วยความช่วยเหลือจาก NVIDIA AI การปรับใช้ในระดับองค์กร

Mistral NeMo 12B ได้รับการฝึกอบรมบน NVIDIA DGX Cloud AI แพลตฟอร์มที่ให้การเข้าถึงสถาปัตยกรรม NVIDIA ล่าสุดที่ปรับขนาดได้ รุ่นนี้ใช้ NVIDIA TensorRT-LLM เพื่อประสิทธิภาพการอนุมานที่รวดเร็วยิ่งขึ้น และแพลตฟอร์มการพัฒนา NVIDIA NeMo สำหรับการสร้างแบบกำหนดเอง AI กำเนิด โมเดล การผสมผสานนี้ทำให้มั่นใจได้ว่า Mistral NeMo 12B มอบประสิทธิภาพสูงในการใช้งานที่หลากหลาย
หนึ่งในความก้าวหน้าทางเทคโนโลยีที่สำคัญของ Mistral NeMo 12B คือการใช้รูปแบบข้อมูล FP8 สำหรับการประมวลผลแบบจำลอง ซึ่งช่วยลดขนาดหน่วยความจำและเพิ่มความเร็วในการใช้งานโดยไม่ลดทอนความแม่นยำ นอกจากนี้ สถาปัตยกรรมของแบบจำลองยังช่วยให้สามารถทำงานได้บนหน่วยความจำของ GPU NVIDIA L40S, NVIDIA GeForce RTX 4090 หรือNVIDIA RTX 4500 เพียงตัวเดียว ทำให้มีประสิทธิภาพสูงและคุ้มค่า
Mistral NeMo 12B ได้รับการออกแบบมาสำหรับการใช้งานทั่วโลก ด้วยความสามารถด้านหลายภาษาที่แข็งแกร่งโดดเด่นในภาษาต่างๆ เช่น อังกฤษ ฝรั่งเศส เยอรมัน สเปน อิตาลี โปรตุเกส จีน ญี่ปุ่น เกาหลี อาหรับ และฮินดี ความสามารถด้านภาษาที่หลากหลายนี้เกิดขึ้นได้จากการใช้โทเคไนเซอร์ Tekken ใหม่ ซึ่งพัฒนามาจาก Tiktoken และได้รับการฝึกฝนกับภาษาต่างๆ มากกว่า 100 ภาษา Tekken มีประสิทธิภาพในการบีบอัดซอร์สโค้ดและภาษาหลักๆ ได้ดีกว่าโทเคไนเซอร์รุ่นก่อนๆ ประมาณ 30% ทำให้เป็นความก้าวหน้าครั้งสำคัญในด้าน การประมวลผล ภาษาธรรมชาติ

บรรจุเป็นไมโครเซอร์วิสการอนุมาน NVIDIA NIM มิสทรัล นีโม 12B นำเสนอการอนุมานที่ปรับประสิทธิภาพให้เหมาะสมด้วยเอ็นจิ้น NVIDIA TensorRT-LLM รูปแบบคอนเทนเนอร์นี้ช่วยให้ปรับใช้ได้ง่ายในสภาพแวดล้อมต่างๆ ช่วยเพิ่มความยืดหยุ่นให้กับแอปพลิเคชันระดับองค์กร นอกจากนี้ โมเดลนี้ยังมาพร้อมกับการสนับสนุนที่ครอบคลุม การเข้าถึง NVIDIA โดยตรง AI ผู้เชี่ยวชาญ และข้อตกลงระดับบริการที่กำหนดไว้ เพื่อให้แน่ใจว่ามีประสิทธิภาพที่เชื่อถือได้และสม่ำเสมอ
มิสทรัล นีโม 12B's ปล่อยตัวภายใต้ ใบอนุญาต Apache 2.0 ส่งเสริมนวัตกรรมและสนับสนุนวงกว้าง AI ชุมชน แนวทางโอเพนซอร์สนี้มีแนวโน้มที่จะเร่งโมเดล's การยอมรับในหมู่นักวิจัยและองค์กรต่างๆ อำนวยความสะดวกในการพัฒนาขั้นสูง AI โซลูชั่น แบบจำลอง's น้ำหนักจะถูกโฮสต์บน กอดใบหน้าทำให้พร้อมสำหรับนักพัฒนาและนักวิจัยในการทดลองและปรับให้เข้ากับความต้องการเฉพาะของพวกเขา


